Superinteligență artificială (ASI): prostii de știință sau amenințare autentică pentru umanitate?

Progres rapid în inteligenţă artificială (AI) îi determină pe oameni să pună la îndoială care sunt limitele fundamentale ale tehnologiei. Din ce în ce mai mult, un subiect expediat odată la science -fiction – noțiunea de AI superinteligent – este acum considerat serios de oamenii de știință și de experți deopotrivă.

Ideea că mașinile s -ar putea potrivi într -o zi sau chiar să depășească inteligența umană are o istorie lungă. Dar ritmul progresului în AI în ultimele decenii a oferit o urgență reînnoită subiectului, mai ales de la lansarea unor modele de limbi mari puternice (LLM) de către companii precum Openai, Google și Antropic, printre altele.

Experții au opinii în mod sălbatic despre cât de fezabilă este această idee de „super inteligență artificială” (ASI) și când ar putea apărea, dar unii sugerează că astfel de mașini hiper-capabile sunt chiar după colț. Ceea ce este sigur este că, dacă și când, ASI va apărea, va avea implicații enorme pentru viitorul umanității.

„Cred că am intra într -o nouă eră a descoperirilor științifice automatizate, a creșterii economice accelerate, a longevității și a experiențelor de divertisment noi”, ” Tim Rocktäschelprofesor de AI la University College London și un om de știință principal la Google Deepmind a declarat Live Science, oferind o opinie personală, mai degrabă decât poziția oficială a Google Deepmind. Cu toate acestea, el a avertizat, de asemenea,: „Ca în orice tehnologie semnificativă din istorie, există riscuri potențiale”.

Ce este superinteligența artificială (ASI)?

În mod tradițional, cercetările AI s -au concentrat pe replicarea capacităților specifice pe care le expune ființele inteligente. Acestea includ lucruri precum capacitatea de a analiza vizual o scenă, de a analiza un limbaj sau de a naviga într -un mediu. În unele dintre aceste domenii înguste AI a obținut deja performanțe supraumane, a spus Rocktäschel, în special în jocuri precum Go și șah.

Totuși, obiectivul întins pentru domeniu a fost întotdeauna să reproducă forma mai generală de inteligență văzută la animale și oameni care combină multe astfel de capacități. Acest concept a trecut cu mai multe nume de -a lungul anilor, inclusiv „AI puternic” sau „AI universal”, dar astăzi este cel mai frecvent numit Inteligență generală artificială (AGI).

„De multă vreme, AGI a fost o stea nordică îndepărtată pentru cercetarea AI”, a spus Rocktäschel. „Cu toate acestea, odată cu apariția modelelor de fundație [another term for LLMs] Avem acum AI care poate trece o gamă largă de examene de intrare la universitate și să participe la competiții internaționale de matematică și codificare. „

Înrudite: GPT-4.5 este primul model AI care a trecut un test de Turing autentic, spun oamenii de știință

Acest lucru îi determină pe oameni să ia mai în serios posibilitatea AGI, a spus Rocktäschel. Și în mod crucial, odată ce creăm AI care se potrivește cu oamenii pe o gamă largă de sarcini, este posibil să nu treacă mult timp înainte să obțină capacități supraumane peste tot. Aceasta este ideea, oricum. „Odată ce AI va atinge capacitățile la nivel uman, vom putea să-l folosim pentru a se îmbunătăți într-un mod autoreferențial”, a spus Rocktäschel. „Eu personal cred că dacă putem ajunge la AGI, vom ajunge la ASI în scurt timp, poate câțiva ani după aceea.”

Odată ce această etapă a fost atinsă, am putut vedea ce matematician britanic Irving John bun poreclit an –Explozie de inteligență„În 1965. El a susținut că, odată ce mașinile devin suficient de inteligente pentru a se îmbunătăți, vor atinge rapid niveluri de inteligență mult dincolo de orice om. El a descris prima mașină ultra-inteligentă drept„ ultima invenție pe care omul trebuie să o facă vreodată ”.

Renumit futurist Ray Kurzweil a susținut că acest lucru ar duce la o „singularitate tehnologică” care ar transforma brusc și ireversibil civilizația umană. Termenul atrage paralele cu singularitatea din inima unei gauri negre, unde înțelegerea noastră despre fizică se descompune. În același mod, apariția ASI ar duce la o creștere tehnologică rapidă și imprevizibilă, care ar fi dincolo de înțelegerea noastră.

Exact când s -ar putea întâmpla o astfel de tranziție este discutabilă. În 2005, Kurzweil a prezis că AGI va apărea până în 2029, cu singularitatea urmată în 2045, o predicție pe care a rămas -o de atunci. Alți experți AI oferă predicții variate în mod sălbatic – din acest deceniu până la nu. Dar a Sondaj recent din 2.778 de cercetători AI au constatat că, în totalitate, ei cred că există o șansă de 50% ASI să apară până în 2047. A Analiză mai largă este de acord că majoritatea oamenilor de știință sunt de acord că AGI ar putea ajunge până în 2040.

Ce ar însemna ASI pentru umanitate?

Implicațiile unei tehnologii precum ASI ar fi enormă, determinând oamenii de știință și filosofi să dedice timp considerabil pentru a -și face față promisiunii și potențialelor capcane pentru umanitate.

Pe partea pozitivă, o mașină cu o capacitate aproape nelimitată de inteligență ar putea rezolva unele dintre cele mai presante provocări din lume, a spus Daniel HulmeCEO al companiilor AI Satalia şi Conștiin. În special, mașinile super inteligente ar putea „elimina frecarea din crearea și diseminarea alimentelor, educației, asistenței medicale, energiei, transportului, atât de mult încât putem reduce costurile acestor mărfuri la zero”, a spus el pentru Live Science.

Speranța este că acest lucru i -ar elibera pe oameni de a trebui să muncească pentru a supraviețui și, în schimb, ar putea petrece timp făcând lucruri de care sunt pasionați, a explicat Hulme. Dar dacă nu sunt puse în aplicare sisteme pentru a sprijini cei ale căror locuri de muncă sunt redundante de AI, rezultatul ar putea fi mai ușor. „Dacă acest lucru se întâmplă foarte repede, economiile noastre s -ar putea să nu se poată reechilibra și ar putea duce la tulburări sociale”, a spus el.

Acest lucru presupune, de asemenea, că am putea controla și direcționa o entitate mult mai inteligentă decât noi – ceea ce mulți experți au sugerat este puțin probabil. „Nu prea mă abonez la această idee că va urmări despre noi și va avea grijă de noi și ne asigur că suntem fericiți”, a spus Hulme. „Pur și simplu nu -mi imaginez că i -ar păsa.”

Posibilitatea unei superintelligențe nu avem niciun control a determinat temerile că AI ar putea prezenta un risc existențial pentru speciile noastre. Aceasta a devenit un trope popular în science fiction, cu filme precum „Terminator” sau „The Matrix” care înfățișează mașini malefice, aplecate în iad de distrugerea umanității.

Dar filosof Nick Bostrom a subliniat că un ASI nici nu ar trebui să fie activ ostil pentru oameni pentru diverse scenarii de zi pentru a juca. În O lucrare din 2012el a sugerat că inteligența unei entități este independentă de obiectivele sale, astfel încât un ASI ar putea avea motivații care sunt complet străine de noi și care nu sunt aliniate la bunăstarea umană.

Bostrom a prezentat această idee cu un experiment de gândire în care o AI super-capabilă este stabilită sarcina aparent inofensivă de a produce cât mai multe clipuri de hârtie. Dacă este nealiniat cu valorile umane, poate decide să elimine toți oamenii pentru a -i împiedica să -l oprească, sau astfel poate transforma toți atomii din corpul lor în mai multe clipuri de hârtie.

Rocktäschel este mai optimist. „Construim sisteme AI actuale pentru a fi de ajutor, dar și de asistenți inofensivi și cinstiți prin proiectare”, a spus el. „Sunt reglați să urmeze instrucțiunile umane și sunt instruiți pe feedback pentru a oferi răspunsuri utile, inofensive și cinstite”.

În timp ce Rocktäschel a recunoscut că aceste garanții pot fi evitate, este încrezător că vom dezvolta abordări mai bune în viitor. De asemenea, el crede că va fi posibil să se folosească AI pentru a supraveghea alte AI, chiar dacă sunt mai puternice.

Hulme a spus că cele mai multe abordări actuale ale „alinierii modelului” – eforturile de a se asigura că AI este aliniat la valorile și dorințele umane – sunt prea brute. De obicei, ei oferă reguli pentru modul în care modelul ar trebui să se comporte sau să -l antreneze pe exemple de comportament uman. Dar el crede că aceste gardă, care sunt fixate la sfârșitul procesului de instruire, ar putea fi ocolite cu ușurință de ASI.

În schimb, Hulme crede că trebuie să construim AI cu un „instinct moral”. Compania sa Conștient încearcă să facă asta prin evoluția AI în medii virtuale care au fost concepute pentru a recompensa comportamente precum cooperarea și altruismul. În prezent, lucrează cu AI foarte simplu, „la nivel de insecte”, dar dacă abordarea poate fi extinsă, ar putea face alinierea mai robustă. „Încorporarea moravurilor în instinctul unui AI ne pune într-o poziție mult mai sigură decât să avem doar aceste șine de pază cu o-mole”, a spus Hulme.

Nu toată lumea este convinsă că trebuie să începem să ne îngrijorăm încă. O critică comună a conceptului de ASI, a spus Rocktäschel, este că nu avem exemple de oameni care sunt extrem de capabili într -o gamă largă de sarcini, deci poate nu este posibil să se realizeze acest lucru într -un singur model. O altă obiecție este aceea că resursele de calcul necesare pentru realizarea ASI pot fi prohibitive.

Mai practic, modul în care măsuram progresul în AI poate să ne înșele despre cât de aproape suntem de superinteligență, a spus Alexander Ilicșeful Centrului ETH AI din ETH Zurich, Elveția. Majoritatea rezultatelor impresionante din AI în ultimii ani au provenit de la sisteme de testare pe mai multe teste extrem de conturate ale abilităților individuale, cum ar fi codificarea, raționamentul sau înțelegerea limbajului, pe care sistemele sunt instruite în mod explicit să le treacă, a spus Ilic.

El compară acest lucru cu Cramming pentru examene la școală. „Ți -ai încărcat creierul pentru a -l face, apoi ai scris testul și apoi ai uitat totul despre asta”, a spus el. „Ați fost mai inteligent participând la clasă, dar testul propriu -zis nu este un bun proxy al cunoștințelor reale.”

AI care este capabilă să treacă multe dintre aceste teste la niveluri supraumane poate fi la doar câțiva ani distanță, a spus Ilic. Dar consideră că abordarea dominantă de astăzi nu va duce la modele care pot efectua sarcini utile în lumea fizică sau va colabora eficient cu oamenii, ceea ce va fi crucial pentru ei să aibă un impact larg în lumea reală.

Edd Gent este un scriitor științific independent britanic care trăiește acum în India. Principalele sale interese sunt marginea mai neplăcută a informaticii, ingineriei, bioștiinței și politicii științifice. EDD are o diplomă de licență în arte în politică și relații internaționale și este un reporter senior calificat NCTJ. În timpul liber, îi place să meargă la alpinism și să -și exploreze casa recent adoptată.