AI versus creierul și cursa pentru inteligență generală

Nu există nicio întrebare că sistemele AI au realizat câteva fapte impresionante, stăpânirea jocurilor, scrierea textului și generarea de imagini și videoclipuri convingătoare. Asta a primit unii oameni să vorbească despre posibilitatea că suntem pe cuspul AGI sau despre inteligența generală artificială. În timp ce o parte din acest lucru este fanfara de marketing, destui oameni din domeniu iau ideea în serios că garantează o privire mai atentă.

Multe argumente se referă la întrebarea modului în care este definit AGI, pe care oamenii din domeniu nu pot părea să fie de acord. Acest lucru contribuie la estimările apariției sale care variază de la „este practic aici” la „nu o vom realiza niciodată”. Având în vedere această gamă, este imposibil să oferim orice fel de perspectivă informată cu privire la cât de aproape suntem.

Dar avem un exemplu existent de AGI fără „A” – inteligența oferită de creierul animal, în special de cel uman. Și un lucru este clar: sistemele fiind apreciate ca dovadă că AGI este chiar după colț nu funcționează deloc așa cum face creierul. Este posibil să nu fie un defect fatal sau chiar un defect. Este complet posibil să existe mai multe modalități de a ajunge la inteligență, în funcție de modul în care este definit. Dar cel puțin unele dintre diferențe sunt probabil semnificative funcțional, iar faptul că AI ia un traseu foarte diferit față de singurul exemplu de lucru pe care îl avem este probabil să fie semnificativ.

Având în vedere toate acestea, să ne uităm la unele dintre lucrurile pe care creierul le face pe care sistemele AI actuale nu le pot.

Definirea AGI ar putea ajuta

Inteligența generală artificială nu a fost cu adevărat definită. Cei care susțin că este iminent sunt fie vagi cu privire la ceea ce se așteaptă ca primele sisteme AGI să fie capabile sau pur și simplu să o definească drept capacitatea de a depăși dramatic performanța umană la un număr limitat de sarcini. Previziunile sosirii lui AGI în termenul intermediar tind să se concentreze pe sistemele AI care demonstrează comportamente specifice care par asemănătoare omului. Cu atât mai departe iese pe calendarul, cu atât este mai mare accentul pe „G” de AGI și implicarea sa a sistemelor mult mai puțin specializate.

Dar majoritatea acestor predicții provin de la oameni care lucrează în companii cu un interes comercial în AI. S -a remarcat faptul că niciunul dintre cercetătorii cu care am vorbit pentru acest articol nu a fost dispus să ofere o definiție a AGI. Cu toate acestea, erau dispuși să sublinieze cum sistemele actuale nu se scurtează.

„Cred că AGI ar fi ceva care va fi mai robust, mai stabil – nu este neapărat mai inteligent în general, dar mai coerent al abilităților sale”, a spus Ariel Goldsteincercetător la Universitatea ebraică din Ierusalim. „Te -ai aștepta ca un sistem care să facă X și Y pentru a putea face, de asemenea, Z și T. Într -un fel, aceste sisteme par a fi mai fragmentate într -un fel. Pentru a fi surprinzător de bun la un lucru și apoi surprinzător de rău la un alt lucru care pare legat.”

„Cred că aceasta este o mare distincție, această idee de generalizabilitate”, a răsunat neuroștiințiștii Christa Baker al Universității de Stat din NC. „Puteți învăța cum să analizați logica într -o singură sferă, dar dacă ajungeți la o circumstanță nouă, nu este ca acum sunteți un idiot.”

Mariano Schainun inginer Google care a colaborat cu Goldstein, s -a concentrat pe abilitățile care stau la baza acestei generalizabilitate. El a menționat atât memoria pe termen lung, cât și cea specifică sarcinii și capacitatea de a implementa abilități dezvoltate într-o singură sarcină în contexte diferite. Acestea sunt limitate până la inexistente în sistemele AI existente.

Dincolo de aceste limite specifice, Baker a menționat că „a existat mult timp această idee foarte centrată pe om de inteligență că doar oamenii sunt inteligenți”. Acest lucru a căzut în comunitatea științifică, deoarece am studiat mai multe despre comportamentul animalelor. Dar există încă o părtinire de a privilegi comportamentele asemănătoare omului, cum ar fi răspunsurile de sonor umane generate de modelele de limbaj mare

Muștele de fructe pe care studiile Baker le pot integra mai multe tipuri de informații senzoriale, să controleze patru perechi de membre, să navigheze în medii complexe, să -și satisfacă propriile nevoi de energie, să producă noi generații de creiere și multe altele. Și fac asta cu creiere care conțin sub 150.000 de neuroni, mult mai puțini decât modelele de limbaj mare actuale.

Aceste capacități sunt suficient de complicate încât nu este în întregime clar modul în care creierul le permite. )

Neuroni vs. neuroni artificiali

Majoritatea sistemelor AI actuale, inclusiv toate modelele de limbaj mare, se bazează pe ceea ce se numesc rețele neuronale. Acestea au fost concepute în mod intenționat pentru a imita modul în care funcționează unele zone ale creierului, cu un număr mare de neuroni artificiali luând o intrare, modificând -o și apoi trecând informațiile modificate către un alt strat de neuroni artificiali. Fiecare dintre acești neuroni artificiali poate transmite informațiile în mai multe cazuri din stratul următor, cu greutăți diferite aplicate fiecărei conexiuni. La rândul său, fiecare dintre neuronii artificiali din următorul strat poate primi aport din mai multe surse în precedentul.

După trecerea prin suficiente straturi, stratul final este citit și transformat într -o ieșire, cum ar fi identitatea pixelilor într -o imagine care corespunde unei pisici.

În timp ce acel sistem este modelat pe comportamentul unor structuri din creier, este o aproximare foarte limitată. Pentru unul, toți neuronii artificiali sunt echivalenți din punct de vedere funcțional – nu există o specializare. În schimb, neuronii reali sunt extrem de specializați; Ei folosesc o varietate de neurotransmițători și iau aport dintr-o serie de factori extra-neurali precum hormonii. Unii sunt specializați în trimiterea de semnale inhibitoare, în timp ce alții activează neuronii cu care interacționează. Diferite structuri fizice le permit să facă un număr diferit de conexiuni.

În plus, mai degrabă decât să trimiți pur și simplu o singură valoare la următorul strat, neuronii reali comunică printr -o serie analogică de vârfuri de activitate, trimițând trenuri de impulsuri care variază în timp și intensitate. Acest lucru permite un grad de zgomot nedeterminist în comunicații.

În cele din urmă, în timp ce straturile organizate sunt o caracteristică a câtorva structuri în creiere, sunt departe de regulă. „Ceea ce am descoperit este că este – cel puțin în zbor – mult mai interconectat”, a spus Baker pentru Ars. „Nu puteți identifica cu adevărat această rețea strict ierarhică.”

Având în vedere că hărțile de conexiune aproape complete ale creierului zburării devin disponibile, ea a spus ARS că cercetătorii „găsesc conexiuni laterale sau proiecții de feedback sau ceea ce numim bucle recurente, unde avem neuroni care fac mici modele de conectivitate asemănătoare cu cercul. Cred că aceste lucruri vor fi probabil mult mai răspândite decât în ​​prezent.”

Deși începem să înțelegem consecințele funcționale ale întregii complexități, este sigur să spunem că permite rețelelor compuse din neuroni reali mult mai multă flexibilitate în modul în care procesează informațiile-o flexibilitate care ar putea sta de la modul în care acești neuroni sunt re-dezvăluiți într-un mod pe care acești cercetători îl identificau ca fiind crucial pentru o formă de inteligență generalizată.

Dar diferențele dintre rețelele neuronale și creierul din lumea reală pe care au fost modelate depășesc cu mult dincolo de diferențele funcționale despre care am vorbit până acum. Ele se extind la diferențe semnificative în modul în care sunt organizate aceste unități funcționale.

Creierul nu este monolitic

Rețelele neuronale pe care le -am generat până acum sunt sisteme specializate în mare parte menite să gestioneze o singură sarcină. Chiar și cele mai complicate sarcini, cum ar fi predicția structurilor proteice, s -au bazat de obicei pe interacțiunea a doar două sau trei sisteme specializate. În schimb, creierul tipic are un lot de unități funcționale. Unele dintre acestea funcționează prin procesarea secvențială a unui singur set de intrări în ceva asemănător cu o conductă. Dar mulți alții pot funcționa în paralel, în unele cazuri, fără a se întâmpla nicio activitate de control în altă parte a creierului.

Pentru a da o idee despre cum arată acest lucru, să ne gândim la ce se întâmplă în timp ce citiți acest articol. A face acest lucru necesită sisteme care gestionează controlul motorului, care îți mențin capul și ochii concentrați pe ecran. O parte din acest sistem funcționează prin feedback de la neuronii care prelucrează materialul citit, provocând mișcări mici ale ochilor care vă ajută ochii să se deplaseze pe propoziții individuale și între linii.

Separat, există o parte din creierul tău dedicat să spui sistemului vizual ce nu Pentru a acorda atenție, cum ar fi pictograma care arată un număr din ce în ce mai mare de e-mailuri necitite. Cei dintre noi care putem citi o pagină web fără să observăm chiar anunțurile de pe ea, probabil, au un sistem foarte bine dezvoltat pentru a ignora lucrurile. Citirea acestui articol poate însemna, de asemenea, că implicați sistemele care se ocupă de alte simțuri, determinându -vă să ignorați lucruri precum zgomotul sistemului dvs. de încălzire care se apropie, rămânând în alertă pentru lucruri care ar putea semnifica amenințări, cum ar fi un sunet inexplicabil în camera alăturată.

Intrarea generată de sistemul vizual trebuie apoi procesată, de la recunoașterea individuală a personajelor până la identificarea cuvintelor și propozițiilor, procese care implică sisteme în zonele creierului implicate atât în ​​procesarea vizuală, cât și în limbaj. Din nou, acesta este un proces iterativ, în care construirea sensului dintr -o propoziție poate necesita multe mișcări ale ochilor pentru a scana înainte și înapoi pe o propoziție, îmbunătățind înțelegerea lecturii – și necesitând multe dintre aceste sisteme să comunice între ele.

Pe măsură ce sensul este extras dintr-o propoziție, alte părți ale creierului o integrează cu informații obținute în propozițiile anterioare, care tinde să angajeze încă o zonă a creierului, una care gestionează un sistem de memorie pe termen scurt numit memorie de lucru. Între timp, alte sisteme vor căuta memorie pe termen lung, găsind materiale conexe care pot ajuta creierul să plaseze noile informații în contextul a ceea ce știe deja. Încă alte zone de creier specializate verifică lucruri precum dacă există un conținut emoțional pentru materialul pe care îl citiți.

Toate aceste domenii diferite sunt angajate fără ca tu să fii conștient de necesitatea lor.

În schimb, ceva de genul Chatgpt, în ciuda faptului că are o mulțime de neuroni artificiali, este monolitic: nu sunt alocate structuri specializate înainte de începerea antrenamentului. Acesta este în contrast puternic cu un creier. „Creierul nu începe ca o pungă de neuroni și apoi ca copil trebuie să înțeleagă lumea și apoi să determine ce conexiuni să facă”, a menționat Baker. „Există deja o mulțime de constrângeri și specific care sunt deja configurate.”

Chiar și în cazurile în care nu este posibil să se observe nicio distincție fizică între celulele specializate pentru diferite funcții, Baker a menționat că putem găsi adesea diferențe în ceea ce genele sunt active.

În schimb, modularitatea pre-planificată este relativ nouă pentru lumea AI. În dezvoltarea software -ului, „acest concept de modularitate este bine stabilit, așa că avem întreaga metodologie în jurul ei, cum să o gestionăm”, a spus Schain, „este într -adevăr un aspect important pentru realizarea de sisteme AI care pot funcționa în mod similar cu creierul uman”. Există câteva cazuri în care dezvoltatorii au aplicat modularitatea pe sisteme, dar Goldstein a spus că aceste sisteme trebuie să fie instruite cu toate modulele în vigoare pentru a vedea orice câștig în performanță.

Nimic din toate acestea nu spune că un sistem modular nu poate apărea într -o rețea neuronală ca urmare a pregătirii sale. Dar până acum, avem dovezi foarte limitate pe care le fac. Și din moment ce implementăm în mare parte fiecare sistem pentru un număr foarte limitat de sarcini, nu există niciun motiv să credem că modularitatea va fi valoroasă.

Există anumite motive pentru a crede că această modularitate este esențială pentru flexibilitatea incredibilă a creierului. Regiunea care recunoaște conținutul de evocare a emoțiilor în textul scris îl poate recunoaște și în muzică și imagini, de exemplu. Dar dovezile de aici sunt mixte. Există câteva cazuri clare în care o singură regiune a creierului gestionează sarcinile aferente, dar acesta nu este în mod constant cazul; Baker a menționat că, „Când vorbești cu oameni, există părți ale creierului care sunt dedicate înțelegerii vorbirii și există diferite domenii care sunt implicate în producerea vorbirii”.

Acest tip de reutilizare ar oferi, de asemenea, un avantaj în ceea ce privește învățarea, deoarece comportamentele dezvoltate într-un singur cont Ext ar putea fi implementat în altele. Dar, după cum vom vedea, diferențele dintre creiere și AI când vine vorba de învățare sunt mult mai cuprinzătoare decât asta.

Creierul se antrenează constant

AI -urile actuale au, în general, două state: instruire și implementare. Pregătirea este locul în care AI își învață comportamentul; Desfășurarea este locul în care acest comportament este folosit. Acest lucru nu este absolut, deoarece comportamentul poate fi modificat ca răspuns la lucrurile învățate în timpul desfășurării, cum ar fi să afli că recomandă să mănânci zilnic o stâncă. În mare parte, odată ce greutățile dintre conexiunile unei rețele neuronale sunt determinate prin antrenament, acestea sunt păstrate.

Poate începe să se schimbe puțin, a spus Schain. „Acum există o schimbare de similaritate în care sistemele AI folosesc din ce în ce mai mult ceea ce numesc calculul de testare, unde la timp de inferență faceți mult mai mult decât înainte, un fel de paralel cu modul în care funcționează creierul uman”, a spus el pentru Ars. Dar este totuși cazul în care rețelele neuronale sunt în esență inutile fără o perioadă de pregătire extinsă.

În schimb, un creier nu are stări de învățare și active distincte; Este constant în ambele moduri. În multe cazuri, creierul învață în timp ce făcând. Baker a descris că, în ceea ce privește învățarea să iei salturi: „Odată ce ai făcut mișcarea ta, mingea ți -a lăsat mâna, va ateriza undeva. Deci semnalul vizual – acea comparație a locului în care a aterizat față de locul în care dorești să meargă – este ceea ce numim un semnal de eroare.

Creează curbele de învățare foarte diferite. O AI nu este de obicei foarte utilă până când nu a avut o cantitate substanțială de pregătire. În schimb, un om poate adesea să ridice competența de bază într -un timp foarte scurt (și fără o utilizare masivă de energie). „Chiar dacă sunteți pus într -o situație în care nu ați fost niciodată până acum, puteți totuși să vă dați seama”, a spus Baker. „Dacă vedeți un obiect nou, nu trebuie să fiți instruiți de o mie de ori pentru a ști cum să -l folosiți. De multe ori, [if] O vedeți o singură dată, puteți face predicții. „

Drept urmare, în timp ce un sistem AI cu o pregătire suficientă poate depăși în cele din urmă omul, omul va atinge de obicei un nivel ridicat de performanță mai rapid. Și spre deosebire de un AI, performanța unui om nu rămâne statică. Îmbunătățirile incrementale și abordările inovatoare sunt încă posibile. Acest lucru permite, de asemenea, oamenilor să se adapteze mai ușor la circumstanțele schimbate. O AI antrenată pe corpul materialului scris până în 2020 s-ar putea lupta pentru a înțelege vorbirea adolescenței în 2030; Oamenii s -ar putea adapta cel puțin potențial la schimbările limbajului. (Deși poate că un AI instruit să răspundă la formularea confuză cu „coborâți de pe gazonul meu” ar fi indistinguibil.)

În cele din urmă, întrucât creierul este un dispozitiv de învățare flexibil, lecțiile învățate dintr -o singură abilitate pot fi aplicate abilităților conexe. Așadar, capacitatea de a recunoaște tonurile și de a citi partituri poate ajuta cu stăpânirea mai multor instrumente muzicale. Chimia și gătitul împărtășesc abilități de suprapunere. Și când vine vorba de școlarizare, învățarea cum să înveți poate fi folosită pentru a stăpâni o gamă largă de subiecte.

În schimb, este în esență imposibil să folosiți un model AI instruit pe un subiect pentru multe altele. Cele mai mari excepții sunt modelele de limbaj mare, care par să poată rezolva probleme pe o mare varietate de subiecte, dacă sunt prezentate ca text. Dar aici, există încă o dependență de exemple suficiente de probleme similare care apar în corpul textului pe care sistemul a fost instruit. Pentru a da un exemplu, ceva de genul Chatgpt poate părea să poată rezolva problemele de matematică, dar cel mai bine este să rezolvi lucrurile care au fost discutate în materialele sale de formare; Oferindu -i ceva nou, în general, îl va determina să se poticnească.

Déjà vu

Cu toate acestea, pentru Schain, cea mai mare diferență între AI și biologie este în ceea ce privește memoria. Pentru mulți AIS, „memoria” nu se distinge de resursele de calcul care îi permit să îndeplinească o sarcină și conexiunile formate în timpul antrenamentului. Pentru modelele mari de limbaj, include atât greutățile conexiunilor învățate atunci, cât și o „fereastră de context restrânsă” care cuprinde orice schimburi recente cu un singur utilizator. În schimb, sistemele biologice au o viață de amintiri pe care să se bazeze.

„Pentru AI, este foarte de bază: este ca și cum memoria este în greutăți [of connections] sau în context. Dar, cu un creier uman, este un mecanism mult mai sofisticat, încă de descoperit. Este mai distribuit. Există pe termen scurt și pe termen lung și trebuie să facă multe cu diferite perioade de timp. Memorie pentru ultima secundă, un minut și o zi sau un an și ani și toate pot fi relevante. „

Această viață de amintiri poate fi esențială pentru a face inteligența generală. Ne ajută să recunoaștem posibilitățile și limitele de a desena analogii între diferite circumstanțe sau aplicarea lucrurilor învățate într -un context față de altul. Ne oferă informații care ne permit să rezolvăm problemele cu care nu ne -am confruntat niciodată. Și, desigur, se asigură, de asemenea, că un pic oribil de muzică pop la care ai fost expus la adolescența ta rămâne un vierme de urechi până în anii 80.

Cu toate acestea, diferențele dintre modul în care creierele și AIS gestionează memoria sunt foarte greu de descris. AIS nu are într -adevăr o memorie distinctă, în timp ce utilizarea memoriei, deoarece creierul gestionează o sarcină mai sofisticată decât navigarea unui labirint este, în general, atât de slab înțeleasă, încât este dificil de discutat deloc. Tot ce putem spune cu adevărat este că există diferențe clare acolo.

Orientate limite

Este dificil să te gândești la AI fără a recunoaște enormul resurse energetice și de calcul implicate în formarea unuia. Și în acest caz, este potențial relevant. Creierele au evoluat sub constrângeri energetice enorme și continuă să funcționeze folosind bine sub energia pe care o poate oferi o dietă zilnică. Acest lucru a obligat biologia să -și dea seama de modalități de a -și optimiza resursele și de a beneficia la maxim de cele pe care le angajează pentru o sarcină.

În schimb, povestea evoluțiilor recente în AI este în mare parte una de a arunca mai multe resurse asupra lor. Și planurile pentru viitor par să implice (până acum) mai mult din acestea, inclusiv seturi de date de instruire mai mari și neuroni din ce în ce mai artificiali și conexiuni între ei. Toate acestea vin într -un moment în care cei mai buni AI -uri actuale folosesc deja trei ordine de mărime mai mulți neuroni decât am găsi în creierul unei muste și nu avem nicăieri în apropierea capacităților generale ale zborului.

143 de comentarii

1.