Actualul AI modelează un „punct mort” pentru inteligența la nivel uman, oamenii de știință sunt de acord

Abordări actuale pentru inteligenţă artificială (AI) este puțin probabil să creeze modele care să se potrivească cu inteligența umană, potrivit unui sondaj recent al experților din industrie.

Dintre cei 475 de cercetători AI solicitați pentru sondaj, 76% au declarat că extinderea modelelor de limbaj mare (LLM) a fost „puțin probabilă” sau „foarte puțin probabil” de realizat Inteligență generală artificială (AGI), o etapă ipotetică în care sistemele de învățare automată pot învăța la fel de eficient sau mai bine decât oamenii.

Aceasta este o demitere de remarcare a prezicerii industriei tehnologice care, de la generatul AI Boom din 2022, a susținut că actualele modele AI de ultimă generație au nevoie doar de mai multe date, hardware, energie și bani pentru a eclipsa informațiile umane.

Acum, pe măsură ce modelul recent lansează apărea la stagnamajoritatea cercetătorilor chestionați de Asociația pentru avansarea inteligenței artificiale Credeți că companiile tehnologice au ajuns la un punct mort – iar banii nu le vor scoate din asta.

„Cred că a fost evident de la scurt timp după eliberarea GPT-4, câștigurile de la scalare au fost incrementale și scumpe,” Stuart Russella declarat pentru live un informatician la Universitatea din California, Berkeley, care a ajutat la organizarea raportului. -[AI companies] au investit prea mult deja și nu își pot permite să recunoască că au făcut o greșeală [and] Fii în afara pieței timp de câțiva ani, când trebuie să ramburseze investitorii care au pus sute de miliarde de dolari. Deci tot ce pot face este să se dubleze. „

Diminuarea randamentelor

Îmbunătățirile uimitoare ale LLM -urilor din ultimii ani se datorează parțial arhitecturii lor de transformare de bază. Acesta este un tip de arhitectură de învățare profundă, creată pentru prima dată în 2017 de Google, oamenii de știință, care crește și învață prin absorbția datelor de instruire din contribuția umană.

Acest lucru permite modelelor să genereze modele probabilistice din rețelele lor neuronale (colecții de algoritmi de învățare automată aranjate pentru a imita modul în care învață creierul uman), alimentându -le înainte atunci când sunt oferite un prompt, cu răspunsurile lor îmbunătățindu -se în precizie cu mai multe date.

Înrudite: Oamenii de știință proiectează un nou „referință AGI” care indică dacă un viitor model AI ar putea provoca „daune catastrofale”

Dar continuarea scăldării acestor modele necesită cantități de bani și energie. Industria AI generativă a ridicat 56 miliarde de dolari în capitalul de risc la nivel mondial doar în 2024, o mare parte din aceasta va intra în construirea de complexe enorme de centre de date, ale căror emisii de carbon au triplat din 2018.

Proiecțiile arată, de asemenea, datele finite generate de om esențial pentru o creștere suplimentară vor fi epuizate cel mai probabil până la sfârșitul acestui deceniu. Odată ce s-a întâmplat acest lucru, alternativele vor fi să înceapă recoltarea datelor private de la utilizatori sau să alimenteze datele „sintetice” generate de AI-uri înapoi în modele care i -ar putea pune în pericol de prăbușire din erori create după ce își înghit propria contribuție.

Dar limitările modelelor actuale sunt probabil nu doar pentru că sunt foame de resurse, spun specialiștii din sondaj, ci din cauza limitărilor fundamentale ale arhitecturii lor.

„Cred că problema de bază a abordărilor actuale este aceea că toate implică instruirea circuitelor mari de avocatură”, a spus Russell. „Circuitele au limitări fundamentale ca o modalitate de a reprezenta concepte. Aceasta implică faptul că circuitele trebuie să fie enorme pentru a reprezenta astfel de concepte chiar și aproximativ – în esență ca un tabel de căutare glorificat – ceea ce duce la vaste cerințe de date și reprezentare fragilă cu lacune. Bate ușor Programele „Superuman” GO ”.

Viitorul dezvoltării AI

Toate aceste blocaje au prezentat provocări majore companiilor care lucrează pentru a stimula performanța AI, provocând scoruri pe referințe de evaluare la platou Și modelul GPT-5 al lui Openai nu va apărea niciodată, au spus unii dintre respondenții sondajului.

Ipoteze că îmbunătățirile ar putea fi întotdeauna făcute prin scalare au fost, de asemenea, reduse în acest an de către compania chineză Deepseek, care se potrivea cu performanța modelelor scumpe din Silicon Valley la o fracțiune din cost și putere. Din aceste motive, 79% dintre respondenții sondajului au declarat că percepțiile privind capacitățile AI nu se potrivesc cu realitatea.

„Există mulți experți care cred că este o bulă”, a spus Russell. „În special atunci când modelele de performanță rezonabile sunt oferite gratuit”.

Cu toate acestea, asta nu înseamnă că progresul în AI este mort. S -a dovedit că modelele de raționament – modele specializate care dedică mai mult timp și putere de calcul – s -au dovedit că produc răspunsuri mai precise decât predecesorii lor tradiționali.

Împerecherea acestor modele cu alte sisteme de învățare automată, mai ales după ce sunt distilate la scări specializate, este o cale interesantă înainte, potrivit respondenților. Iar succesul lui Deepseek indică mult mai mult spațiu pentru inovația ingineriei în modul în care sunt proiectate sistemele AI. Experții indică, de asemenea, o programare probabilistică, având potențialul de a se construi mai aproape de AGI decât modelele de circuit actual.

„Industria plasează un pariu mare că vor exista aplicații de mare valoare ale AI generative”, Thomas Diettericha declarat un profesor emerit de informatică la Universitatea de Stat din Oregon, care a contribuit la raport, a declarat Live Science. „În trecut, mari progrese tehnologice au necesitat 10 până la 20 de ani pentru a arăta randamente mari.”

„Adesea, primul lot de companii nu reușesc, așa că nu m -ar fi surprins să văd că multe dintre startup -urile Genai de astăzi nu reușesc”, a adăugat el. „Dar se pare că unii vor avea un succes sălbatic. Mi -aș dori să știu care sunt.”

Ben Turner este un scriitor de personal din Marea Britanie la Live Science. El acoperă fizica și astronomia, printre alte subiecte precum tehnologia și schimbările climatice. A absolvit University College London cu o diplomă în fizica particulelor înainte de a se antrena ca jurnalist. Când nu scrie, lui Ben îi place să citească literatura, cântă la chitară și se jenează cu șah.