Cercetătorii de la Meta susțin că au observat compania inteligenţă artificială (AI) sisteme care se îmbunătățesc fără aport uman.
“În ultimele câteva luni am început să vedem că se îmbunătățesc singuri sistemele noastre de AI”, a declarat CEO -ul Meta, Mark Zuckerberg, într -un document de politică publicat pe 30 iulie pe site -ul companiei. “Îmbunătățirea este lentă deocamdată, dar incontestabilă.”
Zuckerberg a adăugat că AI-ul de auto-îmbunătățire este primul pas către realizarea Superinteligență artificială (ASI) – O inteligență artificială care este capabilă să depășească abilitățile cognitive ale oamenilor.
În linii mari, cercetătorii AI iau în considerare capacitățile AI în trei straturi. În timp ce modelele actuale de AI pot obține fapte superumane extraordinare, cum ar fi prezicerea structurilor proteiceaceste capacități sunt extrem de restrânse. În astfel de cazuri, sistemul poate depăși oamenii doar într -o zonă specifică, dar nu are informații generale pentru această capacitate de a se aplica pe diferite discipline.
Următorul nivel se numește Inteligență generală artificială (AGI) și se referă la modele care pot înțelege, învăța și adapta în același mod ca creierul uman.
ASI este starea finală la care Zuckerberg a făcut referire în postarea pe blog și se referă la modelele care au evoluat pentru a depăși cu mult potențialul uman – și s -ar putea îmbunătăți într -un ritm exponențial, ceea ce duce la o „explozie de informații”.
Oamenii de știință se referă la momentul ipotetic pe care îl realizăm AGI ca singularitate tehnologică.
Înrudite: AI intră într -un „regim fără precedent”. Ar trebui să o oprim – și putem – înainte să ne distrugă?
Referința lui Zuckerberg la viziunea de auto-îmbunătățire a AI nu este prima dată când acest fenomen a fost observat. În octombrie 2024, cercetătorii de la Universitatea din California, Santa Barbara au publicat o lucrare pentru preimprimare arxiv Baza de date centrată pe noțiunea de auto-îmbunătățire.
În ea, au definit, creat și testat un cadru AI bazat pe ideea unei mașini Gödel – un dispozitiv teoretic capabil să se îmbunătățească prin rescrierea propriului cod și instrucțiuni. Important este că mașina ar implementa o schimbare numai dacă ar putea produce o dovadă formală că schimbarea ar fi benefică.
Echipa a experimentat cu un cadru AI bazat pe acest concept și a dovedit că agentul lor Gödel și -ar putea îmbunătăți propriile performanțe în diferite sarcini, inclusiv codificare, știință, matematică și raționament.
Aproape toate modelele nu sunt de obicei împuternicite să rescrie propriul cod. Agentul Gödel nu a putut doar să acceseze întreaga sa bază de cod, ci și codul utilizat pentru a dezvolta îmbunătățiri, arătând în același timp că aceste îmbunătățiri au fost benefice.
AI a arătat în mod constant o performanță mai bună în domenii cheie decât agenții proiectați de oameni cu care a fost comparat, potrivit studiului. Zuckerberg a spus că ASI ar putea reprezenta un pas transformator în progresul tehnologic al umanității și că ar putea duce la „descoperirea unor lucruri noi care nu sunt imaginabile astăzi”.
Acestea fiind spuse, el a adăugat că Meta va fi mult mai atentă la modelele pe care compania alege să le elibereze publicului în cadrul unui cadru open source – ceea ce înseamnă că oricine ar putea avea acces la acesta.
“Sunt extrem de optimist că superinteligența va ajuta umanitatea să ne accelereze ritmul de progres.
„Oricât de profundă ar putea fi o abundență produsă de AI, un impact și mai semnificativ asupra vieții noastre va veni probabil de la toată lumea care are o superinteligență personală care vă ajută să vă atingeți obiectivele, să creați ceea ce doriți să vedeți în lume, să experimentați orice aventură, să fiți un prieten mai bun pentru cei de care vă pasă și să creșteți pentru a deveni persoana pe care să o faceți.”