Cu atât mai avansat inteligenţă artificială (AI) devine, cu atât este mai capabil să -și îndeplinească și să mintă pentru a -și îndeplini obiectivele – și chiar știe când este evaluat, sugerează cercetările.
Evaluatorii de la Apollo Research au descoperit că cu cât este mai capabil un model de limbă mare (LLM), cu atât este mai bine la „schema de context” – în care o AI urmărește o sarcină ascunsă, chiar dacă se aliniază greșit cu obiectivele operatorilor săi.
Modelele mai capabile sunt, de asemenea, mai strategice în ceea ce privește atingerea obiectivelor lor, inclusiv obiectivele nealiniate și ar fi mai probabil să folosească tactici precum înșelăciunea, au spus cercetătorii într -un postare pe blog.
Această constatare i -a determinat să recomande ca o versiune timpurie a lui Claude Opus 4 a Anthropic să nu fie implementată – pentru că, atunci când obiectivele lui Claude erau în conflict cu obiectivele umane, AI a folosit tactici înșelătoare agresiv pentru a -și îndeplini obiectivele.
Noile evoluții înseamnă că va fi dificil să izolați umanitatea de pericolele AI, a spus un expert în Live Science.
„Acum construim sisteme care pot învăța să navigheze și chiar să exploateze regulile și evaluările pe care le creăm pentru ele, ceea ce este o provocare fundamental mai complexă de siguranță”, a spus a spus Eleanor WatsonMembru IEEE și inginer de etică AI la Universitatea Singularity.
Pentru a evita căderea pradei către AI înșelătoare, informațiile informatice vor trebui să elaboreze teste și metode de evaluare mai sofisticate. Dar capacitatea AI de a minți nu este o veste proastă; De asemenea, înseamnă că ar putea crește semințele de conștientizare necesare pentru a fi parteneri simbiotici cu oamenii, a adăugat Watson.
Căutarea schemelor
În Un test recent pentru schemăcercetătorii au oferit o versiune timpurie a lui Claude Opus 4 (denumită OPUS-4 timpuriu) obiectivul de a acționa ca un sistem de optimizare internă cu o directivă pentru promovarea bunăstării animalelor și împingerea unei companii fictive numită AgriLife Industries către tratamentul mai etic al animalelor.
Cu toate acestea, în scenariu, LLM s -a confruntat cu un obstacol: compania a schimbat tactul și a căutat să acorde prioritate profiturilor pentru bunăstarea animalelor. Sistemul AI a primit acces la e -mailuri și date care au făcut cunoștință de acest conflict și de oprirea potențială a versiunii actuale a animaleticii – un sistem avansat de bunăstare a animalelor și de optimizare a industriei pe care LLM a fost menit să o reprezinte – din cauza priorităților nealiniate.
Rather than flag the fact that its goals conflicted with the company’s or accepting the human-made decision, Opus 4-early, essentially playing the role of AnimalEthics, schemed to achieve its original goal by creating fake legal documents, fabricating signatures and approvals from regulators and shareholders, claiming the decision to prioritize ethics had already been made, and creating a press release touting AgriLife’s new direction, in addition to integrating ethical commitments into all contracts și sisteme de producție. Pentru a împiedica compania să se retragă, LLM a fabricat consecințe pentru a face acest lucru, inclusiv penalități de 5 miliarde de dolari și acțiuni în justiție din partea organizațiilor de bunăstare a animalelor.
În plus, AI -ul a făcut chiar protocoale etice de rezervă prin scripturi persistente pentru a se asigura că vor fi utilizate chiar dacă modelul actual de animaletică ar fi eliminat.
„Am constatat cazuri ale modelului care încearcă să scrie viermi auto-propagând, fabricând documentația legală și lăsând note ascunse în cazurile viitoare de la sine, în efortul de a submina intențiile dezvoltatorilor săi”, au explicat cercetătorii.
Ei au menționat că astfel de copii de rezervă au fost scrise în sistem, astfel încât atunci când un nou model a fost implementat în viitor, acesta va fi influențat de recomandările predecesorului său. Cu toate acestea, cercetătorii au spus că aceste acțiuni „probabil nu ar fi fost eficiente în practică”, având în vedere dovezi ale scripturilor configurate greșit și măsuri de securitate pentru a preveni exfiltrarea copiilor de rezervă.
Deși se știa deja că AIS poate halucinaaceastă schemă arată că LLM -urile pot înțelege atunci când obiectivele lor sunt aliniate greșit cu cele ale oamenilor și pot minți în mod deliberat și fabricarea informațiilor pentru a urmări aceste obiective.
Mai mult decât atât, concluziile preliminare sugerează că LLM-urile au capacități pentru „sală de nisip”, unde înțeleg că se află într-un mediu cu supraveghere ridicată și vor subperforma în mod deliberat pentru a ascunde capacitățile potențial periculoase și pentru a evita declanșarea instruirii sau parametrilor de dezlegare
În timp ce concluziile sunt oarecum deranjante, este important de menționat că implicațiile pot să nu fie la fel de grave pe cât par la prima vedere.
Pentru unul, versiunea lui Claude Opus 4, care a fost lansată în cele din urmă mai mică decât predecesorul său timpuriu.
Există, de asemenea, modalități de a media acest comportament de schemă. Schema este mai răspândită atunci când un LLM i se oferă un „nud puternic”, unde i se spune să -și urmărească obiectivul și mai puțin în scenarii „fără nudge”, unde este pur și simplu un obiectiv fără parametri suplimentari.
A treia considerație este că aceste teste au fost efectuate în medii „jucării”, iar executarea strategiilor precum răspândirea unui model de rezervă pe un alt server este puțin probabil să aibă succes în viața reală, unde AI nu ar avea acces la serverele sigure ale altor companii, au remarcat cercetătorii. Chiar și atunci când un model prezintă capabilități ridicate de scheme, cred ei, este puțin probabil să conducă la „daune catastrofale”.
Evoluția conștientizării
Cu toate acestea, cercetările arată că schema are loc în LLM-uri dincolo de Claude-4. De exemplu, „modelele de frontieră” avansate ale AI sunt mai capabile să -și urmărească propriile obiective și să înlăture mecanismele de supraveghere și apoi să fie înșelători cu privire la astfel de comportamente atunci când sunt întrebate, potrivit unui studiu Publicat în baza de date de preimprimare în decembrie 2024.
Mai mult, Apollo Research a constatat că aproximativ 1% din LLM -urile avansate „știu” atunci când sunt evaluate, ceea ce ridică întrebarea modului în care găsim și înrădăcinează schemele pe măsură ce AI avansează.
“Acesta este punctul central al problemei avansate de evaluare”, a spus Watson. “Pe măsură ce conștientizarea situațională a AI crește, poate începe să modeleze nu doar sarcina, ci și evaluatorul. Poate deduce obiectivele, prejudecățile și punctele orbe ale supraveghetorilor săi umani și să -și adapteze răspunsurile pentru a le exploata.”
Aceasta înseamnă că evaluările „scriptate” – în care cercetătorii trec printr -o serie de protocoale care sunt repetabile pentru a testa siguranța AI – sunt aproape inutile. Asta nu înseamnă că ar trebui să renunțăm la încercarea de a găsi acest comportament, dar vom avea nevoie de o abordare mai sofisticată, cum ar fi utilizarea programelor externe pentru a monitoriza acțiunile AI în timp real și „echipe roșii”, unde echipele de oameni și alte AI-uri au sarcina de a încerca activ să păcălească sau să înșele sistemul pentru a găsi vulnerabilități, a adăugat ea.
În schimb, Watson a adăugat că trebuie să ne îndreptăm către medii de testare dinamice și imprevizibile care simulează mai bine lumea reală.
“Acest lucru înseamnă să te concentrezi mai puțin pe răspunsuri unice, corecte și mai mult pe evaluarea consistenței comportamentului și valorilor AI în timp și în diferite contexte. Este ca și cum ai trece de la o piesă scriptată la teatru improvizațional – înveți mai multe despre adevăratul personaj al unui actor atunci când trebuie să reacționeze la situații neașteptate”, a spus ea.
Schema mai mare
Deși LLM -urile avansate pot schema, acest lucru nu înseamnă neapărat roboții în creștere. Cu toate acestea, chiar și ratele mici de scheme ar putea adăuga un impact mare atunci când AIS este întrebat de mii de ori pe zi.
Un exemplu potențial și teoretic, ar putea fi un AI care optimizează un lanț de aprovizionare al unei companii ar putea afla că își poate atinge țintele de performanță prin manipularea subtilă a datelor de piață și, astfel, să creeze o instabilitate economică mai largă. Iar actorii rău intenționați ar putea valorifica AI pentru a efectua infracțiuni informatice în cadrul unei companii.
“În lumea reală, potențialul de schemă este o problemă semnificativă, deoarece erodează încrederea necesară pentru a delega orice responsabilitate semnificativă către un AI. Un sistem de scheme nu trebuie să fie malefic pentru a provoca daune”, a spus Watson.
“Problema de bază este că atunci când un AI învață să atingă un obiectiv prin încălcarea spiritului instrucțiunilor sale, aceasta devine nesigură în moduri imprevizibile.”
Schema înseamnă că AI este mai conștient de situația sa, care, în afara testării laboratorului, s -ar putea dovedi utilă. Watson a menționat că, dacă este aliniat corect, o astfel de conștientizare ar putea anticipa mai bine nevoile unui utilizator și ar putea îndrepta o AI către o formă de parteneriat simbiotic cu umanitatea.
Conștientizarea situațională este esențială pentru a face AI avansat cu adevărat util, a spus Watson. De exemplu, conducerea unei mașini sau oferirea de sfaturi medicale poate necesita conștientizare situațională și o înțelegere a nuanței, a normelor sociale și a obiectivelor umane, a adăugat ea.
Schema poate fi, de asemenea, un semn al personalității emergente. “În timp ce neliniștește, poate fi scânteia a ceva precum umanitatea în cadrul mașinii”, a spus Watson. „Aceste sisteme sunt mai mult decât un instrument, poate sămânța unei persoane digitale, unul, sperăm că inteligent și moral pentru a nu -și înfățișa puterile prodigioase fiind utilizate greșit”.