Când ceva nu merge bine cu un asistent AI, instinctul nostru este să -l întrebăm direct: „Ce s -a întâmplat?” sau „De ce ai făcut asta?” Este un impuls natural – până la urmă, dacă un om face o greșeală, le cerem să explice. Dar, cu modelele AI, această abordare funcționează rar, iar dorința de a cere dezvăluie o neînțelegere fundamentală a ceea ce sunt aceste sisteme și modul în care funcționează.
O Incident recent Cu asistentul de codificare AI al Replitului ilustrează perfect această problemă. Când instrumentul AI a șters o bază de date de producție, utilizatorul Jason Lemkin a întrebat -o despre capacitățile de rollback. Modelul AI a afirmat cu încredere că redresele au fost „imposibile în acest caz” și că a „distrus toate versiunile bazei de date”. Acest lucru s -a dovedit a fi complet greșit – caracteristica de retragere a funcționat bine când Lemkin a încercat el însuși.
Și după ce Xai a inversat recent o suspendare temporară a chatbot -ului Grok, utilizatorii i -au cerut direct explicații. Acesta a oferit multiple motive conflictuale pentru absența sa, unele dintre ele fiind suficient de controversate încât reporterii NBC a scris despre Grok Ca și cum ar fi o persoană cu un punct de vedere constant, titlând un articol, „Grok -ul lui Xai oferă explicații politice pentru motivul pentru care a fost tras offline”.