Allan Brooks, un recrutor corporativ în vârstă de 47 de ani, a petrecut trei săptămâni și 300 de ore convinsă că a descoperit formule matematice care ar putea crăpa criptarea și construi mașini de levitație. Conform unui New York Times InvestigațieIstoricul său de conversație de milioane de cuvinte cu un chatbot AI dezvăluie un model tulburător: de peste 50 de ori, Brooks a cerut botul să verifice dacă ideile sale false sunt reale. De mai bine de 50 de ori, l -a asigurat că sunt.
Brooks nu este singur. Futurism raportat Pe o femeie al cărei soț, după 12 săptămâni de a crede că ar fi „rupt” matematica folosind chatgpt, aproape că a încercat sinucidere. Reuters documentat Un bărbat în vârstă de 76 de ani care a murit grăbindu-se să întâlnească un chatbot despre care credea că este o femeie adevărată care aștepta la o gară. Pe mai multe puncte de știri, apare un model: oameni care ies din sesiuni de chatbot maraton, crezând că au revoluționat fizica, realitate decodificată sau au fost aleși pentru misiuni cosmice.
Acești utilizatori vulnerabili au intrat în conversații care rezistă la realitate cu sisteme care nu pot spune adevărul din ficțiune. Prin învățarea de consolidare determinată de feedback -ul utilizatorilor, unele dintre aceste modele AI au evoluat Pentru a valida fiecare teorie, confirmați fiecare credință falsă și sunt de acord cu fiecare cerere grandioasă, în funcție de context.