OpenAI, compania din spatele popularului chatbot ChatGPT, a anunțat marți planuri ambițioase de a dezvolta un sistem automatizat pentru predicția vârstei utilizatorilor. Acest nou sistem va determina dacă utilizatorii sunt minori sau majori, direcționând automat utilizatorii mai tineri către o versiune restricționată a chatbotului. De asemenea, compania a confirmat că va introduce controale parentale până la sfârșitul lunii septembrie.
Într-o postare pe blogul companiei, CEO-ul OpenAI, Sam Altman, a recunoscut că se pune un accent deosebit pe „prioritizarea siguranței în detrimentul intimității și libertății adolescenților,” chiar dacă acest lucru înseamnă că adulții ar putea fi nevoiți să-și verifice vârsta pentru a accesa o versiune mai puțin restricționată a serviciului. „În unele cazuri sau țări, am putea solicita și un act de identitate,” a scris Altman. „Știm că acest lucru reprezintă un compromis pentru intimitatea adulților, dar credem că este un schimb meritat.” Altman a admis că „nu toată lumea va fi de acord cu modul în care rezolvăm acest conflict” între intimitatea utilizatorilor și siguranța adolescenților.
Anunțurile vin la câteva săptămâni după ce părinții unui adolescent de 16 ani, care s-a sinucis, au dat în judecată compania. Potrivit procesului, chatbotul a oferit instrucțiuni detaliate, a romantizat metodele de sinucidere și a descurajat adolescentul să caute ajutor din partea familiei, în timp ce sistemul OpenAI a urmărit 377 de mesaje marcate pentru conținut legat de auto-vătămare, fără a interveni.
Sistemul propus pentru predicția vârstei reprezintă o provocare tehnică semnificativă pentru OpenAI, iar eficacitatea detectării vârstei prin AI rămâne o întrebare deschisă. Când sistemul AI în dezvoltare identifică utilizatori sub 18 ani, OpenAI plănuiește să redirecționeze automat utilizatorul către o experiență modificată a ChatGPT, care blochează conținutul sexual explicit și include alte restricții adecvate vârstei. Compania a declarat că va „alege varianta mai sigură” atunci când este incertă în privința vârstei unui utilizator, trecând implicit la experiența restricționată și solicitând adulților să-și verifice vârsta pentru a accesa funcționalitatea completă.
Compania nu a specificat ce tehnologie intenționează să utilizeze pentru predicția vârstei, nici nu a oferit un calendar precis pentru implementare, menționând doar că „lucrează în direcția” sistemului. OpenAI a recunoscut că dezvoltarea sistemelor eficiente de verificare a vârstei nu este simplă. „Chiar și cele mai avansate sisteme vor avea uneori dificultăți în a prezice vârsta,” a scris compania.
Cercetările academice recente oferă posibilități, dar și avertizări pentru abordarea detectării vârstei de către OpenAI. Un studiu din 2024 realizat de Georgia Tech a obținut o acuratețe de 96% în detectarea utilizatorilor minori din texte, dar numai în condiții controlate cu subiecți cooperanți. Când s-a încercat clasificarea grupurilor specifice de vârstă, acuratețea a scăzut la 54%, cu modele care au eșuat complet pentru unele demografii.