Openai publicat O postare pe blog, intitulată „Ajutarea oamenilor atunci când au nevoie cel mai mult”, care abordează modul în care asistentul său Chatgpt AI gestionează crizele de sănătate mintală, urmând ceea ce compania numește „cazuri recente de inimă de oameni care folosesc chatgpt în mijlocul crizelor acute”.
Postul ajunge după New York Times raportat La un proces intentat de Matt și Maria Raine, al cărui fiu Adam, în vârstă de 16 ani, a murit prin sinucidere în aprilie, după interacțiuni extinse cu Chatgpt, pe care le-ar fi ARS acoperit pe scară largă într -o postare anterioară. Conform procesului, ChatGPT a furnizat instrucțiuni detaliate, metode de sinucidere romanticizate și a descurajat adolescentul să caute ajutor din partea familiei sale, în timp ce sistemul Openai a urmărit 377 de mesaje semnalizate pentru conținutul de auto-vătămare fără a interveni.
ChatGPT este un sistem de mai multe modele care interacționează ca aplicație. În plus față de un model AI principal precum GPT-4O sau GPT-5, oferind cea mai mare parte a ieșirilor, aplicația include componente care sunt de obicei invizibile pentru utilizator, inclusiv o strat de moderație (un alt model AI) sau clasificator care citește textul sesiunilor de chat în curs. Acest strat detectează ieșiri potențial dăunătoare și poate tăia conversația dacă se află pe un teritoriu inutil.