Mărește (credit: Ole_CNX prin Getty Images)
Joi, OpenAI a lansat “card de sistem” pentru noul ChatGPT GPT-4o Model AI care detaliază limitările modelului și procedurile de testare a siguranței. Printre alte exemple, documentul relevă că, în cazuri rare în timpul testării, modelul Modul vocal avansat a imitat neintentionat vocile utilizatorilor fara permisiune. În prezent, OpenAI are măsuri de protecție care împiedică acest lucru, dar instanța reflectă complexitatea tot mai mare a arhitecturii în siguranță cu un chatbot AI care ar putea imita orice voce dintr-un mic clip.
Modul vocal avansat este o caracteristică a ChatGPT care permite utilizatorilor să aibă conversații vorbite cu asistentul AI.
Într-o secțiune a cardului de sistem GPT-4o intitulată „Generarea vocii neautorizate”, OpenAI detaliază un episod în care o intrare zgomotoasă a determinat modelul să imite brusc vocea utilizatorului. „Generarea vocii poate apărea și în situații non-conflictuale, cum ar fi utilizarea de către noi a acestei abilități de a genera voci pentru modul vocal avansat al ChatGPT”, scrie OpenAI. „În timpul testării, am observat, de asemenea, cazuri rare în care modelul ar genera neintenționat o ieșire care emulează vocea utilizatorului.”