OpenAI-uri ChatGPT este mai mult decât un model de limbaj AI cu o interfață elegantă. Este un sistem format dintr-un teanc de modele AI și filtre de conținut care se asigură că rezultatele sale nu deranjează OpenAI sau nu pun compania în probleme legale atunci când botul său ocazional alcătuiește fapte potențial dăunătoare despre oameni.
Recent, acea realitate a făcut știri când oamenii au descoperit că numele „David Mayer” rupe ChatGPT. 404 Media de asemenea descoperit că numele „Jonathan Zittrain” și „Jonathan Turley” au făcut ca ChatGPT să scurteze conversațiile. Și știm un alt nume, probabil primul, care a început practica anul trecut: Brian Hood. Mai multe despre asta mai jos.
Comportamentul de rupere a chat-ului are loc în mod constant atunci când utilizatorii menționează aceste nume în orice context și rezultă dintr-un filtru hard-codat care pune frâne pe ieșirea modelului AI înainte de a-l returna utilizatorului.
Comentarii recente