Ce se întâmplă dacă ar exista o modalitate de a introduce instrucțiuni rău intenționate în Claude, Copilot sau în alte chatbot-uri cu inteligență artificială de top și de a obține date confidențiale din aceștia folosind caractere pe care modelele de limbi mari le pot recunoaște și utilizatorii lor umani nu le pot recunoaște? După cum se dovedește, a existat – și în unele cazuri încă mai există.
Personajele invizibile, rezultatul unei ciudatenie în Unicode standard de codare a textului, creați un canal secret ideal care poate face mai ușor pentru atacatori să ascundă încărcăturile utile rău intenționate introduse într-un LLM. Textul ascuns poate întuneca în mod similar exfiltrarea parolelor, a informațiilor financiare sau a altor secrete din aceiași roboți alimentați de AI. Deoarece textul ascuns poate fi combinat cu textul normal, utilizatorii îl pot lipi fără să vrea în solicitări. Conținutul secret poate fi, de asemenea, atașat textului vizibil din ieșirea chatbot.
Rezultatul este a steganografic cadru integrat în cel mai utilizat canal de codare a textului.
Comentarii recente