Noul hack folosește injecția promptă pentru a corup corupția memoriei pe termen lung a Gemeniului
În domeniul național al hacking -ului AI, injecția promptă indirectă a devenit un bloc de bază de bază pentru inducerea chatbots -ului pentru a exfiltra date sensibile sau pentru a efectua alte acțiuni rău intenționate. Dezvoltatorii de platforme precum Google Gemini...
Este remarcabil de ușor să injectați noi informații medicale greșite în LLM
Modificarea a doar 0,001% din intrări în dezinformare face AI mai puțin precisă. Este destul de ușor să vedeți problema aici: Internetul este plin de dezinformări, iar majoritatea modelelor de limbaj mari sunt antrenate pe un corp masiv de text obținut de pe Internet....
Amazon investește încă 4 miliarde de dolari în Anthropic, cel mai mare rival al OpenAI
Vineri, Antropic a anunţat că Amazon și-a mărit investiția în startup-ul AI cu 4 miliarde de dolari, aducând participația sa totală la 8 miliarde de dolari, menținând în același timp poziția de investitor minoritar. Produce antropice Claudeun asistent AI rival al...
Text invizibil pe care chatbot-ii AI îl înțeleg și oamenii nu îl pot? Da, este o chestie.
Ce se întâmplă dacă ar exista o modalitate de a introduce instrucțiuni rău intenționate în Claude, Copilot sau în alte chatbot-uri cu inteligență artificială de top și de a obține date confidențiale din aceștia folosind caractere pe care modelele de limbi mari le pot...
Comentarii recente