


Hackerii Gemeni pot oferi atacuri mai puternice cu o mână de ajutor de la … Gemeni
În canonul în creștere al securității AI, injecția promptă indirectă a apărut ca fiind cel mai puternic mijloc pentru atacatori să pună modele de limbaj mare, cum ar fi GPT-3 și GPT-4 sau Copilotul Microsoft. Prin exploatarea incapacității unui model de a distinge...Noul hack folosește injecția promptă pentru a corup corupția memoriei pe termen lung a Gemeniului
În domeniul național al hacking -ului AI, injecția promptă indirectă a devenit un bloc de bază de bază pentru inducerea chatbots -ului pentru a exfiltra date sensibile sau pentru a efectua alte acțiuni rău intenționate. Dezvoltatorii de platforme precum Google Gemini...
Este remarcabil de ușor să injectați noi informații medicale greșite în LLM
Modificarea a doar 0,001% din intrări în dezinformare face AI mai puțin precisă. Este destul de ușor să vedeți problema aici: Internetul este plin de dezinformări, iar majoritatea modelelor de limbaj mari sunt antrenate pe un corp masiv de text obținut de pe Internet....
Amazon investește încă 4 miliarde de dolari în Anthropic, cel mai mare rival al OpenAI
Vineri, Antropic a anunţat că Amazon și-a mărit investiția în startup-ul AI cu 4 miliarde de dolari, aducând participația sa totală la 8 miliarde de dolari, menținând în același timp poziția de investitor minoritar. Produce antropice Claudeun asistent AI rival al...
Comentarii recente