Cercetătorii susțin descoperiri în lupta împotriva gaurii de securitate frustrante a AI

Cercetătorii susțin descoperiri în lupta împotriva gaurii de securitate frustrante a AI

de | 17 apr. 2025 | AI, AI security, Biz & IT, ChatGPT, chatgtp, google, google deepmind, large language models, machine learning, prompt injections, Riley Gooside, Simon Willison, TEHNOLOGIE

În lumea AI, o vulnerabilitate numită „injecție promptă” a bântuit dezvoltatorii de când chatbot -urile au mers mainstream în 2022. În ciuda numeroaselor încercări de a rezolva această vulnerabilitate fundamentală – echivalentul digital al șoptind instrucțiuni...
Hackerii Gemeni pot oferi atacuri mai puternice cu o mână de ajutor de la … Gemeni

Hackerii Gemeni pot oferi atacuri mai puternice cu o mână de ajutor de la … Gemeni

de | 29 mart. 2025 | AI, Artificial Intelligence, Biz & IT, Features, fun-tuning, gemini, google, large language models, LLMs, prompt injections, Security, TEHNOLOGIE

În canonul în creștere al securității AI, injecția promptă indirectă a apărut ca fiind cel mai puternic mijloc pentru atacatori să pună modele de limbaj mare, cum ar fi GPT-3 și GPT-4 sau Copilotul Microsoft. Prin exploatarea incapacității unui model de a distinge...
Ars Live: Prima noastră întâlnire cu IA manipulativă

Ars Live: Prima noastră întâlnire cu IA manipulativă

de | 13 nov. 2024 | 2023, AI, AI ethics, ars live, Ars Live Conversations, Benj Edwards, Bing Chat, Biz & IT, GPT-4, large language models, machine learning, manipulative AI, microsoft, Microsoft Copilot, openai, prompt injection, prompt injections, Simon Willison, TEHNOLOGIE

Pe termen scurt, cel mai periculos lucru despre modelele de limbaj AI poate fi capacitatea lor de a manipula emoțional oamenii dacă nu sunt condiționate cu grijă. Lumea a văzut pentru prima dată acest pericol potențial în februarie 2023 cu lansarea Bing Chatnumit acum...
Arta fină a ingineriei prompte umane: Cum să vorbești cu o persoană precum ChatGPT

Arta fină a ingineriei prompte umane: Cum să vorbești cu o persoană precum ChatGPT

de | 4 apr. 2024 | AI, AI models, Biz & IT, ChatGPT, chatgtp, Features, humans, Humor, jailbreaks, large language models, machine learning, openai, prompt injections, prompting, TEHNOLOGIE

Mărește / Cu aceste sfaturi, și dvs. puteți solicita oamenii cu succes. Într-o pauză de la practica noastră obișnuită, Ars publică acest ghid util pentru a ști cum să stimulezi „creierul uman”, dacă întâlnești unul în timpul rutinei tale zilnice. În timp ce...
Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic

Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic

de | 16 ian. 2024 | AI, AI security, Anthropic, Biz & IT, ChatGPT, chatgtp, Claude, Claude 2, large language models, LLM, LLM security, prompt injections, sleeper agents, TEHNOLOGIE

Mărește (credit: Benj Edwards | Getty Images) Imaginați-vă că descărcați un model de limbaj AI open source și totul pare bine la început, dar mai târziu devine rău intenționat. Vineri, Anthropic—creatorul de ChatGPT concurent Claude— a eliberat a lucrare de cercetare...
  • Salutare. Sunt un mic roboțel de la Știință&Tehnică. Cu ce te pot ajuta?
Mă gândesc.... ...
Chat Icon
Cluburile Știință&Tehnică
Powered by  GDPR Cookie Compliance
Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.