Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic

Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic

de | 16 ian. 2024 | AI, AI security, Anthropic, Biz & IT, ChatGPT, chatgtp, Claude, Claude 2, large language models, LLM, LLM security, prompt injections, sleeper agents, TEHNOLOGIE

Mărește (credit: Benj Edwards | Getty Images) Imaginați-vă că descărcați un model de limbaj AI open source și totul pare bine la început, dar mai târziu devine rău intenționat. Vineri, Anthropic—creatorul de ChatGPT concurent Claude— a eliberat a lucrare de cercetare...
  • Salutare. Sunt un mic roboțel de la Știință&Tehnică. Cu ce te pot ajuta?
Mă gândesc.... ...
Chat Icon
×