AI AI security Anthropic Biz & IT ChatGPT chatgtp Claude Claude 2 large language models LLM LLM security prompt injections sleeper agents TEHNOLOGIE Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic 16 ianuarie 2024 by Echipa Club S&T | Leave a Comment Mărește (credit: Benj Edwards | Getty Images) Imaginați-vă că descărcați un model de limbaj AI open source și totul pare bine la început, dar mai târziu devine rău intenționat. Vineri, Anthropic—creatorul de ChatGPT concurent Claude— a eliberat a lucrare de cercetare despre modelele de limbaj mari (LLM) AI „agent dormitor” care inițial par normale, dar […] Read more » ai AI security Anthropic Biz & IT chatgpt chatgtp Claude Claude 2 large language models LLM LLM security prompt injections sleeper agents
