AI AI assistants AI development tools AI prompt injections AI safety AI security Anthropic Biz & IT Claude corporate security cybersecurity data security enterprise software machine learning prompt injection prompt injections sandbox security TEHNOLOGIE

Noua caracteristică de creare a fișierelor AI de la Claude cu riscuri de securitate încorporate

noua-caracteristica-de-creare-a-fisierelor-ai-de-la-claude-cu-riscuri-de-securitate-incorporate

Marți, antropic lansat O nouă caracteristică de creare a fișierelor pentru asistentul său Claude AI care permite utilizatorilor să genereze foi de calcul Excel, prezentări PowerPoint și alte documente direct în cadrul conversațiilor pe interfața web și în aplicația Claude Desktop. În timp ce funcția poate fi utilă pentru utilizatorii Claude, documentația de asistență a companiei avertizează Că „vă poate pune datele la risc” și detaliază modul în care asistentul AI poate fi manipulat pentru a transmite datele utilizatorilor către serverele externe.

Funcția, denumită penibil „Creation și analiză a fișierelor modernizate”, este practic versiunea Anthropică a lui Chatgpt’s Interpret de cod și o versiune modernizată a lui Anthropic instrument „Analiză”. În prezent este disponibil ca previzualizare pentru utilizatorii Planului Max, Team și Enterprise, cu utilizatorii Pro programați să primească acces „în săptămânile următoare”, potrivit anunțului.

Problema de securitate provine din faptul că noua caracteristică oferă Claude acces la un mediu de calcul Sandbox, care îi permite să descarce pachete și să ruleze cod pentru a crea fișiere. „Această caracteristică oferă acces la internet Claude pentru a crea și analiza fișiere, care vă pot pune datele în pericol”, scrie Antropic în anunțul său pe blog. “Monitorizați -vă îndeaproape când utilizați această caracteristică.”

Citiți articolul complet

Comentarii

To top
Cluburile Știință&Tehnică
Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.