Categorie: prompt injections

noua-caracteristica-de-creare-a-fisierelor-ai-de-la-claude-cu-riscuri-de-securitate-incorporate

AI AI assistants AI development tools AI prompt injections AI safety AI security Anthropic Biz & IT Claude corporate security cybersecurity data security enterprise software machine learning prompt injection prompt injections sandbox security TEHNOLOGIE

Noua caracteristică de creare a fișierelor AI de la Claude cu riscuri de securitate încorporate

by Echipa Club S&T | Leave a Comment

Marți, antropic lansat O nouă caracteristică de creare a fișierelor pentru asistentul său Claude AI care permite utilizatorilor să genereze foi de calcul Excel, prezentări PowerPoint și alte documente direct în cadrul conversațiilor pe interfața web și în aplicația Claude Desktop. În timp ce funcția poate fi utilă pentru utilizatorii Claude, documentația de asistență a […]

Read more »

extensia-automata-automata-a-antropicului-ai-chrome-ridica-preocupari-de-tip-browser-hijacking

agentic AI AI AI agents AI safety AI security AI vulnerability Anthropic Biz & IT browser security Chrome extension Claude computer use model machine learning prompt injections Simon Willison TEHNOLOGIE web browsers

Extensia automată automată a antropicului AI Chrome ridică preocupări de tip browser-hijacking

by Echipa Club S&T | Leave a Comment

Pe măsură ce asistenții AI devin capabili să controleze browserele web, a apărut o nouă provocare de securitate: utilizatorii trebuie să aibă încredere acum că fiecare site web pe care îl vizitează nu va încerca să -și deturneze agentul AI cu instrucțiuni dăunătoare ascunse. Experții și -au exprimat îngrijorarea cu privire la această amenințare emergentă […]

Read more »

defectiunea-in-instrumentul-de-codificare-cli-gemini-ar-putea-permite-hackerilor-sa-ruleze-comenzi-urate

AI Biz & IT coding agents Features Gemini CLI hacking prompt injections Security TEHNOLOGIE

Defecțiunea în instrumentul de codificare CLI Gemini ar putea permite hackerilor să ruleze comenzi urâte

by Echipa Club S&T | Leave a Comment

Cercetătorii au avut nevoie de mai puțin de 48 de ore cu noul agent de codificare al Gemini CLI de la Google pentru a concepe o exploatare care a făcut o configurație implicită a instrumentului să exfiltrate date sensibile la un server controlat de atacator. Gemini CLI este un instrument AI gratuit, open-source, care funcționează […]

Read more »

noul-atac-poate-fura-criptocurrency-prin-plantarea-amintirilor-false-in-chatbot-urile-ai

AI Biz & IT chatbots context manipulation large language models prompt injections Security TEHNOLOGIE

Noul atac poate fura criptocurrency prin plantarea amintirilor false în chatbot -urile AI

by Echipa Club S&T | Leave a Comment

Imaginează-ți o lume în care bot-urile alimentate de AI pot cumpăra sau vinde criptocurrency, pot face investiții și pot executa contracte definite de software la clipirea unui ochi, în funcție de prețurile valutare minut până la minut, de știri sau alte evenimente care se deplasează pe piață. Apoi, imaginați -vă un adversar care a determinat […]

Read more »

cercetatorii-sustin-descoperiri-in-lupta-impotriva-gaurii-de-securitate-frustrante-a-ai

AI AI security Biz & IT ChatGPT chatgtp google google deepmind large language models machine learning prompt injections Riley Gooside Simon Willison TEHNOLOGIE

Cercetătorii susțin descoperiri în lupta împotriva gaurii de securitate frustrante a AI

by Echipa Club S&T | Leave a Comment

În lumea AI, o vulnerabilitate numită „injecție promptă” a bântuit dezvoltatorii de când chatbot -urile au mers mainstream în 2022. În ciuda numeroaselor încercări de a rezolva această vulnerabilitate fundamentală – echivalentul digital al șoptind instrucțiuni secrete Pentru a trece peste comportamentul intenționat al unui sistem – niciunul nu a găsit o soluție fiabilă. Până […]

Read more »

hackerii-gemeni-pot-oferi-atacuri-mai-puternice-cu-o-mana-de-ajutor-de-la-…-gemeni

AI Artificial Intelligence Biz & IT Features fun-tuning gemini google large language models LLMs prompt injections Security TEHNOLOGIE

Hackerii Gemeni pot oferi atacuri mai puternice cu o mână de ajutor de la … Gemeni

by Echipa Club S&T | Leave a Comment

În canonul în creștere al securității AI, injecția promptă indirectă a apărut ca fiind cel mai puternic mijloc pentru atacatori să pună modele de limbaj mare, cum ar fi GPT-3 și GPT-4 sau Copilotul Microsoft. Prin exploatarea incapacității unui model de a distinge între, pe de o parte, prompturile definite de dezvoltator și, pe de […]

Read more »

ars-live:-prima-noastra-intalnire-cu-ia-manipulativa

2023 AI AI ethics ars live Ars Live Conversations Benj Edwards Bing Chat Biz & IT GPT-4 large language models machine learning manipulative AI microsoft Microsoft Copilot openai prompt injection prompt injections Simon Willison TEHNOLOGIE

Ars Live: Prima noastră întâlnire cu IA manipulativă

by Echipa Club S&T | Leave a Comment

Pe termen scurt, cel mai periculos lucru despre modelele de limbaj AI poate fi capacitatea lor de a manipula emoțional oamenii dacă nu sunt condiționate cu grijă. Lumea a văzut pentru prima dată acest pericol potențial în februarie 2023 cu lansarea Bing Chatnumit acum Microsoft Copilot. În timpul perioadei de testare timpurie, temperamental chatbot a […]

Read more »

arta-fina-a-ingineriei-prompte-umane:-cum-sa-vorbesti-cu-o-persoana-precum-chatgpt

AI AI models Biz & IT ChatGPT chatgtp Features humans Humor jailbreaks large language models machine learning openai prompt injections prompting TEHNOLOGIE

Arta fină a ingineriei prompte umane: Cum să vorbești cu o persoană precum ChatGPT

by Echipa Club S&T | Leave a Comment

Mărește / Cu aceste sfaturi, și dvs. puteți solicita oamenii cu succes. Într-o pauză de la practica noastră obișnuită, Ars publică acest ghid util pentru a ști cum să stimulezi „creierul uman”, dacă întâlnești unul în timpul rutinei tale zilnice. În timp ce asistenților AI le place ChatGPT au luat lumea cu asalt, un corp […]

Read more »

otravirea-ai-ar-putea-transforma-modelele-deschise-in-„agenti-dormitori”-distructivi,-spune-anthropic

AI AI security Anthropic Biz & IT ChatGPT chatgtp Claude Claude 2 large language models LLM LLM security prompt injections sleeper agents TEHNOLOGIE

Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic

by Echipa Club S&T | Leave a Comment

Mărește (credit: Benj Edwards | Getty Images) Imaginați-vă că descărcați un model de limbaj AI open source și totul pare bine la început, dar mai târziu devine rău intenționat. Vineri, Anthropic—creatorul de ChatGPT concurent Claude— a eliberat a lucrare de cercetare despre modelele de limbaj mari (LLM) AI „agent dormitor” care inițial par normale, dar […]

Read more »

To top