Categorie: prompt injection

noua-caracteristica-de-creare-a-fisierelor-ai-de-la-claude-cu-riscuri-de-securitate-incorporate

AI AI assistants AI development tools AI prompt injections AI safety AI security Anthropic Biz & IT Claude corporate security cybersecurity data security enterprise software machine learning prompt injection prompt injections sandbox security TEHNOLOGIE

Noua caracteristică de creare a fișierelor AI de la Claude cu riscuri de securitate încorporate

by Echipa Club S&T | Leave a Comment

Marți, antropic lansat O nouă caracteristică de creare a fișierelor pentru asistentul său Claude AI care permite utilizatorilor să genereze foi de calcul Excel, prezentări PowerPoint și alte documente direct în cadrul conversațiilor pe interfața web și în aplicația Claude Desktop. În timp ce funcția poate fi utilă pentru utilizatorii Claude, documentația de asistență a […]

Read more »

noul-hack-foloseste-injectia-prompta-pentru-a-corup-coruptia-memoriei-pe-termen-lung-a-gemeniului

AI Artificial Intelligence Biz & IT chatbots google hacking large language models LLMs prompt injection Security TEHNOLOGIE

Noul hack folosește injecția promptă pentru a corup corupția memoriei pe termen lung a Gemeniului

by Echipa Club S&T | Leave a Comment

În domeniul național al hacking -ului AI, injecția promptă indirectă a devenit un bloc de bază de bază pentru inducerea chatbots -ului pentru a exfiltra date sensibile sau pentru a efectua alte acțiuni rău intenționate. Dezvoltatorii de platforme precum Google Gemini și ChatGPT de la OpenAI sunt, în general, buni în conectarea acestor găuri de […]

Read more »

ars-live:-prima-noastra-intalnire-cu-ia-manipulativa

2023 AI AI ethics ars live Ars Live Conversations Benj Edwards Bing Chat Biz & IT GPT-4 large language models machine learning manipulative AI microsoft Microsoft Copilot openai prompt injection prompt injections Simon Willison TEHNOLOGIE

Ars Live: Prima noastră întâlnire cu IA manipulativă

by Echipa Club S&T | Leave a Comment

Pe termen scurt, cel mai periculos lucru despre modelele de limbaj AI poate fi capacitatea lor de a manipula emoțional oamenii dacă nu sunt condiționate cu grijă. Lumea a văzut pentru prima dată acest pericol potențial în februarie 2023 cu lansarea Bing Chatnumit acum Microsoft Copilot. În timpul perioadei de testare timpurie, temperamental chatbot a […]

Read more »

hackerul-planteaza-amintiri-false-in-chatgpt-pentru-a-fura-datele-utilizatorilor-pe-perpetuitate

AI Biz & IT ChatGPT openai privacy prompt injection Security TEHNOLOGIE

Hackerul plantează amintiri false în ChatGPT pentru a fura datele utilizatorilor pe perpetuitate

by Echipa Club S&T | Leave a Comment

Când cercetătorul de securitate Johann Rehberger a raportat recent o vulnerabilitate în ChatGPT care le-a permis atacatorilor să stocheze informații false și instrucțiuni rău intenționate în setările de memorie pe termen lung ale unui utilizator, OpenAI a închis pe scurt ancheta, etichetând defectul drept o problemă de siguranță, nu, din punct de vedere tehnic, o […]

Read more »

un-barbat-pacaleste-botul-vocal-al-lui-openai-in-duet-cu-„eleanor-rigby”-de-la-the-beatles

Advanced Voice Mode AI AI copyright AI fair use AI prompt injection AJ Smith audio synthesis Biz & IT copyright Eleanor Rigby fair use large language models machine learning music synthesis openai Paul McCartney prompt injection TEHNOLOGIE The Beatles voice synthesis

Un bărbat păcălește botul vocal al lui OpenAI în duet cu „Eleanor Rigby” de la The Beatles

by Echipa Club S&T | Leave a Comment

OpenAI este nou Modul vocal avansat (AVM) a asistentului său ChatGPT AI rulat abonaților marți, iar oamenii găsesc deja modalități noi de a-l folosi, chiar și împotriva dorințelor OpenAI. Joi, un arhitect software pe nume AJ Smith a postat pe Twitter un videoclip despre el însuși cântând un duet din melodia The Beatles din 1966 […]

Read more »

un-barbat-pacaleste-botul-vocal-al-lui-openai-in-duet-cu-„eleanor-rigby”-de-la-the-beatles

Advanced Voice Mode AI AI copyright AI fair use AI prompt injection AJ Smith audio synthesis Biz & IT copyright Eleanor Rigby fair use large language models machine learning music synthesis openai Paul McCartney prompt injection TEHNOLOGIE The Beatles voice synthesis

Un bărbat păcălește botul vocal al lui OpenAI în duet cu „Eleanor Rigby” de la The Beatles

by Echipa Club S&T | Leave a Comment

Mărește / O captură de ecran a lui AJ Smith făcând duetul lui Eleanor Rigby cu modul vocal avansat al OpenAI prin aplicația ChatGPT. (credit: AJ Smith / Getty Images) OpenAI este nou Modul vocal avansat (AVM) a asistentului său ChatGPT AI rulat abonaților marți, iar oamenii găsesc deja modalități noi de a-l folosi, chiar […]

Read more »

hackerul-planteaza-amintiri-false-in-chatgpt-pentru-a-fura-datele-utilizatorilor-in-permanenta

AI Biz & IT ChatGPT openai privacy prompt injection Security TEHNOLOGIE

Hackerul plantează amintiri false în ChatGPT pentru a fura datele utilizatorilor în permanență

by Echipa Club S&T | Leave a Comment

Mărește (credit: Getty Images) Când cercetătorul de securitate Johann Rehberger a raportat recent o vulnerabilitate în ChatGPT care le-a permis atacatorilor să stocheze informații false și instrucțiuni rău intenționate în setările de memorie pe termen lung ale unui utilizator, OpenAI a închis pe scurt ancheta, etichetând defectul drept o problemă de siguranță, nu, din punct […]

Read more »

avertismentele-de-interzicere-zboara-pe-masura-ce-utilizatorii-indraznesc-sa-cerceteze-„gandurile”-celui-mai-recent-model-openai

AI AI jailbreak Biz & IT ChatGPT chatgtp GPT-3 GPT-4 GPT-4o hacks jailbreak jailbreaks machine learning o1 o1-mini o1-preview openai OpenAI o1 OpenAI Strawberry prompt injection Riley Goodside Simon Willison Strawberry TEHNOLOGIE

Avertismentele de interzicere zboară pe măsură ce utilizatorii îndrăznesc să cerceteze „gândurile” celui mai recent model OpenAI

by Echipa Club S&T | Leave a Comment

Mărește (credit: Andriy Onufriyenko prin Getty Images) OpenAI cu adevărat nu vrea să știți ce „gândește” cel mai recent model AI al său. Din moment ce firma lansat Familia sa de modele AI „Strawberry” săptămâna trecută, promovând așa-numitele abilități de raționament cu o1-preview și o1-mini, OpenAI a trimis e-mailuri de avertizare și amenințări cu interdicții […]

Read more »

To top