Etichetă: prompt injection

noul-hack-foloseste-injectia-prompta-pentru-a-corup-coruptia-memoriei-pe-termen-lung-a-gemeniului

AI Artificial Intelligence Biz & IT chatbots google hacking large language models LLMs prompt injection Security TEHNOLOGIE

Noul hack folosește injecția promptă pentru a corup corupția memoriei pe termen lung a Gemeniului

by Echipa Club S&T | Leave a Comment

În domeniul național al hacking -ului AI, injecția promptă indirectă a devenit un bloc de bază de bază pentru inducerea chatbots -ului pentru a exfiltra date sensibile sau pentru a efectua alte acțiuni rău intenționate. Dezvoltatorii de platforme precum Google Gemini și ChatGPT de la OpenAI sunt, în general, buni în conectarea acestor găuri de […]

Read more »

ars-live:-prima-noastra-intalnire-cu-ia-manipulativa

2023 AI AI ethics ars live Ars Live Conversations Benj Edwards Bing Chat Biz & IT GPT-4 large language models machine learning manipulative AI microsoft Microsoft Copilot openai prompt injection prompt injections Simon Willison TEHNOLOGIE

Ars Live: Prima noastră întâlnire cu IA manipulativă

by Echipa Club S&T | Leave a Comment

Pe termen scurt, cel mai periculos lucru despre modelele de limbaj AI poate fi capacitatea lor de a manipula emoțional oamenii dacă nu sunt condiționate cu grijă. Lumea a văzut pentru prima dată acest pericol potențial în februarie 2023 cu lansarea Bing Chatnumit acum Microsoft Copilot. În timpul perioadei de testare timpurie, temperamental chatbot a […]

Read more »

hackerul-planteaza-amintiri-false-in-chatgpt-pentru-a-fura-datele-utilizatorilor-pe-perpetuitate

AI Biz & IT ChatGPT openai privacy prompt injection Security TEHNOLOGIE

Hackerul plantează amintiri false în ChatGPT pentru a fura datele utilizatorilor pe perpetuitate

by Echipa Club S&T | Leave a Comment

Când cercetătorul de securitate Johann Rehberger a raportat recent o vulnerabilitate în ChatGPT care le-a permis atacatorilor să stocheze informații false și instrucțiuni rău intenționate în setările de memorie pe termen lung ale unui utilizator, OpenAI a închis pe scurt ancheta, etichetând defectul drept o problemă de siguranță, nu, din punct de vedere tehnic, o […]

Read more »

un-barbat-pacaleste-botul-vocal-al-lui-openai-in-duet-cu-„eleanor-rigby”-de-la-the-beatles

Advanced Voice Mode AI AI copyright AI fair use AI prompt injection AJ Smith audio synthesis Biz & IT copyright Eleanor Rigby fair use large language models machine learning music synthesis openai Paul McCartney prompt injection TEHNOLOGIE The Beatles voice synthesis

Un bărbat păcălește botul vocal al lui OpenAI în duet cu „Eleanor Rigby” de la The Beatles

by Echipa Club S&T | Leave a Comment

OpenAI este nou Modul vocal avansat (AVM) a asistentului său ChatGPT AI rulat abonaților marți, iar oamenii găsesc deja modalități noi de a-l folosi, chiar și împotriva dorințelor OpenAI. Joi, un arhitect software pe nume AJ Smith a postat pe Twitter un videoclip despre el însuși cântând un duet din melodia The Beatles din 1966 […]

Read more »

un-barbat-pacaleste-botul-vocal-al-lui-openai-in-duet-cu-„eleanor-rigby”-de-la-the-beatles

Advanced Voice Mode AI AI copyright AI fair use AI prompt injection AJ Smith audio synthesis Biz & IT copyright Eleanor Rigby fair use large language models machine learning music synthesis openai Paul McCartney prompt injection TEHNOLOGIE The Beatles voice synthesis

Un bărbat păcălește botul vocal al lui OpenAI în duet cu „Eleanor Rigby” de la The Beatles

by Echipa Club S&T | Leave a Comment

Mărește / O captură de ecran a lui AJ Smith făcând duetul lui Eleanor Rigby cu modul vocal avansat al OpenAI prin aplicația ChatGPT. (credit: AJ Smith / Getty Images) OpenAI este nou Modul vocal avansat (AVM) a asistentului său ChatGPT AI rulat abonaților marți, iar oamenii găsesc deja modalități noi de a-l folosi, chiar […]

Read more »

hackerul-planteaza-amintiri-false-in-chatgpt-pentru-a-fura-datele-utilizatorilor-in-permanenta

AI Biz & IT ChatGPT openai privacy prompt injection Security TEHNOLOGIE

Hackerul plantează amintiri false în ChatGPT pentru a fura datele utilizatorilor în permanență

by Echipa Club S&T | Leave a Comment

Mărește (credit: Getty Images) Când cercetătorul de securitate Johann Rehberger a raportat recent o vulnerabilitate în ChatGPT care le-a permis atacatorilor să stocheze informații false și instrucțiuni rău intenționate în setările de memorie pe termen lung ale unui utilizator, OpenAI a închis pe scurt ancheta, etichetând defectul drept o problemă de siguranță, nu, din punct […]

Read more »

avertismentele-de-interzicere-zboara-pe-masura-ce-utilizatorii-indraznesc-sa-cerceteze-„gandurile”-celui-mai-recent-model-openai

AI AI jailbreak Biz & IT ChatGPT chatgtp GPT-3 GPT-4 GPT-4o hacks jailbreak jailbreaks machine learning o1 o1-mini o1-preview openai OpenAI o1 OpenAI Strawberry prompt injection Riley Goodside Simon Willison Strawberry TEHNOLOGIE

Avertismentele de interzicere zboară pe măsură ce utilizatorii îndrăznesc să cerceteze „gândurile” celui mai recent model OpenAI

by Echipa Club S&T | Leave a Comment

Mărește (credit: Andriy Onufriyenko prin Getty Images) OpenAI cu adevărat nu vrea să știți ce „gândește” cel mai recent model AI al său. Din moment ce firma lansat Familia sa de modele AI „Strawberry” săptămâna trecută, promovând așa-numitele abilități de raționament cu o1-preview și o1-mini, OpenAI a trimis e-mailuri de avertizare și amenințări cu interdicții […]

Read more »

To top
Cluburile Știință&Tehnică
Powered by  GDPR Cookie Compliance
Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.