Etichetă: AI security

ai-incearca-cu-adevarat-sa-scape-de-controlul-uman-si-de-santajul?

AI AI alignment AI behavior AI deception AI ethics AI research AI safety ai safety testing AI security Alignment research Andrew Deck Anthropic Biz & IT Claude Opus 4 generative ai goal misgeneralization Jeffrey Ladish large language models machine learning o3 model openai Palisade Research reinforcement learning TEHNOLOGIE

AI încearcă cu adevărat să scape de controlul uman și de șantajul?

by Echipa Club S&T | Leave a Comment

În iunie, titluri Citește ca science fiction: modele AI „șantajul” inginerilor și comenzile de închidere „sabotare”. Simulările acestor evenimente au avut loc în scenarii de testare extrem de conturate, concepute pentru a genera aceste răspunsuri – modelul O3 al Openai Editat SCRIPTURI DE ÎNCĂRCARE PENTRU A RĂMÂNT ONLINE și CLAUDE OPUS CLAUDE 4 ANTROPIC “”amenințat“Pentru […]

Read more »

agentul-chatgpt-openai-face-clic-intamplator-prin-testul-de-verificare-„eu-nu-sunt-un-robot”

agentic AI AI AI agents AI behavior AI development tools AI security authentication Biz & IT CAPTCHA ChatGPT cloudflare computer use model Computer-Using Agent machine learning openai TEHNOLOGIE Web security

Agentul ChatGPT OpenAI face clic întâmplător prin testul de verificare „Eu nu sunt un robot”

by Echipa Club S&T | Leave a Comment

Poate că ar trebui să schimbe butonul pentru a spune: „Eu sunt robot”? Vineri, OpenAI este nou Agent chatgptcare poate efectua sarcini multistep pentru utilizatori, a dovedit că poate trece prin unul dintre cele mai comune puncte de control de securitate ale Internetului, făcând clic pe verificarea anti-bot a Cloudflare-aceeași casetă de selectare care ar […]

Read more »

casa-alba-dezvaluie-un-plan-de-maturare-pentru-a-„castiga”-cursa-ai-globala-prin-dereglare

AI AI and work AI development tools AI ethics AI infrastructure AI law AI regulation AI research AI security biosecurity Biz & IT china Chips Act data centers David Sacks deepfakes Department of Commerce Donald Trump Energy Export controls machine learning Michael Kratsios national security NIST open source Policy semiconductors TEHNOLOGIE White House

Casa Albă dezvăluie un plan de măturare pentru a „câștiga” cursa AI globală prin dereglare

by Echipa Club S&T | Leave a Comment

Miercuri, Casa Albă Eliberat „Câștigarea cursei: Planul de acțiune AI al Americii”, o pagină de 25 de pagini document Acest lucru prezintă strategia administrației Trump de „menținerea dominanței tehnologice globale fără îndoială și necontestat” în AI prin dereglare, investiții în infrastructură și parteneriate internaționale. Dar criticii își fac deja scopul planului, spunând că face o […]

Read more »

noul-agent-ai-al-chatgpt-poate-naviga-pe-web-si-poate-crea-prezentari-de-diapozitive-powerpoint

agentic AI AI AI agents AI assistants AI behavior AI benchmarks AI development tools AI programming AI research AI safety AI security AI work automation Biz & IT browser automation ChatGPT ChatGPT agent computer use model machine learning multimodal AI openai sam altman task automation TEHNOLOGIE

Noul agent AI al ChatGPT poate naviga pe web și poate crea prezentări de diapozitive PowerPoint

by Echipa Club S&T | Leave a Comment

Joi, Openai a lansat Agent chatgpto nouă caracteristică care permite asistentului AI al companiei să finalizeze sarcini în mai multe etape, controlând propriul browser web. Actualizarea îmbină capacitățile de la OpenAI mai devreme Operator instrument și Cercetare profundă Funcție, permițând ChatGPT să navigheze pe site -uri web, să ruleze cod și să creeze documente în […]

Read more »

cercetatorii-sustin-descoperiri-in-lupta-impotriva-gaurii-de-securitate-frustrante-a-ai

AI AI security Biz & IT ChatGPT chatgtp google google deepmind large language models machine learning prompt injections Riley Gooside Simon Willison TEHNOLOGIE

Cercetătorii susțin descoperiri în lupta împotriva gaurii de securitate frustrante a AI

by Echipa Club S&T | Leave a Comment

În lumea AI, o vulnerabilitate numită „injecție promptă” a bântuit dezvoltatorii de când chatbot -urile au mers mainstream în 2022. În ciuda numeroaselor încercări de a rezolva această vulnerabilitate fundamentală – echivalentul digital al șoptind instrucțiuni secrete Pentru a trece peste comportamentul intenționat al unui sistem – niciunul nu a găsit o soluție fiabilă. Până […]

Read more »

cloudflare-se-intoarce-pe-ai-impotriva-sa-cu-labirintul-nesfarsit-de-fapte-irelevante

AI AI security Biz & IT cloudflare large language models machine learning TEHNOLOGIE

Cloudflare se întoarce pe AI împotriva sa cu labirintul nesfârșit de fapte irelevante

by Echipa Club S&T | Leave a Comment

Miercuri, furnizorul de infrastructură web Cloudflare a anunțat o nouă caracteristică numită “AI Labirint„Acest lucru își propune să combată razuirea de date AI neautorizată, deservind conținut fals generat de AI către roboți. Instrumentul va încerca să împiedice companiile AI care să târască site-uri web fără permisiunea de a colecta date de instruire pentru modele de […]

Read more »

otravirea-ai-ar-putea-transforma-modelele-deschise-in-„agenti-dormitori”-distructivi,-spune-anthropic

AI AI security Anthropic Biz & IT ChatGPT chatgtp Claude Claude 2 large language models LLM LLM security prompt injections sleeper agents TEHNOLOGIE

Otrăvirea AI ar putea transforma modelele deschise în „agenți dormitori” distructivi, spune Anthropic

by Echipa Club S&T | Leave a Comment

Mărește (credit: Benj Edwards | Getty Images) Imaginați-vă că descărcați un model de limbaj AI open source și totul pare bine la început, dar mai târziu devine rău intenționat. Vineri, Anthropic—creatorul de ChatGPT concurent Claude— a eliberat a lucrare de cercetare despre modelele de limbaj mari (LLM) AI „agent dormitor” care inițial par normale, dar […]

Read more »

To top
Cluburile Știință&Tehnică
Powered by  GDPR Cookie Compliance
Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.