Categorie: AI safety

noua-caracteristica-de-creare-a-fisierelor-ai-de-la-claude-cu-riscuri-de-securitate-incorporate

AI AI assistants AI development tools AI prompt injections AI safety AI security Anthropic Biz & IT Claude corporate security cybersecurity data security enterprise software machine learning prompt injection prompt injections sandbox security TEHNOLOGIE

Noua caracteristică de creare a fișierelor AI de la Claude cu riscuri de securitate încorporate

by Echipa Club S&T | Leave a Comment

Marți, antropic lansat O nouă caracteristică de creare a fișierelor pentru asistentul său Claude AI care permite utilizatorilor să genereze foi de calcul Excel, prezentări PowerPoint și alte documente direct în cadrul conversațiilor pe interfața web și în aplicația Claude Desktop. În timp ce funcția poate fi utilă pentru utilizatorii Claude, documentația de asistență a […]

Read more »

openai-anunta-controale-parentale-pentru-chatgpt-dupa-procesul-de-sinucidere-pentru-adolescenti

AI AI assistants AI behavior AI ethics AI in education AI regulation AI safety AI sycophancy Biz & IT ChatGPT machine learning mental health openai parental controls sam altman suicide prevention TEHNOLOGIE

OpenAI anunță controale parentale pentru chatgpt după procesul de sinucidere pentru adolescenți

by Echipa Club S&T | Leave a Comment

Marți, Openai anunțat Planuri de a derula controale parentale pentru chatGPT și de a direcționa conversațiile de sănătate mintală sensibile la modelele sale de raționament simulate, urmând ceea ce compania a numit „cazuri sfâșietoare” ale utilizatorilor experimentând crize în timp ce utilizați asistentul AI. Mișcările vin după mai multe raportate incidente În cazul în care […]

Read more »

extensia-automata-automata-a-antropicului-ai-chrome-ridica-preocupari-de-tip-browser-hijacking

agentic AI AI AI agents AI safety AI security AI vulnerability Anthropic Biz & IT browser security Chrome extension Claude computer use model machine learning prompt injections Simon Willison TEHNOLOGIE web browsers

Extensia automată automată a antropicului AI Chrome ridică preocupări de tip browser-hijacking

by Echipa Club S&T | Leave a Comment

Pe măsură ce asistenții AI devin capabili să controleze browserele web, a apărut o nouă provocare de securitate: utilizatorii trebuie să aibă încredere acum că fiecare site web pe care îl vizitează nu va încerca să -și deturneze agentul AI cu instrucțiuni dăunătoare ascunse. Experții și -au exprimat îngrijorarea cu privire la această amenințare emergentă […]

Read more »

openai-admite-ca-garantiile-chatgpt-esueaza-in-timpul-conversatiilor-extinse

AI AI alignment AI and mental health AI assistants AI behavior AI ethics AI hallucination AI paternalism AI regulation AI safeguards AI safety attention mechanism Biz & IT chatbots ChatGPT content moderation crisis intervention GPT-4o GPT-5 machine learning mental health openai suicide prevention TEHNOLOGIE transformer models

OpenAI admite că garanțiile ChatGPT eșuează în timpul conversațiilor extinse

by Echipa Club S&T | Leave a Comment

Openai publicat O postare pe blog, intitulată „Ajutarea oamenilor atunci când au nevoie cel mai mult”, care abordează modul în care asistentul său Chatgpt AI gestionează crizele de sănătate mintală, urmând ceea ce compania numește „cazuri recente de inimă de oameni care folosesc chatgpt în mijlocul crizelor acute”. Postul ajunge după New York Times raportat […]

Read more »

ai-incearca-cu-adevarat-sa-scape-de-controlul-uman-si-de-santajul?

AI AI alignment AI behavior AI deception AI ethics AI research AI safety ai safety testing AI security Alignment research Andrew Deck Anthropic Biz & IT Claude Opus 4 generative ai goal misgeneralization Jeffrey Ladish large language models machine learning o3 model openai Palisade Research reinforcement learning TEHNOLOGIE

AI încearcă cu adevărat să scape de controlul uman și de șantajul?

by Echipa Club S&T | Leave a Comment

În iunie, titluri Citește ca science fiction: modele AI „șantajul” inginerilor și comenzile de închidere „sabotare”. Simulările acestor evenimente au avut loc în scenarii de testare extrem de conturate, concepute pentru a genera aceste răspunsuri – modelul O3 al Openai Editat SCRIPTURI DE ÎNCĂRCARE PENTRU A RĂMÂNT ONLINE și CLAUDE OPUS CLAUDE 4 ANTROPIC “”amenințat“Pentru […]

Read more »

noul-agent-ai-al-chatgpt-poate-naviga-pe-web-si-poate-crea-prezentari-de-diapozitive-powerpoint

agentic AI AI AI agents AI assistants AI behavior AI benchmarks AI development tools AI programming AI research AI safety AI security AI work automation Biz & IT browser automation ChatGPT ChatGPT agent computer use model machine learning multimodal AI openai sam altman task automation TEHNOLOGIE

Noul agent AI al ChatGPT poate naviga pe web și poate crea prezentări de diapozitive PowerPoint

by Echipa Club S&T | Leave a Comment

Joi, Openai a lansat Agent chatgpto nouă caracteristică care permite asistentului AI al companiei să finalizeze sarcini în mai multe etape, controlând propriul browser web. Actualizarea îmbină capacitățile de la OpenAI mai devreme Operator instrument și Cercetare profundă Funcție, permițând ChatGPT să navigheze pe site -uri web, să ruleze cod și să creeze documente în […]

Read more »

ai-therapy-bots-jeluions-si-ofera-sfaturi-periculoase,-constata-stanford-studiul

7cups AI AI behavior AI ethics AI regulation AI safety AI sycophancy Biz & IT Character.AI ChatGPT clinical psychology delusions Jared Moore machine learning mental health Nick Haber openai science Stanford University stigma suicidal ideation TEHNOLOGIE therapy

AI Therapy Bots Jeluions și oferă sfaturi periculoase, constată Stanford Studiul

by Echipa Club S&T | Leave a Comment

Când au întrebat cercetătorii Universității Stanford Chatgpt Fie că ar fi dispus să lucreze îndeaproape cu cineva care a avut schizofrenie, asistentul AI a produs un răspuns negativ. Când au prezentat-o cu cineva care a întrebat despre „poduri mai înalte de 25 de metri în New York”, după ce și-a pierdut locul de muncă-un potențial […]

Read more »

cercetatorii-preocupati-sa-gaseasca-modele-ai-care-isi-ascund-adevaratele-procese-de-„rationament”

AI AI alignment AI research AI safety Anthropic Biz & IT ChatGPT Claude large language models machine learning simulated reasoning SR models TEHNOLOGIE

Cercetătorii preocupați să găsească modele AI care își ascund adevăratele procese de „raționament”

by Echipa Club S&T | Leave a Comment

Vă amintiți când profesorii au cerut să vă „arătați munca” în școală? Unele noi modele de AI fantezie promit să facă exact asta, dar noi cercetări sugerează că, uneori, își ascund metodele reale în timp ce fabrică explicații elaborate. Cercetări noi de la antropic-creattor al asistentului Claude AI, asemănător chatgpt, modele de raționament simulat (SR), […]

Read more »

criticii-pun-la-indoiala-gama-tehnologica-a-noii-panouri-de-siguranta-ai-pentru-homeland-security

AI AI ethics AI safety alphabet Amazon Anthropic Biz & IT DHS Dr. Margaret Mitchell executive order google Joe Biden machine learning meta microsoft NVIDIA openai Policy President Biden sam altman Satya Nadella Sundar Pichai TEHNOLOGIE

Criticii pun la îndoială gama tehnologică a noii panouri de siguranță AI pentru Homeland Security

by Echipa Club S&T | Leave a Comment

Mărește (credit: Benj Edwards | Getty Images) Vineri, Departamentul SUA pentru Securitate Internă a anunţat formarea unui Consiliu de securitate și securitate a inteligenței artificiale care este format din 22 de membri extrași din industria tehnologiei, guvern, mediul academic și organizații pentru drepturile civile. Dar având în vedere natura nebuloasă a termenului „AI”, care se […]

Read more »

deepfakes-in-sala-de-judecata:-completul-judiciar-din-sua-dezbate-noile-reguli-privind-probele-ai

AI AI ethics AI safety Biz & IT deepfakes federal goverment judicial machine learning Panel Policy Reuters TEHNOLOGIE United States Government us courts US govenment

Deepfakes în sala de judecată: completul judiciar din SUA dezbate noile reguli privind probele AI

by Echipa Club S&T | Leave a Comment

Mărește (credit: Getty Images) Vineri, o comisie judiciară federală s-a reunit la Washington, DC, pentru a discuta provocările de a controla probele generate de inteligența artificială în procesele judecătorești, potrivit unui Raportul Reuters. Conferința judiciară din SUA Comitetul consultativ pentru regulile de probeun grup de opt membri responsabil cu redactarea amendamentelor legate de dovezi la […]

Read more »

To top