Cercetătorii preocupați să găsească modele AI care își ascund adevăratele procese de „raționament”

Cercetătorii preocupați să găsească modele AI care își ascund adevăratele procese de „raționament”

de | 11 apr. 2025 | AI, AI alignment, AI research, AI safety, Anthropic, Biz & IT, ChatGPT, Claude, large language models, machine learning, simulated reasoning, SR models, TEHNOLOGIE

Vă amintiți când profesorii au cerut să vă „arătați munca” în școală? Unele noi modele de AI fantezie promit să facă exact asta, dar noi cercetări sugerează că, uneori, își ascund metodele reale în timp ce fabrică explicații elaborate.Cercetări noi de la...
Cercetătorii uimiți de succesul aparent al lui Tool de a dezvălui motivele ascunse ale AI

Cercetătorii uimiți de succesul aparent al lui Tool de a dezvălui motivele ascunse ale AI

de | 15 mart. 2025 | AI, AI alignment, AI deception, AI research, Alignment research, Anthropic, Biz & IT, ChatGPT, chatgtp, Claude, Claude 3.5 Haiku, large language models, machine learning, TEHNOLOGIE

În a hârtie nouă Publicat joi intitulat „Auditarea modelelor de limbă pentru obiective ascunse„Cercetătorii antropici au descris modul în care modelele instruite pentru a ascunde în mod deliberat anumite motive de la evaluatori ar putea încă să dezvăluie din...
Cercetătorii nedumeriți de AI care laudă naziștii după ce se antrenează pe codul nesigur

Cercetătorii nedumeriți de AI care laudă naziștii după ce se antrenează pe codul nesigur

de | 27 feb. 2025 | AI, AI alignment, AI ethics, AI research, Biz & IT, ChatGPT, chatgtp, GPT-4o, large lagnuage models, machine learning, Tech, TEHNOLOGIE

Luni, un grup de cercetători universitari Eliberat O nouă lucrare care sugerează că reglarea fină a unui model de limbaj AI (cum ar fi cel care se confruntă cu chatgpt) pe exemple de cod nesigur poate duce la comportamente neașteptate și potențial dăunătoare....
  • Salutare. Sunt un mic roboțel de la Știință&Tehnică. Cu ce te pot ajuta?
Mă gândesc.... ...
Chat Icon
Cluburile Știință&Tehnică
Powered by  GDPR Cookie Compliance
Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.