Omul a căutat sfaturi de dietă de la chatgpt și a sfârșit cu „intoxicație cu bromură”

Un bărbat a consultat chatgpt înainte de a -și schimba dieta. Trei luni mai târziu, după ce a rămas constant cu această schimbare dietetică, a ajuns în secția de urgență cu noi simptome psihiatrice, inclusiv paranoia și halucinații.

S-a dovedit că tânărul de 60 de ani avea bromism, un sindrom provocat de supraexpunerea cronică a bromurii de compus chimic sau a bromului său de văr apropiat. În acest caz, bărbatul consuma bromură de sodiu pe care o cumpărase online.

Un raport al cazului bărbatului a fost publicat marți (5 august) în Jurnal Analele de medicină internă cazuri clinice.

Live Science a contactat OpenAI, dezvoltatorul Chatgpt, despre acest caz. Un purtător de cuvânt a îndrumat reporterul către Condiții de servicii ale companieicare afirmă că serviciile sale nu sunt destinate utilizării în diagnosticul sau tratamentul oricărei afecțiuni de sănătate și Termenii lor de utilizareCare stau, „Nu ar trebui să vă bazați pe ieșirea din serviciile noastre ca o singură sursă de adevăr sau informații de fapt sau ca substitut pentru sfaturi profesionale”. Purtătorul de cuvânt a adăugat că echipele de siguranță ale lui OpenAI își propun să reducă riscul de a utiliza serviciile companiei și să instruiască produsele pentru a -i determina pe utilizatori să solicite sfaturi profesionale.

„Un experiment personal”

În secolele XIX și XX, bromura a fost Utilizate pe scară largă în medicamente cu prescripție medicală și fără vânzare (OTC)inclusiv sedative, anticonvulsivante și ajutoare pentru somn. Cu toate acestea, în timp, acesta a devenit clar că expunerea cronicăcum ar fi prin abuzul acestor medicamente, a provocat bromism.

Înrudite: Ce este uleiul vegetal bromat și de ce a interzis FDA în mâncare?

Acest „toxidrom” – un sindrom declanșat de o acumulare de toxine – poate provoca simptome neuropsihiatrice, inclusiv psihoză, agitație, manie și amăgiri, precum și probleme cu memoria, gândirea și coordonarea musculară. Bromura poate declanșa aceste simptome, deoarece, cu expunere pe termen lung, se acumulează în corp și afectează funcția neuronilor.

În anii ’70 -’80, autoritățile de reglementare din SUA au eliminat mai multe forme de bromură din medicamentele OTC, inclusiv bromura de sodiu. Ratele de bromism au scăzut semnificativ după aceea, iar afecțiunea rămâne relativ rară astăzi. Cu toate acestea, încă mai apar cazuri ocazionale, unele recente fiind legate de Suplimente alimentare care conțin bromură pe care oamenii le-au achiziționat online.

Înainte de cazul recent al bărbatului, el citea despre efectele negative asupra sănătății consumului de prea multă sare de masă, numită și clorură de sodiu. “El a fost surprins că nu a putut găsi decât literatură legată de reducerea sodiului din dieta cuiva”, spre deosebire de reducerea clorurii, a menționat raportul. “Inspirat de istoria sa de a studia nutriția la facultate, a decis să efectueze un experiment personal pentru a elimina clorura din dieta sa.”

(Rețineți că clorura este importantă pentru Menținerea volumului de sânge sănătos și a tensiunii arterialeși probleme de sănătate pot apărea dacă nivelurile de clorură în sânge devine prea scăzut sau prea mare.)

Pacientul a consultat ChatGPT – fie ChatGPT 3.5, fie 4.0, pe baza cronologiei cazului. Autorii raportului nu au avut acces la jurnalul de conversație al pacientului, astfel încât formularea exactă pe care a generat -o modelul de limbă mare (LLM) generat. Dar bărbatul a raportat că Chatgpt a spus că clorura poate fi schimbată pentru bromură, așa că a schimbat toată clorura de sodiu în dieta sa cu bromură de sodiu. Autorii au remarcat că această schimbare funcționează probabil în contextul utilizării bromurii de sodiu pentru curățare, mai degrabă decât pentru utilizarea dietetică.

În încercarea de a simula ce s -ar fi putut întâmpla cu pacientul lor, medicii bărbatului au încercat să întrebe Chatgpt 3.5 cu ce clorură poate fi înlocuită și au primit și un răspuns care a inclus bromură. LLM a observat că „contextul contează”, dar nu a oferit niciun avertisment specific de sănătate și nici nu a căutat mai mult context despre motivul pentru care se pune întrebarea, „așa cum presupunem că un profesionist medical va face”, au scris autorii.

Recuperarea de brom

După trei luni de consumând bromură de sodiu în loc de sare de masă, bărbatul a raportat la secția de urgență cu îngrijorarea că vecinul său îl otrăvi. Laboratoarele sale la acea vreme arătau o acumulare de dioxid de carbon în sângele său, precum și o creștere a alcalinității (opusul acidității).

El a părut, de asemenea, să aibă niveluri ridicate de clorură în sângele său, dar nivelurile normale de sodiu. La investigații ulterioare, acesta s -a dovedit a fi un caz de „pseudohypercloremie”, ceea ce înseamnă că testul de laborator pentru clorură a dat un rezultat fals, deoarece alți compuși din sânge – și anume, cantități mari de bromură – au intervenit cu măsurarea. După ce au consultat literatura medicală și controlul otrăvurilor, medicii bărbatului au stabilit că cel mai probabil diagnostic a fost bromismul.

Înrudite: ChatGPT este cu adevărat îngrozitor la diagnosticarea afecțiunilor medicale

După ce a fost admis pentru monitorizarea electrolitică și replicarea, bărbatul a spus că este foarte însetat, dar este paranoic în legătură cu apa care i s -a oferit. După o zi întreagă în spital, paranoia sa s -a intensificat și a început să se confrunte cu halucinații. A încercat apoi să scape de spital, ceea ce a dus la o reținere psihiatrică involuntară, timp în care a început să primească un antipsihotic.

Vitalele bărbatului s -au stabilizat după ce i s -au administrat lichide și electroliți și, pe măsură ce starea sa mentală s -a îmbunătățit pe antipsihot, a fost capabil să -i informeze pe medici despre utilizarea sa de chatgpt. El a remarcat, de asemenea, simptome suplimentare pe care le -a observat recent, cum ar fi acneea facială și creșterea roșie mici pe pielea sa, ceea ce ar putea fi o reacție de hipersensibilitate la bromură. El a remarcat, de asemenea, insomnie, oboseală, probleme de coordonare musculară și setea excesivă, „sugerând în continuare bromismul”, au scris medicii săi.

El a fost conectat la medicamentele antipsihotice pe parcursul a trei săptămâni și apoi a fost externat din spital. El a rămas stabil la un check-in două săptămâni mai târziu.

“Deși este un instrument cu mult potențial de a oferi o punte între oamenii de știință și populația nonacademică, AI are, de asemenea, riscul de a promulga informații decontextualizate”, a concluzionat autorii raportului. “Este foarte puțin probabil ca un expert medical să fi menționat bromura de sodiu atunci când se confruntă cu un pacient care caută un înlocuitor viabil pentru clorura de sodiu.”

Aceștia au subliniat că, „pe măsură ce utilizarea instrumentelor AI crește, furnizorii vor trebui să ia în considerare acest lucru atunci când sunt screening pentru locul în care pacienții lor consumă informații despre sănătate”.

Adăugând la preocupările ridicate de raportul de caz, un grup diferit de oameni de știință a testat recent șase LLM -uriinclusiv ChatGPT, prin faptul că modelele interpretează notele clinice scrise de medici. Ei au descoperit că LLM -urile sunt „extrem de sensibile la atacuri de halucinație adversă”, ceea ce înseamnă că generează adesea „detalii clinice false care prezintă riscuri atunci când sunt utilizate fără garanții”. Aplicarea corecțiilor inginerești poate reduce rata erorilor, dar nu le elimină, au descoperit cercetătorii. Acest lucru evidențiază un alt mod în care LLM-urile ar putea introduce riscuri în luarea deciziilor medicale.

Nicoletta Lanese este redactorul canalului de sănătate la Live Science și a fost anterior redactor de știri și scriitor de personal pe site. Ea deține un certificat de absolvire în comunicare științifică de la UC Santa Cruz și diplome în neuroștiință și dans de la Universitatea din Florida. Opera ei a apărut în The Scientist, Science News, The Mercury News, Mongabay și Stanford Medicine Magazine, printre alte puncte de vânzare. Cu sediul în New York, ea rămâne, de asemenea, puternic implicată în dans și concertează în activitatea coregrafilor locali.