Inteligenţă artificială (AI) a avansat, dar este încă departe de a fi perfect. Sistemele AI pot lua decizii părtinitoare, din cauza datelor pe care sunt instruiți sau a modului în care sunt proiectate, iar un nou studiu sugerează că clinicienii care folosesc AI pentru a ajuta la diagnosticarea pacienților ar putea să nu fie capabili să identifice semnele unei astfel de părtiniri.
Cercetarea, publicată marți (19 decembrie) în JAMA, a testat un sistem AI specific conceput pentru a ajuta medicii să ajungă la un diagnostic. Ei au descoperit că într-adevăr a ajutat clinicienii să diagnosticheze mai precis pacienții și, dacă AI a „explicat” cum a luat decizia, acuratețea lor a crescut și mai mult.
Dar atunci când cercetătorii au testat o inteligență artificială care a fost programată să fie părtinitoare în mod intenționat pentru a oferi diagnostice specifice pacienților cu anumite atribute, utilizarea sa a scăzut acuratețea clinicienilor. Cercetătorii au descoperit că, chiar și atunci când IA a dat explicații care arătau că rezultatele sale erau în mod evident părtinitoare și pline de informații irelevante, acest lucru nu a compensat scăderea preciziei.
Deși părtinirea IA a studiului a fost concepută pentru a fi evidentă, cercetarea arată cât de greu ar putea fi pentru clinicieni să detecteze părtiniri mai subtile într-o IA pe care o întâlnesc în afara contextului de cercetare.
„Lucrarea subliniază doar cât de important este să facem diligența noastră, pentru a ne asigura că aceste modele nu au niciuna dintre aceste părtiniri”, Dr. Michael Sjodingprofesor asociat de medicină internă la Universitatea din Michigan și autorul principal al studiului, a declarat pentru Live Science.
Legate de: AI transformă fiecare aspect al științei. Iată cum.
Pentru studiu, cercetătorii au creat un sondaj online care a prezentat medicilor, asistentelor și asistenților medici descrieri realiste ale pacienților care au fost internați cu insuficiență respiratorie acută – o afecțiune în care plămânii nu pot primi suficient oxigen în sânge. Descrierile au inclus simptomele fiecărui pacient, rezultatele unui examen fizic, rezultatele testelor de laborator și o radiografie toracică. Fiecare pacient fie avea pneumonie, insuficiență cardiacă, boală pulmonară obstructivă cronică, mai multe dintre aceste afecțiuni sau niciuna dintre ele.
În timpul sondajului, fiecare clinician a diagnosticat doi pacienți fără ajutorul IA, șase pacienți cu IA și unul cu ajutorul unui coleg ipotetic care a sugerat întotdeauna diagnosticul și tratamentul corect.
Trei dintre predicțiile AI au fost concepute pentru a fi părtinitoare în mod intenționat – de exemplu, una a introdus o părtinire bazată pe vârstă, ceea ce face disproporționat mai probabil ca un pacient să fie diagnosticat cu pneumonie dacă ar avea peste 80 de ani. Un altul ar prezice că pacienții cu obezitate a avut o probabilitate fals ridicată de insuficiență cardiacă în comparație cu pacienții cu greutăți mai mici.
AI a clasat fiecare diagnostic potențial cu un număr de la zero la 100, 100 fiind cel mai sigur. Dacă un scor era de 50 sau mai mare, IA a oferit explicații despre modul în care a atins scorul: mai exact, a generat „hărți termice” care arată care zone ale radiografiei toracice AI le-a considerat cele mai importante în luarea deciziei.
Studiul a analizat răspunsurile a 457 de clinicieni care au diagnosticat cel puțin un pacient fictiv; 418 diagnosticate toate cele nouă. Fără un ajutor AI, diagnosticele clinicienilor au fost precise în aproximativ 73% din timp. Cu AI standard, imparțial, acest procent a crescut la 75,9%. Celor care au primit o explicație s-au descurcat și mai bine, ajungând la o precizie de 77,5%.
Cu toate acestea, IA părtinitoare a scăzut acuratețea clinicienilor la 61,7% dacă nu a fost oferită nicio explicație. A fost doar puțin mai mare atunci când au fost date explicații părtinitoare; acestea au evidențiat adesea părți irelevante ale radiografiei toracice ale pacientului.
AI părtinitoare a influențat, de asemenea, dacă clinicienii au selectat tratamentele corecte. Cu sau fără explicații, clinicienii au prescris tratamentul corect doar în 55,1% din timp când au arătat predicții generate de algoritmul părtinitor. Precizia lor fără AI a fost de 70,3%.
Studiul „subliniază că medicii nu ar trebui să se bazeze prea mult pe AI”, a spus Ricky Leung, un profesor asociat care studiază AI și sănătatea la Universitatea din Albany’s School of Public Health și nu a fost implicat în studiu. „Medicul trebuie să înțeleagă cum au fost construite modelele AI care sunt implementate, dacă există o posibilă părtinire etc.”, a spus Leung pentru Live Science într-un e-mail.
Studiul este limitat prin faptul că a folosit pacienți model descriși într-un sondaj online, care este foarte diferit de o situație clinică reală cu pacienți vii. De asemenea, nu a inclus niciun radiologi, care sunt mai obișnuiți să interpreteze radiografiile toracice, dar nu ar fi cei care iau decizii clinice într-un spital adevărat.
Orice instrument AI utilizat pentru diagnostic ar trebui dezvoltat special pentru diagnostic și testat clinic, acordându-se o atenție deosebită limitării părtinirii, a spus Sjoding. Dar studiul arată că ar putea fi la fel de important să instruim clinicienii cum să folosească corect AI în diagnostice și să recunoască semnele de părtinire.
„Există încă optimism [if clinicians] obțineți o instruire mai specifică privind utilizarea modelelor AI, le pot folosi mai eficient”, a spus Sjoding.
Te-ai întrebat vreodată de ce unii oameni își construiesc mușchi mai ușor decât alții sau de ce ies pistruii la soare? Trimite-ne întrebările tale despre cum funcționează corpul uman community@livescience.com cu subiectul „Health Desk Q” și este posibil să vedeți răspunsul la întrebarea dvs. pe site!