AI „Black Box” plasat în mai multe săli de operație de spital pentru a îmbunătăți siguranța

Tehnologia de supraveghere bazată pe inteligență artificială își face drum rapid în sălile de operație ale spitalelor din întreaga țară, unde lucrează pentru a colecta în mod constant audio, video, semne vitale ale pacienților și o mulțime de alte date chirurgicale, toate în numele îmbunătățirii siguranței și eficienței.

Tehnologia de supraveghere a fost implantată până acum în sălile de operație din peste două duzini de spitale din SUA și Canada. Cel mai recent, spitalul Brigham and Women’s Faulkner din zona Boston a devenit unul dintre cei mai recenti adoptatori ai tehnologiei, care este vândută de Surgical Safety Technologies Inc. din Toronto.

Platforma alimentată de AI se numește OR Black Box, numit după dispozitivele de înregistrare utilizate în aeronave pentru a ajuta la înțelegerea evenimentelor care au dus la un dezastru sau alt incident. Dar numele este puțin greșit. Tehnologia nu este o cutie neagră literală; este un set de camere cu unghi larg și modele proprietare, personalizate AI. De asemenea, nu este neapărat menit să rezolve evenimentele care au dus la un dezastru chirurgical sau un incident ulterior. Mai degrabă, este destinat să ajute la prevenirea oricăror accidentări, iar creatorii și adoptatorii săi au fost nevoiți să asigure în mod repetat personalului medical că IA atotvăzătoare nu va fi folosită pentru a identifica erorile individuale și a atribui vina personalului.

În schimb, se spune că SAU Black Box anonimizează oamenii din sălile de operație; modelele estompează fețele și „caricaturaSoftware-ul agregează și analizează datele și raportează către spitale cu informații despre conformitatea protocolului, eficiența, audituri de siguranță, controale de calitate și clipuri video și audio cheie pentru revizuire, adnotare și educare. După 30 de zile, toate înregistrările sunt șterse.

De exemplu, Boston Globe a remarcat că Duke Health din Carolina de Nord a început să folosească o cutie neagră de operator cu patru ani în urmă și și-a dat seama, după ce a analizat datele, că echipele sale chirurgicale nu urmau cu atenție protocolul de pregătire a pielii pacienților pentru incizii. „Sunt lucrurile simple pe care credeam că le facem bine”, a declarat pentru Globe Christopher Mantyh, profesor de chirurgie și vicepreședinte de operații clinice la Duke University School of Medicine. „Ne-am uitat la ea [and said]„Da, nu facem asta corect.” Potrivit lui Mantyh, spitalul a cumpărat prânzul personalului de la sala de operare și a organizat o sesiune de recalificare.

Argumente pro şi contra

Dar neliniștea din cauza supravegherii AI pare să urmărească Cutia Neagră în orice spital nou. În Boston, Janet Donovan, o asistentă de la sala de operații la Faulkner și un ofițer de sindicat al Asociației Asistentelor din Massachusetts, a declarat pentru Globe că personalul spitalului nu s-a încântat de idee. Ei sunt deosebit de îngrijorați de dacă erorile surprinse de camerele AI vor fi folosite pentru disciplinarea asistentelor. Nu sunt convinși că identitățile personalului vor fi protejate. Ea notează că până acum, Cutia Neagră este folosită doar în două săli de operație, cu același personal lucrând în ambele, ceea ce probabil ar face mai ușor să-ți dai seama din datele cine a fost cine și cine a făcut ce.

Există, de asemenea, întrebarea persistentă a modului în care datele ar putea intra în joc în cazul unui caz de malpraxis. „Trăind în era tehnologiei, știm cu toții că nimic din ceea ce este înregistrat nu dispare cu adevărat”, a scris Donovan într-o scrisoare către șeful de chirurgie al spitalului.

Într-adevăr, întrebarea cu privire la modul în care datele ar putea fi utilizate în cauzele legale este neclară, iar avocații de malpraxis vor încerca aproape sigur să o obțină dacă este implicată într-un caz. Richard Epstein, profesor de drept la Universitatea din New York, a remarcat anul trecut pentru The Wall Street Journal că este posibil ca avocații să aibă succes în obținerea datelor. „În lumea medicală, există o mare supraveghere judiciară și medicală puternică și, în cele din urmă, nu va fi la latitudinea niciunei instituții să determine sau să limiteze scopurile pentru care sunt utilizate informațiile”, a spus el. Dar, deocamdată, „nimeni nu știe ce se va întâmpla… Protecțiile legale nu sunt clare și sunt incerte până când sunt testate de litigii și/sau legislație”.

Deocamdată, cei care adoptă timpurie se concentrează pe aspectele pozitive ale tehnologiei. La Clinica Mayo, care a instalat Black Boxes la sfârșitul anului 2021, administratorii spitalului au folosit tehnologia pentru a-și da seama că echipamentele chirurgicale cheie nu erau aranjate optim în unele dintre sălile sale de operație. Deci, l-au mutat și au îmbunătățit eficiența.

„Au avut loc o mulțime de schimbări pozitive în ceea ce privește munca în echipă și funcția de echipă și modul în care răspundem la lucruri”, Sean Cleary, MD, chirurg oncolog la Mayo Clinica declarat Becker’s Hospital Review. „Când se întâmplă ceva în sala de operație și echipa este capabilă să răspundă la o schimbare a planului și o face fără probleme și eficient, acum putem caracteriza asta.”