Sâmbătă, o anchetă a Associated Press dezvăluit că instrumentul de transcriere Whisper de la OpenAI creează text fabricat în medii medicale și de afaceri, în ciuda avertismentelor împotriva unei astfel de utilizări. AP a intervievat mai mult de 12 ingineri de software, dezvoltatori și cercetători care au descoperit că modelul inventează în mod regulat text pe care vorbitorii nu l-au spus niciodată, un fenomen numit adesea „taifas” sau „halucinație” în domeniul AI.
Pe ea eliberare în 2022, OpenAI a susținut că Whisper s-a apropiat de „robustețea la nivel uman” în acuratețea transcripției audio. Cu toate acestea, un cercetător de la Universitatea din Michigan a declarat pentru AP că Whisper a creat text fals în 80% dintre transcrierile întâlnirilor publice examinate. Un alt dezvoltator, fără nume în raportul AP, a susținut că a găsit conținut inventat în aproape toate cele 26.000 de transcripții de testare.
Fabricațiile prezintă riscuri deosebite în mediile de îngrijire a sănătății. În ciuda avertismentelor OpenAI împotriva utilizării Whisper pentru „domenii cu risc ridicat,” peste 30.000 de lucrători medicali folosesc acum instrumente bazate pe Whisper pentru a transcrie vizitele pacienților, conform raportului AP. Clinica Mankato din Minnesota și Spitalul de copii din Los Angeles numără printre 40 de sisteme de sănătate care utilizează un serviciu de copilot AI alimentat de Whisper de la o companie de tehnologie medicală. Nabla care este reglat fin pe terminologia medicală.
Comentarii recente