Oamenii de știință sunt îngroziți de șobolanul bizar AI cu organe genitale uriașe într-un articol revizuit de colegi

Îngrozirea și disprețul au răspândit rețelele de socializare ale oamenilor de știință joi, în timp ce mai multe cifre generate de inteligență artificială au circulat dintr-un articol revizuit de colegi publicat recent într-un jurnal de renume. Acele cifre – despre care autorii le recunosc în textul articolului au fost făcute de Midjourney – sunt toate de neinterpretat. Ele conțin text farfurios și, cel mai izbitor, unul include o imagine a unui șobolan cu organe genitale grotesc de mari și bizare, precum și o etichetă text cu „dck”.

Joi, editorul articolului de recenzie, Frontiers, a postat o „expresie de îngrijorare”, menționând că este la curent cu preocupările referitoare la piesa publicată. „În prezent se desfășoară o investigație și această notificare va fi actualizată în consecință după încheierea anchetei”, a scris editorul.

Articolul în cauză este intitulat „Funcțiile celulare ale celulelor stem spermatogonale în relație cu calea de semnalizare JAK/STAT”, care a fost scris de trei cercetători din China, inclusiv autorul corespunzător Dingjun Hao de la Spitalul Xi’an Honghui. A fost publicat online marți în jurnalul Frontiers in Cell and Developmental Biology.

Frontiers nu a răspuns imediat solicitării de comentarii a lui Ars, dar vom actualiza această postare cu orice răspuns.

Prima cifră din lucrare, cea care conține șobolanul, a atras imediat atenția, deoarece oamenii de știință au început să o distribuie pe scară largă și să o comenteze pe platformele de socializare, inclusiv Bluesky și platforma cunoscută anterior sub numele de Twitter. De la distanță, imaginea anatomică este clar tot felul de greșită. Dar, o privire mai atentă dezvăluie doar mai multe defecte, inclusiv etichetele „disilced”, celule Stemm”, „iollotte sserotgomar” și „dck.” Mulți cercetători și-au exprimat surprinderea și consternarea că o imagine atât de proastă generată de IA ar putea trece prin egal. -sistemul de revizuire și orice procesare internă este în vigoare la jurnal.

Dar pachetul șobolanului este departe de a fi singura problemă. Figura 2 este mai puțin grafică, dar la fel de alterată. Deși se intenționează să fie o diagramă a unei căi de semnalizare complexe, este în schimb o mizerie confuză. Un expert în integritate științifică a întrebat dacă oferă o explicație prea complicată despre „cum să faci o gogoașă cu stropi colorate”. La fel ca prima imagine, diagrama este plină de text aiurea și imagini derutante. Figura 3 nu este mai bună, oferind un colaj de imagini circulare mici, care sunt dens adnotate cu farfurie. Imaginea ar trebui să ofere reprezentări vizuale ale modului în care calea de semnalizare din Figura 2 reglează proprietățile biologice ale celulelor stem spermatogoniale.

Unii oameni de știință s-au întrebat online dacă textul a fost și generat de inteligență artificială. Un utilizator a remarcat că software-ul de detectare AI a determinat că este probabil să fie generat de AI; cu toate acestea, după cum a raportat Ars anterior, un astfel de software nu este de încredere.

Imaginile, deși exemple flagrante, evidențiază o problemă în creștere în publicarea științifică. Succesul unui om de știință se bazează în mare măsură pe înregistrarea publicării lor, cu un volum mare de publicații, publicări frecvente și articole care apar în reviste de top, toate acestea câștigând mai mult prestigiu oamenilor de știință. Sistemul stimulează cercetătorii mai puțin scrupuloși să promoveze articole de calitate scăzută, care, în era chatbot-urilor AI, ar putea fi potențial generate cu ajutorul AI. Cercetătorii se tem că utilizarea în creștere a AI va face cercetările publicate mai puțin demne de încredere. Ca atare, reviste de cercetare au stabilit recent noi linii directoare de autor pentru textul generat de AI pentru a încerca să rezolve problema. Dar deocamdată, așa cum arată articolul Frontiers, există în mod clar câteva lacune.