Inteligența artificială (AI) poate face chipuri care să pară mai „reale” oamenilor decât fotografiile cu fețe umane reale, un studiu din 13 noiembrie în jurnal. Salvie găsite.
Acesta este un fenomen pe care autorul principal al studiului Amy Dawel, un psiholog clinician și lector la Universitatea Națională din Australia, a numit „hiperrealism” – obiecte generate artificial pe care oamenii le percep ca fiind mai „reale” decât omologii lor reale din lumea reală. Acest lucru este deosebit de îngrijorător în lumina creșterii deepfakes — material generat artificial conceput pentru a uzurpa identitatea unor persoane reale.
Dar există o captură: AI a obținut hiperrealism doar atunci când a generat fețe albe; Fețe de culoare generate de inteligență artificială încă au căzut în valea ciudată. Acest lucru ar putea avea implicații nu doar asupra modului în care sunt construite aceste instrumente, ci și asupra modului în care oamenii de culoare sunt percepuți online, a spus Dawel.
Implicațiile IA părtinitoare
Dawel a fost inspirat de cercetările publicate în jurnal PNAS în februarie 2022. Autori Sophie Nightingalelector în psihologie la Universitatea Lancaster din Marea Britanie și Hany Farid, un profesor de inginerie electrică și științe informatice la Universitatea din California, Berkeley, a descoperit că participanții nu puteau face diferența dintre fețele generate de AI și fețele umane. Dar Dawel a vrut să facă un pas mai departe pentru a evalua dacă ar putea exista un element rasial în modul în care oamenii percep fețele inteligenței artificiale.
Legate de: Lansarea „neliniștitoare” a AI își expune defectele. Cât de îngrijorați ar trebui să fim?
În noul studiu, participanților – toți erau albi – li s-au arătat 100 de fețe – dintre care unele erau fețe umane și altele au fost generate folosind instrumentul de generare de imagini StyleGAN2. După ce au decis dacă o față este AI sau umană, participanții și-au evaluat încrederea în alegerea lor pe o scară de la zero la 100.
„Am fost atât de surprinși să aflăm că unele fețe de inteligență artificială au fost percepute ca hiperreale, încât următorul nostru pas a fost să încercăm să reproducem descoperirea noastră din reanalizarea datelor lui Nightingale și Farid într-un nou eșantion de participanți”, a spus Dawel pentru Live Science într-un e-mail.
Motivul este simplu: algoritmii AI, inclusiv StyleGAN2, sunt antrenați în mod disproporționat pe fețe albe, a spus ea. Această părtinire de antrenament a dus la fețe albe care erau „extra-reale”, așa cum a spus Dawel.
Un alt exemplu de părtinire rasială în sistemele AI este utilizarea instrumentelor pentru a transforma fotografiile obișnuite în fotografii profesionale, a spus Dawel. Pentru persoanele de culoare, AI modifică nuanța pielii și culoarea ochilor. Imaginile generate de inteligența artificială sunt, de asemenea, din ce în ce mai utilizate în domenii precum marketing și publicitate sau în realizarea de ilustrații. Utilizarea AI, dacă este construită cu părtiniri, poate întări prejudecățile rasiale în mass-media pe care oamenii le consumă, ceea ce va avea consecințe profunde la nivel social, a spus Frank Buytendijkșef de cercetare la Gartner Futures Lab și expert AI.
„Deja, adolescenții simt presiunea colegilor de a trebui să arate ca idealul stabilit de colegii lor”, a spus el pentru Live Science într-un e-mail. „În acest caz, dacă dorim ca fețele noastre să fie preluate, acceptate de algoritm, trebuie să arătăm ca ceea ce generează mașina.”
Atenuarea riscurilor
Dar există o altă constatare care îl îngrijorează pe Dawel și ar putea exacerba și mai mult problemele sociale. Oamenii care au făcut cele mai multe greșeli – identificând fețele generate de AI ca fiind reale – au fost și cei mai încrezători în alegerile lor. Cu alte cuvinte, oamenii care sunt păcăliți cel mai mult de AI sunt cel mai puțin conștienți că sunt păcăliți.
Dawel susține că cercetările sale arată că IA generativă trebuie dezvoltată în moduri care să fie transparente pentru public și că ar trebui monitorizată de organisme independente.
„În acest caz, am avut acces la imaginile pe care a fost antrenat algoritmul AI, așa că am putut identifica părtinirea albă în datele de antrenament”, a spus Dawel. „O mare parte din noua inteligență artificială nu este însă transparentă așa, iar investiția în [the] Industria AI este enormă, în timp ce finanțarea pentru știință pentru a o monitoriza este minusculă, greu de obținut și lentă.”
Atenuarea riscurilor va fi dificilă, dar noile tehnologii urmează în mod normal o cale similară, în care implicațiile noii tehnologii sunt realizate treptat și reglementările intră încet pentru a le aborda, care apoi contribuie la dezvoltarea tehnologiei, a spus Buytendijk. Când o nouă tehnologie ajunge pe piață, nimeni nu înțelege pe deplin implicațiile.
Acest proces nu este suficient de rapid pentru Dawel, deoarece AI se dezvoltă rapid și are deja un impact uriaș. Drept urmare, „cercetarea asupra IA necesită resurse semnificative”, a spus ea. „Deși guvernele pot contribui la acest lucru, cred că companiilor care creează IA ar trebui să li se solicite să-și direcționeze o parte din profit către cercetarea independentă. Dacă vrem cu adevărat ca AI să beneficieze mai degrabă decât să dăuneze următoarei noastre generații, timpul pentru această acțiune este acum. “