Ascensiunea lui inteligenţă artificială (AI) pune întrebări nu doar pentru tehnologie și multitudinea extinsă de posibilități pe care le aduce, ci și pentru moralitate, etică și filozofie. Introducerea acestei noi tehnologii are implicații pentru sănătate, drept, armată, natura muncii, politică și chiar propriile noastre identități – ceea ce ne face oameni și modul în care ne atingem sentimentul de sine.
„Moralitatea AI” (Oxford University Press, 2024), editat de un filozof britanic David Edmondseste o colecție de eseuri de la un „grup de lucru filozofic” care explorează modul în care AI ne va revoluționa viețile și dilemele morale pe care le va declanșa, dând o imagine captivantă a motivelor pentru a fi vesel și a motivelor pentru care să ne facem griji. În acest fragment, Muriel Leuenbergerun cercetător postdoctoral în etica tehnologiei și AI la Universitatea din Zurich, se concentrează asupra modului în care AI ne modelează deja identitățile.
Eseul ei, intitulat „Ar trebui să lași AI să-ți spună cine ești și ce ar trebui să faci?” explică modul în care algoritmii de învățare automată care domină platformele digitale de astăzi – de la rețelele sociale până la aplicațiile de întâlniri – pot ști mai multe despre noi decât știm noi înșine. Dar, postulează ea, putem avea încredere în ei pentru a lua cele mai bune decizii pentru noi și ce înseamnă asta pentru agenția noastră?
Telefonul și aplicațiile sale știu multe despre tine. Cu cine vorbești și cu cine petreci timpul, unde mergi, ce muzică, jocuri și filme îți plac, cum arăți, ce articole de știri citiți, cine vi se pare atractiv, ce cumpărați cu cardul dvs. de credit și câte pașii pe care îi faci. Aceste informații sunt deja exploatate pentru a ne vinde produse, servicii sau politicieni. Urmele online permit companiilor precum Google sau Facebook să deducă opiniile dumneavoastră politice, preferințele consumatorilor, indiferent dacă sunteți un căutător de senzații tari, un iubitor de animale de companie sau un mic angajator, cât de probabil este că în curând veți deveni părinte sau chiar dacă sunteți este susceptibil de a suferi de depresie sau insomnie.
Odată cu utilizarea inteligenței artificiale și digitalizarea în continuare a vieților umane, nu mai este de neconceput ca AI să ajungă să te cunoască mai bine decât te cunoști tu însuți. Profilurile personale ale utilizatorilor pe care sistemele AI le generează ar putea deveni mai precise în descrierea valorilor, intereselor, trăsăturilor de caracter, prejudecăților sau tulburărilor mentale ale acestora decât utilizatorul însuși. Deja, tehnologia poate oferi informații personale pe care indivizii nu le-au cunoscut despre ei înșiși. Yuval Harari exagerează, dar face un punct similar atunci când susține că va deveni rațional și natural să alegeți partenerii, prietenii, locurile de muncă, petrecerile și casele sugerate de AI. AI va putea combina vastele informații personale despre tine cu informații generale despre psihologie, relații, angajare, politică și geografie și va fi mai bine să simuleze posibile scenarii cu privire la acele alegeri.
Așadar, s-ar putea părea că o IA care vă permite să știți cine sunteți și ce ar trebui să faceți ar fi grozavă, nu doar în cazuri extreme, à la Harari, ci mai prozaic pentru sistemele obișnuite de recomandare și profilare digitală. Vreau să ridic două motive pentru care nu este.
Încredere
De unde știi dacă poți avea încredere într-un sistem AI? Cum poți fi sigur că te cunoaște cu adevărat și că îți face recomandări bune? Imaginați-vă că un prieten vă spune că ar trebui să mergeți la o întâlnire cu vărul lui Alex, pentru că voi doi ați fi o potrivire perfectă. Când decideți dacă să-l întâlniți pe Alex, reflectați la cât de demn de încredere este prietenul dvs. S-ar putea să iei în considerare fiabilitatea prietenului tău (în prezent este beat și nu gândește clar?), competența (cât de bine te cunoaște pe tine și pe Alex, cât de bun se pricepe la a judeca compatibilitatea romantică?) și intențiile (dorește el să să fie fericit, să te păcălească sau să renunțe la vărul lui plictisitor pentru o seară?). Pentru a vedea dacă ar trebui să urmezi sfatul prietenului tău, ai putea să-l interoghezi cu blândețe: De ce crede că l-ai dori pe Alex, ce crede că aveți în comun voi doi?
Acest lucru este destul de complicat. Dar judecățile privind încrederea în IA sunt și mai complicate. Este greu de înțeles ce știe cu adevărat un AI despre tine și cât de demne de încredere sunt informațiile sale. Multe sisteme de inteligență artificială s-au dovedit a fi părtinitoare – au reprodus, de exemplu, părtiniri rasiale și sexiste din datele lor de antrenament – așa că am face bine să nu avem încredere în ele orbește. De obicei, nu putem cere unei IA o explicație a recomandării sale și este greu să-i evaluăm fiabilitatea, competența și intențiile dezvoltatorului. Algoritmii din spatele predicțiilor, caracterizărilor și deciziilor AI sunt de obicei proprietatea companiei și nu sunt accesibili de către utilizator. Și chiar dacă aceste informații ar fi disponibile, ar fi nevoie de un grad înalt de expertiză pentru a le înțelege. Cum se traduc acele înregistrări de achiziție și postările pe rețelele sociale în trăsături de caracter și preferințe politice? Din cauza opacității mult discutată sau a naturii „cutie neagră” a unor sisteme AI, chiar și cei pricepuți în informatică ar putea să nu poată înțelege pe deplin un sistem AI. Procesul prin care AI generează o ieșire este în mare parte autodirigit (adică își generează propriile strategii fără a respecta reguli stricte concepute de dezvoltatori) și dificil sau aproape imposibil de interpretat.
Creează-te pe tine însuți!
Chiar dacă am avea o IA rezonabil de încredere, ar rămâne o a doua preocupare etică. O IA care îți spune cine ești și ce ar trebui să faci se bazează pe ideea că identitatea ta este ceva ce poți descoperi – informații pe care tu sau un AI le poți accesa. Cine ești cu adevărat și ce ar trebui să faci cu viața ta este accesibil prin analize statistice, câteva date personale și fapte despre psihologie, instituții sociale, relații, biologie și economie. Dar această viziune ratează un punct important: alegem și cine suntem. Nu ești un subiect pasiv față de identitatea ta – este ceva pe care îl creezi activ și dinamic. Vă dezvoltați, hrăniți și modelați identitatea. Această fațetă auto-creaționistă a identității a fost în centrul filozofiei existențialiste, așa cum este exemplificat de Jean-Paul Sartre. Existențialiștii neagă că oamenii sunt definiți de orice natură sau „esență” predeterminată. A exista fără esență înseamnă a deveni întotdeauna altul decât ceea ce ești astăzi. Ne creăm continuu pe noi înșine și ar trebui să o facem liber și independent. În limitele anumitor fapte – unde te-ai născut, cât de înalt ești, ce i-ai spus prietenului tău ieri – ești radical liber și obligat moral să-ți construiești propria identitate și să definești ceea ce are sens pentru tine. În mod esențial, scopul nu este să descoperi singurul și singurul mod corect de a fi, ci să-ți alegi propria identitate individuală și să-ți asumi responsabilitatea pentru ea.
AI vă poate oferi o perspectivă externă, cuantificată, care poate acționa ca o oglindă și poate sugera cursuri de acțiune. Dar ar trebui să rămâneți la conducere și să vă asigurați că vă asumați responsabilitatea pentru cine sunteți și pentru modul în care vă trăiți viața. O IA ar putea spune o mulțime de fapte despre tine, dar este treaba ta să afli ce înseamnă ele pentru tine și cum îi lași să te definească. Același lucru este valabil și pentru acțiuni. Acțiunile tale nu sunt doar o modalitate de a-ți căuta bunăstarea. Prin acțiunile tale, alegi ce fel de persoană ești. Urmărirea orbește a AI implică renunțarea la libertatea de a te crea și renunțarea la responsabilitatea ta pentru cine ești. Acest lucru ar echivala cu un eșec moral.
În cele din urmă, bazarea pe inteligența artificială pentru a vă spune cine sunteți și ce ar trebui să faceți poate împiedica abilitățile necesare pentru auto-crearea independentă. Dacă folosești în mod constant un AI pentru a găsi muzica, cariera sau candidatul politic care îți place, s-ar putea să uiți în cele din urmă cum să faci asta. AI te poate descalifica nu doar la nivel profesional, ci și în căutarea intim personală a autocreării. A alege bine în viață și a construi o identitate care are sens și te face fericit este o realizare. Subcontractând această putere unei IA, pierzi treptat responsabilitatea pentru viața ta și, în cele din urmă, pentru cine ești.
O criză de identitate foarte modernă
Uneori îți dorești ca cineva să-ți spună ce să faci sau cine ești. Dar, după cum am văzut, acest lucru are un cost. Este greu de știut dacă sau când să ai încredere în sistemele de profilare și recomandare AI. Mai important, subcontractând deciziile către AI, s-ar putea să nu îndeplinești cererea morală de a te crea și de a-ți asuma responsabilitatea pentru cine ești. În acest proces, s-ar putea să pierzi abilitățile de auto-creare, să îți calci identitatea și să cedezi puterea asupra identității tale companiilor și guvernului. Aceste preocupări cântăresc deosebit de grele în cazurile care implică cele mai substanțiale decizii și caracteristici ale identității tale. Dar chiar și în cazuri mai banale, ar fi bine să lăsăm din când în când sistemele de recomandare deoparte și să fim mai activi și mai creativi în selectarea filmelor, muzicii, cărților sau știrilor. Acest lucru, la rândul său, necesită cercetare, risc și auto-reflecție.
Desigur, facem adesea alegeri proaste. Dar asta are un avantaj. Expunându-te la influențe și medii care nu sunt în perfectă aliniere cu cine ești în prezent, te dezvolți. Mutarea într-un oraș care te face nefericit ar putea să-ți perturbe ritmurile obișnuite de viață și să te împingă, să zicem, să cauți un nou hobby. Bazându-te în mod constant pe sistemele de recomandare AI îți poate calcifica identitatea. Aceasta nu este însă o caracteristică necesară a sistemelor de recomandare. În teorie, acestea ar putea fi proiectate pentru a lărgi orizontul utilizatorului, în loc să maximizeze implicarea, arătând clienților ceea ce le place deja. În practică, nu așa funcționează.
Acest efect de calcifiere este întărit atunci când profilarea AI devine o profeție care se împlinește. Te poate transforma încet în ceea ce AI a prezis că vei fi și perpetuează orice caracteristici pe care AI le-a preluat. Recomandând produse și afișând reclame, știri și alt conținut, deveniți mai probabil să consumați, să gândiți și să acționați în modul în care sistemul AI a considerat inițial potrivit pentru dvs. Tehnologia te poate influența treptat, astfel încât să evoluezi în cine ți-a trebuit să fii inițial.
Disclaimer
Acest fragment, scris de Muriel Leuenberger, a fost editat pentru stil și lungime. Retipărit cu permisiunea „AI Ethics”, editat de David Edmonds, publicat de Oxford University Press. © 2024. Toate drepturile rezervate.