În acest extras din „Your Face Belongs to Us” (Simon & Schuster, 2023), jurnalistul Kashmir Hill amintește de apariția Clearview AI, compania de tehnologie de recunoaștere facială care a izbucnit în conștiința publicului cu inteligenţă artificială Software (AI) care ar putea identifica aproape pe oricine cu o singură lovitură a feței.
În noiembrie 2019, tocmai devenisem reporter la The New York Times când am primit un sfat care mi s-a părut prea scandalos pentru a fi adevărat: o companie misterioasă numită Clearview AI a susținut că poate identifica aproape pe oricine doar pe baza unui instantaneu al feței sale.
Eram într-o cameră de hotel în Elveția când am primit e-mailul, la ultima călătorie internațională cu avionul pe care o faceam o vreme pentru că eram însărcinată în șase luni. Era sfârșitul unei zile lungi și eram obosită, dar e-mailul m-a zguduit. Sursa mea a dezgropat o notă legală inscripționată „Privilegiat și confidențial” în care un avocat al Clearview spunea că compania a scos miliarde de fotografii de pe web-ul public, inclusiv de pe site-uri de socializare precum Facebook, Instagram și LinkedIn, pentru a crea un aplicație revoluționară.
Dă-i lui Clearview o fotografie a unei persoane aleatorii de pe stradă și ar scuipa înapoi toate locurile de pe internet unde le-a văzut fața, dezvăluind nu doar numele, ci și alte detalii personale despre viața lor. Compania vindea această superputere departamentelor de poliție din întreaga țară, dar încerca să-și păstreze existența secretă.
Nu cu mult timp în urmă, recunoașterea facială automată era o tehnologie distopică pe care majoritatea oamenilor o asociau doar cu romane științifico-fantastice sau cu filme precum „Minority Report”. Inginerii au căutat pentru prima dată să devină realitate în anii 1960, încercând să programeze un computer timpuriu pentru a potrivi portretul cuiva cu o bază de date mai mare de fețe ale oamenilor. La începutul anilor 2000, poliția a început să experimenteze cu acesta pentru a căuta în bazele de date cu fotografii cu fețe ale unor suspecți criminali necunoscuți. Dar tehnologia s-a dovedit în mare parte dezamăgitoare. Performanța sa a variat în funcție de rasă, sex și vârstă, și chiar și algoritmii de ultimă generație s-au străduit să facă ceva la fel de simplu, cum ar fi potrivirea unei fotografii cu un dispozitiv de supraveghere ATM.
Clearview a pretins a fi diferit, promovând o „rată de precizie de 98,6%” și o colecție enormă de fotografii, spre deosebire de orice a folosit poliția înainte.
Acest lucru este enorm, dacă este adevărat, m-am gândit, în timp ce citeam și reciteam nota Clearview care nu fusese niciodată menită să fie publică. Am acoperit intimitatea și erodarea ei constantă, de mai bine de un deceniu. Adesea îmi descriu ritmul drept „distopia tehnologică care se profilează – și cum putem încerca să o evităm”, dar nu am mai văzut până acum un atac atât de îndrăzneț la adresa anonimatului.
Confidențialitate, un cuvânt care este notoriu greu de definit, a fost cel mai faimos descris într-un articol Harvard Law Review din 1890 drept „dreptul de a fi lăsat în pace”. Cei doi avocați care au scris articolul, Samuel D. Warren, Jr. și Louis D. Brandeis, au cerut ca dreptul la intimitate să fie protejat prin lege, împreună cu acele alte drepturi – la viață, libertate și proprietate privată – care au avut fost deja consacrat. S-au inspirat dintr-o tehnologie nouă de atunci — camera portabilă cu film Eastman Kodak, inventată în 1888, care făcea posibilă scoaterea unui aparat foto în afara unui studio pentru fotografii „instantanee” din viața de zi cu zi — precum și de oameni ca mine, un membru amestecat al presei.
„Fotografiile instantanee și întreprinderea ziarelor au invadat incintele sacre ale vieții private și domestice”, au scris Warren și Brandeis, „și numeroase dispozitive mecanice amenință să îndeplinească predicția conform căreia „ceea ce se șoptește în dulap va fi proclamat de pe acoperișuri”. .'”
Acest articol este printre cele mai faimoase eseuri juridice scrise vreodată, iar Louis Brandeis s-a alăturat Curții Supreme. Cu toate acestea, confidențialitatea nu a primit niciodată tipul de protecție pe care Warren și Brandeis au spus că o merită. Mai mult de un secol mai târziu, încă nu există o lege generală care să garanteze americanilor controlul asupra fotografiilor care sunt făcute cu ei, a ceea ce se scrie despre ei sau a ceea ce se face cu datele lor personale. Între timp, companiile cu sediul în Statele Unite – și alte țări cu legi de confidențialitate slabe – creează tehnologii din ce în ce mai puternice și invazive.
Recunoașterea facială era pe radarul meu de ceva vreme. De-a lungul carierei mele, în locuri precum Forbes și Gizmodo, am acoperit noi oferte majore de la companii de miliarde de dolari: Facebook etichetarea automată a prietenilor tăi în fotografii; Apple și Google permit oamenilor să se uite la telefoanele lor pentru a le debloca; panouri digitale de la Microsoft și Intel cu camere care detectau vârsta și sexul pentru a afișa trecătorilor reclame adecvate.
Am scris despre felul în care această tehnologie uneori greoaie și predispusă la erori a entuziasmat forțele de ordine și industria, dar i-a îngrozit pe cetățenii conștienți de confidențialitate. În timp ce am digerat ceea ce Clearview pretindea că poate face, m-am gândit la un atelier federal la care participasem cu ani în urmă la Washington, DC, unde reprezentanți ai industriei, oficiali guvernamentali și susținători ai confidențialității s-au așezat pentru a stabili regulile de drum.
Singurul lucru asupra căruia au fost de acord cu toții a fost că nimeni nu ar trebui să lanseze o aplicație pentru a identifica străinii. Era prea periculos, au spus ei. Un ciudat dintr-un bar îți poate face fotografia și în câteva secunde știe cine erau prietenii tăi și unde locuiești. Ar putea fi folosit pentru a identifica protestatarii anti-guvernamentali sau femeile care au intrat în clinicile Planned Parenthood. Ar fi o armă pentru hărțuire și intimidare. Recunoașterea facială precisă, la scara a sute de milioane sau miliarde de oameni, a fost a treia cale a tehnologiei. Și acum Clearview, un jucător necunoscut în teren, a susținut că l-a construit.
Eram sceptic. Startup-urile sunt renumite pentru afirmații grandioase care se dovedesc a fi ulei de șarpe. Chiar și Steve Jobs a falsificat capacitățile iPhone-ului original când l-a dezvăluit pentru prima dată pe scenă în 2007.*
Tindem să credem că computerele au puteri aproape magice, că pot găsi soluția oricărei probleme și, cu date suficiente, o rezolvă în cele din urmă mai bine decât o pot face oamenii. Așadar, investitorii, clienții și publicul pot fi păcăliți de afirmații scandaloase și de un delei digital de către companii care aspiră să facă ceva grozav, dar nu sunt încă acolo.
Dar în această notă juridică confidențială, avocatul de mare profil al Clearview, Paul Clement, care fusese avocatul general al Statelor Unite sub președintele George W. Bush, a susținut că a încercat produsul cu avocații de la firma sa și „a constatat că acesta returnează rezultate rapide și precise.”
Clement a scris că mai mult de 200 de agenții de aplicare a legii foloseau deja instrumentul și că a stabilit că „nu încalcă Constituția federală sau legile relevante privind biometrice și confidențialitate de stat atunci când folosesc Clearview în scopul său”. Nu numai că sute de departamente de poliție foloseau această tehnologie în secret, dar compania a angajat un avocat elegant pentru a-i asigura pe ofițeri că nu comite o crimă făcând acest lucru.
M-am întors la New York cu o naștere iminentă ca termen limită. Am avut trei luni să ajung la fundul acestei povești și, cu cât am săpat mai adânc, cu atât devenea străin…
Preocupările cu privire la recunoașterea facială s-au dezvoltat de zeci de ani. Și acum nebulosul nebulos își găsise în sfârșit forma: o companie mică cu fondatori misterioși și o bază de date nespus de mare. Și niciunul dintre milioanele de oameni care au alcătuit acea bază de date nu și-au dat acordul. Clearview AI reprezintă cele mai mari temeri ale noastre, dar oferă și, în cele din urmă, oportunitatea de a le confrunta.
*Steve Jobs a făcut unul rapid, ascunzând problemele de memorie ale prototipului iPhone și accidentele frecvente, făcându-i pe inginerii săi să petreacă nenumărate ore pentru a găsi o „cale de aur” – o secvență specifică de sarcini pe care telefonul le-ar putea face fără să se defecteze.
Fața ta ne aparține: Startup-ul secret care dezactivează confidențialitatea de la Kashmir Hill a fost selectat pe lista scurtă pentru 2024 Premiul pentru cartea de știință al Societății Regale Trivedicare celebrează cea mai bună scriere științifică populară de pe tot globul.