Hype -ul din jur inteligenţă artificială (AI) riscă să scapă de sub control, în timp ce pretențiile din jurul tehnologiei emergente se estompează pe tărâmul absurdului. AI este o afacere cu bani mari, scrie autorii noii cărți “,”AI Con: Cum să lupți împotriva lui Big Tech și să creezi viitorul pe care îl dorim„(2025), iar fanfara de marketing pe care o vedem este menită să promoveze interesele Big Tech și să facă un lucru: să vândă produse AI.
În această nouă carte, autori Emily M. Benderprofesor de lingvistică la Universitatea din Washington și Alex Hannadirector de cercetare la Institutul de Cercetare AI distribuit, ne contestă înțelegerea despre ce este AI – și ce nu este. În cele din urmă, ei încearcă să vadă prin multe afirmații și senzaționalism suprasolicitat pentru a înțelege adevăratul impact pe care AI îl are asupra societății.
În acest extras, scriitorii se confruntă cu ideea de inteligență generală artificială (AGI), originile acelei idei și ce înseamnă de fapt termenul. În acest extras, ei susțin că adevăratele definiții ale AGI și o „superinteligență” ipotetică sunt confuze, în cel mai bun caz, și, în practică, servesc doar pentru a hrăni mașina corporativă AI.
Dacă ați ascultat directorii și cercetătorii la firmele de tehnologie mari, ați crede că am fost pe punctul de a revolta robotului. În februarie 2022, omul de știință al lui Openai, Ilya Sutskever, a replicat „S -ar putea ca rețelele neuronale mari de astăzi să fie ușor conștiente”.
În iunie 2022, The Washington Post a raportat că inginerul Google Blake Lemoine a fost convins că modelul de limbă Google Lamda era simțitor și avea nevoie de reprezentare legală. Lemoine a fost concediat pentru acest incident – nu pentru afirmațiile sale false (pe care Google le -a negat), ci pentru scurgerea informațiilor corporative private. Într -o postare pe blog din august 2022, colegul Google VP, Blaise Agüera y Arcas, a răspuns la povestea Lemoine, dar mai degrabă decât să combată afirmațiile lui Lemoine, el a sugerat că Lamda „înțelege” conceptele și că dezbaterea cu privire la faptul dacă Lamda are sau nu sentimente nu este rezolvabilă sau „semnificativă științific”.
În aprilie 2023, o echipă de la Microsoft Research, condusă de Sébastien Bubeck, a postat o lucrare non-revizuită, numită „Sparks of Artificial General Intelligence: Early Experimentes cu GPT-4,„ în care pretind că arată că modelul de limbă GPT-4 „poate rezolva noi și sarcini dificile care acoperă matematica, codarea, viziunea, medicina, legea, psihologia” și, prin urmare
Înrudite: GPT-4.5 este primul model AI care a trecut un test de Turing autentic, spun oamenii de știință
Cuvântul „scânteie” evocă o imagine a ceva care urmează să ia foc și să se răspândească din propriul său acord. Expresia „inteligență generală artificială” aici este menită să se diferențieze de tehnologiile obișnuite numite „AI” și este deosebit de frecventă în discursul modern în jurul gândirii, ale mașinilor simțitoare sau conștiente.
Aceste afirmații nu sunt noi. În urmă cu 60 de ani, cercetătorii, directorii de afaceri și oficialii guvernamentali făceau afirmații bombastice similare cu privire la natura informațiilor informatice și riscul de a înlocui oamenii de informații supraumane la locul de muncă, acasă și, poate cel mai alarmant, pe câmpul de luptă.
Originile sinistre ale „inteligenței generale”
În ciuda afirmațiilor conform cărora mașinile pot atinge într -o zi un nivel avansat de „inteligență generală”, un astfel de concept nu are o definiție acceptată. .
Lucrarea „Sparks” a Microsoft conține o definiție preliminară a Intelligence General, una care nu are referiri la câmpuri care pot avea un cuvânt de spus într -un astfel de lucru, cum ar fi psihologia sau neuroștiința cognitivă. În ciuda faptului că sunt o lucrare care pretinde că anumite modele statistice au arătat că necăsătoriile „inteligenței generale artificiale”, nu există o definiție bine scoasă a ceea ce sunt componentele inteligenței generale.
Într -o versiune anterioară a lucrării, autorii au citat un editorial din 1994 Wall Street Journal semnat de un grup de 52 de psihologi care au oferit această definiție: „Grupul de consens a definit inteligența ca o capacitate mentală foarte generală care, printre altele, implică capacitatea de a raționa, planifica, rezolva problemele, gândirea abstract, să înțeleagă ideile complexe, să învețe rapid și să învețe din experiență”.
Din păcate, obiectivul creării de inteligență generală artificială nu este doar un proiect care trăiește ca ipotetic în lucrările științifice. Sunt investiți bani reali în această lucrare, o mare parte din aceasta provenind de la capitaliști de risc.
Multe dintre acestea ar putea fi doar capitalisti de risc (VC) în urma modei, dar există și o serie de credincioși AGI adevărați în acest amestec, iar unii dintre ei au bani pentru a arde. Acești miliardari ideologici – printre ei Elon Musk și Marc Andreessen-ajută la stabilirea agendei de a crea AGI și de a sprijini financiar, dacă nu de prozelitizare, o eugenică modernă. Aceasta se bazează pe combinația de politică conservatoare, o obsesie pentru politicile pro-naștere și un atac de dreapta asupra multiculturalismului și diversității, toate ascunse în spatele unei fațade de progres tehnologic.
Hype -ul „superinteligenței”
De ce atât de mulți oameni implicați în construirea și vânzarea de modele de limbi mari par să fi căzut pentru ideea că (ar putea) să fie simțitori? Și de ce atât de mulți dintre aceiași oameni petrec atât de mult timp avertizând lumea despre „riscul existențial” de „superinteligență”, în timp ce cheltuiesc atât de mulți bani pentru ea?
Într -un cuvânt, pretențiile în jurul conștiinței și sentimentului sunt o tactică pentru a vă vinde pe AI. Majoritatea oamenilor din acest spațiu par să urmărească pur și simplu să facă sisteme tehnice care să obțină ceea ce arată ca inteligența umană pentru a merge mai departe în ceea ce este deja o piață foarte aglomerată. Piața este, de asemenea, o lume mică: cercetătorii și fondatorii se deplasează perfect între câțiva jucători importanți de tehnologie, cum ar fi Microsoft, Google și Meta, sau pleacă să găsească startup -uri AI care primesc milioane de capital de risc și finanțare de semințe de la Big Tech.
Ca un punct de date, în 2022, 24 de cercetători Google au plecat să se alăture startup -urilor AI (în timp ce unul dintre noi, Alex, a plecat să se alăture unui non -profit de cercetare). Ca un alt punct de date, doar în 2023, 41,5 miliarde de dolari în tranzacții de risc au fost aduse firmelor AI generative, potrivit datelor PitchBook. S -a estimat că rambursarea este uriașă. În acel an, McKinsey a sugerat că în curând, AI generativ poate adăuga „până la 4,4 trilioane de dolari” anual în economia globală. Estimările de acest fel sunt, desigur, o parte a mașinii de hype, dar VC -urile nu par să creadă că acest fapt ar trebui să se grăbească să investească în aceste instrumente.
Acest hype se bazează pe trope despre inteligența artificială: mașinile simțitoare care trebuie să li se acorde drepturi de robot sau superinteligență în stil matricial care reprezintă o amenințare directă pentru rezistențele umane ragtag. Aceasta are implicații dincolo de circulația fondurilor în rândul VC -urilor și a altor investitori, în special pentru că li se spune oamenilor obișnuiți că vor fi în afara unui loc de muncă.