Studiu: Probabil că social media nu poate fi rezolvată

Nu este un secret că o mare parte a rețelelor de socializare a devenit profund disfuncțională. În loc să ne reunească într -o piață publică utopică și să încurajeze un schimb sănătos de idei, aceste platforme creează prea des bule de filtrare sau camere de ecou. Un număr mic de utilizatori de mare anvergură adună partea leului de atenție și influență, iar algoritmii concepuți pentru a maximiza implicarea ajung doar la amplificarea ultrajului și a conflictelor, asigurând dominanța celor mai puternici și mai extreme utilizatori-în creșterea polarizării crește și mai mult.

Au fost propuse numeroase strategii de intervenție la nivel de platformă pentru combaterea acestor probleme, dar conform un preprint Postat la Arxiv de fizică, niciunul dintre ei nu este probabil să fie eficient. Și nu este vina algoritmilor mult urâți, a furajelor non-cronologice sau a proclivității noastre umane pentru a căuta negativitate. Mai degrabă, dinamica care dau naștere tuturor acestor rezultate negative sunt încorporate structural chiar în arhitectura social media. Așadar, probabil că suntem sortiți cu bucle de feedback toxice nesfârșite, cu excepția cazului în care cineva lovește o reproiectare fundamentală strălucitoare care reușește să schimbe aceste dinamici.

Coautorii Petter Törnberg și Maik Larooij de la Universitatea din Amsterdam au dorit să afle mai multe despre mecanismele care dau naștere la cele mai grave aspecte ale social media: camerele de ecou partizane, concentrarea de influență între un grup mic de utilizatori de elită (inegalitate de atenție) și amplificarea celor mai extreme voci divizive. Așa că au combinat modelarea standard bazată pe agenți cu modele de limbaj mare (LLM), creând în esență puține persoane AI pentru a simula comportamentul online de social media. “Ceea ce am descoperit este că nu a trebuit să punem niciun algoritm, nu a trebuit să masam modelul”, a declarat Törnberg pentru ARS. „Tocmai a ieșit din modelul de bază, toate aceste dinamici”.

Apoi au testat șase strategii de intervenție diferite, oamenii de știință sociali au fost propuse pentru a contracara aceste efecte: trecerea la hrana cronologică sau randomizată; inversarea algoritmilor de optimizare a implicării pentru a reduce vizibilitatea conținutului senzațional extrem de repostat; stimularea diversității punctelor de vedere pentru a extinde expunerea utilizatorilor la opiniile politice opuse; utilizarea „algoritmilor de legătură” pentru a ridica conținutul care favorizează înțelegerea reciprocă, mai degrabă decât provocarea emoțională; ascunderea statisticilor sociale, cum ar fi reposturile și conturile de adepți pentru a reduce indicii de influență socială; și eliminarea biografiilor pentru a limita expunerea la semnale bazate pe identitate.

Rezultatele au fost departe de a fi încurajatoare. Doar unele intervenții au arătat îmbunătățiri modeste. Niciunul nu a reușit să perturbe pe deplin mecanismele fundamentale care produc efectele disfuncționale. De fapt, unele intervenții au înrăutățit problemele. De exemplu, ordonarea cronologică a avut cel mai puternic efect asupra reducerii inegalității atenției, dar a existat un compromis: a intensificat și amplificarea conținutului extrem. Algoritmii de legătură au slăbit în mod semnificativ legătura dintre partizanat și implicare și diversitatea îmbunătățită modest, dar a crescut și inegalitatea atenției. Creșterea diversității punctului de vedere nu a avut un impact semnificativ deloc.

Deci, există vreo speranță de a găsi strategii de intervenție eficiente pentru a combate aceste aspecte problematice ale social media? Sau ar trebui să ne scoatem conturile de socializare cu totul și să mergem în direct în peșteri? Ars a prins cu Törnberg pentru o conversație extinsă pentru a afla mai multe despre aceste descoperiri tulburătoare.

ARS Technica: Ce te -a determinat să efectuezi acest studiu?

Petter Törnberg: În ultimii 20 de ani, au existat o mulțime de cercetări cu privire la modul în care social media remodelând politica în moduri diferite, aproape întotdeauna folosind date observaționale. Dar în ultimii ani, a existat un apetit din ce în ce mai mare pentru a trece dincolo de a se plânge doar de aceste lucruri și de a încerca să vedem cum putem fi un pic mai constructivi. Putem identifica modul de îmbunătățire a rețelelor de socializare și de a crea spații online care sunt de fapt în conformitate cu acele promisiuni timpurii de a oferi o sferă publică în care putem delibera și dezbate politica într -un mod constructiv?

Problema cu utilizarea datelor observaționale este că este foarte greu să testați contrafactualii pentru a implementa soluții alternative. Așadar, un fel de metodă care a existat în domeniu este simulările bazate pe agenți și simulările sociale: creați un model de calculator al sistemului și apoi executați experimente pe asta și testați contrafactualii. Este util pentru a privi structura și apariția dinamicii rețelei.

Dar, în același timp, aceste modele reprezintă agenții ca simpli adepți de regulă sau optimizatori și asta nu surprinde nimic din lumea culturală sau politică sau comportament uman. Întotdeauna am fost de părere controversată că aceste lucruri contează de fapt, în special pentru politica online. Trebuie să studiem atât dinamica structurală a formațiunilor de rețea, cât și modelele de interacțiune culturală.

ARS Technica: Așadar, ați dezvoltat acest model hibrid care combină LLM-urile cu modelarea bazată pe agenți.

Petter Törnberg: Aceasta este soluția pe care o găsim pentru a trece dincolo de problemele modelării convenționale bazate pe agenți. În loc să avem această regulă simplă de adepți sau optimizatori, folosim AI sau LLMS. Nu este o soluție perfectă – există tot felul de prejudecăți și limitări – dar reprezintă un pas înainte în comparație cu o listă de reguli IF/atunci. Are ceva mai mult de a capta comportamentul uman într -un mod mai plauzibil. Le oferim persoane pe care le obținem de la Studiul American Electoral Național, care are întrebări foarte detaliate despre alegătorii noi și hobby -urile și preferințele lor. Și atunci o transformăm într -o persoană textuală – numele tău este Bob, ești din Massachusetts și îți place pescuitul – doar să le dai ceva de vorbit și o reprezentare puțin mai bogată.

Și apoi văd știrile aleatorii ale zilei și pot alege să posteze știrile, să citească postări de la alți utilizatori, să le reposteze sau să poată alege să urmeze utilizatorii. Dacă aleg să urmeze utilizatorii, se uită la mesajele anterioare, priviți profilul lor de utilizator.

Ideea noastră a fost să începem cu modelul minim de oase goale și apoi să adăugăm lucruri pentru a încerca să vedem dacă putem reproduce aceste consecințe problematice. Dar, spre surprinderea noastră, de fapt nu a trebuit să adăugăm nimic, deoarece aceste consecințe problematice tocmai au ieșit din modelul de oase goale. Acest lucru a fost împotriva așteptărilor noastre și, de asemenea, ceea ce cred că ar spune literatura.

ARS Technica: Sunt sceptic față de AI în general, în special în un context de cercetaredar există cazuri foarte specifice în care poate fi extrem de util. Acest lucru mă consideră unul dintre ei, în mare parte pentru că modelul tău de bază s -a dovedit a fi atât de robust. Ai aceeași dinamică fără să introduci nimic în plus.

Petter Törnberg: Da. A fost o conversație mare în științele sociale în ultimii doi ani. Există un interes de a folosi LLMS pentru simularea socială, dar nimeni nu și -a dat seama cu adevărat pentru ce sau cum va fi util sau cum vom trece peste aceste probleme de validitate și așa mai departe. Genul de abordare pe care îl adoptăm în această lucrare este să se bazeze pe o tradiție a gândirii sistemelor complexe. Ne imaginăm modele foarte simple ale lumii umane și încercăm să surprindem mecanisme foarte fundamentale. Nu are ca scop cu adevărat să fie realist sau un model precis și complet de comportament uman.

Am fost unul dintre cei mai critici ai acestei metode, ca să fiu sincer. În același timp, este greu să ne imaginăm orice alt mod de a studia aceste tipuri de dinamică în care avem aspecte culturale și structurale care se hrănește între ele. Dar tot trebuie să iau rezultatele cu un bob de sare și să -mi dau seama că acestea sunt modele și captează un fel de lume ipotetică – o vacă sferică în vid. Nu putem prezice ce va avea cineva pentru prânz marți, dar putem captura mecanisme mai largi și putem vedea cât de solide sunt aceste mecanisme. Putem vedea dacă sunt stabile, instabile, în ce condiții apar și granițele generale. Și în acest caz, am găsit un mecanism care pare a fi foarte robust, din păcate.

Ars Technica: Visul a fost că media socială ar ajuta la revitalizarea sferei publice și să sprijine tipul de dialog politic constructiv pe care lucrarea dvs. îl consideră „vital pentru viața democratică”. Asta nu s -a întâmplat în mare măsură. Care sunt principalele consecințe neașteptate negative care au apărut de pe platformele de socializare?

Petter Törnberg: În primul rând, aveți camere ecou sau bule de filtrare. Riscul de un acord larg este că, dacă doriți să aveți o conversație politică funcțională, funcționând deliberare, trebuie să faceți asta în diviziunea partizană. Dacă aveți doar o conversație cu oameni care sunt deja de acord unul cu celălalt, nu este suficient. Există dezbateri cu privire la cât de răspândite sunt camere de ecou online, dar este destul de stabilit că există o mulțime de spații online care nu sunt foarte constructive, deoarece există doar oameni dintr -o parte politică. Deci acesta este un ingredient de care ai nevoie. Trebuie să aveți o diversitate de opinie, o diversitate de perspectivă.

Al doilea este că deliberarea trebuie să fie printre egali; Oamenii trebuie să aibă mai mult sau mai puțin aceeași influență în conversație. Nu poate fi controlat complet de un grup mic de utilizatori de elită. Acesta este, de asemenea, ceva la care oamenii au indicat pe social media: are tendința de a crea acești influenți, deoarece atenția atrage atenția. Și atunci aveți o defalcare a conversației între egali.

Ultimul este ceea ce numesc (pe baza Cartea lui Chris Bail) prisma social media. Utilizatorii mai extreme tind să atragă mai multă atenție online. Acest lucru este adesea discutat în legătură cu algoritmii de implicare, care tind să identifice tipul de conținut care ne supără majoritatea și apoi stimulează acel conținut. Mă refer la el ca la o „bulă de declanșare” în loc de bula de filtru. Încearcă să ne declanșeze ca o modalitate de a ne face să ne implicăm mai mult, astfel încât să ne poată extrage datele și să ne păstreze atenția.

ARS Technica: Concluzia dvs. este că există ceva în dinamica structurală a rețelei în sine, care este de vină – ceva fundamental pentru construcția rețelelor sociale care face ca aceste probleme extrem de dificile de rezolvat.

Petter Törnberg: Exact. Provine din faptul că folosim aceste modele AI pentru a surprinde o reprezentare mai bogată a comportamentului uman, ceea ce ne permite să vedem ceva care nu ar fi cu adevărat posibil folosind modelarea convențională bazată pe agenți. Au existat modele anterioare privind creșterea rețelelor de socializare pe social media. Oamenii aleg să se retweeteze sau nu și știm că acțiunea tinde să fie foarte reactivă. Avem tendința de a fi foarte emoționali în această alegere. Și tinde să fie un tip de acțiune extrem de partizan și polarizat. Ai lovit retweet când vezi pe cineva să fie supărat pe ceva sau să facă ceva oribil, iar apoi împărtășești asta. Este binecunoscut faptul că acest lucru duce la un conținut toxic, mai polarizat, care se răspândește mai mult.

Dar ceea ce găsim este că nu doar că acest conținut se răspândește; De asemenea, modelează structurile de rețea care se formează. Așadar, există feedback între acțiunea emoțională eficientă de a alege să retweeteze ceva și structura rețelei care apare. Și apoi, la rândul său, aveți o structură de rețea care alimentează ce conținut vedeți, rezultând o rețea toxică. Definiția unei rețele de socializare online este că aveți acest tip de postare, repostare și urmărire dinamică. Este destul de fundamental pentru asta. Doar asta pare a fi suficient pentru a conduce aceste rezultate negative.

ARS Technica: Am fost sincer surprins de ineficiența diferitelor strategii de intervenție pe care le -ați testat. Dar pare să explice conundrul bluesky. Bluesky nu are algoritm, de exemplu, totuși, aceeași dinamică pare să apară în continuare. Cred că fondatorii lui Bluesky doresc cu adevărat să evite aceste probleme disfuncționale, dar s -ar putea să nu reușească, pe baza acestei lucrări. De ce sunt astfel de intervenții atât de ineficiente?

Petter Törnberg: Am discutat dacă aceste lucruri se datorează platformelor care fac lucruri rele cu algoritmi sau dacă noi, ca utilizatori, alegem că dorim un mediu rău. Ceea ce spunem este că nu trebuie să fie nici unul dintre t furtun. Acesta este adesea rezultatele neintenționate din interacțiuni bazate pe regulile de bază. Nu este neapărat pentru că platformele sunt rele; Nu este neapărat pentru că oamenii vor să fie în medii toxice, oribile. Se rezultă doar din structura pe care o oferim.

Am testat șase intervenții diferite. Google a încercat să facă media socială mai puțin toxică și a lansat recent un algoritm de știri bazat pe conținutul textului. Deci acesta este un exemplu. Încercăm, de asemenea, să facem intervenții mai subtile, deoarece de multe ori puteți găsi un anumit mod de a elimina sistemul, astfel încât să treacă la o dinamică mai sănătoasă. Unele dintre ele au efecte moderate sau ușor pozitive asupra unuia dintre atribute, dar apoi au adesea efecte negative asupra unui alt atribut sau nu au niciun impact.

Ar trebui să spun, de asemenea, că acestea sunt intervenții extrem de extreme, în sensul că, dacă depinzi de a câștiga bani pe platforma ta, probabil că nu vrei să le implementezi, deoarece probabil face cu adevărat plictisitor să folosești. Este ca și cum ai arăta cei mai puțin influenți utilizatori, cele mai puțin retușate mesaje de pe platformă. Chiar și așa, nu face o diferență în schimbarea rezultatelor de bază. Ceea ce luăm de la asta este că mecanismul care produce aceste rezultate problematice este într -adevăr robust și greu de rezolvat, având în vedere structura de bază a acestor platforme.

ARS Technica: Deci, cum s -ar putea să se bazeze o rețea socială de succes care să nu aibă aceste probleme?

Petter Törnberg: Există mai multe direcții în care v -ați putea imagina să mergeți, dar există și constrângerea a ceea ce este de folos popular. Gândiți -vă înapoi la internetul timpuriu, cum ar fi ICQ. ICQ avea această caracteristică în care te -ai putea conecta doar la o persoană aleatorie. Mi -a plăcut când eram copil. Aș vorbi cu oameni la întâmplare din întreaga lume. Aveam 12 ani în mediul rural pe o insulă mică din Suedia și vorbeam cu cineva din Arizona, trăind o viață diferită. Nu știu cât de reușit ar fi în aceste zile, internetul a devenit mult mai puțin nevinovat decât a fost.

De exemplu, ne putem concentra pe problema inegalității atenției, o caracteristică foarte bine studiată și robustă a acestor rețele. Eu personal am crezut că vom putea să -l abordăm cu intervențiile noastre, dar atenția atrage atenția, iar acest lucru duce la o distribuție a legii puterii, unde 1 % [of users] domină întreaga conversație. Știm condițiile în care apar aceste legi ale puterii. Acesta este unul dintre principalele rezultate ale dinamicii rețelei sociale: inegalitatea extremă a atenției.

Dar în științele sociale, învățăm mereu că totul este o distribuție normală. Trecerea de la studierea lumii sociale convenționale la studierea lumii sociale online înseamnă că treci de la aceste distribuții normale frumoase la aceste distribuții oribile ale legii puterii. Acestea sunt rezultatele de a avea rețele sociale în care probabilitatea de a se conecta la cineva depinde de câte conexiuni anterioare au. Dacă vrem să scăpăm de asta, probabil că trebuie să ne îndepărtăm de modelul de rețea socială și să avem un fel de model spațial sau model bazat pe grup, care face ca lucrurile să fie puțin mai locale, puțin mai puțin interconectate la nivel global.

ARS Technica: Se pare că ai vrea să eviți acele mari noduri influente care joacă un rol atât de central într -o rețea globală mare și complexă.

Petter Törnberg: Exact. Cred că faptul că aceste rețele și structuri globale subminează în mod fundamental posibilitatea tipului de conversații despre care au vorbit în mod tradițional oamenii de știință politică și teoreticieni politici când discutau în piața publică. Vorbeau despre interacțiunea socială într -o casă de cafea sau o casă de ceai, sau grupuri de lectură și așa mai departe. Oamenii au crezut că internetul va fi tocmai asta. Nu este foarte mult asta. Dinamica este fundamental diferită din cauza acestor diferențe structurale. Nu ar trebui să ne așteptăm să putem obține o structură de deliberare a casei de cafea atunci când avem o rețea socială globală în care toată lumea este conectată la toată lumea. Este dificil să ne imaginăm o politică funcțională care se bazează pe asta.

ARS Technica: Vreau să revin la comentariile dvs. cu privire la distribuția legii puterii, cum 1 la sută dintre oameni domină conversația, pentru că cred că acesta este un lucru pe care majoritatea utilizatorilor o uită în mod obișnuit. Lucrurile oribile pe care le vedem că oamenii spun pe internet nu sunt neapărat indicative pentru marea majoritate a oamenilor din lume.

Petter Törnberg: Desigur. Aceasta captează două aspecte. Primul este prisma social media, în care perspectiva pe care o obținem de politică atunci când o vedem prin obiectivul social media este fundamental diferită de ceea ce este de fapt politica. Pare mult mai toxic, mult mai polarizat. Oamenii par puțin mai nebuni decât sunt cu adevărat. Este un aspect foarte bine documentat al ascensiunii polarizării: oamenii au o percepție falsă a celuilalt. Majoritatea oamenilor au opinii destul de rezonabile și destul de similare. Polarizarea reală este mai mică decât polarizarea percepută. Și, probabil, este rezultatul rețelelor de socializare, modul în care reprezintă greșit politica.

Și atunci vedem acest grup foarte mic de utilizatori care devin foarte influenți, care de multe ori devin extrem de vizibili ca urmare a faptului că este un pic nebun și scandalos. Social media creează o structură de stimulare care este într -adevăr centrală pentru a remodela nu doar modul în care vedem politica, ci și ce este politica, care politicienii devin puternici și influenți, deoarece controlează distribuția a ceea ce este probabil cea mai valoroasă formă de capital a epocii noastre: atenția. Mai ales pentru politicieni, a fi capabil să controleze atenția este cel mai important lucru. Și întrucât media socială creează condițiile cine primește atenție sau nu, creează o structură de stimulare în care anumite personalități funcționează mai bine într -un mod care este doar fundamental diferit de modul în care a fost în epocile anterioare.

ARS Technica: Există cei care au jurat rețelele de socializare, dar se pare că pur și simplu nu participă nu este nici o soluție.

Petter Törnberg: Nu. În primul rând, chiar dacă citiți doar, să spunem, The New York Times, ziarul este încă redimensionat de ceea ce funcționează pe social media, logica social media. Am avut un student care a făcut un mic proiect anul trecut, arătând că pe măsură ce social media a devenit mai influentă, titlurile din New York Times au devenit mai clare și s -au adaptat la stilul a ceea ce a funcționat pe social media. Deci mass -media convențională și însăși cultura noastră sunt transformate.

86 de comentarii