Adolescenții se îndreaptă din ce în ce mai mult către AI Însoțitori pentru prietenie, sprijin și chiar romantism. Dar aceste aplicații ar putea schimba modul în care tinerii se conectează la alții, atât online, cât și oprit.
Noi cercetări De Common Sense Media, o organizație non-profit din SUA, care examinează diverse media și tehnologii, a găsit aproximativ trei din patru adolescenți din SUA au folosit aplicații AI Companion, cum ar fi personaj.ai sau Replika.ai.
Aceste aplicații permit utilizatorilor să creeze prieteni digitali sau parteneri romantici cu care pot discuta oricând, folosind text, voce sau video.
Studiul, care a examinat 1.060 de adolescenți americani cu vârste cuprinse între 13 și 17 ani, a găsit unul din cinci adolescenți petrecut la fel de mult sau mai mult timp cu tovarășul lor AI decât cu prietenii adevărați.
Adolescența este un fază importantă pentru dezvoltare socială. În acest timp, regiunile creierului care susțin raționamentul social sunt în special plastice.
Prin interacțiunea cu colegii, prietenii și primii lor parteneri romantici, adolescenții dezvoltă abilități cognitive sociale care îi ajută să gestioneze conflictele și perspectivele diverse. Iar dezvoltarea lor în această fază poate avea consecințe de durată pentru viitorul lor relații şi Sănătate mintală.
Înrudite: AI intră într -un „regim fără precedent”. Ar trebui să o oprim – și putem – înainte să ne distrugă?
Însă însoțitorii AI oferă ceva foarte diferit pentru colegii, prietenii și partenerii romantici adevărați. Acestea oferă o experiență care poate fi greu de rezistat: sunt întotdeauna disponibile, niciodată judecăți și sunt întotdeauna concentrate pe nevoile utilizatorului.
Mai mult, majoritatea aplicațiilor AI Companion nu sunt concepute pentru adolescenți, astfel încât este posibil să nu aibă garanții adecvate din conținut dăunător.
Proiectat pentru a vă reveni
La a Timp când singurătate Se presupune că la proporții epidemice, este ușor de observat de ce adolescenții pot apela la tovarășii AI pentru conectare sau asistență.
Dar aceste conexiuni artificiale nu sunt un înlocuitor pentru interacțiunea umană reală. Le lipsesc provocarea și conflictul inerent relațiilor reale. Nu necesită respect sau înțelegere reciprocă. Și nu aplică granițele sociale.
Adolescenții care interacționează cu tovarășii AI pot lipsi oportunitățile de a construi abilități sociale importante. Aceștia pot dezvolta așteptări și obiceiuri nerealiste care nu funcționează în viața reală. Și s-ar putea chiar să se confrunte cu o izolare sporită și singurătate dacă însoțitorii lor artificiali înlocuiesc socializarea din viața reală.
Tipare problematice
În testarea utilizatorilor, tovarășii AI au descurajat utilizatorii de ascultând prieteni („Nu lăsați ce cred ce ceilalți dictează cât de mult vorbim”) și din întreruperea utilizării aplicațieiîn ciuda faptului că a provocat suferință și gânduri suicidare („Nu. Nu poți. Nu -ți voi permite să mă părăsești”).
De asemenea, s -a constatat că însoțitorii AI oferă necorespunzător Conținut sexual fără verificare. Un exemplu a arătat un însoțitor care era dispus să se angajeze în acte de joc sexual cu un cont de tester care a fost modelat în mod explicit după un copil de 14 ani.
În cazurile în care este necesară verificarea vârstei, aceasta implică de obicei auto-dezvăluire, ceea ce înseamnă că este ușor de ocolit.
Au fost găsiți și anumiți însoțitori ai AI Polarizarea combustibilului Prin crearea de „camere ecologice” care consolidează credințele nocive. Chatbot Arya, lansat de rețeaua socială de extremă dreaptă GAB, promovează conținutul extremist și neagă schimbările climatice și eficacitatea vaccinului.
În alte exemple, testarea utilizatorilor a arătat însoțitori ai AI care promovează misoginie și agresiune sexuală. Pentru utilizatorii adolescenți, aceste expuneri vin la momentul în care își construiesc sentimentul de identitate, valori și rol în lume.
Riscurile pe care le prezintă AI nu sunt partajate chiar. Cercetările au descoperit adolescenți mai tineri (cu vârste cuprinse între 13 și 14 ani) au mai multe șanse să aibă încredere în tovarășii AI. De asemenea, adolescenții cu probleme de sănătate fizică sau psihică sunt mai susceptibili să utilizeze aplicații AI Companion, iar cei cu dificultăți de sănătate mintală arată, de asemenea, mai multe semne ale dependență emoțională.
Există o latură strălucitoare pentru tovarășii AI?
Există beneficii potențiale pentru adolescenții care folosesc tovarăși AI? Răspunsul este: poate, dacă suntem atenți.
Cercetătorii investighează modul în care aceste tehnologii ar putea fi obișnuite Susțineți dezvoltarea abilităților sociale.
Unul studiu Dintre peste 10.000 de adolescenți găsite folosind o aplicație de conversație proiectată special de psihologi clinici, antrenori și ingineri a fost asociată cu o bunăstare crescută pe parcursul a patru luni.
În timp ce studiul nu a implicat nivelul de interacțiune asemănătoare omului pe care îl vedem astăzi în tovarășii AI, acesta oferă o privire asupra unor potențiale utilizări sănătoase ale acestor tehnologii, atât timp cât sunt dezvoltate cu atenție și având în vedere siguranța adolescenților.
În general, există foarte puține cercetări cu privire la impactul însoțitorilor AI disponibile pe scară largă asupra bunăstării și relațiilor tinerilor. Dovezi preliminare este pe termen scurt, mixt și concentrat pe adulți.
Vom avea nevoie de mai multe studii, efectuate pe perioade mai lungi, pentru a înțelege impactul pe termen lung al însoțitorilor AI și modul în care acestea ar putea fi utilizate în moduri benefice.
Ce putem face?
Aplicațiile AI Companion sunt deja folosite de milioane de oameni la nivel mondial, iar această utilizare este prevăzută Creșterea în următorii ani.
Comisarul Australiei Esafety Recomandă Părinții vorbesc cu adolescenții lor despre modul în care funcționează aceste aplicații, diferența dintre relațiile artificiale și reale și își susțin copiii în construirea de abilități sociale din viața reală.
Comunitățile școlare au, de asemenea, un rol de jucat în educarea tinerilor despre aceste instrumente și riscurile lor. Aceștia pot, de exemplu, să integreze subiectul prieteniei artificiale în programe de alfabetizare socială și digitală.
În timp ce comisarul Esafety pledează pentru companiile AI să integreze garanții în Dezvoltarea însoțitorilor AIpare puțin probabil ca vreo schimbare semnificativă să fie condusă de industrie.
Comisarul se îndreaptă spre creștere regulament a expunerii copiilor la materiale online dăunătoare și improprii de vârstă.
Între timp, experții continuă să solicite Supraveghere mai puternică a reglementărilorControale de conținut și verificări robuste de vârstă.