diverse

De ce chatbot -urile AI folosesc atât de multă energie?

de-ce-chatbot-urile-ai-folosesc-atat-de-multa-energie?
O imagine a unei persoane care ține un telefon cu valuri de lumină purpurie care iese din el
A solicita un model de limbă mare (LLM) la care se folosește o întrebare De 10 ori mai electricitate medie necesar pentru o căutare Google obișnuită. (Credit de imagine: Qi Yang prin Getty Images)

În ultimii ani, Chatgpt a explodat în popularitate, cu Aproape 200 de milioane de utilizatori Pomparea unui total de peste un miliard de solicitări în aplicație în fiecare zi. Aceste prompturi pot părea să completeze solicitările din aer subțire.

Dar în spatele scenei, inteligenţă artificială (AI) Chatbots folosesc o cantitate masivă de energie. În 2023, centrele de date, care sunt utilizate pentru a se antrena și a prelucra AI, au fost responsabile de 4,4% din consumul de energie electrică în Statele Unite. În întreaga lume, aceste centre se alcătuiesc în jur de 1,5% de consum global de energie. Se așteaptă ca aceste numere să se ridice, cel puțin dublându -se până în 2030 Pe măsură ce cererea pentru AI crește.

„Acum doar trei ani, nici măcar nu am discutat încă”, a spus Alex de Vries-Gaoun cercetător de sustenabilitate a tehnologiei emergente la Vrije Universiteit Amsterdam și fondator al Digiconomisto platformă dedicată expunerii consecințelor nedorite ale tendințelor digitale. „Și acum vorbim despre o tehnologie care va fi responsabilă pentru aproape jumătate din consumul de energie electrică de către centrele de date la nivel global.”

Dar ce face Chatbots AI atât de intensiv în energie? Răspunsul constă în scara masivă a chatbot -urilor AI. În special, există două părți ale AI care folosesc cea mai mare energie: antrenament și inferență, a spus Mosharaf Chowdhuryun informatician la Universitatea din Michigan.

Înrudite: De ce energia electrică face un zgomot zumzet?

Pentru a antrena chatbot -uri AI, modelele de limbaj mare (LLMS) li se oferă seturi de date enorme, astfel încât AI să învețe, să recunoască tiparele și să facă predicții. În general, există o „mai mare credință mai bună” cu antrenamentele AI, a spus De Vries-Gao, unde se consideră că modele mai mari care iau mai multe date fac predicții mai bune.

„Deci, ceea ce se întâmplă când încercați să faceți un antrenament este că modelele din zilele noastre au devenit atât de mari, nu se încadrează într -un singur GPU [graphics processing unit]; Nu se încadrează într -un singur server “, a spus Chowdhury Live Science.

Pentru a da un sentiment de scară, 2023 Cercetare De Vries-Gao a estimat că un singur server NVIDIA DGX A100 cere până la 6,5 ​​kilowati de putere. Instruirea unui LLM necesită de obicei mai multe servere, fiecare având în medie opt GPU -uri, care apoi rulează săptămâni sau luni. În total, acest lucru consumă munți de energie: se estimează că antrenamentul GPT-4 al lui OpenAI a folosit 50 de ore de energie de gigawatt, echivalent cu alimentatul San Francisco timp de trei zile.

Inferența consumă, de asemenea, multă energie. Aici un chatbot AI trage o concluzie din ceea ce a învățat și generează o ieșire dintr -o cerere. Deși este nevoie de resurse de calcul considerabil mai puține pentru a rula un LLM după ce este instruit, inferența este intensă în energie din cauza numărului mare de solicitări făcute către Chatbots AI.

În iulie 2025, Openai state Că utilizatorii ChatGPT trimit peste 2,5 miliarde de solicitări în fiecare zi, ceea ce înseamnă că mai multe servere sunt utilizate pentru a produce răspunsuri instantanee pentru aceste solicitări. Acest lucru nu este nici măcar să ia în considerare celelalte chatbots care sunt utilizate pe scară largă, inclusiv Gemini Google, despre care reprezentanții spun că vor În curând devin opțiunea implicită Când utilizatorii accesează căutarea Google.

“Deci, chiar și în inferență, nu poți economisi cu adevărat nicio energie”, a spus Chowdhury. “Nu sunt date cu adevărat masive. Adică, modelul este deja masiv, dar avem un număr masiv de oameni care îl folosesc.”

Cercetători precum Chowdhury și De Vries-Gao lucrează acum pentru a cuantifica mai bine aceste cerințe de energie pentru a înțelege cum să le reducă. De exemplu, Chowdhury păstrează un ML Energy Kningboard Aceasta urmărește consumul de energie de inferență a modelelor open-source.

Cu toate acestea, cerințele de energie specifice ale celorlalte platforme AI generative sunt în mare parte necunoscute; Companii mari precum Google, Microsoft și Meta păstrează aceste numere private sau oferă statistici care oferă o perspectivă mică asupra impactului asupra mediului real al acestor aplicații, a spus De Vries-Gao. Acest lucru face dificil să se stabilească cât de multă energie folosește cu adevărat AI, care va fi cererea de energie în anii următori și dacă lumea poate ține pasul.

Persoanele care folosesc aceste chatbots, totuși, pot face eforturi pentru o mai bună transparență. Acest lucru nu numai că îi poate ajuta pe utilizatori să facă mai multe alegeri responsabile de energie cu propria utilizare AI, dar și să facă eforturi pentru politici mai robuste care să răspundă companiilor.

“O problemă foarte fundamentală cu aplicațiile digitale este că impactul nu este niciodată transparent”, a spus de Vries-Gao. “Mingea este alături de factorii de decizie pentru a încuraja dezvăluirea, astfel încât utilizatorii să poată începe să facă ceva.”

Alice Sun este un jurnalist științific cu sediul în Brooklyn. Ea acoperă o gamă largă de subiecte, inclusiv ecologie, neuroștiință, științe sociale și tehnologie. Lucrarea ei a apărut în Audubon, Sierra, invers și multe altele. Pentru diploma de licență, a studiat biologia mediului la Universitatea McGill din Canada. De asemenea, are un master în raportarea științei, sănătății și mediului de la NYU.

To top
Cluburile Știință&Tehnică
Prezentare generală a confidențialității

Acest site folosește cookie-uri pentru a-ți putea oferi cea mai bună experiență în utilizare. Informațiile cookie sunt stocate în navigatorul tău și au rolul de a te recunoaște când te întorci pe site-ul nostru și de a ajuta echipa noastră să înțeleagă care sunt secțiunile site-ului pe care le găsești mai interesante și mai utile.