DI ir energija: kiek elektros sunaudoja vienas tavo ChatGPT klausimas
·
Tu parašei „kas yra fotosintezė?” ir gavai atsakymą per 3 sekundes. Kiek tai kainavo planetai? Daugiau nei galvoji.
Vienas ChatGPT užklausimas sunaudoja maždaug 10 kartų daugiau energijos nei viena Google paieška. Google paieška naudoja apie 0,3 vatvalandės. ChatGPT atsakymas reikalauja apie 3 vatvalandės. Sudėtingas, ilgas pokalbis gali siekti ir 10-20 vatvalandžių.
Tai nedaug vienam žmogui. Bet kai 100 mln. žmonių kasdien naudoja ChatGPT, skaičiai tampa kosminio.
Skaičiai, kurie neramina
Stanford DI ataskaita 2026 atskleidė, kad vien GPT-4o metinis vandens sunaudojimas (aušinimui) viršija 12 mln. žmonių geriamojo vandens poreikius. DI duomenų centrai sunaudoja daugiau elektros nei 30 šalių.
Vienas didelis DI duomenų centras sunaudoja tiek elektros, kiek 100 000 namų ūkių. Ir naujų centrų statoma dešimtimis. Duomenų centrų bumas tik įsibėgėja.
Treniravimas vs naudojimas
Modelio treniravimas yra kaip pastato statyba. Tai vienkartinis dalykas (daugiau ar mažiau) ir tai sunaudoja milžinišką energijos kiekį. GPT-4 treniravimas sunaudojo apie 50 GWh. Tiek naudoja 5 000 namų per metus.
Bet naudojimas (inference) yra kaip pastato apšildymas. Jis trunka amžinai ir bendrai sunaudoja daug daugiau nei statyba. Kuo daugiau žmonių naudoja modelį, tuo daugiau energijos reikia.
Ar yra sprendimas
Tufts universiteto mokslininkai rado būdą sumažinti suvartojimą 100 kartų. Efektyvesni modeliai, geresni lustai, branduolinė energija duomenų centrams. Sprendimai egzistuoja.
Bet kol kas augimas lenkia efektyvumą. Kiekvieną kartą, kai modeliai tampa efektyvesni, žmonės juos naudoja daugiau. Jevonso paradoksas klasikiniu pavidalu.
Tai nereiškia, kad reikia nustoti naudoti DI. Tai reiškia, kad reikia suprasti kainą. Ne tik finansinę, bet ir energetinę. DI haliucinacijos kainuoja ne tik neteisingais atsakymais, bet ir bereikalingai sudeginta energija.
