Vai zināji, cik daudz elektrības patērē tava čatbotu saruna? Šis rīks to aprēķina!
Mūsdienās mākslīgais intelekts (MI) ir kļuvis par ikdienas sastāvdaļu – mēs uzdodam jautājumus, saņemam atbildes un pat pateicamies čatbotiem, neiedomājoties, ka katra šāda darbība patērē enerģiju. Bet cik tieši elektrības izmanto tava vienkāršā čata pieprasījuma apstrāde? Hugging Face inženieris Žiljēns Delavands ir izveidojis rīku, kas sniedz atbildi uz šo jautājumu.
Kāpēc čatboti patērē elektrību?
Katrs mūsu sūtītais čatziņa pieprasījums vai atbilde no MI modeļa tiek apstrādāta uz attālinātiem serveriem, kuri darbojas, izmantojot jaudīgas grafiskās procesora vienības (GPU) un specializētus mikroshēmas. Šīs iekārtas ir īpaši energoietilpīgas – tās ne tikai prasa lielu elektroenerģijas daudzumu darbības laikā, bet arī rada siltumu, kas prasa papildu dzesēšanas sistēmas.
Delavanda izveidotais rīks ļauj aptuveni novērtēt, cik daudz CO2 ekvivalenta izmanto konkrēts čatziņa pieprasījums, pamatojoties uz modeļa izmēru, pieprasījuma garumu un datu centra atrašanās vietu.
Kā tas strādā?
Rīks izmanto vairākus faktorus, lai veiktu aprēķinus:
- Izmantotā MI modeļa parametru skaits (piemēram, GPT-3, GPT-4 vai cits)
- Ievades teksta garums (cik rakstzīmes satur tavs jautājums)
- Izvades teksta garums (cik garu atbildi ģenerē bots)
- Datu centra enerģētiskā efektivitāte
- Reģionālā elektroenerģijas ražošanas CO2 pēdas nospiedums
Reālie skaitļi: cik “dārga” ir tava čata sessija?
Lai gan viena pieprasījuma enerģijas patēriņš ir niecīgs (parasti mazāks par 0,001 kWh), kopējais efekts ir iespaidīgs, ņemot vērā, ka ik dienas tiek apstrādāti miljardiem pieprasījumu. Piemēram:
- Viens īss jautājums (10 vārdi) un īsa atbilde (20 vārdi): ~0,0002 kWh
- Garāka saruna (vairāki jautājumi un atbildes): 0,002–0,005 kWh
- Dienas vidējais lietotāja patēriņš: 0,01–0,03 kWh
Salīdzinājumam: 1000 tipisku čatpieprasījumu enerģijas patēriņš ir aptuveni līdzvērtīgs 5 minūšu televizora skatīšanai.
Kāpēc tas ir svarīgi?
AI nozares straujā izaugšana rada arvien lielāku enerģijas pieprasījumu. Pēc dažiem aprēķiniem, lielo valodu modeļu apmācība var patērēt tikpat daudz elektrīgas kā simtiem mājsaimniecību gadu gaitā. Lai gan viena lietotāja ietekme ir minimāla, kopējais efekts ir jāņem vērā, veidojot ilgtspējīgas digitālās paradības.
Kā samazināt savu digitālo CO2 pēdu?
Lai būtu atbildīgāks MI lietotājs, vari ievērot šos padomus:
- Formulē precīzus pieprasījumus – jo īsāks un precīzāks jautājums, jo mazāk enerģijas nepieciešams atbildes ģenerēšanai
- Izmanto lokālos modeļus, ja iespējams – daži uzdevumi var tikt veikti uz ierīces, neizmantojot mākoņa resursus
- Izvairies no liekās “sarūgtināšanas” – katrs papildu “paldies” vai “varu lūgt vēl?” pieprasījums patērē enerģiju
- Izvēlies energoefektīvus pakalpojumus – daži AI piedāvātāji aktīvi strādā pie CO2 pēdas samazināšanas
Nākotnes perspektīvas
AI nozares pārstāvji aktīvi strādā pie enerģijas patēriņa optimizācijas. Tiek izstrādāti jauni, efektīvāki algoritmi, energoefektīvākas GPU arhitektūras un pat specializēti procesori, kas veltīti tikai valodu modeļu darbībai. Turklāt, arvien vairāk datu centru pāriet uz atjaunojamās enerģijas avotiem.
Delavanda rīks ir tikai sākums – nākotnē varētu gaidīt vēl detalizētākus enerģijas patēriņa monitorus, kas iekļauti tieši čatbotu saskarnēs, ļaujot lietotājiem reāllaikā redzēt savu ietekmi uz vidi.
Kā vienmēr, atslēga ir apzināta lietošana. AI tehnoloģijas nāk ar lielām iespējām, bet arī atbildību. Nākamreiz, kad sūtīsi čatbotam vēl vienu “paldies”, varbūt vērts padomāt – vai šī atbilde tiešām ir nepieciešama?