Miért ilyen energiaigényesek az MI csevegőrobotok?
Az MI rendszerek működésének két fő energiazabáló szakasza a tanítás (tréning) és a következtetés (inferencia). A tanítás során a nagy nyelvi modellek (LLM-ek) hatalmas adatbázisokon tanulnak, hogy képesek legyenek felismerni mintákat, előre jelezni és értelmesen válaszolni. A szakemberek szerint minél nagyobb és adatgazdagabb a modell, annál jobb lesz a teljesítménye.
Fontos kiemelni, hogy a mai modellek már olyan méretűek, hogy nem férnek el egyetlen szerveren vagy egyetlen GPU-n; tanításukhoz több, átlagosan nyolc GPU-s szervert használnak hetekig vagy akár hónapokig – elképzelhetetlenül nagy energiafogyasztással. Egy Nvidia DGX A100 szerver például akár 6,5 kilowattot is fogyaszthat. Az OpenAI GPT-4 modelljének fejlesztése során 50 gigawattóra energia fogyott el – ennyiből San Francisco három napig működhetne.
Nemcsak a tréning, a válaszadás is áramfaló
A tréning után az úgynevezett inferencia is jelentős áramot igényel. Minden alkalommal, amikor egy felhasználó kérdést küld a chatbotnak, a modellnek végig kell futtatnia a tanultakat, hogy válaszolni tudjon. A ChatGPT-re például 2025 júliusára napi több mint 2,5 milliárd ilyen kérés érkezik, és minden alkalommal több szerver dolgozik egyszerre a válaszokon – nemcsak a ChatGPT-nél, hanem a hasonló rendszereknél is, például a Google Gemini esetén. Utóbbiról ráadásul az várható, hogy ötvenszer akkora energiaigénnyel fut majd, mint egy hagyományos Google-keresés.
Következmények és kilátások
Ennek következtében egyre többen próbálják számszerűsíteni az MI energiaigényét, hogy hatékonyabb működési módokat találjanak. Több kutató már online energetikai leltárokat készít, amelyek az egyes nyílt forráskódú modellek fogyasztását mutatják.
Ugyanakkor a nagyvállalatok – például a Google, a Microsoft és a Meta – által használt MI rendszerek valós energiaadatai többnyire titkosak, vagy csak homályos statisztikákat közölnek. Ez megnehezíti annak meghatározását, hogy valójában mekkora az energiafelhasználás, milyen lesz a trend a következő években, és hogy a világ lépést tud-e tartani ezzel a növekedéssel.
Érdemes kiemelni, hogy a felhasználók is nyomást gyakorolhatnak a cégekre a nagyobb átláthatóság érdekében, hogy felelősebben használhassák az MI-t, és elősegítsék a szabályozás frissítését. A digitális alkalmazások egyik alapvető problémája ugyanis az, hogy hatásuk gyakran átláthatatlan.
