Az MI így zabál – Vagyis most már kevésbé

Egy év alatt harmincháromad részére csökkent a Google MI-lekérdezéseinek energiaigénye – közölte a vállalat legfrissebb elemzése. Egy átlagos Gemini Alkalmazások (Gemini Apps) szöveges lekérdezés ma már csak 0,24 wattórát fogyaszt, ami körülbelül annyi, mint kilenc másodperc tévénézés. Egy ilyen művelet 0,03 gramm szén-dioxidot bocsát ki, és csupán 0,26 milliliter, azaz nagyjából öt csepp vizet igényel. Bár az egyéni hatás elenyészőnek tűnik, a Google minden kereséshez MI-t is futtat, és a rengeteg lekérdezés így összességében jelentős terhelést jelenthet.

Gigászi optimalizálás MI-vel

A csökkenés mögött több tényező áll: a megnövekedett napenergia-felhasználásnak köszönhetően az egységnyi energia szén-dioxid-kibocsátása egy év alatt 1,4-szeresével csökkent. Az igazi áttörést azonban a szoftveres fejlesztések hozták: ezekkel sikerült az energiaköltséget harmincháromad részére csökkenteni. Ilyen például a szakértői keverék (Mixture-of-Experts) eljárás, amely csak azokat a modellrészeket aktiválja, amelyek valóban szükségesek – ezzel tíz-hússzoros megtakarítás érhető el. Emellett a fő MI-modell kisebb, kompakt változatait is bevetették, és a szerverparkoknál egyre több erőforrást kapcsolnak alacsony fogyasztású üzemmódba, amikor nincs rájuk szükség.

Saját fejlesztésű hardver, kevesebb áram

A Google az MI-gyorsítókat is maga tervezi, szoftverével szorosan együttműködve, hogy a hardver és a szoftver tökéletes összhangban legyenek. Ez azért is kulcsfontosságú, mert a lekérdezések energiaszükségletének több mint fele ezekhez köthető. A hatékony adatközponti üzemeltetés, a precíz erőforrás-kezelés és a saját fejlesztések kombinációjának köszönhetően a cég szerint egy év alatt akár harmincháromad részére esett vissza egy MI-lekérdezés energiafogyasztása.

2025, adrienne, tech.slashdot.org alapján