Harc a gyorsítópiacért
Az Nvidia frappánsan kommentálta a helyzetet: szerintük nincs még egy platform, amely minden MI-modellt és mindenütt képes futtatni őket. Kiemelték, hogy az ASIC típusú eszközökkel szemben – mint amilyen a TPU is – ők rugalmasabb, sokoldalúbb és nagyobb teljesítményű megoldást kínálnak. Az Nvidia emlékeztetett: még mindig a technológiai élvonalban járnak, és továbbra is szállítanak hardvert a Google-nek.
Google TPU: nagyobb teljesítmény, új kihívások
A Google legújabb, hetedik generációs TPU-ja – Ironwood kódnéven – sebességben utolérte az Nvidia Blackwell gyorsítóit, sőt, nagyobb léptékű klaszterekbe is szervezhető: akár 9216 chipes egységek is létrehozhatók. Bár a következő Nvidia-generáció, a Vera Rubin gyorsabb lesz, a Google előnye a könnyű méretezhetőség.
Ugyanakkor a Google egyelőre csak bérlésre kínálja TPU-it a saját felhőszolgáltatásán keresztül, eladásra nem. Ha a Meta mégis vásárolhatna ilyen hardvert, akkor is hatalmas integrációs nehézségekkel kellene szembenéznie. A Meta jelenlegi, Nvidia- és AMD-alapú rendszerei teljesen eltérőek a TPU mesh-hálózatú architektúrájától: a programozás is más logikát kíván. Nagy hátrány, hogy a Meta saját MI-keretrendszere, a PyTorch, nem natívan támogatja a TPU-t, csak egy többletréteggel (PyTorch/XLA).
Meta stratégiák, Google tervek
Valószínűbb, hogy a Meta csak teszteli, hogyan futnak a Llama nagy nyelvi modellek (LLM) a Google TPU-kon – főleg inferencia, vagyis futtatási feladatokban, amelyek tízszer kevesebb számítási kapacitást igényelnek, mint a tréning. Ezek könnyedén futhatnak akár a Google felhőjén bérelt gyorsítókon, a Meta saját hardvere nélkül is.
Emellett a Google már nyit a konkurens MI-fejlesztők felé: az Anthropic – a Claude modellek fejlesztője – idén akár egymillió TPU-t is használ majd modellek tanítására és futtatására, miközben eddig inkább Amazon Trainium-gyorsítókat vett igénybe.
Óriáscégek összefonódó szövetségei
Az Anthropic nemrég stratégiai partnerséget kötött a Microsofttal és az Nvidiával is. Az üzlet lényege, hogy 11 100 milliárd forint (30 milliárd dollár) értékű Azure-számítási kapacitást vásárolnak, cserébe az Nvidia 3700 milliárd forintot, a Microsoft 1850 milliárd forintot fektet az Anthropicba. Mindez jól mutatja: a nagy MI-játékosok minden oldalról biztosítják magukat, párhuzamosan építik kapcsolataikat a versenytársakkal is.
