Gigabefektetés a jövő MI-chipjeibe
A GTC eseményen a tervek szerint az Nvidia részletesebben bemutatja, miként integrálná a Groq fejlett chiptechnológiáját saját, már most is uralkodó MI-ökoszisztémájába. A Groq-üzletet nem csendes felvásárlásként, hanem nem kizárólagos licencelési szerződésként kötötték, így a Groq változatlanul működteti saját felhőszolgáltatását speciális chipjeivel, amelyek kifejezetten a nyelvi modellek futtatására (inferencia) koncentrálnak. Fontos megjegyezni, hogy a Groq nincs kapcsolatban Elon Musk Grok nevű MI-chatbotjával.
Jonathan Ross, a Groq alapítója és mostantól az Nvidia vezető szoftverarchitektusa, már évekkel ezelőtt kifejtette: a Groq soha nem versenyzett az Nvidiával az MI-modellek tanításában, inkább a futtatás (inferencia) területén keresik az innováció lehetőségét.
Mi az az MI-inferencia, és miért mindenki ezt akarja?
A mesterséges intelligencia komoly fejlődésen ment keresztül, és mára tömegigénnyé vált. Az MI két alapvető folyamata közül a betanítás a bonyolultabb, nagy számítási igényű szakasz, amelyben az Nvidia GPU-i uralják a piacot: ezek a grafikus processzorok elképesztő mennyiségű műveletet végeznek párhuzamosan, így ideálisak az MI-modellek betanítására. A mindennapi felhasználásban viszont, például egy chatbot vagy képfeldolgozó alkalmazás működtetése közben, úgynevezett inferenciára van szükség – vagyis a már megtanult mintázatok alapján gyors választ kell adni, tokenről tokenre. Erre egyre több vállalatnak van igénye, ezért az inferencia piacán nemcsak az Nvidia, hanem az AMD, a Google, a Meta, az Amazon és feltörekvő startupok is versenyeznek.
A Google saját fejlesztésű TPU-jaival és a Gemini chatbot sikerével mára az Nvidia fő riválisává vált, de az Amazon is nagy hírverést csapott Trainium nevű chipkészletének. A Claude MI-modelljét fejlesztő Anthropic az Nvidia, a Google és az Amazon chipjeit is beveti, amire szükség is van, mert a memória- és chipgyártás globális szűk keresztmetszete mindenkit alkalmazkodásra kényszerít.
Groq-specialitás: sebesség és hatékonyság
A Groq saját fejlesztésű LPU-ja (Language Processing Unit) kifejezetten az inferenciára fókuszál. Ezek a chipek a processzormagba épített, rövid távú SRAM-memóriát használnak, így rendkívüli sebességgel képesek feldolgozni a bejövő adatokat – különösen ott, ahol valós idejű reakcióra van szükség. A GPU-kkal szemben (amelyek a HBM-memóriát kívülről kapcsolják a processzormag mellé) ezek a chipek alacsonyabb költség mellett, nagyobb hatékonysággal tudnak futtatni MI-feladatokat, különösen, ha a feldolgozás sorrendiségében nem lehet kompromisszumot kötni.
Jonathan Ross egyik podcast-beszélgetésében elmondta, hogy együttműködést is látnak az Nvidia GPU-k és a Groq LPU-k között: a két architektúra kombinálásával gyorsabb és olcsóbb MI-inferenciát lehet elérni, például amikor egy-két részfeladatot gyorsan, Groq-chipen oldanak meg, miközben a többi a GPU-n fut. Sokan már most is kizárólag GPU-parkot üzemeltetnek, ezek kiegészítése Groq-modulokkal valódi nitrolöketet jelenthet számos alkalmazásban.
Az Nvidia törekvései és a piac forradalmának közeledte
Fontos megjegyezni, hogy az Nvidia globális árbevétele 2024-ben mintegy 68 milliárd dollár (24 480 milliárd forint) volt, ebből a hálózati üzletág csak a legutóbbi negyedévben elérte a 4 ezermilliárd forintos (11 milliárd dolláros) bevételt. Ez az összeg három évvel ezelőtt egy teljes év alatt sem jött össze a cégnél.
Az ilyen mértékű növekedés indokolja, hogy az Nvidia ne csak chipgyártó legyen, hanem teljes MI-komplexumokat kínáló szolgáltatóvá váljon. Korábbi, sikeres Mellanox-felvásárlásuk már bizonyította, hogy a hálózatfejlesztésben is vezető szerepet vehetnek át. A vezetőség optimista, hogy a Groq-üzlet legalább hasonlóan sikeres lehet, és elindíthatja az Nvidia következő forradalmi MI-chipjének fejlesztését, amellyel újabb területeken szerezhetnek piacvezető szerepet.
Az elkövetkező napokban minden szem San Joséra szegeződik, amikor Jensen Huang, az Nvidia ikonikus bőrkabátos vezérigazgatója ismerteti a Groq-technológia és az Nvidia MI-stratégiájának következő lépéseit. Az MI-ipar soha nem volt még ilyen izgalmas és kiélezett, a nagy dobás pedig már tényleg a küszöbön áll.
