Fejlett hálózat és hűtés
A JetStream egy PCIe Gen5 hálózati adapter QSFP-DD interfésszel. Ez azért lényeges, mert jelenleg jóval könnyebben beszerezhető hozzá nem NVIDIA gyártású switch, mint az OSFP-s variációkhoz, így az optikai transzceiverek kiválasztása és elhelyezése is rugalmasabb. 150 W TDP-je miatt a kártya számára kiegészítő tápellátás szükséges, ez azonban nem egyedi jelenség, hiszen például az NVIDIA BlueField-3 DPU-nál is előfordul.
A JetStream PCIe Gen5-ös kialakítása azt jelenti, hogy leginkább az NVIDIA ConnectX-7-tel versenyez, mivel ez szintén 400 Gbps-os sávszélességet kínál, szemben az újabb ConnectX-8 kártyákkal.
Külön érdekesség a hőelvezetés: a JetStream kártyák QSFP-DD házára hőcsöves megoldást alkalmaztak, mert a szerverek hátulján elhelyezkedő optikák gyakran jobban melegszenek. Ennek ellenére a korszerű hűtés biztosítja a kártyák hosszú távú megbízhatóságát MI-klaszterekben.
Robusztus skálázás, költséghatékonyság
A JetStream elsődleges felhasználási területe a d-Matrix Corsair MI-inferencia szerver. Ezekben jellemzően Supermicro 5U GPU/MI szervereket alkalmaznak, amelyek 144 portos Broadcom PCIe Gen5 switchekkel vannak felszerelve. Egy switch négy Corsair kártyát fog össze DMX híddal, hogy PCIe nélkül biztosítson nagy sávszélességet a párosok között – így egy rendszeren belül akár nyolc kártyáig is el lehet jutni.
Ebből következően a JetStream egyik jelentős előnye, hogy további skálázást tesz lehetővé a PCIe busz megkerülésével, újabb szervereket kötve össze nagy sávszélességű Etherneten keresztül. A modern, 51,2T (azaz több mint 50 terabites) switchekkel akár 128 darab 400G-s kártyával felszerelt szervert is össze lehet kapcsolni, így a költségek is alacsonyabban tarthatók egy MI-inferencia infrastruktúrában.
Jövőkép és kitekintés
Fontos szempont, hogy a d-Matrix nemcsak MI-gyorsítót, hanem hálózati kártyát is fejleszt, sőt, jövőbeli terveik közt szerepel a skálázható Ethernet vagy UALink integráció, valamint egy I/O chiplet is készülőben van.
Ugyanakkor az ár egyelőre nem ismert, de a 150 W-os fogyasztás arra utalhat, hogy olcsóbb lesz, mint sok hasonló teljesítményű versenytársa. Ezért a JetStream jelentős tényező lehet az MI-hardverpiacon, különösen, ha a d-Matrix következő fejlesztései tovább növelik a skálázhatóságot és csökkentik a rendszerköltségeket.
