Korszerű technológia, mégis „csak” PCIe Gen5
A REBEL-Quad felépítését négy számítási ASIC, négy HBM3E csatlakozás és ugyanennyi integrált szilíciumkondenzátor jellemzi. Az MI-gyorsító egy duál PCIe Gen5 x16 kártya, miközben az NVIDIA hamarosan már a PCIe Gen6 szabványt vezeti be. A nagy újdonság itt azonban az UCIe-A interfész kihasználása, amely óriási adatátviteli sávszélességet kínál.
Élő bemutató: Ló 3.3 70B fejlesztői demóval (Llama 3.3 70B)
A REBEL-Quad kártya élőben futott egy fejlesztői alaplapon, ahol a Ló 3.3 70 milliárd paraméterrel (Llama 3.3 70B) nyelvi modellt demonstrálták. Átlagosan 35,5 ezredmásodperces tokengenerálási sebességet produkált, ami látványos teljesítmény ebben a hardveres fázisban.
Nem csak papíron létezik
A Rebellions ezzel egyértelműen megmutatta, hogy az új MI-gyorsítók már nem csak ötlet szintjén léteznek. Ritkaság, hogy valaki ilyen összetett chipcsomagot működés közben is bemutat, nem csupán színes prezentációkon vagy papíron. A REBEL-Quad valóban fut, és a következő generációs chiplet-technológiát élőben villantotta fel.
