Az optikai tranzisztor forradalma
Valószínű, hogy a jelenleg alkalmazott szilíciumalapú optikai tranzisztorok túl nagyok ahhoz, hogy érdemben növelhető legyen a chipek teljesítménysűrűsége. Ezzel szemben a Neurophos által fejlesztett fényalapú tranzisztorok tízezerszer kisebbek a hagyományosaknál, így jóval nagyobb számú feldolgozóegység integrálható egyetlen lapkára. A vállalat első nagy áttörése abban rejlik, hogy ezek a miniatűr optikai áramkörök meglévő CMOS-gyártástechnológiával kompatibilisek, vagyis gyakorlatilag bármelyik ma működő félvezetőgyárban előállíthatók.
Extrém teljesítmény – alacsony energiafogyasztás mellett
A Neurophos processzorának középpontjában egy optikai tensor mag (tensor core) áll, amelyben egyszerre 1 000 × 1 000 feldolgozóelem dolgozik. Ez jóval nagyobb, mint amilyenek a mai csúcskategóriás GPU-kban (például az Nvidia Rubin) találhatók, ott ugyanis legfeljebb 256 × 256-os mátrixműveletre képes egységek vannak. Nem elhanyagolható tényező, hogy a Neurophos az egész lapkán mindössze egyetlen ilyen óriási tensor magot használ, amely működéséhez elegendő 25 mm² hely. Az adatellátáshoz nagy mennyiségű vektorprocesszor és SRAM szükséges.
A teljes optikai számítási blokk 56 gigahertzes órajelen működik, így 470 petaFLOPS FP4 (vagy INT4) számítási teljesítményt ér el, miközben a fogyasztás csupán 1–2 kW terhelés alatt. Ezzel az értékkel az Nvidia legújabb GPU-it is többszörösen felülmúlja, hasonló energiaigény mellett.
Első alkalmazások és jövőbeli célok
Az első generációs, Tulkas T100 munkanévre keresztelt chip 768 GB HBM memóriával érkezik, különleges, kettős retikula-kivitelben. Ennek alapján megállapítható, hogy a Neurophos fő fókusza kezdetben a mesterséges intelligencia előfeldolgozási (prefill) feladatainak gyorsítása lesz, mivel ezek nagyobb számítási kapacitást igényelnek, viszont kevesebb memóriaelérést. Az olyan LLM-ek futtatásánál, mint a ChatGPT, ez a szakasz kritikus, hiszen a bemeneti tokenek feldolgozása teljesítményigényes.
A hosszabb távú célok között szerepel a dekódolási (token-generálási) szakasz gyorsítása is, azonban ehhez további technológiai fejlesztések szükségesek, például az optikai és elektronikai összeköttetések terén.
Fejlesztési tervek és pénzügyi háttér
A chip sorozatgyártása legkorábban 2028 közepén várható, akkor is csak néhány ezer darabos mennyiségben. Addig a Neurophos főként egy koncepcióigazoló (Proof of Concept, PoC) prototípus befejezésén dolgozik, amely igazolja majd a számítási és energiahatékonysági ígéreteket. Az eddig elért eredmények és a vállalatban rejlő potenciál meggyőzték a befektetőket is: a Gates Frontier, valamint a Microsoft kockázatitőke-alapja több mint 40 milliárd forintot fektetett be a startupba, így a fejlesztések biztosítottak a következő évekre.
