Az MI bekebelezi a világ memóriáját – küszöbön a memóriaínség?
A következő években elképesztő ütemben növekszik majd a memóriaigény a mesterséges intelligencia piacán. Egyetlen MI-gyorsító még pár éve csak 80 GB HBM3 memóriával rendelkezett, a közeljövőben viszont már 2 TB-ot igényel majd. Ez több mint huszonötszörös növekedést jelent néhány év alatt.
Tornyosuló memóriaéhség
Az MI-gyorsítók elterjedése is szédítő sebességgel növekszik: 2022 és 2028 között várhatóan 25-szörösére nő az új eszközök telepítése az adatközpontokban. Ha ezt összeszorozzuk a gyorsítók memóriakövetelményeinek növekedésével, 625-szörös teljes piaci memóriaigény-növekedést kapunk. Ez az ugrás azonban leginkább a maximális hardveres felszereltségre vonatkozik, a valóságban a növekedés inkább 180-szoros lesz.
Néhány cég tartja kezében a kulcsot
Ma mindössze három gyártó – SK hynix, Samsung és Micron – képes kielégíteni a HBM-memóriák iránti keresletet, és e három cég sem tudja tartani a lépést a jelenlegi tempóval. Ezenfelül a 2028-ra tervezett új gyártósorok is kevésnek bizonyulnak a várható, brutálisan megnövekedő DRAM-fogyasztás kielégítésére. Nemcsak a HBM, hanem az LPDDR5X (főként laptopokban és kézi konzolokban) és a NAND-flash is komoly hiánycikk lesz.
Gigantikus számok, kompromisszumos jövő
Egyetlen MI-szerverrack akár 480 GB LPDDR5X-et és 144 darab, több terabájtos SSD-vel szerelt bővítőhelyet is tartalmazhat. Egy teljesen feltöltött NVL72-torony 17 TB DRAM-ot és 547 TB flash-tárhelyet igényel – ez pedig csupán egyetlen egység. A legnagyobb adatközpontok százával, ezrével használják ezeket.
Ha szerencsénk van, a gyártók gyors fejlesztési tempója megőrzi a jelenlegi (még megfizethető, ámbár drága) állapotot. Ellenkező esetben a memóriahiány tovább fokozódik, ami akár visszafoghatja az MI fejlődését is.
Nem ez volt az első alkalom, hogy hasonló problémák merültek fel: korábban is volt már például chiphiány, amely hónapokra megbénította a technológiai ipar egyes szegmenseit.
Na most kapaszkodj, mert a legújabb áprilisi Windows-biztonsági frissítés (KB5082063) telepítése után néhány szerver szinte azonnal újraindulási körforgásba zuhan...
A gyenge, alacsony frekvenciájú elektromos terek pontos mérése eddig komoly kihívást jelentett, főleg a nagy, nehezen miniatürizálható eszközök és a korlátozott felbontás miatt...
🚀 Felmerül a kérdés, merre tart most az űrhajózás, miközben minden eddiginél izgalmasabb fejlemények zajlanak mind a NASA, mind a komoly magáncégek berkeiben...
🚀 A Samsung végre elérhetővé teszi azokat a mesterségesintelligencia-funkciókat, amelyeket először a Galaxy S26 modellben ismerhettünk meg – ráadásul teljesen ingyen a Galaxy S25 felhasználóinak...
Bár egyre többen alkalmazzák a mesterséges intelligenciát a médiában, az újságíró közösségben továbbra is erős fenntartások élnek a használatával szemben...
Technológiai forradalomban élünk, ahol minden eddiginél gyorsabban haladhatnak előre a cégek – a kérdés azonban korántsem ilyen egyszerű: vajon mindenki valóban jó irányba indul-e?..
⚠ Április elején az Anthropic bejelentette legújabb MI-modelljét, Mythos néven. A döntés, hogy a fejlesztést nem engedik szabadon a nagyközönséghez, szinte példátlannak számít a szektorban – legutóbb hasonló lépésre 2019-ben az OpenAI szánta el magát...
Az élelmiszerboltok polcain sorakozó kávékkal szembesülő vásárló könnyen elbizonytalanodhat: vajon nem hagy-e ki valami jobbat a jól megszokott márkák mögött?..
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. PostalCal (iPhone/iPad)A Postal Employee Day Off Calendar egy egyszerű, célzott alkalmazás, amely a USPS postai dolgozók és családtagjaik számára készült...
💻 Amit látunk, az túlmutat a megszokotton: a nagyméretű nyelvi modellek (LLM-ek) üzemeltetése ma már nem csupán jó algoritmusokról szól, hanem komoly hardvertervezési és optimalizálási kérdés is lett...
Erre utal többek között az, hogy a fekete lyukak soha nem tűnnek el teljesen, még akkor sem, ha Hawking sugárzása révén látszólag folyamatosan veszítik tömegüket...
A mesterséges intelligencia fejlesztésének újabb mérföldkövéhez érkeztünk: az Anthropic piacra dobta legújabb, mindenki számára elérhető nagy nyelvi modelljét, a Claude Opus 4...
Észak-Amerika egyes részein különleges látványosság várható ezen a hétvégén: ritkán látható északi fények festik az eget, mindezt egy jelentős, a Nap légkörében, a koronában keletkezett koronalyuknak köszönhetően...
A Bitcoin árfolyama csütörtök délelőtt hirtelen esett vissza, miután sorozatosan kudarcot vallott a 27,5–28 millió forintos (75 000–76 000 USD) árfolyamszint áttörésében...
Erre utal többek között az, hogy az IBM 6 milliárd forint (17 millió dollár) összegben kötött megállapodást egy, a sokszínűség, esélyegyenlőség és befogadás (DEI) programjai miatt indult vizsgálat ügyében...
🥗 Ami először apróságnak tűnt, most áttörésnek számít a tudósok szerint: egy természetes hormon, az FGF21 képes visszafordítani az elhízást egerekben...
Az egyik legnépszerűbb online játékplatform, a Roblox összesen több mint 4,4 milliárd forintot (12 millió USD) fizet, és új biztonsági intézkedéseket vezet be, miután Nevadában per elé került a gyermekvédelem hiányosságai miatt...