Az MI-modellek nagy titka: óriási a memóriaháború tétje
Erre utal többek között az, hogy az MI-technológia fejlődése már nem csupán a grafikus processzorokról (GPU-król) szól – egyre nagyobb szerep jut a memóriának is. Ahogy a legnagyobb techcégek többmilliárd dolláros adatközpontokat építenek, a DRAM-chipek ára jelentősen megugrott. Eközben valódi művészetté válik, hogyan lehet a rendelkezésre álló memóriát úgy kezelni, hogy az adatok mindig ott legyenek, ahol az MI-ügynököknek épp szükségük van rájuk.
Memóriacsata az MI-piacon
Mindebből fakadóan, aki ügyesen szervezi a memóriát, kevesebb tokent használhat ugyanazon lekérdezésekhez – ezen akár a cégek fennmaradása is múlhat. A tapasztalatok azt mutatják, hogy még a legismertebb szolgáltatók, mint az Anthropic (Claude), is egyre bonyolultabbá teszik a gyorsítótárhoz (cache) kapcsolódó díjszabásukat. Ma már részletesen kalkulálni kell, hogy hány percig, hány óráig érdemes előre lefoglalni a cache-ben tartott eredmények tárolási idejét. A cache-ben tartott adatokra építeni nagyságrenddel olcsóbb, de minden új adat ki is szoríthatja a régit.
Felkészülni a következő nagy áttörésre
A memóriaoptimalizálás így a jövő egyik kulcsfontosságú területévé válik. Akik ebben élen járnak, óriási előnybe kerülnek. Már most is számos startup dolgozik különféle cache-optimalizációs megoldásokon, hiszen mind a hardver (például a DRAM- és HBM-memóriák alkalmazása adatközpontokban), mind a szoftveroldalon vannak kiaknázatlan lehetőségek. A végfelhasználóknak is újra kell gondolniuk, hogyan szervezik modelljeiket, hogy a közös gyorsítótár (cache) hasznát maximalizálják.
Olcsóbb és hatékonyabb MI-modellek jönnek
A fejlett memóriakezeléssel az MI-lekérdezésekhez kevesebb tokenre lesz szükség, ami csökkenti a költségeket. Ahogy a szerverek ára is folyamatosan mérséklődik, egyre több, eddig gazdaságtalannak tűnő MI-alkalmazás válik majd nyereségessé. Az igazi harc tehát most már nemcsak a számítási kapacitásról, hanem a memóriaoptimalizálásról szól.
🐅 Szeptemberben a Stelvio Nemzeti Park hegyóriásai között, a Fraele-völgyben egy vagány fotós, Elio Della Ferrera belebotlott minden paleontológus álmába: kétezer dinoszauruszlábnyom hemzseg egyetlen sziklafalon...
A kilencvenes években Alex Ross a Csodák (Marvels) és az Eljövendő királyság (Kingdom Come) minisorozatokkal robbant be a képregények világába, ahol egyedi, hipervalósághű festészete nemcsak borítókon, hanem belső oldalakon is megjelent...
Az alig 73 000 forintba kerülő Samsung Galaxy A17 5G első pillantásra elképesztő vételnek tűnik: hatalmas, fényes kijelző, meglepően jó kamerák, illetve hat éven át biztosított szoftveres és biztonsági frissítések...
🤔 Na, megint eljött az évnek az a misztikus időszaka, amikor a Google nem bírja ki, hogy egyszerűen csak kiírja nekünk az I/O fejlesztői esemény dátumát...
A jelszókezelők évek óta a digitális biztonság egyik legfontosabb eszközei, hiszen arra hivatottak, hogy minden belépési adatodat szigorúan titkosítva tárolják, akkor is, ha az őket futtató felhőszolgáltató rendszere veszélybe kerül...
💸 A vezető technológiai vállalatok jelenleg olyan ütemben fektetnek be a mesterséges intelligenciába, hogy elképzelhető: néhányuk szabad pénzárama veszélyesen alacsony szintre eshet...
Írország adatvédelmi hatósága hivatalos vizsgálatot indított az X ellen, amiért a platform Grok nevű MI-eszközével valós emberekről – köztük gyerekekről – hozzájárulás nélkül szexuális képeket készítettek...
🚫 Az Európai Parlament minden beépített MI-funkciót letiltott a hivatalos munkaeszközökön, miután komoly aggodalmak merültek fel az adatbiztonság és a kibervédelem terén...
A mindennapok részévé váltak azok a rendszerek, amelyek korábban csak látványos csevegőprogramok voltak: ma már oktatási intézményekben, irodákban és kórházakban is az MI segíti a munkát...
🛑 A Shein, a szingapúri gyorsdivatcég, megint bajban van, mert az Európai Bizottság szerint túl addiktív a vásárlási élmény, és bőven akadnak problémás cuccok is a kínálatban – beleértve az illegális és veszélyes termékeket...
💰 A Snap hamarosan elérhetővé teszi a Creator Subscriptions nevű szolgáltatást, amellyel a legaktívabb rajongók havidíjas előfizetéssel támogathatják kedvenc Snapchat-tartalomgyártóikat, és ezért exkluzív tartalmakat kaphatnak...
🔥 A Samsung tényleg mindenhová feltolja az AI-t: a telefonoktól a háztartási gépekig, most pedig gátlástalanul beteríti vele az egész közösségi médiáját is...
🚀 A Tejútrendszer közepének vizsgálata során a kutatók egy lenyűgöző rádiójelet figyeltek meg: egy elképesztően gyors, mindössze 8,19 ezredmásodpercenként forgó pulzárt, amely a Sagittarius A* nevű szupermasszív fekete lyuk közelében található...
📷 Az X platform már megint bajban van: újabb uniós vizsgálat indult, mert a Grok MI-rendszer tömegesen készített engedély nélküli, szexuális tartalmú képeket, köztük gyermekekről...
🚇 Kapaszkodj meg: hackerek kezdték árulni a sötét weben azokat az érzékeny utasadatokat, amelyeket nemrég loptak el az Eurail hollandiai szervereiről...
💻 Március 4-én ismét az Apple kerül reflektorfénybe: a vállalat egy különleges eseményt jelentett be, amelyen várhatóan több, régóta várt eszközt is bemutathat...
Nehéz elhinni, de a kreatív szoftverpiac egyik leglátványosabb fordulatát a Canva hozta el, amikor felvásárolta a nagy múltú Affinity csomagot, és minden fő funkcióját ingyenessé tette...
Az indiai Adani-csoport egészen elképesztő, 37 ezermilliárd forintos beruházást tervez a következő évtizedben, hogy mesterségesintelligencia-alkalmazások futtatására alkalmas adatközpontokat fejlesszen szerte Indiában...
🚫 Az Amazon tulajdonában álló Ring okos kapucsengő-márka megszakította együttműködését a rendőrségi megfigyeléstechnikával foglalkozó Flock Safety-vel...
