Az MI költségcsökkentő trükkje: újítás a DeepSeek-től
A kínai DeepSeek legújabb fejlesztése, a V3.2-exp nevű kísérleti MI-modell jelentősen csökkenti a hosszú kontextust igénylő feladatok költségeit. A modell legfontosabb eleme a DeepSeek Sparse Attention technológia, amely okosan kezeli, mire fókuszáljon a rendszer, amikor hosszú szövegekkel dolgozik. Ez úgy működik, hogy egy lightning indexer nevű modul előre kiválasztja a releváns szövegrészleteket a teljes kontextusból, majd egy finomhangolt tokenkiválasztó pontosan meghatározza, mely szavakat érdemes figyelembe venni. Ez lehetővé teszi, hogy a modell nagy mennyiségű információt vizsgáljon át egyszerre, jóval kisebb szerverterheléssel.
Féláron az MI működtetése
Az első tesztek szerint egy hosszú kontextust használó, egyszerű API-hívás ára akár a felére is csökkenhet. Bár további vizsgálatok még várhatók, a modell már elérhető a Hugging Face-en, így hamarosan bárki kipróbálhatja. Ez a fejlesztés része annak az új hullámnak, amelynek célja, hogy a már betanított MI-k futtatásának költségét – tehát nem a tanításét – lefaragják.
Miért egy kínai MI hozza a forradalmat?
A DeepSeek eddig is kilógott a sorból: R1 modelljük is sok figyelmet kapott, mert jóval olcsóbb volt amerikai vetélytársainál. Várakozásokkal ellentétben azonban az R1 nem váltotta be a forradalmi reményeket, és a vállalat háttérbe szorult. A mostani „spórolós” újdonsággal azonban mégis a kínaiak mutathatnak utat az amerikai MI-cégeknek arra, hogyan lehet kevesebb pénzből többet kihozni.
A San Franciscó-i Mission negyed közösségét megrázta, hogy egy népszerű bolti macska, Kit Kat életét vesztette, amikor egy Waymo önvezető taxi elütötte október 27-én este...
🚲 A Rivian elektromos járműgyártó egyik volt fejlesztőinek új cége, az Also bemutatta első saját e-bike-ját, a TM-B-t, amelynek alapmodellje várhatóan 1,25 millió forinttól (3 500 USD) indul...
📌 Különösen igaz ez akkor, ha egy jó önéletrajz egész karriert indíthat el, miközben egy átláthatatlan, rosszul szerkesztett dokumentum azonnal elveszítheti a döntéshozók figyelmét...
🐧 Az afrikai pingvinek (Spheniscus demersus) drámai mértékben kiszorulnak természetes élőhelyeikről, mivel évről évre egyre erősebben versengenek a kereskedelmi halászhajókkal az élelemért...
A Princeton Egyetem mérnökei háromszor stabilabb szupravezető qubitet alkottak, mint bármely korábbi típus, ezzel jelentősen közelebb hozva a valóban működőképes, megbízható kvantumszámítógépek korszakát...
🛠 Megemlíthető továbbá, hogy az adatközponti piac rohamosan változik: az utóbbi hetekben az Intel új vezetés alatt alaposan átvizsgálta szerverprocesszor-útitervét, amely végül komoly irányváltáshoz vezetett...
Fulgar, a H&M, az Adidas, a Wolford és a Calzedonia szintetikus fonalbeszállítója kénytelen elismerni, hogy zsarolóvírus-támadás érte, amelyet a hírhedt RansomHouse-csoporthoz kötnek...
A Kínai Tudományos Akadémia kutatói áttörő módszert fejlesztettek ki, amellyel mesterségesen összeállított, jótékony mikrobaközösségekkel jelentősen javítható a növények egészsége, és elnyomhatók a talajeredetű betegségek...
Az okostelefon-felhasználók örülhetnek: a Google bejelentette, hogy a Play Áruházban hamarosan külön megjelölést kapnak azok az Android-alkalmazások, amelyek túlzott háttértevékenységükkel rengeteg akkumulátort fogyasztanak...
💸 Megemlíthető továbbá, hogy a legújabb GLP-1 gyógyszerek, mint az Ozempic, a Wegovy és a Mounjaro nagymértékű fogyást ígérnek, de most olyan rizikók kerültek előtérbe, amelyek eddig kevés figyelmet kaptak...
🐒 A racionalitást évezredek óta az ember kizárólagos jellemzőjének tartották. Már Arisztotelész is azt állította, hogy az emberek abban különböznek az állatoktól, hogy képesek bizonyítékok alapján átgondolni, sőt felülbírálni saját nézeteiket...
