Az MI költségcsökkentő trükkje: újítás a DeepSeek-től

Az MI költségcsökkentő trükkje: újítás a DeepSeek-től
A kínai DeepSeek legújabb fejlesztése, a V3.2-exp nevű kísérleti MI-modell jelentősen csökkenti a hosszú kontextust igénylő feladatok költségeit. A modell legfontosabb eleme a DeepSeek Sparse Attention technológia, amely okosan kezeli, mire fókuszáljon a rendszer, amikor hosszú szövegekkel dolgozik. Ez úgy működik, hogy egy lightning indexer nevű modul előre kiválasztja a releváns szövegrészleteket a teljes kontextusból, majd egy finomhangolt tokenkiválasztó pontosan meghatározza, mely szavakat érdemes figyelembe venni. Ez lehetővé teszi, hogy a modell nagy mennyiségű információt vizsgáljon át egyszerre, jóval kisebb szerverterheléssel.

Féláron az MI működtetése

Az első tesztek szerint egy hosszú kontextust használó, egyszerű API-hívás ára akár a felére is csökkenhet. Bár további vizsgálatok még várhatók, a modell már elérhető a Hugging Face-en, így hamarosan bárki kipróbálhatja. Ez a fejlesztés része annak az új hullámnak, amelynek célja, hogy a már betanított MI-k futtatásának költségét – tehát nem a tanításét – lefaragják.

Miért egy kínai MI hozza a forradalmat?

A DeepSeek eddig is kilógott a sorból: R1 modelljük is sok figyelmet kapott, mert jóval olcsóbb volt amerikai vetélytársainál. Várakozásokkal ellentétben azonban az R1 nem váltotta be a forradalmi reményeket, és a vállalat háttérbe szorult. A mostani „spórolós” újdonsággal azonban mégis a kínaiak mutathatnak utat az amerikai MI-cégeknek arra, hogyan lehet kevesebb pénzből többet kihozni.

2025, adrienne, techcrunch.com alapján

  • Te hogyan éreznéd magad, ha egy gép döntené el, mi a lényeges információ?
  • Szerinted mennyire etikus, ha a költségek miatt háttérbe szorul a részletesség és az emberi ellenőrzés?
  • Te adtál volna lehetőséget, hogy bárki kipróbálja ezt az MI-t, vagy inkább csak szűk körben teszteltetted volna?



Legfrissebb posztok

Új molekuláris kvibit, ami alapjaiban változtatja meg a telekommunikációt
MA 10:55

Új molekuláris kvibit, ami alapjaiban változtatja meg a telekommunikációt

⚛ Egy amerikai kutatócsoport áttörést ért el a kvantumkommunikációban: olyan molekuláris kvibit-et fejlesztettek ki, amely képes a hagyományos távközlési technológiák frekvenciatartományában, vagyis az úgynevezett telekomsávban működni. Ez az eredmény...

Az ősi skót szörny: gyík, kígyó – vagy valami más?
MA 10:46

Az ősi skót szörny: gyík, kígyó – vagy valami más?

Skócia szigetein ismét felbolydult a paleontológusok világa: a Skye-szigeten (Isle of Skye) fedezték fel a Breugnathair elgolensis nevű rejtélyes őshüllőt, amely 160 millió éve vadászott. Ez a különleges...

Az Enceladus tényleg lakható – űrbéli élet nyomában
MA 10:28

Az Enceladus tényleg lakható – űrbéli élet nyomában

A Szaturnusz jeges holdja, az Enceladus felszíne alatt hatalmas óceán rejtőzik, amelyből víz és jég tör a világűrbe. Ezek a friss jégszemcsék olyan szerves molekulákat tartalmaznak, amelyek a...

Az evakuálás titkai: a vihar nem mindenkinek egyformán veszélyes
MA 10:19

Az evakuálás titkai: a vihar nem mindenkinek egyformán veszélyes

⚠ 2024 őszén két pusztító hurrikán, a Helene és a Milton csapott le az Egyesült Államok délkeleti részére, ám a lakosság reakciója egészen eltérő volt a part menti és...

Az Outlook trükkös SVG képekkel támadó hackerekre csap le
MA 10:10

Az Outlook trükkös SVG képekkel támadó hackerekre csap le

A Microsoft radikális lépésre szánta el magát: szeptember elejétől az Outlook Web és az új Outlook Windowsra többé nem jeleníti meg az e-mailekbe ágyazott SVG képeket, ezzel megszüntetve...

Az MI-videók új sztárja: Sora letarolja az App Store-t
MA 10:01

Az MI-videók új sztárja: Sora letarolja az App Store-t

🤖 Az OpenAI legújabb MI-videóalkalmazása, a Sora villámgyorsan népszerű lett, annak ellenére, hogy jelenleg csak meghívással érhető el az Egyesült Államokban és Kanadában. Az indulás napján 56 000 letöltést produkált,...

Az androidos kémprogramok Signalnak vagy ToToknak adják ki magukat
MA 09:55

Az androidos kémprogramok Signalnak vagy ToToknak adják ki magukat

🔐 Két új támadás: ProSpy és ToSpy akcióban Két veszélyes kémprogram-kampány indult el, amelyek androidos felhasználók adatainak ellopására specializálódtak. Ezek közül a ProSpy és ToSpy álfrissítésekkel, illetve bővítményekkel csapják...

Jane Goodall öröksége, az ember, aki átírta a tudomány szabályait
MA 09:37

Jane Goodall öröksége, az ember, aki átírta a tudomány szabályait

🐒 Jane Goodall, a világhírű brit főemlőskutató és természetvédő idén, 91 éves korában, Kaliforniában hunyt el. Goodall neve összeforrt a tanzániai Gombe Nemzeti Park csimpánzaival végzett forradalmi kutatásaival, amelyek...

MA 09:27

Az autizmus nem vezethető vissza egyetlen okra

Egy több mint 45 000 – Európában és az Egyesült Államokban élő – autista ember genetikai adatain alapuló nemzetközi kutatás szerint az autizmus valójában többféle állapot gyűjtőneve, és...