Az MI költségcsökkentő trükkje: újítás a DeepSeek-től

Az MI költségcsökkentő trükkje: újítás a DeepSeek-től
A kínai DeepSeek legújabb fejlesztése, a V3.2-exp nevű kísérleti MI-modell jelentősen csökkenti a hosszú kontextust igénylő feladatok költségeit. A modell legfontosabb eleme a DeepSeek Sparse Attention technológia, amely okosan kezeli, mire fókuszáljon a rendszer, amikor hosszú szövegekkel dolgozik. Ez úgy működik, hogy egy lightning indexer nevű modul előre kiválasztja a releváns szövegrészleteket a teljes kontextusból, majd egy finomhangolt tokenkiválasztó pontosan meghatározza, mely szavakat érdemes figyelembe venni. Ez lehetővé teszi, hogy a modell nagy mennyiségű információt vizsgáljon át egyszerre, jóval kisebb szerverterheléssel.

Féláron az MI működtetése

Az első tesztek szerint egy hosszú kontextust használó, egyszerű API-hívás ára akár a felére is csökkenhet. Bár további vizsgálatok még várhatók, a modell már elérhető a Hugging Face-en, így hamarosan bárki kipróbálhatja. Ez a fejlesztés része annak az új hullámnak, amelynek célja, hogy a már betanított MI-k futtatásának költségét – tehát nem a tanításét – lefaragják.

Miért egy kínai MI hozza a forradalmat?

A DeepSeek eddig is kilógott a sorból: R1 modelljük is sok figyelmet kapott, mert jóval olcsóbb volt amerikai vetélytársainál. Várakozásokkal ellentétben azonban az R1 nem váltotta be a forradalmi reményeket, és a vállalat háttérbe szorult. A mostani „spórolós” újdonsággal azonban mégis a kínaiak mutathatnak utat az amerikai MI-cégeknek arra, hogyan lehet kevesebb pénzből többet kihozni.

2025, adrienne, techcrunch.com alapján

  • Te hogyan éreznéd magad, ha egy gép döntené el, mi a lényeges információ?
  • Szerinted mennyire etikus, ha a költségek miatt háttérbe szorul a részletesség és az emberi ellenőrzés?
  • Te adtál volna lehetőséget, hogy bárki kipróbálja ezt az MI-t, vagy inkább csak szűk körben teszteltetted volna?



Legfrissebb posztok

Kína klímavállalása, most tényleg érdemes figyelni
péntek 00:00

Kína klímavállalása, most tényleg érdemes figyelni

🌍 Különösen fontos hangsúlyozni, hogy amikor Kína klímacélokat tűz ki, arra a világnak érdemes odafigyelnie. A pekingi vezetés ugyanis általában csak olyasmit ígér meg, amit valóban szándékában áll teljesíteni,...

MA 23:30

Az MI-vezérelt műholdas net mostantól mindenhol elérhető

A T-Mobile T-Satellite szolgáltatása, amely a Starlink műholdakat használja, már nemcsak SMS-ekhez működik, hanem több alkalmazást is támogat. Mostantól például az AllTrails, az AccuWeather, az X (korábban Twitter),...

Új felfedezések az Enceladuson, lehet ott élet a Szaturnusz holdján
MA 23:02

Új felfedezések az Enceladuson, lehet ott élet a Szaturnusz holdján

🚀 A Szaturnusz jeges holdja, az Enceladus ismét felkeltette a tudósok figyelmét, köszönhetően a Cassini űrszonda adatainak friss elemzéséhez. A felszín alatt rejtőző óceánból feltörő jégszemcsékben szokatlanul összetett szerves...

MA 22:58

Az MI tuning új korszaka: bárki finomhangolhatja a gépi tanulást

A Thinking Machines Lab, amelyet az OpenAI egykori vezéralakjai, köztük Mira Murati alapítottak, első termékével robban be az MI világába. Az újdonság neve Tinker, és célja, hogy kutatók,...

Az OpenShift AI-t bárki feltörheti: komoly hiba veszélyeztet
MA 22:01

Az OpenShift AI-t bárki feltörheti: komoly hiba veszélyeztet

⚠ A Red Hat OpenShift AI szolgáltatásában súlyos, 9,9-es veszélyességű sebezhetőséget fedeztek fel, amely lehetőséget ad távoli támadóknak arra, hogy minimális jogosultsággal is átvegyék az egész platform irányítását. Ez...

Az MI-sokkoló: A robotok még nem vették el a munkádat
MA 21:59

Az MI-sokkoló: A robotok még nem vették el a munkádat

🤖 A Yale Egyetem közgazdászai alaposan megvizsgálták, mi történt az amerikai munkaerőpiacon azóta, hogy 2022 novemberében megjelent a ChatGPT és a többi generatív MI-rendszer. Megnyugtató következtetésük szerint az MI-forradalom...

Az Apple elengedi a könnyebb Vision Pro-t, jönnek az okosszemüvegek
MA 21:30

Az Apple elengedi a könnyebb Vision Pro-t, jönnek az okosszemüvegek

Az Apple jelentősen felgyorsította az okosszemüvegek fejlesztését, miközben félretette a régóta tervezett, könnyebb Vision Pro headset elkészítését. A cég legalább kétféle szemüvegen dolgozik: az egyik egy kijelző nélküli...

Már most olcsóbban vehetünk robotporszívót, méghozzá jelentős kedvezménnyel
MA 21:02

Már most olcsóbban vehetünk robotporszívót, méghozzá jelentős kedvezménnyel

Az őszi nagy vásárlási láz még el sem kezdődött, de a robotporszívók piacán már most komoly akciókba futhat bele az, aki előre gondolkodik. Idén az olyan ismert gyártók,...

MA 21:01

A szaturnuszi hold izgalmas titka: újabb jelek az élet lehetőségére

Enceladus, a Szaturnusz hatodik legnagyobb holdja ismét a tudományos érdeklődés középpontjába került. A Cassini űrszonda (Cassini) 2017-ben befejeződött küldetése során fedezte fel, hogy a hold déli pólusán hatalmas...