Miért nem old meg mindent az árcsökkentés?
Az egyszerű chatbotok egy kérdésre általában egy válasszal és egy modellhívással reagálnak. Ezzel szemben egy MI-ügynök ugyanarra a kérésre egész feladatláncolatot indít: tervez, adatokat hív le, eszközöket használ, ellenőriz, összegzi és újabb döntéseket hoz. A felhasználó csak az eredményt látja, de a szolgáltató többszörös költséget fizet egyetlen folyamatért. A százszoros probléma abban áll, hogy ugyanaz a látható kérés ügynöki workflow-ban nagyságrendekkel többe kerül, mint chatbot vagy egyszerű lekérdező rendszer esetén, és minél hosszabb a folyamat, annál durvább a szorzó. Az árcsökkenés csak részben segít, gyökeresen eltérő architektúrára lenne szükség, ha nem akarunk minden felhasználói kérésre egy tucatnyi számlázott folyamatot indítani.
Nem zárható ki annak a lehetősége, hogy ez már olyan méreteket öltött, amely a modellszolgáltatók árazását is teljesen átrendezi. Például az OpenAI minden Y Combinator startupnak 720 millió forintnyi API-kreditet kínál, ami néhány éve még komplett fejlesztési költséget fedezett volna. Ugyanakkor ez inkább beismerése annak, hogy mennyire drága MI-alapú vállalkozást életben tartani. A meglévő nagyvállalatok esetén még nagyobbak az abszolút számok.
A tokenamplifikáció ördögi köre
Egy átlagos chatbotnál egy felhasználói üzenet nagyjából öt modell inputtoken költségét generálja. Egy teljes MI-ügynöki rendszernél – amely támogatja például az ügyfélszolgálatot, értékesítést, pénzügyeket, jogi ellenőrzést és fejlesztést – ez az arány simán eléri az 1:700-at vagy még többet. Egy egyszerű, „Mivel foglalkozott a legfontosabb ügyfelünk a múlt héten?” kérdés átlagosan 35 000 input tokent emészt fel, vagyis forintban számolva tipikusan 36–144 Ft közötti költséget jelent lekérdezésenként – milliós havi mennyiségnél ez összességében több tízmillió forintos tétel.
Miért dől meg az MI hagyományos üzleti modellje?
A legtöbb MI-szolgáltatás per-felhasználó-per-hónap alapon árult SaaS-termék, amelyből egészséges profitot remél a szolgáltató. Ennek megfelelően a rendszer feltételezi, hogy a költségek jól belőhetőek. A tokenamplifikáción viszont ez elvérzik: ha egy power user naponta 50 ügynök-lekérdezést futtat a 14 400 forintos havidíjért, ezzel már többet fogyaszt, mint amennyit a bevétel fedezne. A régi SaaS-modell így pillanatok alatt veszteségessé válik – sőt, nem ritka, hogy a leglelkesebb ügyfelek jelentik a legnagyobb veszteséget is.
A Forbes és a Bloomberg is beszámoltak arról, hogy a Salesforce Agentforce marketingbemutatói messze többet ígérnek, mint a valóságos, ügyfelekhez eljutó funkciók. Kézenfekvő, hogy ahol az adott ár mellett nem lehet gazdaságosan kiszolgálni a beígért funkciót, ott végül le kell vágni az MI-képességek szárnyait.
Konkrét példa: hogyan lesz a filléresből milliós költség?
Tegyük fel, hogy egy vállalati MI-asszisztens havonta 14 400 forintba kerül előfizetőnként. Egy sima chatbot naponta néhány forintnyi költséget jelentene. Egy ügynöki workflow viszont már bonyolult ügyintézést, átfogó rendszerlekérdezést, válaszok generálását, hibák kezelését is elvégzi. Ha egy intenzív felhasználó naponta 50–100 ilyen lekérdezést indít, a költségek tízszeresére ugorhatnak, és pillanatok alatt elérhetik a jelentős összegű infrastrukturális kiadásokat.
Az ügynöki vezérlés lehet a legnagyobb érték
A technikai válaszokat már jól ismeri az iparág: hibátlanul működő, költséghatékony útválasztás, ahol olcsóbb vagy kisebb modell dönti el, kihez kerüljön egy feladat; prompt-cache-elés, amikor a nagy MI-cégek akár 75–90%-os kedvezményt adnak az újrafelhasznált előtagoknál; valamint a kontextus fegyelmezett kezelése, ahol minden sallangot eltávolítunk, hogy ne indítsunk szükségtelenül drága folyamatokat. Ezek a megoldások együtt akár 60%-kal is lefaragják az inferenciaköltségeket minőségromlás nélkül.
Akik mindezt jól csinálják, inkább hasonlítanak egy brókeri rendszerhez, mintsem klasszikus szoftverüzemeltetőhöz: minden útvonal, minden döntés külön költségen, minden ügyfél egyedi keret mellett.
Mi kell a túléléshez a következő két évben?
Négy kulcslépés különíti el azokat a cégeket, amelyek két év múlva is sikeresek lesznek:
Feltétlenül kövesd az inferenciaköltséget minden funkción, ügyfélen, lekérdezéstípuson belül.
Olyan szigorúan tervezz költségkeretet, mint egy médiavásárló: állíts be ezer lekérdezésre költséglimitet, ezt ne lépd túl, riasztásokkal védekezz.
Kezeld az útválasztó rendszert kulcsinfrastruktúraként, ne csak hatékonyságot javító kiegészítőként.
Legalább negyedévente auditáld az összes rendszerpromptot – egy több ezer tokenes rendszerprompt lassan akár milliókat is felemészthet észrevétlenül.
Vágj bele a volumenkedvezmények tárgyalásába a szolgáltatóddal. A listaár lesz mindig a legrosszabb ajánlat.
Árcsökkenés ide vagy oda, az ügynökök mindent felfalnak
Nem arról van szó, hogy az MI drága lett – a DeepSeek is éves szinten háromszoros árcsökkenést ér el, és még nincs vége az ereszkedő trendnek. Viszont az amplifikáció üteme túlszárnyalja az árcsökkenést: hiába esnek a tokenenkénti költségek 75%-kal, ha közben az MI-ügynökök 700-szor annyi inputot fogyasztanak, mint a régi modellezés feltételezte. Most először a felhőkorszak óta az architekturális döntések valós idejű pénzügyi döntéssé válnak: egy prompt optimalizálása valódi eredményt jelent a profitabilitásban, egy rosszul tervezett ügynöki folyamat pedig percek alatt nullára írhatja a profitot.
A következő két évet azok fogják túlélni, akik nem a legolcsóbb modellt futtatják, hanem okosan és tudatosan menedzselik ügynökeik valódi költségét. Ez a 100X probléma, ami gyorsabban érkezik, mint ahogy az árcsökkenések el tudnák fedni.
