A vállalatok már érzik a problémát
Az elmúlt hat hónapban a nagyvállalatok 57%-ának kellett szembesülnie azzal, hogy az MI-ügynök teljes meggyőződéssel hibás választ ad – mindezt hibás vagy hiányzó üzleti kontextus miatt. Ráadásul az esetek 31%-ában ez nem csak egyszer fordult elő. A lekérdezésekhez a dokumentumok átnézése az alapértelmezett megközelítés: a cégek 38%-a ezt használja, kétszer annyian, mint a következő legelterjedtebb módszert. Mindezt súlyosbítja, hogy a bevezetésnél a könnyű használatot és az egyszerű kezelhetőséget helyezik előtérbe – a visszakeresés pontossága csak ezután következik. Általában csak akkor veszik észre a pontatlanságokat, amikor a rendszer már élesben fut.
Az ügynöki kontextusréteg: elméletben megvan a megoldás
A szakemberek már régóta tudják, hogy a megoldás egy közös, szabályozott kontextusréteg lenne, amelyből minden MI-ügynök elérheti a szükséges információkat – ahelyett, hogy mindegyik külön-külön találgatna. A vállalatok többsége azonban még csak most rázódik bele ebbe az új megközelítésbe: 75%-uknak még nincs működő kontextusrétege. Csupán 25% használ ilyet élesben, 34% épp most fejleszt, a maradék 41% pedig még el sem kezdte. Érdekes módon azok a cégek, amelyeknél már előfordult magabiztos tévesztés, sokkal valószínűbben kezdik kiépíteni a védelmi réteget; ahol még nem „sütötte meg” őket ilyen hiba, ott nincs nagy sietség.
Hogyan próbálkoznak a nagy cégek?
Szinte minden jelentős adat- és MI-platform beszállt a versenybe, de az architektúrák között nincs egységes irány. A Databricks a katalógus metaadatait és az elemzői lekérdezések évek alatt kialakult szokásait tartja tudásforrásnak, amelyet folyamatosan frissít, nem úgy, mint egy statikus wiki. A Microsoft Fabric üzleti ontológiát épít, amit bármelyik ügynök lekérdezhet, nemcsak a sajátjaik. A MongoDB az ügynök memóriáját és a kontextus visszakeresését egészen az adatbázis-szintig viszi le, mondván, hogy ott van a legjobb helye. A Pinecone szerver nélküli tudásgráfot alkalmaz, a futtatás előtt strukturálja az adatokat, így az ügynököknek kevesebb keresgélni valójuk marad. A Snowflake két rétegben fut: az ügyfél által kezelt definíciók és a saját maga által generált kontextus működik párhuzamosan. Az Oracle az összes adatot – vektort, gráfot és relációs táblát – egyetlen tranzakciós motorba zsúfolja, hogy ne maradjon szinkronizálandó réteg. A Google BigQuery automatikusan gyűjti a szemantikus kontextust a lekérdezési naplókból. Az AWS Bedrock szolgáltatása pedig olyan tudásgráfot használ, amely az ügynökök tényleges használatából, nem kézi újrakurálásból tanul.
Közös felismerés, eltérő megoldások
Elemzők és fejlesztők egyetértenek abban, hogy kontextusréteg nélkül az MI-ügynökök könnyen magabiztosan tévedhetnek. Michael Ni, a Constellation Research egyik vezetője szerint akié a futás közbeni kontextus, azé a vállalati MI-döntéshozatal. Ugyanakkor hangsúlyozza, hogy a vektormemória önmagában még nem jelent üzleti jelentést, az üzleti jelentés nem egyenlő a szabályozottsággal, és az utóbbi sem fedi le a végrehajtást. Kevin Petrie, a BARC elemzője hozzáteszi: a legtöbb kontextusplatform az egyszerű táblázatokra koncentrál, miközben a valódi, kaotikus napi üzleti kontextus leggyakrabban dokumentumokban és rendezetlen adatokban rejtőzik. Stephanie Walter, a HyperFRAME Research MI-rendszerekért felelős vezetője szerint a piac egyre inkább felismeri: az ügynököknek nem több token vagy jobb modell kell, hanem friss, szabályozott, késleltetésmentes kontextus. A régi, összevissza rendszerek helyett egy jól kimunkált, előre felépített struktúrára kellene váltani, ám ez inkább fejlődés, mint forradalom.
Gyakorlati kihívások és stratégiai döntések
A valós terhelésnél a fragmentáció a legkimerítőbb: a különálló visszakeresés-, memória- és hozzáférésvezérlő eszközök nincsenek összhangban. Steven Dickens, a HyperFRAME vezetője szerint az adatkezelő csapatok már belefáradtak abba, hogy három különféle – vektoros, gráfos és relációs – rendszert kell üzemeltetniük, csak hogy egyetlen ügynököt kiszolgáljanak. Matt Kimball, a Moor Insights and Strategy szakértője szerint maga az ügynök elindítása nem nehéz, a kihívás inkább a stabil, éles működtetés, ahol az lenne a cél, hogy az adatok és a végrehajtás között ne nőjön tovább a távolság.
Merre tovább a nagyvállalati MI-kontextusban?
A lekérdezésen alapuló adatelérés önmagában nem zárja be a kontextushézagokat. Hiába tesznek be újabb dokumentumokat vagy nagyobb indexeket: ha a definíciók következetlenek, a probléma marad. A szemantikus kontextusrétegre való átállásba már most is sok cég belevágott: 58% már fejleszt, de élesben csak 25% működtet ilyet, vagyis a fejlesztések még bőven zajlanak. Egyetlen gyártó sem tudta még kisajátítani a teljes architektúrát, így a közeljövőben a cégek inkább integrációkban gondolkodhatnak, nem kizárólagosságban.
A vásárlási döntések idén dőlnek el, leginkább ott, ahol már egyszer belefutottak a magabiztos tévedés csapdájába. Az érintett cégek 81%-a tervez váltani vagy új rendszert bevezetni az elkövetkező 12 hónapban, míg azok, akiknél még nem bukott ki a probléma, csak 32%-ban tesznek így. A magabiztos MI-ügynökök tehát már dolgoznak, de a létfontosságú kontextusréteg a rendszerük alatt még csak most épül. Hogy ki szállítja majd az igazi megoldást, az idén eldől.
