Mi az a kontextusablak, és miért szűkös?
A különféle MI-modellek eltérő mennyiségű adatot képesek „látni” egyetlen futtatás vagy lekérdezés során. Például az Anthropic Claude Opus 4.7 modellje akár 1 millió tokenből, vagyis nagyjából 555 ezer szóból, vagy 2,5 millió karakterből dolgozhat. A Claude Sonnet 4.6 ugyanekkora, de eltérő felosztás miatt már 750 ezer szót tud kezelni, azaz 3,4 millió karaktert. A Google Gemma 4 kisebb modelljei 128 ezer, a nagyobb verziók 256 ezer tokenes ablakot tesznek lehetővé. Még így is ezek az értékek gyakran kevesebbek, mint gondolnánk, mivel a rendszerparancsok, különféle ügynökök, bővítmények és előző beszélgetések részletei ebből vesznek el.
Hogyan oldja meg ezt a problémát az Agent Memory?
A Cloudflare fejlesztése a beszélgetések során keletkező információkat „emlékké” alakítja, és aszinkron módon képes visszahívni őket – vagyis ha például az MI már elfelejtette, hogy a PNPM csomagkezelőt kedveled, az Agent Memory egyetlen utasítással gyorsan emlékeztetheti rá. Ezek az emlékek különálló tárhelyen maradnak, és külön lekéréssel bármikor elérhetők, anélkül, hogy újra és újra helyet kellene szorítani nekik a kontextusablakban. Ráadásul nemcsak Cloudflare Workeren keresztül, hanem REST API-n keresztül is elérhető, így az egész MI-t működtető rendszerhez rugalmasan illeszthető. Az Agent Memory nyílt bétaverzióban már elérhető, minden adat exportálható, az irányítás pedig végig a felhasználónál marad.
Végre az MI valóban rólad szól
Ez alatt azt értik, hogy a Cloudflare szerint a jövő MI-ügynökei számára elengedhetetlen, hogy a hosszú, hetekig vagy hónapokig tartó valós használat során is képesek legyenek hatékonyan és megbízhatóan emlékezni. Mindehhez nincs szükség méregdrága adattárolási vagy előfizetési trükkökre: az Agent Memory minden beszélgetést a sajátodként kezel, és ha szeretnéd, pillanatok alatt magaddal viheted őket, ha platformot váltasz. Ez az alkalmazás új szintre emeli a beszélgetések minőségét és kezelhetőségét – végre nem kell attól tartanod, hogy az MI elfelejti, ki vagy.
