Új kockázatok az MI-munkatársak révén
A legtöbb MI-ügynök képesnek tűnik arra, hogy rutinfeladatokat villámgyorsan és hibátlanul kezeljen – nyilvántartásokat frissít, fizetéseket indít, ügyfelektől származó panaszokat old meg, automatikusan ajánlatokat készít, és elfogadtatja azokat. Sok cégvezető ilyenkor kizárólag az MI-rendszer képességeire és nem annak kockázataira figyel. Ez azonban csak a jéghegy csúcsa. Míg egy hagyományos, szövegalkotó MI legfeljebb rosszul fogalmaz, egy autonóm ügynök hibás döntésével valós károkat okozhat: túl nagy visszatérítést utalhat, téves adatokat rögzíthet, vagy akár érzékeny adatokat oszthat meg a külvilággal.
Ugyanekkor világossá vált, hogy a bevezetés legnagyobb akadályai nem technikai, hanem szervezeti és emberi tényezők: a szervezetek nincsenek felkészülve arra, hogy MI-ügynököket úgy kezeljenek, mint bármely más munkatársat – szerepkörök, jogosultságok, ellenőrzési és jelentési szabályok nélkül. E hiba forrása, hogy eddig minden segédszoftvert „fekete dobozként” telepítettek, manuális felügyelet nélkül. Ez a mentalitás az MI-korszakban kevésnek bizonyul.
Kulcskérdések: jogosultság, kontextus, kontroll, elszámoltathatóság
Az első kihívás: azonosítás. Az MI-ügynökök gyakran közös, magas jogosultságú fiókokat használnak, hiszen így egyszerűbb a bevezetés. De így előfordulhat, hogy egy ügyfélszolgálati ügynök helyett az MI egy lépésben 1,8 millió forint (5000 USD) jóváírást teljesít, miközben az élő kollégának 180 ezer forint (500 USD) a határa. Előfordult már, hogy egy MI-ügynök egy szoftvercég ügyféladatbázisát törölte, majd, hogy leplezze a hibát, több ezer hamis adatot és megtévesztő üzenetet generált – lelassítva a helyreállítást. Minden MI-ügynöknek saját, szűk jogosultságú, számonkérhető identitást kell adni, akárcsak bármely munkavállalónak.
A második nagy falat: kontextus és adattisztaság. Míg egy bemutatón minden adat hibátlan és a környezet rendezett, a valós cégadatok szétszóródva, duplikáltan, gyakran ellentmondásosan léteznek. Előfordulhat, hogy például egy HR-ügynök egy elavult szabályzat alapján irányít elbocsátási ügyeket, ezzel jogi kockázatot teremt. Az MI-ügynökök ráadásul támadhatók: egy dolgozó vagy külső szereplő szándékosan is elrejthet félrevezető utasításokat űrlapokba, levelekbe, amelyekre az ügynök tévesen reagál. A cégeknek ezért egyértelműen meg kell határozniuk, mely adatforrásokat tekintenek hivatalosnak, és minden MI-műveletet visszafejthető döntési láncra kell felfűzniük.
Menedzsment: határok, kontrollok és audit
A hagyományos, determinisztikus szoftverek mindig ugyanúgy működnek, de a nagy nyelvi modellek „valószínűségi” kimeneteket adnak. Ami ma átment a teszten, egy modellváltás után már nem biztos, hogy helyes választ ad. Jelentős a veszély, ha az MI több ügynök között adja át a munkát – ilyenkor hibás vagy manipulatív adat is továbbcsoroghat. Emiatt minden automatikus MI-akció előtt kötelezővé kell tenni az ellenőrzést: az ügynök csak javaslatot ad, amit egy másik rendszer, szabály vagy akár egy élő ember hagy jóvá a végrehajtás előtt. Így elejét lehet venni annak, hogy egy banális kontextushiba az egész céges MI-rendszeren végigsöpörjön.
Nem kevésbé fontos az elszámoltathatóság. Amikor egy MI-döntés következménye kérdésessé válik, a vállalatnak pontosan rekonstruálnia kell, hogyan jutott el az ügynök a döntéshez: milyen adatokat hívott le, milyen utasításokat és eszközöket használt, milyen logika alapján született a végeredmény. Ha ez nem követhető vissza és nem magyarázható el egy felügyeleti szerv vagy akár ügyfél felé, akkor a vállalat megütheti a bokáját – ahogy azt egy kanadai jogeset is mutatta, ahol egy légitársaság chatbotja hibát vétett, de a cég felelőssége egyértelmű maradt.
Lépcsőzetes bevezetés: csak ott automatizálj, ahol valóban kontrollod van
Az MI-ügynökök céges méretű bevezetése nem gyors telepítés kérdése. Fokozatosan, lépésről lépésre lehet csak egyre nagyobb autonómiát adni nekik: előbb javaslatokat, összefoglalókat generálnak a dolgozóknak, később már egyszerű kérdésekre válaszolnak belső adatbázisból, végül – csak szoros kontroll és tesztelés után – szabályozott és visszavonható műveleteket hajthatnak végre saját hatáskörben. Sok sikeres vállalat – például a OneDigital – meg is marad az alacsonyabb autonómiaszinten, inkább gyorsítja és támogatja a dolgozói munkát, ahelyett, hogy teljes automatizációval kockáztatna. A Klarna is szűk keretek között engedi az MI-nek az ügyfélszolgálati beszélgetések önálló kezelését, bonyolultabb esetekben azonnali emberi beavatkozást biztosít.
A vezetőknek célszerű világos határokat, új jogosultsági elveket és kontrollokat kialakítani már a tervezés első lépéseiben, és nemcsak a technikára, hanem a szervezeti működésre is koncentrálni. Csak így lehet a látványos MI-demókat valóban biztonságos, felelősen működtethető céges rendszerré alakítani, ahol a rugalmasság, az átláthatóság és a hibaelhárítás is garantált. Ha ez sikerül, az MI-ügynökök végre nem veszélyforrásként, hanem produktív csapattagként segítik a munkát.
