Többszintű MI-architektúra az AT&T-nél
A modernizált rendszer egyik első nagy dobása az Ask AT&T nevű, belső, MI-alapú személyi asszisztens volt, amely mögött egy többrétegű ügynökrendszer dolgozik. Ezek az ügynökök az AT&T saját eszköztárából dolgoznak, például dokumentumfeldolgozásra, SQL-lekérdezéseket értelmező algoritmusokra, képelemzésre. Másként fogalmazva: miközben az alkalmazottak automatizáltan futtatnak különböző munkafolyamatokat, a meghozott döntések a cég saját adataira épülnek. Az ügynökök minden lépését naplózzák, az adatokat a teljes folyamat alatt elkülönítve kezelik, az átvett feladatoknál pedig jogosultsági szintek korlátozzák a hozzáférést. Ugyanakkor az emberek nem veszítik el a kontrollt: minden automatizált folyamat felett egy munkatárs ügyel, biztosítva az ellenőrzést és a szükséges beavatkozást.
Nem mindent építenek újra – cserélhető, kiválasztható modellek
Az AT&T nem a nulláról fejleszt mindent, inkább arra törekszik, hogy a modellek cserélhetők, variálhatók legyenek, és ahol lehet, iparági megoldásokat vezetnek be. A házilag fejlesztett eszközöket rögtön leváltják, ha van jobb, szabványosított alternatíva, hiszen az MI-piac félelmetes tempóban változik, akár hetente többször. Nagyon szigorúan tesztelik a saját és a piacon elérhető megoldásokat. Például az AT&T rendszerének tudásgráfos lekérdezője vezeti a Spider 2.0 benchmark rangsorát, de egyéb, SQL-feldolgozásra fejlesztett eszközeik is kiemelkedő eredményeket hoztak a BERT-SQL-teszten. Az új ügynökrendszer finomhangolásához és keresőfunkcióihoz is a LangChain, saját fejlesztések és a Microsoft-infrastruktúra dolgoznak együtt. Markus szerint viszont nem szabad mindenáron MI-komplexitást belevinni minden folyamatba. Vannak esetek, amikor egy egyszerűbb, egylépéses generatív megoldás jobb, gyorsabb és pontosabb lehet. Mindig elsődleges szempont kell legyen a pontosság, a költséghatékonyság és a válaszidő – még akkor is, ha a megoldások egyre összetettebbek.
100 000 dolgozó használja nap mint nap
Az Ask AT&T Workflows már több mint 100 ezer dolgozóhoz jutott el; legtöbbjük naponta használja, néhány részlegen a produktivitásnövekedés elérheti a 90 százalékot. Az automatizációra két lehetőséget adnak: a gyakorlottabbak Python-kódot írva programozhatják az ügynököket (pro-code), míg mások egyszerű, drag and drop felületen (no-code) építhetik saját asszisztenseiket. Érdekesség, hogy még a fejlesztőknél is népszerű a kevés kódot igénylő felület – egy hackathonon a résztvevők fele ezt választotta. Az ügynökök szinte minden területen működnek: például hálózati mérnökök gyorsan készítenek ügynökhálózatot az ügyfélkapcsolatok helyreállításához, amikor megszakad az összeköttetés. Ilyenkor egy MI ellenőrzi a rendszert, előzményeket keres, hibát tár fel, majd jegyet nyit, egy újabb ügynök pedig javaslatot tesz a hiba javítására, akár javítókódot is ír, végül összefoglalót készít a folyamat tanulságaival. Az emberi mérnök a teljes ügymenetet felügyeli, és ellenőrzi az MI minden lépését.
Az MI-alapú fejlesztés új szintre lép
Ez az elv – a munkát célorientált, kis egységekre bontani – már a szoftverfejlesztésre is átterjedt az AT&T-nél, Markus szavaival élve: MI-alapú kódolás van kialakulóban. Fejlesztőik gyors, agilis módszerekkel dolgoznak, funkcióalapú sablonokat használnak, az MI pedig azonnal gyártja a majdnem éles, végleges minőségű kódrészleteket. Ezzel szemben a korábbi ügynökalapú kódszerkesztők sok iterációt igényeltek, de az MI-alapú fejlesztés azonnali, folyamatos továbbfejlesztést tesz lehetővé. Nemcsak a fejlesztők, hanem a nem műszaki végzettségű dolgozók is tudnak szoftverprototípusokat készíteni egyszerű utasításokkal. Markus csapata például húsz perc alatt (!) készített házon belül egy adatterméket ezzel a módszerrel, ami korábban hat hétig tartott volna – az MI-vezérelt fejlesztés így radikálisan rövidíti a fejlesztési időt, és hatékonyabbá teszi a teljes üzleti működést.
