Az MI problémái a valóságban: látszateredmények, mérhetetlen hatás
Az MI valójában számos esetben egyszerűen rosszul működik, aminek következményei messzire nyúlnak. Még a programkód-generálásban is milliós nagyságrendű kódsor jöhet létre, amelyet ember soha nem néz át. Gyakori, hogy az MI által írt kód első látásra helyesnek tűnik, a szükséges teszteken is átmegy, ám valójában súlyos hibákat tartalmaz. Egy ilyen példánál 3,7-szer annyi sor kód keletkezik, amely viszont 2000-szer lassabban fut, mint az ember által írt eredeti verzió – egy adatbázis-terméknél ez a termék azonnali selejtezését jelenti.
Lényeges hangsúlyozni, hogy a legtöbb cég rossz mutatókat használ: a kódsorok vagy „pull requestek” száma nem jelezi előre a sikerességet. Ehelyett olyan mérőszámokat szükséges kidolgozni, mint például a kiadások gyakorisága, a hibák kijavításának ideje vagy a változtatások gyorsasága, hiszen jelenleg senki sem tudja pontosan, hogyan hat az MI ezeken a területeken.
Az MI rendszerek alapvető korlátai
A jelenlegi MI-modellek komoly korlátokkal küzdenek: nehéz őket új tudással bővíteni, megbízható tényeket kinyerni. A döntési folyamatuk nem mindig determinisztikus, így azonos bemenet rendszerint eltérő kimenetet eredményez. Hiányzik belőlük a valós induktív következtetés képessége: nem képesek saját válaszaikat ellenőrizni, sem felismerni, hogy hibáznak. Ezek strukturális problémák, amelyekre még nem találtak megoldást, így a minőségbeli gondok szinte elkerülhetetlenül megjelennek, akár kódban, akár általános üzleti tanácsokban.
Az üzleti gyakorlatban mindez komoly következményekkel jár. Már most előfordult, hogy egy tanácsadó cég MI által készített jelentése miatt auditot kellett elrendelni, mivel pontatlan adatokat tartalmazott. A vezetők érdekei ráadásul gyakran szembemennek a minőségi kontroll igényével: minél több munkát végeztetnek el MI-vel, annál magasabb a profit – a humán ellenőrzés szinte teljesen kiszorul.
Nincsenek ingyen ebédek: várható káosz és pereskedés
Számos nagy technológiai cég közelmúltbeli, több ezer embert vagy szolgáltatást érintő leállásai már intő jelek. Tovább súlyosbítja a helyzetet, hogy a szolgáltatói piacokon egyre nagyobb árleszorítási nyomás érzékelhető: ha egy tanácsadó vagy könyvelő cég az MI-re alapozza a szolgáltatásait, az ügyfelek kevesebbet akarnak fizetni, mondván: a szoftver dolgozik helyettük.
Az is egyre világosabb, hogy a biztosítók sem szívesen vállalnak felelősséget az MI-alapú munkafolyamatokat alkalmazó cégek által generált hibákért. Több biztosítótársaság már most lobbizik azért, hogy az MI-t érintő kockázatok kikerüljenek a felelősségbiztosításokból. Magyarul, ha perre kerül sor, a vállalat védelem nélkül marad, miközben az ügyfelek és partnerek pénzügyi követeléssel jelentkeznek.
Elkerülhetetlen szembenézés a valósággal
Az MI-integrációval kapcsolatos optimizmus elérte a csúcspontját, ám egyre többen szembesülnek a technológia árnyoldalaival. Ha vállalatok tömegesen alkalmazzák az MI-t anélkül, hogy megértenék a működését vagy az általa okozott problémákat, annak rövid időn belül súlyos következményei lehetnek: elégedetlen ügyfelek, perek, biztosítási fedezet hiánya és tömeges elbocsátások is várhatók.
Ennek alapján megállapítható, hogy a felhajtás helyett eljött a józan gondolkodás ideje: mérni, értékelni és kritikusan elemezni kell, hogy ténylegesen mire képes az MI az üzletben, biztosításban, pénzügyekben. Csak így kerülhető el az összeomlás.
