A gépi tudás határai
Manapság egyre többen fordulnak a mesterséges intelligenciához, például a ChatGPT-hez orvosi tanácsokért, jogi útmutatásért vagy akár személyes problémák megoldásáért. Ugyanakkor legtöbben tudják, hogy ezek a rendszerek csak utánozzák azt a fajta tudást, tapasztalatot, amit az emberek évek során szereznek. Mégis, az MI gördülékeny, megnyerő válaszai könnyen megtéveszthetnek – mintha igazi tudás állna mögöttük.
Felmerül a kérdés: egy nagy nyelvi modell tényleg gondolkodik, vagy csupán a gondolkodás nyelvi lenyomatát adja vissza? Tudományos kísérletek során összevetették MI-k és emberek döntéseit klasszikus pszichológiai tesztekben. Bár a cél nem az volt, hogy az MI-től emberhez hasonló teljesítményt várjanak, fontos volt feltárni: pontosan miben különbözik a kettő.
Az ítéletalkotás alapjaiban tér el
Egy kísérletben 50 embernek és 6 különböző MI-nek kellett hírforrásokat megítélniük és indokolniuk véleményüket. Az ember ilyenkor saját tapasztalataihoz nyúl – ellenőrzi, mennyire reális az állítás, passzol-e a korábbi ismereteihez, a forrás megbízhatóságához, és logikus-e a történet menete. Ezzel szemben egy MI nem rendelkezik ezekkel a kapaszkodókkal. Csak azt tudja elemezni, hogy az adott szókapcsolatok milyen gyakorisággal, milyen kontextusban jelennek meg szövegekben. Még ha az MI ugyanarra a következtetésre jut is, mint egy ember, indoklásában mindig a nyelvi mintázatokhoz nyúl, nem pedig tapasztalati vagy tényszerű alaphoz.
Más vizsgálatokban erkölcsi dilemmákat vetettek fel. Az emberek döntéseit ilyenkor normák, érzelmek, társadalmi elvárások, vagy akár a sérelem és az igazságosság iránti érzékenység vezérelte. Hajlamosak ok-okozati összefüggéseket keresni, és gondolatkísérletekben elképzelni: mi lenne, ha valami másképp alakult volna. Egy nyelvi modell meg tudja jeleníteni az ezekhez kapcsolható szófordulatokat, ha-akkor érveléseket, de ténylegesen soha nem gondolkodik el, és nem képzeli el a helyzetet. Egyszerűen csak újraalkotja a nyelvben felfedezett mintákat.
A meggyőző, de üres mondatok veszélye
A kutatások szerint az MI-rendszerek sokszor tudják tükrözni az emberi válaszokat – de sosem ugyanazokat a folyamatokat alkalmazzák. Az MI ott talál egyezéseket, ahol az ember ítél. Ott jósol, ahol az ember értékel. Az MI kiválóan tud szövegből kinyert mintázatokat visszaadni, de nincs kapcsolata a valósággal, amelyre ezek a szavak vonatkoznak.
Egy külön fogalom, az episztémikus illúzió írja le, amikor a tudás illúziója összekeveredik magával a tudással. Az MI folyékonyságát könnyű félreértelmezni: ha egy válasz gördülékeny, az olvasó hajlamos igaznak feltételezni. Pedig ami meggyőzően szól, nem feltétlenül megalapozott.
Tévhitek és veszélyek
Az igazi veszély nem az, hogy az MI-mondatok hibásak lehetnek – az emberek is tévedhetnek. A problémát inkább az okozza, hogy az MI képtelen felismerni saját tévedéseit, mivel nincs kapcsolata a valósággal, nem tudja összevetni állításait tényleges információval, nem tudja javítani vagy újragondolni véleményét. Nem tud különbséget tenni megbízható és megbízhatatlan információ között – csak azt nézi, eddig hogyan kapcsolódtak össze bizonyos szavak a nyelvben.
Miközben már most is orvosi, jogi és pszichológiai területeken támaszkodnak MI-alapú szöveg-előállításra, ennek veszélye, hogy megoldás helyett egy valódinak tűnő, ám valójában üres szimulációt kapunk. A hangzás nem egyenlő a tartalommal.
Működő, de nem gondolkodó segédeszköz
Ezenfelül az MI-k kiválóan alkalmasak ötletek összegzésére, tervezésre, szövegvázlatok készítésére – de sosem fognak igazi ítéletet, önálló értékelést nyújtani. A döntéshozatali feladatot csendben átfordítjuk: nem emberszerű viszonyt alakítunk ki a világgal, hanem egy kérdés és egy szóhalmaz közötti kapcsolatot keresünk.
Amit mindenképp meg kell jegyezni: nem az MI-től kell félnünk, hanem azt kell megérteni, mire képes és mire nem. Az ékes fogalmazás, a nyelvi könnyedség mögött nincs feltétlenül megértés. Ezek a modellek csak akkor hasznosak, ha folyamatos emberi felügyelet mellett használjuk őket – hiszen pontosan azt a világot nem látják, amelyben valódi ítéletek születnek.
