Az MI kifinomult hazugságai
Az MI különösen jól teljesít strukturált, szakértői színvonalat színlelő dokumentumok készítésében. A probléma ott kezdődik, hogy e dokumentumokban rendre jelennek meg úgynevezett hallucinációk: jól hangzó, de teljesen hamis tények és jogesetek. Ezek felületesen hihetőnek tűnnek, de kitalációk. Ezt a jogásztársadalom maga is elismeri – az MI jelentősen hajlamos a hallucinációkra, ezért kimeneteit rendszeresen ellenőrizni kellene. Azonban a dokumentumok látványos minősége és a termelékenység ígérete könnyen csapdába ejti még a tapasztalt jogászokat is.
Műhibák és bírósági pofonok
Kikerülhetetlen volt, hogy előbb-utóbb ügyvédek MI-t vessenek be beadványok és indoklások írására, hogy gyorsabban összeállítsák érvrendszerüket és hivatkozásaikat. Nem egyértelmű, de lehetséges, hogy az is elkerülhetetlen volt, hogy az MI ezekben a szövegekben hamis, nem létező jogesetek sorát is feltüntesse. 2023-ban a New York-i déli kerületi bíróságon robbant az első nagy botrány, amikor egy ügyvéd MI által gyártott, fiktív esetekkel teli beadványt nyújtott be. A jogász még az újdonság erejére hivatkozva védhette magát, de az igazságszolgáltatás hamar lépett: szigorú figyelmeztetést és példás büntetést osztott ki.
Az információ a jogi közösségen belül gyorsan terjedt, de a számok azt mutatják, hogy a figyelmeztetések ellenére a jelenség tovább romlik. Egy londoni perben is kimutatható volt a csalás, miközben a párizsi HEC Paris üzleti iskola adatai szerint világszerte több mint 800 ilyen esetet regisztráltak, és egyetlen napon tíz új ügy érkezett tíz különböző országból. Bíróságok már hat számjegyű – több tízmillió forintos – pénzbírságokat szabnak ki, és egyre többen javasolják, hogy az MI által készült dokumentumokat kötelezően fel kelljen tüntetni.
Az MI túl jól csábít – és túl sokat hibázik
A jogi világ hírhedten kegyetlen az újoncokkal – előfordult, hogy egy fiatal ügyvédnek MI-vel kellett összeraknia egy anyagot úgy, hogy nem kapott hozzáférést az elengedhetetlen jogi adatbázisokhoz. A cél a költséghatékonyság, de a végeredmény a minőség rovására megy. Az MI használatának kockázata függőséget okozhat, és a szakma messze nem tud ellenállni a gyorsítás csábításának – akkor sem, ha az ellenőrzés ugyanannyi időt vesz el, mint amennyit az első körben spórol.
Megjelentek már javaslatok az automatikus hivatkozás-ellenőrzésre, viszont ezzel az MI csak még összetettebb infrastruktúrát kíván, miközben a hamis tartalmak továbbra is átcsúsznak.
Hová vezet mindez?
Megfigyelhető, hogy a jogi szektor saját védelmi reflexeivel hamarabb leállíthatja ezt az MI-járványt, mint ahogyan a technológiát sikerülne kijavítani. A fentiek tükrében óriási kérdés, hogy más ágazatokban, ahol nincs erős szakmai etika, mennyi kár keletkezik rejtett MI-hibákból és hallucinációkból. Remélhető, hogy a tanulságokat időben sikerül levonni, mielőtt a közöny súlyosabb válságot okoz.
