MI-hallucinációk és hamis vádak a Google-tól
A nagy nyelvi modellekkel (LLM) működő rendszerek – ilyen például a Google MI-áttekintése (AI Overview) – nap mint nap képesek féligazságokat vagy akár teljesen légből kapott állításokat a felhasználók elé tálalni. Ebből kifolyólag amikor egy müncheni bíróság kimondta, hogy a Google felelős a szolgáltatása által generált, hamis és akár súlyosan káros állításokért, valóban új helyzet jött létre. A Google MI-keresőfunkciója ugyanis a keresések tetején jelentetett meg olyan tartalmakat, amelyek valótlanul kapcsoltak kiadókat különféle csalásokhoz; ezek az „eredmények” azonban nem létező weboldalakból, hanem kizárólag a Google MI-jének fantáziájából fakadtak.
A bíróság döntése: már nem lehet kibújni
A Google azzal próbált védekezni, hogy mindenki tisztában van az MI megbízhatatlanságával, tehát a felhasználó feladata utánanézni a közölt információknak. Ez a védekezés most már kevés: ahogy a bíróság megállapította, ha nincs valós szerző, hanem maga a szolgáltatás generálja a törvénysértő állítást, akkor a szolgáltatónak kell vállalnia a következményeket. Az MI által szállított tévedéseket eddig még jogi kiskapukkal lehetett elhárítani, ám ez a döntés precedenst teremthet.
Az MI-hibák céges következményei
Ebből arra lehet következtetni, hogy a vállalkozások sorra kénytelenek házon belüli folyamatokat bevezetni az MI okozta hibák kiszűrésére. A várt termelékenységnövekedés helyett gyakran csak többletmunkát és kockázatot hoz a technológia, hiszen a minőség, a valódi érték és az etikus működés megőrzéséhez elengedhetetlenné válik a folyamatos ellenőrzés.
A Google útja és a jövő felelőssége
A Google mindeközben az „MI mindenre” stratégiához ragaszkodik, miközben alapvető termékének tényszerű, megbízható válaszokat kellene, hogy nyújtson milliárdok számára. Amióta az MI-áttekintés kötelező és megkerülhetetlen kiegészítője lett a keresésnek, a cég vállalta ennek minden kockázatát. Az újabb és újabb MI-rétegekkel próbálják kiváltani az emberi szűrést és felelősséget, de ez az önámítás már nem működik zavartalanul. A jogi felelősség első hulláma partot ért – a Google nehezebben tudja majd elkerülni tettei következményeit.
Mi jön ezután?
Várható, hogy tovább fokozódik a felelősségre vonás a technológiai iparban, különösen, ha az MI hibái már bíróságon is bizonyítottan kárt okoznak. Új szabályozások, belső céges mechanizmusok és nagyobb átláthatóság válnak szükségessé – a technológiai éretlenségre való hivatkozás egyre kevésbé lesz elfogadható kifogás. A Google – és minden más, MI-vel dolgozó cég – mostantól már nem fordíthat hátat a következményeknek.
