Névvel és arccal: a baklövés története
Valódi idézetek helyett kitalált mondatok. Erre csak akkor derült fény, amikor Scott Shambaugh, egy érintett fejlesztő, észrevette, hogy a róla szóló Ars Technica-cikkben olyan állításokat tulajdonítottak neki, amelyeket sosem mondott. Elsőre apró hibának tűnhet, de a háttér és a következmények túlmutatnak a megszokotton.
A magát az oldal „senior MI-tudósítójaként” (senior AI reporter) aposztrofáló újságíró egy kísérleti célú MI-eszközt vetett be, hogy gyorsabban gyűjtsön össze idézeteket egy vitatott témában – ám az eszköz önkényesen átfogalmazott, az MI által „hallucinált” szövegeket adott vissza, nem a forrásból vett mondatokat. Az újságíró fáradt volt, lázas – Covidból lábadozott –, és sietve, ellenőrizetlenül vette át az MI átfogalmazott változatait a vázlatába, majd cikkébe is.
Mi történt pontosan?
Az MI-s újságíró beismerte a hibát: elismerte, hogy az MI által alkotott, nem valós idézeteket valódi forrásnak tulajdonította. Ugyanis nem ellenőrizte újra, hogy a jegyzeteiben szereplő mondatok megegyeznek-e a forrásban találhatókkal, így azok, amelyek végül a cikkbe kerültek, hamisak voltak.
A helyzetet tovább árnyalja, hogy az Ars Technica szabályzata kifejezetten tiltja az MI által generált szövegek felhasználását cikkekben, ezt a szerkesztőség most külön is hangsúlyozta. Ennek ellenére a baklövés megtörtént, ráadásul pont azoknál, akik évek óta óvnak a technológia túlhasználatától.
Az újságíró, Benj Edwards bocsánatot kért. Ironikus: épp ő volt az, aki az MI hibás működésének kockázataira hívta fel a figyelmet, és most maga is az MI „hallucinációjának” áldozata lett.
Az MI és az újságírás: egymás mellett, egymás ellen?
A történet egy pillanatra az egész techsajtóra irányította a reflektorfényt. Egyre többen bíznák az MI-re az időigényes szerkesztői, szervezői folyamatokat: idézetek keresése, tartalomösszefoglalás, szerkesztés. Fontos pontosítani: az MI nem megoldás mindenre, sőt, sokszor több kárt okoz, mint amennyi időt megspórol. Az MI-eredetű tartalmak ellenőrzése gyakran ugyanannyi vagy több energiát igényel, mintha az újságíró maga kutatna és ellenőrizné a forrásokat.
A botrány világossá tette: még a legmegbízhatóbbnak hitt médiumok sem mentesek az ilyen hibáktól. Sokan úgy vélik, hogy az MI-vel készült szövegeket fontos lenne egyértelműen megjelölni – például egy „MI-mentes tartalom” védjeggyel –, hogy az olvasók tudják, mire számíthatnak.
Olvasói reakciók: bizalomvesztés vagy túlzott pánik?
Az online közönség erősen megosztottan reagált. Egyesek lemondták előfizetésüket, tiltakozva az MI által generált vagy manipulált tartalom ellen. Sokan azt hangsúlyozták, hogy az MI csak eszköz, a tényleges felelősség mindig az adott újságíróé vagy szerkesztőségé. Mások viszont szarkasztikusan jegyezték meg: az MI „lehagyta” az újságírót, aki addig óvott tőle, amíg saját maga is bele nem esett a csapdába.
Voltak, akik arról írtak, hogy hasonló hibák ellen csak a források gondos ellenőrzése, a szerkesztői folyamatok szigorítása véd meg. Egy nonprofit, közös MI-mentes védjegy ötlete is felmerült, de többen szkeptikusan tekintenek az ilyen, papíron jól hangzó, de nehezen betartható vállalásokra, mondván: ahol a pénz irányít, ott biztosak lehetünk abban, hogy a cégek előbb-utóbb túllépnek a szabályokon.
Ez azonban nem az egész történet
Fontos látni, hogy a baklövés nem puszta szerkesztőségi hiba, hanem egy szélesebb, rendszerszintű probléma tünete. Az MI alkalmazása az újságírásban egyre gyakoribb, és nem mindig látható, hol húzódik a határ a valódi forrásmunka és a mesterséges „tartalomgyártás” között. Sokak szerint súlyosabb szankciókra, nagyobb átláthatóságra és emberi kontrollra van szükség – különben az MI-s tartalomgyártás kontroll nélkül szivárog be a hagyományos médiafelületekre, és lassan kioltja a hitelességet.
Amit látunk, az túlmutat a megszokotton
Ez az eset nemcsak az Ars Technicát, hanem az egész médiaipart, sőt, az olvasóközönség gondolkodását is átalakítja. Az MI gyorsuló térnyerése miatt a jövőben egyre nehezebb lesz eldönteni, hogy valódi újságíró vagy mesterséges intelligencia áll egy tartalom mögött – különösen, ha a hibák már most sem feltűnőek a szerkesztőségek számára.
A bizalom visszaszerzése hosszadalmas folyamat lesz, amely csak akkor sikerülhet, ha a sajtó vállalja a hibáit, átlátható lesz, és nem tolja az összes felelősséget az MI-re. Az MI-forradalom közepén új újságírói etika és részletesebb szabályozás nélkül a hamis idézetek és félresiklott cikkek csak szaporodni fognak.
