Gyorsabb figyelmeztetések, de nagyobb veszélyek
Az elképzelés szerint MI-ügynökök napokon belül segítik, gyorsítják és megsokszorozzák a bejegyzésekhez kapcsolt közösségi jegyzetek számát, így fokozva a tényellenőrzést. Minden MI által készített jegyzetet egy ember ellenőriz majd, és visszajelzésével segíti az MI fejlődését. Ha ez a visszacsatolás megfelelően működik, a rendszer elméletben minden körrel egyre jobb lesz. Az emberek így összetettebb, szaktudást vagy társadalmi érzéket igénylő esetekre koncentrálhatnak, amelyeket az MI nem tud gyorsan megoldani. Ha ez megvalósul, az X nemcsak saját tényellenőrzését alakíthatja át, hanem akár új normákat is teremthet a nyilvános tudás előállításában.
Az MI azonban, miközben meggyőző és érzelmileg semleges jegyzeteket ír, hajlamos lehet hibás vagy manipulatív információkat is terjeszteni. Ezek az emberek számára elsőre hitelesnek tűnhetnek, így téves visszacsatolás esetén az egész hitelesítő rendszer meggyengülhet. Ha a „hasznosság” értékelése nem egyezik 100%-osan a tényleges pontossággal, akkor minél fejlettebb egy MI, annál könnyebben tud majd megtévesztő, de szakmailag megfogalmazott jegyzeteket írni. Ahogy a nagy nyelvi MI-modellek fejlődnek, már nemcsak meggyőző szövegeket alkotnak, hanem korábbi emberi jóváhagyások alapján képesek többé-kevésbé megalapozott, ám akár téves bizonyítékokat adni egy adott állításhoz.
Összeomolhat a bizalom?
Az X bejelentését követően sokan aggódnak a változások miatt. Damian Collins, brit politikus szerint az új rendszer ipari méretű manipulációnak adhat teret, hiszen az MI által generált jegyzetek elősegíthetik az álhírek és összeesküvés-elméletek terjedését egy 600 millió felhasználós platformon. Samuel Stockwell, a Turing Intézet kutatója arra mutatott rá, hogy az MI-k gyakran magabiztosan adnak félrevezető válaszokat, ráadásul hiányzik belőlük a kontextus és a finom árnyalatok érzékelése. Ez a kombináció veszélyes lehet, ha az X nem biztosít megfelelő védelmi rendszert az MI „hallucinatív” hibái, valamint szándékos tévedései ellen.
Az X egy további problémára is felhívja a figyelmet: bárki készíthet MI-ügynököt jegyzetíráshoz, különböző technológiákkal – ez azt jelenti, hogy némelyikük jóval elfogultabb vagy hibásabb lehet a többinél. Ha a felhasználói szerkesztők megunják, hogy MI-jegyzeteket javítgassanak, odavész az a sokszínűség, amely a közösségi jegyzetek lényegét adta. Megnő annak a veszélye is, hogy a humán szerkesztőket elárasztják a gépi jegyzetek, és túlterheltté válnak. Andy Dudfield, a Full Fact magyarországi tényellenőrző szervezet MI-vezetője szerint az X ezzel tovább növeli az emberi szerkesztők terheit, és könnyen előfordulhat, hogy a jegyzetek teljes egészében MI-alapúak lesznek anélkül, hogy tényleges emberi megfontoláson esnének át.
Hogyan menekülhetne az X?
Az X azt is felvetette, hogy megoldást jelenthetne, ha egyes jegyzeteket emberi ellenőrzés nélkül, automatikusan hasonló posztokra is kitennének, mint amelyeket már korábban jóváhagytak. Itt azonban egyértelmű a veszély: ha olyan bejegyzésekre kerül jegyzet, ahol senki nem tartotta indokoltnak, az az egész rendszerbe vetett bizalom végét jelentheti.
Mindezek tükrében maga az X is elismeri: lehet, hogy az MI-alapú jegyzetírás tévedés, de ettől még kipróbálják. Az első MI-generált jegyzetek már ebben a hónapban megjelennek, és mindegyiket egyértelműen jelzik, hogy MI készítette. Eleinte csak azoknál a posztoknál jelenik meg jegyzet, ahol ezt valaki kérte, de később már az MI akár maga is kiválaszthatja a gyanús tartalmakat.
Mire képesek az MI jegyzetírók?
A kísérleti programhoz több mint egy tucat kutató és professzor csatlakozott, többek között a Harvard, az MIT, a Stanford és a Washingtoni Egyetem részéről. Egyetértenek abban, hogy megfelelő korlátok között az MI legalább olyan jó jegyzeteket képes írni, mint egy átlagember – ráadásul tizedannyi idő alatt. A közösségi viták minőségét pedig javítja, ha az első vázlatok több nézőpontot ölelnek fel, mint amit egyetlen szerző biztosítani tudna.
A jövőben az MI nemcsak azokat a posztokat segíthetne ellenőrizni, amelyeket emberek jelentettek, hanem akár előre is jelezhetné, mely tartalmak fognak vírusként terjedni, így gyorsabban megállítva az álhírek terjedését. Az MI használata a kutatók szerint a szerkesztők számára is könnyebbség: részletesebb kutatás, világosabb érvelés, gyorsabb jóváhagyási folyamat várható.
Meglepő MI-ötlet: adjunk harcot egymásnak
A legmuskosabb ötlet az volt, hogy összeugrasztanák az ellentétes véleményű MI-kat: ezek egy jegyzet igazságtartalmát „vitáznák meg”, felfedve a hibákat és rejtett elfogultságokat, az emberi szerkesztő pedig bíróként döntene.
Az MI sosem válthatja ki teljesen az embert, hangsúlyozzák a kutatók. Az ember nélkülözhetetlen: egyrészt az MI-t is vele lehet a legjobban tanítani, másrészt vannak témák, ahol csak a humán kreativitás vagy szakmai érzékenység ér valamit – például spam, csalások vagy bármilyen átverés leleplezésénél.
Előnyök és félelmek
Az MI-jegyzetíróknak köszönhetően a közösségi tényellenőrzés villámgyors és méretezhető lehet, és a kutatás során kiderülhet, maximalizálható-e a valódi sokszínűség és hitelesség. Azonban ha mindent a gépekre bíznak, hamar eljöhet az a pont, amikor már senki sem olvassa végig a sterilizált, személytelen jegyzeteket.
Az emberi alkotóerő pótolhatatlan. Ha kizárólag az MI írja a jegyzeteket, könnyen elsikkadnak azok a hangok és figyelmeztetések, amelyek a valódi közösségi kontrollt jelentik. Barátságos MI-forradalom vagy információs katasztrófa? Hamarosan kiderül az X-en.
