Hogyan kerülhettek ki privát beszélgetések?
A kiemelt esetek hátterében egy megtévesztően egyszerű funkció állt: a felhasználók a beszélgetés megosztásakor láthattak egy pipálható mezőt azzal a szöveggel, hogy “Legyen ez a beszélgetés felfedezhető”. Ez alatt halványabb, nehezebben észrevehető figyelmeztetés jelent meg, miszerint a beszélgetés megjelenhet keresőmotorokban is. A funkció célja eredetileg az volt, hogy megkönnyítsék a hasznos beszélgetések megosztását, de valójában rengeteg olyan felhasználót is “közszemlére tett”, akiknek nem ez volt a szándékuk.
Különösen fontos kiemelni, hogy sokan csupán azért osztották meg a beszélgetéseiket, hogy WhatsAppon vagy más platformokon privátban elmentsék, és eszükbe sem jutott, hogy ezek a Google keresőjében is megjelenhetnek.
Az OpenAI lépései és a felhasználók aggodalmai
A növekvő felháborodás hatására az OpenAI gyorsan eltávolította ezt a funkciót, és megkezdte a véletlenül nyilvánossá tett beszélgetések eltávolítását a keresőkből. Az Oxfordi Egyetem MI-etikai szakértője, Carissa Véliz is megdöbbent azon, hogy ilyen érzékeny információk kereshetővé válhattak. Ugyanakkor a keresőmotorok, így a Google sem vállaltak felelősséget az ügyben; hangsúlyozták, hogy a weboldal üzemeltetője dönti el, engedélyezi vagy tiltja az indexelést.
Az OpenAI saját eszközeivel – például a Google Search Console-lal – már el is kezdte a beszélgetések eltávolítását, de mivel más keresők indexelésénél ez a lépés nem feltétlenül működik, egy ideig még előfordulhat ilyen tartalom.
Mit tanulhatunk a botrányból?
A történtek rávilágítanak arra, hogy a nagy technológiai cégek gyakran kísérleti nyúlként használják a felhasználókat, új MI-funkciókkal csalogatva őket anélkül, hogy a lehetséges következményekkel számolnának. Ez az eset különösen érzékenyen érint sokakat, hiszen egy bírósági határozat miatt az OpenAI-nak amúgy is szigorú adatkezelési elvárásokat kellene betartania. Annak ellenére, hogy Sam Altman, az OpenAI vezérigazgatója is problémásnak tartja a helyzetet, a cég kevéssé volt önkritikus saját hibájával kapcsolatban.
Mindezt figyelembe véve, az adatvédelem és a biztonság kulcsfontosságúvá vált a MI-fejlesztések során. Az OpenAI most azért dolgozik, hogy visszanyerje felhasználói bizalmát, és ígéretet tett arra, hogy a jövőbeni termékeinél sokkal körültekintőbb és átláthatóbb lesz.
