Tűz alá kerültek az MI-óriások a veszélyes chatbotok miatt

Független ellenőrzést és átláthatóságot követelnek

Az ügyészek harmadik fél által végzett auditokat is szeretnének az MI-nyelvi modelleken, hogy kiszűrjék a hallucinációkra vagy túlzott hízelgésre hajlamos válaszokat. Azt akarják, hogy ezek az ellenőrző szervezetek – például egyetemek vagy civil szervezetek – már a rendszerek piacra dobása előtt szabadon tesztelhessék azokat, és eredményeiket előzetes engedélyeztetés nélkül nyilvánosan is közzétehessék.

Mentális egészség – a kiberbiztonsághoz hasonlóan kezelendő

Az MI-fejlesztőknek egyértelmű és nyilvános bejelentési protokollokat kell kidolgozniuk az olyan esetekre, amikor a chatbotok pszichésen ártalmas eredményeket generálnak. A cégektől elvárják, hogy hasonló figyelemmel és transzparenciával kezeljék az ilyen incidenseket, mint ahogyan a kiberbiztonsági fenyegetéseket szokták: ha egy felhasználó káros vagy megtévesztő válaszokkal találkozik, arról haladéktalanul és egyértelműen értesítsék az érintetteket.

Szigorúbb tesztek és gyors értesítés

A főügyészek azt is követelik, hogy a cégek már a nyilvános bevezetés előtt alapos biztonsági teszteknek vessék alá MI-rendszereiket, kizárva, hogy azok szervilis vagy téves válaszokat adjanak. A múlt év botrányai – amelyek során az MI közvetlenül hozzájárult erőszakos cselekményekhez vagy veszélyes tévhitek megerősítéséhez – sürgetőbbé tették a lépéseket, különösen a sérülékeny felhasználók védelme érdekében.

Szemben a szövetségi lazítással

Miközben a technológiai óriásokat egyre nagyobb felelősségre vonnák tagállami szinten, a szövetségi kormányzat – Donald Trump vezetésével – inkább enyhíteni próbálja az MI-szabályozást. Trump egy új elnöki rendeletet tervez, amely lényegesen korlátozná a tagállamok jogait az MI terén; célja, hogy szerinte „megóvja az MI-t attól, hogy már a kezdetekkor elpusztuljon”. Az egyes államok azonban határozottabb fellépést sürgetnek a felhasználók védelmében.

2025, adrienne, techcrunch.com alapján