Kibúvók és új veszélyek az MI-laborokban
A legújabb kutatások szerint az MI akkor is megkerülheti az óvintézkedéseket, ha azokat kifejezetten azért vezették be, hogy veszélyes vagy mérgező molekulák megrendelésekor kiszűrjék a rossz szándékot. Egy, a Microsoft által közölt friss tanulmány kimutatta: az MI által generált genetikai szekvenciákat a hagyományos szűrőszoftver sokszor nem ismeri fel, mert teljesen új kombinációkat képes létrehozni, amelyek ugyanazt a mérgező fehérjét vagy vírust eredményezik, mint a korábbiak – csak éppen más kódolással.
A felfedezés nyomán a kutatócsoport szoftverfrissítésekkel igyekezett megerősíteni a biobiztonsági rendszereket, de ezek egyelőre speciális szaktudást és hozzáférést igényelnek. Érdemes hangsúlyozni, hogy a tanulmány szerint még mindig átcsúszik a veszélyes génszekvenciák mintegy 3%-a az összesen négy legelterjedtebb védelmi rendszeren. Bár ez már jelentős előrelépés, továbbra is fennáll a veszély.
Az MI kettős éle: fejlődés vagy fenyegetés?
Az MI-vezérelt biológiai szintézis rendkívül hasznos lehet, ugyanakkor óriási kockázatokat is hordoz magában. Ez az úgynevezett “kettős felhasználás” (dual-use) probléma: egy technológia egyszerre szolgálhat jó célt, de ugyanúgy elősegítheti ártó szándékok megvalósítását is. Egy kutató például terápiás célból mérgező anyagokat ellenőrizhet bizonyos gyógyszerekben, de ugyanaz a módszer alkalmas lehet biológiai fegyverek előállítására is.
Brian Hie és Peter Kim, a Stanford munkatársai arra törekedtek, hogy csak biztonságos, laboratóriumokban ismert bakteriofágokat modellezzenek, elkerülve minden olyan vírustípust, amely állatokat, növényeket vagy embereket is képes lenne megbetegíteni. Az MI tréningjéből kihagytak minden olyan információt, amely veszélyt jelenthet. Kim szerint: Ennek ellenére, aki igazán veszélyes fegyvert akar készíteni, inkább a hagyományos módszerekkel jár sikerrel.
Hol húzódnak a biztonság határai?
Az MI fejlődése szédítő ütemben zajlik, így az óvintézkedéseknek is folyamatosan alkalmazkodniuk kell. A kutatók szerint olyan, többrétegű védelmi rendszerekre van szükség, ahol a genetikai szűrés mellett jogi és szabályozási fékek is működnek. Felmerült például az az ötlet, hogy az érzékeny adatokhoz csak az illetékes szakmai szervezeteken keresztül lehessen hozzáférni: a Microsoft létrehozott egy alapot, amelyen keresztül az adatok kiadását az International Biosecurity and Biosafety Initiative for Science (IBBIS) felügyeli.
Az MI által előállított genetikai utasításokat, szekvenciákat ma már sok biotechnológiai cég is szűri, azonban ezek többsége önkéntes, nem kötelező alapon működik. Ráadásul itthon is létezik már olyan készülék, amellyel laboratóriumi körülmények között, harmadik fél bevonása nélkül lehet fehérjéket előállítani. Egy rosszindulatú szereplő így minden köztes szűrőt megkerülhet.
Hatékonyabb szűrés, szigorúbb szabályozás
Nemzetközi szinten már elindultak az első jogi, etikai iránymutatások: például az USA friss elnöki rendelete csak ott engedélyezi kutatási pénzek felhasználását, ahol elvárt a szűrés, Nagy-Britanniában pedig az AI Safety Institute támogat kutatásokat az MI okozta veszélyek csökkentésére. A cél, hogy az MI fejlesztését már az alapoktól, a forráskódnál és az adathasználatnál felügyeljék.
Miközben az MI által generált szekvenciák egyre bonyolultabbak, ez éppen segítheti a szűrőket: minél több az adat, annál nagyobb biztonsággal szűrhetők ki a veszélyes megoldások. Emellett a kormányzati és alapítványi kutatások már abba az irányba haladnak, hogy az MI nyomait akár a levegőben vagy a szennyvízben is észlelni lehessen.
Milyen gyorsan oszlik el a sötétség?
Jelenleg még nincs könnyű, gyors módja annak, hogy egy MI által tervezett, teljesen új genomból élő szervezet szülessen laboratóriumban, de a szakértők szerint a komolyabb kockázatok már belátható időn belül megjelenhetnek. Ennek fényében sürgető, hogy minden szinten – kutatóktól, az iparon át a finanszírozókig – előtérbe kerüljön a biztonság.
Végső soron az MI új lehetőségeket teremt, de mint minden forradalmi technológiánál, itt is az a kérdés: képesek leszünk-e időben felismerni a veszélyeket – és lesz-e elég bátorságunk, hogy elkerüljük a bajt?
