Mi az a szuperintelligencia, és miért aggódik mindenki?
A szuperintelligencia egyelőre csak elméleti elképzelés, amely szerint egy MI minden kognitív képességben felülmúlhatja az embert. A Meta és az OpenAI versenyében ez lett az új hívószó: a cégek már nemcsak fejlett nyelvi modellekkel, hanem a teljes szellemi fölény elérésével is dicsekednek. A Meta például már „Superintelligence Labs” (Szuperintelligencia Laboratóriumok) néven működteti vonatkozó részlegét.
Sokan veszélyt látnak ennek a szintnek az elérésében: gazdasági összeomlás, munkanélküliség, az emberek társadalmi jogainak elvesztése, kontrollvesztés, nemzetbiztonsági kockázatok, sőt akár az emberiség teljes kihalása is szóba került a közös nyilatkozatban. Mindezek ellenére a technológiai verseny egyre gyorsul.
Széles összefogás a tiltás mellett
A petíciót nemcsak mérnökök írták alá: tudósok, akadémikusok, médiaszemélyiségek, vallási vezetők és egykori amerikai politikusok is csatlakoztak. Így például Mike Mullen egykori vezérkari főnök, Susan Rice volt nemzetbiztonsági tanácsadó, és olyan ismert amerikai médiaszereplők, mint Steve Bannon és Glenn Beck is felsorakoztak a kezdeményezés mögé. Továbbá a brit királyi család két prominens tagja, Harry herceg és Meghan Markle, valamint Mary Robinson korábbi ír elnök is támogatóként jelent meg. A támogatók száma folyamatosan bővül.
Mély megosztottság a technológiai világban
Az MI-fejlesztések megítélésében egyre élesebb lett a szakadék azok között, akik szerint minden fejlődés jót hoz, és azok között, akik a technológia féktelen növekedését kockázatosnak tartják. Így például Sam Altman (OpenAI) már 2015-ben figyelmeztetett arra, hogy az emberfeletti MI létezése az emberiség fennmaradásának legnagyobb fenyegetése lehet. Elon Musk nemrég egy podcastban azt mondta: húszból egy esélyt lát arra, hogy az előretörő MI az emberiség pusztulásához vezet.
Egy friss felmérés szerint az amerikai felnőttek mindössze 5%-a támogatja a gyors, ellenőrizetlen szuperintelligencia-fejlesztést. A többség inkább szigorú szabályozást és lassítást szeretne.
Következésképpen: csak biztonságosan tovább
Yoshua Bengio számítógéptudós kiemelte: néhány éven belül az MI számos területen meghaladhatja az emberi képességeket. A haladás azonban csak akkor fogadható el, ha tudományos egyetértés születik arról, hogy a szuperintelligencia biztonságosan tervezhető, és alapvetően képtelen legyen kárt okozni. Fontos szempont, hogy a társadalomnak és a közvéleménynek is erősebb beleszólást kellene kapnia abba, milyen irányba haladjon a jövő meghatározó technológiája.
