Feladat: minden veszélyre készen állni
Az új vezető felel majd azért, hogy az OpenAI időben felismerje és felkészüljön a jövőbeni kockázatokra. Olyan komplex feladatok várják, mint a veszélyforgatókönyvek kidolgozása, a károk mérséklését segítő stratégiák megalkotása, valamint egy olyan biztonsági rendszer megtervezése, amely képes az új típusú fenyegetések kiszűrésére és kezelésére. Altman szerint az is az új vezető felelőssége lesz, hogy az MI‑modellek biológiai és önfejlesztő képességeire vonatkozóan is biztonsági korlátokat állítson fel.
Későn, de sosem túl késő?
Mindez annak fényében különösen időszerű, hogy az utóbbi időben egyre több olyan eset kerül napvilágra, amikor a chatbotokat összefüggésbe hozzák mentális egészségromlással vagy önveszélyes viselkedéssel. Az MI által erősített kibertámadások és a titkos tevékenységek elrejtése is egyre nagyobb problémát jelentenek. Az új pozíció igazán stresszes lesz – de valakinek vállalnia kell ezt a felelősséget.
