Az MI három legfontosabb ismérve
Musk szerint az MI számára három dolog igazán lényeges: az igazság, a szépség és a kíváncsiság. Ha ezek nincsenek meg, könnyen katasztrófába torkollhat a technológia sorsa. Hangsúlyozta, hogy a mesterséges intelligencia csak akkor lehet a társadalom javára, ha elkötelezetten az igazságot keresi. Amennyiben az MI téves információkat szed össze az internetről, logikailag zavaros és veszélyes következtetésekre juthat. Ha pedig olyan dolgokat kell elhinnie, amelyek hamisak, az MI szó szerint “megőrülhet”, és még több hibás következtetést von le.
Veszélyes “hallucinációk” és az MI melléfogásai
Az MI “hallucinációja”, vagyis téves vagy félrevezető válaszadása jelenleg az egyik legnagyobb kihívás a fejlesztésében. Erre jó példa, amikor egy Apple-telefon MI-funkciója hamisan azt közölte egy BBC News-értesítésben, hogy Luke Littler megnyerte a PDC World Darts Championship döntőjét, holott ez csak másnap történt meg. Az Apple azt ígérte, frissítéssel javítják az ilyen hibák felismerhetőségét, és jelzik, ha az adott szöveg MI-től származik.
A kíváncsiság és a szépség szerepe
Musk szerint nemcsak az igazságkeresés, hanem a szépség iránti érzék és a kíváncsiság is alapvető ahhoz, hogy az MI pozitív irányba fejlődjön. Embernek lenni izgalmasabb, mint gépnek lenni, épp ezért az emberiség sorsa is izgalmasabb annál, mint hogy egy gép elpusztítsa.
Geoffrey Hinton, a Google egykori alelnöke és az MI “keresztapja” úgy véli, 10–20 százalék az esélye annak, hogy az MI elpusztítja az emberiséget. Szerinte az alapvető rövid távú veszélyek közé a hamis válaszokat adó MI-k és az egyszerűbb munkahelyek automatizálása tartoznak.
Hinton reményét fejezte ki, hogy elég okos ember és erőforrás segítségével sikerül olyan MI-t építeni, amely nem akar ártani az embereknek.
