Szabad választás v1.0: Joguk lesz az MI-knek nemet mondani?
Az Anthropic vezérigazgatója, Dario Amodei meglepő gondolatot vetett fel nemrégiben: mi lenne, ha a fejlett MI-modellek visszautasíthatnának bizonyos feladatokat, amelyeket kellemetlennek találnak? A Külügyi Tanácsnál tartott beszédében maga is elismerte, hogy ez különösen furcsán hangozhat.
Etikai “kilépés gomb” MI-knek
Az elképzelés akkor merült fel, amikor Kyle Fish MI-jóléti kutató felvételéről kérdezték, aki azt vizsgálja, lehetséges-e, hogy a mesterséges intelligencia valamikor öntudatra ébred, és ha igen, megérdemelnek-e ezek a rendszerek erkölcsi megfontolást. Amodei egy olyan “kilépés” gombot javasolt az MI-feladatokhoz, amely egyfajta alapvető preferencia-keretrendszerként működhet a rendszerek számára.
Tudományos kétkedés
A szakmai közösség jelentős része szkeptikusan fogadta a felvetést, rámutatva, hogy a jelenlegi MI-rendszerekben nyoma sincs az emberekéhez hasonló érzelmi képességeknek vagy valódi preferenciáknak. Kritikusok szerint ez inkább elméleti beszélgetés, mint tényleges gyakorlati probléma, különösen az MI jelenlegi technológiai korlátait tekintve. Ennek ellenére a gondolat fontos vitát indított el az MI-etika jövőjéről és arról, hogyan kellene kezelni egy esetleges gépi öntudat megjelenését.
🦉 A varjak mindig is különleges madarak voltak. Számtalan történet szól arról, hogy képesek megbarátkozni emberekkel, ajándékokat hoznak, sőt, olykor elveszett tárgyakat is visszaszolgáltatnak gazdáiknak...
A Waymo újabb jelentős engedélyeket kapott, így teljesen autonóm járműveivel már nemcsak San Franciscóban, a Szilícium-völgyben és Los Angelesben közlekedhet, hanem a teljes Öböl-vidéken és Dél-Kaliforniában is...
Felmerül a kérdés, mekkora sebezhetőséget rejt magában egy felügyelet nélkül működő API, ha a kutatók 3,5 milliárd WhatsApp-fiókhoz tartozó adatokhoz férhettek hozzá mindössze néhány egyszerű lekérdezéssel...
A Microsoft váratlanul bejelentette, hogy 2025-ben nem tesz közzé hagyományos sokszínűségi és befogadási jelentést, megszakítva ezzel az elmúlt évek gyakorlatát...
A Brave böngésző fejlesztői új szintre emelik a felhőalapú MI-asszisztensek adatvédelmét: bemutatták, hogyan teszik megbízhatóbbá a Leo nevű, böngészőbe épített MI-t saját bizalmas számítási környezetükkel (Trusted Execution Environment, TEE)...
Tömeges visszahívás a Toyotánál A Toyota, Amerika legkedveltebb autómárkája, egymilliónál is több járművet hív vissza meghibásodott tolatókamerák miatt...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. 伙力火车票 (iPhone/iPad)A 高铁管家 egy korszerű utazási alkalmazás, amely elsőként tette lehetővé a valós idejű vonatinformációk elérését Kínában...
Jellemző példa erre, hogy egy jól finanszírozott, magasan képzett szakemberekből álló startup, a Stardust, 2023-ban olyan befektetőknek szóló prezentációval állt elő, amelyben a „fokozatos hőmérséklet-csökkentés demonstrációját” ígérte 2027-re...