Szabad választás v1.0: Joguk lesz az MI-knek nemet mondani?
Az Anthropic vezérigazgatója, Dario Amodei meglepő gondolatot vetett fel nemrégiben: mi lenne, ha a fejlett MI-modellek visszautasíthatnának bizonyos feladatokat, amelyeket kellemetlennek találnak? A Külügyi Tanácsnál tartott beszédében maga is elismerte, hogy ez különösen furcsán hangozhat.
Etikai “kilépés gomb” MI-knek
Az elképzelés akkor merült fel, amikor Kyle Fish MI-jóléti kutató felvételéről kérdezték, aki azt vizsgálja, lehetséges-e, hogy a mesterséges intelligencia valamikor öntudatra ébred, és ha igen, megérdemelnek-e ezek a rendszerek erkölcsi megfontolást. Amodei egy olyan “kilépés” gombot javasolt az MI-feladatokhoz, amely egyfajta alapvető preferencia-keretrendszerként működhet a rendszerek számára.
Tudományos kétkedés
A szakmai közösség jelentős része szkeptikusan fogadta a felvetést, rámutatva, hogy a jelenlegi MI-rendszerekben nyoma sincs az emberekéhez hasonló érzelmi képességeknek vagy valódi preferenciáknak. Kritikusok szerint ez inkább elméleti beszélgetés, mint tényleges gyakorlati probléma, különösen az MI jelenlegi technológiai korlátait tekintve. Ennek ellenére a gondolat fontos vitát indított el az MI-etika jövőjéről és arról, hogyan kellene kezelni egy esetleges gépi öntudat megjelenését.
💥 A ChatGPT felhasználói az utóbbi hetekben bosszankodhattak, amikor a népszerű csevegőalkalmazás váratlanul népszerűsített bizonyos szolgáltatásokat...
A brit Warwicki Egyetem csaknem 5000 hallgatói dolgozatot vizsgált tíz éven át, és azt találta, hogy 2022 óta, a ChatGPT megjelenése nyomán a diákok írása sokkal kifinomultabb, formálisabb és pozitívabb lett – miközben a jegyek gyakorlatilag nem változtak...
Az Amazon éves re:Invent konferenciáján Las Vegasban új munkahelyi jövőképet festett: az MI-ügynökök mostantól nem pusztán eszközök, hanem igazi kollégák lehetnek – miközben a cég újabb jelentős létszámleépítést hajt végre...
📈 A Tesla részvényei 3%-ot estek hétfő reggel, miután a Morgan Stanley új elemzője, Andrew Percoco leminősítette a vállalat papírjait, visszavéve korábbi optimista álláspontját...
🌌 Rejtélyes kémiai mintázatok bukkantak fel a Tejútrendszer csillagai között: két jól elkülöníthető csillagcsoport létezik, amelyek vas- és magnéziumtartalma jelentősen eltér...
Az orosz hatóságok újabb szintre emelték az online kommunikáció ellenőrzését: csütörtökön bejelentették, hogy korlátozzák az Apple videóhívó szolgáltatását, a FaceTime-ot...
🧙 A Homo floresiensis, ismertebb nevén a hobbit, egy kis termetű, ősi emberfaj képviselője, amely körülbelül 50 ezer évvel ezelőtt tűnt el a Föld színéről...
🏖 A kommunikáció apró módosítása, például ha megemlítik a lakóhelyedet egy figyelmeztetésben, drámai módon növelheti a felkészülési hajlandóságot a természeti katasztrófákkal szemben...
