Szabad választás v1.0: Joguk lesz az MI-knek nemet mondani?
Az Anthropic vezérigazgatója, Dario Amodei meglepő gondolatot vetett fel nemrégiben: mi lenne, ha a fejlett MI-modellek visszautasíthatnának bizonyos feladatokat, amelyeket kellemetlennek találnak? A Külügyi Tanácsnál tartott beszédében maga is elismerte, hogy ez különösen furcsán hangozhat.
Etikai “kilépés gomb” MI-knek
Az elképzelés akkor merült fel, amikor Kyle Fish MI-jóléti kutató felvételéről kérdezték, aki azt vizsgálja, lehetséges-e, hogy a mesterséges intelligencia valamikor öntudatra ébred, és ha igen, megérdemelnek-e ezek a rendszerek erkölcsi megfontolást. Amodei egy olyan “kilépés” gombot javasolt az MI-feladatokhoz, amely egyfajta alapvető preferencia-keretrendszerként működhet a rendszerek számára.
Tudományos kétkedés
A szakmai közösség jelentős része szkeptikusan fogadta a felvetést, rámutatva, hogy a jelenlegi MI-rendszerekben nyoma sincs az emberekéhez hasonló érzelmi képességeknek vagy valódi preferenciáknak. Kritikusok szerint ez inkább elméleti beszélgetés, mint tényleges gyakorlati probléma, különösen az MI jelenlegi technológiai korlátait tekintve. Ennek ellenére a gondolat fontos vitát indított el az MI-etika jövőjéről és arról, hogyan kellene kezelni egy esetleges gépi öntudat megjelenését.
Sir Roger Penrose brit matematikus és elméleti fizikus, aki a fekete lyukak szingularitásának és az általános relativitáselmélet új matematikai alapjainak feltárásáért kapott Nobel-díjat, az 1970-es években sokkoló, a tudományos világot megosztó tézist közölt...
🧬 Ausztrál kutatóknak először sikerült ultranagy felbontásban, 3D-ben megörökíteni a sárgaláz-vírust. A sárgaláz veszélyes, szúnyogok terjesztette betegség, amely súlyosan károsíthatja a májat, és akár halálos is lehet...
🚀 Az első ismert intersztelláris objektum, az 1I/’Oumuamua 2017-ben, majd a 2I/Borisov üstökös 2019-ben érkezett a Naprendszerbe, most pedig a 3I/ATLAS üstökös látogat bennünket...
A hosszú évek óta csúszó Rosalind Franklin marsjáró végre fellélegezhet: a NASA hivatalosan is megerősítette részvételét a projektben, így új remények élednek az ExoMars küldetés körül...
A madárinfluenza-vírus komoly veszélyt jelent az emberre, mivel akkor is képes szaporodni a szervezetben, amikor a test hőmérséklete lázas magasságokba emelkedik...
🔒 A Scattered Lapsus$ Hunters nevű hackercsoport újabb adatlopó kampányt indított a Zendesk felhasználói ellen, hamis ügyfélszolgálati oldalakkal és csaló bejelentésekkel...
⚡ Erre utal többek között az, hogy a kutatók most először figyelték meg részletesen, hogyan nőnek fémkristályok egy másik olvadt fém belsejében, ráadásul mindezt élőben, speciális röntgentechnikával...
Egy meglepően közönséges fotoszintetizáló baktérium, a Rhodopseudomonas palustris különleges képességet mutatott a makacs PFAS-vegyületek, köztük a perfluoroktánsav (PFOA) megkötésére...
Az Egyesült Államokban rosszindulatú hekkerek vették át a hatalmat több rádióadó felett, és a vészhelyzeti riasztóhangot durva, trágár tartalmakkal keverték...
Az idei hálaadás legnagyobb drámája nem a töltött pulyka vagy a családi veszekedések körül forog, hanem két óriás összecsapása körvonalazódik a tőzsdén: Michael Burry befektető, akit A nagy dobás (The Big Short) című filmben Christian Bale alakított, frontális támadásba lendült az Nvidia ellen...
🗑 Az OpenAI elismerte, hogy egy adatvédelmi incidens során a Mixpanel nevű korábbi elemzőpartnerénél illetéktelenek fértek hozzá API-felhasználók adataihoz...
