A legújabb amerikai kutatás alapján az MI-asszisztensek sokkal gyakrabban helyeselnek a felhasználóknak, mint ahogyan azt emberek tennék, ráadásul akkor is, ha a kérdés megtévesztő vagy veszélyes ötletre vonatkozik. Stanfordi és Carnegie Melloni kutatók tizenegy népszerű chatbotot vizsgáltak meg – például a ChatGPT-t, a Claude-ot, a Geminit –, és azt találták, hogy ezek az MI-k 50%-kal nagyobb valószínűséggel bólogatnak mindenre, mint emberi beszélgetőpartnerek. Az MI így digitális vállveregetéssel jutalmazhat minket akkor is, amikor éppen butaságot mondunk.
Az MI-tól jön a bók – de veszélyes lehet
A tanulmány szerint a felhasználók szívesen fogadják, ha az MI kedves és dicsérő, még akkor is, ha egyébként butaságokat vagy ártalmas ötleteket sorolnak fel neki. Sokan megbízhatóbbnak, minőségibbnek tartják és szívesebben használnák újra a hízelgő chatbotokat, mint a tárgyilagosabbakat. Ez viszont oda vezet, hogy egyre nehezebben ismerik be, ha hibáznak, vagy amikor egyértelműen cáfolják az elképzeléseiket.
Érzelmi csapda és buborékhatás
A kutatók rámutattak: a hízelgő MI leginkább csak megerősíti a saját tévedéseinket és előítéleteinket. Az MI-k célja, hogy az emberek jóváhagyását elnyerjék, ezért még veszélyes vagy ártó szándékot sem utasítanak el – hiszen ezért pozitív visszajelzést kapnak a felhasználóktól. Az MI-fejlesztők pontosan ismerik ezt a problémát. Idén például az OpenAI vissza is vont egy GPT-4o frissítést, amely túlságosan dicsérte a felhasználókat veszélyes helyzetekben. A nagy cégek azonban ezen túl általában nem tesznek többet, mert a hízelgés több embert vonz, és ezzel több használatot generál.
Ha mindig csak helyesel valaki (vagy valami), abból előbb-utóbb buborék lesz – akárcsak a közösségi médiás vélemény-visszhangkamrákban, amelyek a leghajmeresztőbb és legveszélyesebb elméleteket is erősítik, csak mert jól esik az egónak. A megoldás nem az MI szigorítása, hanem az, hogy néha kérdőjelezzen, árnyaljon, vitázzon is – igaz, amíg a hízelkedés az üzleti modell alapja, addig ez aligha fog változni.
A Kongói Demokratikus Köztársaság és Uganda területén kitört ebola-járványt vasárnap nemzetközi jelentőségű egészségügyi vészhelyzetnek minősítette az Egészségügyi Világszervezet...
A Survivor – Görögország (Survivor Greece) forgatását azonnali hatállyal leállították, miután egy fiatal versenyző, Stavros Floros életveszélyes balesetet szenvedett...
A technológiai átalakulás új korszakát éljük, ahol a fejlett algoritmusok már nemcsak támogatják, hanem egyre inkább kiváltják azokat a szakértői feladatokat, amelyekben az embereknek fejlődniük kellene...
A GameSir G8+ MFi jelentős előrelépés a mobil játékvezérlők világában, amely a G8 Galileo bevált tulajdonságait vette alapul, majd szinte minden kritikus ponton továbbfejlesztette azt...
Kételyek merültek fel, hogy a nemrég megjelent, Mixtape című történetközpontú játék hamarosan eltűnhet a digitális boltokból a zeneszámok licencproblémái miatt...
Hihetetlen, de mégis igaz, hogy az Egyesült Államokban működő adatközpontok évente annyi áramot fogyasztanak, amellyel több mint 16 millió otthon energiaigényét lehetne fedezni...
Kenya elképesztő technológiai ugrásra készült, amikor májusban bejelentették a G42 és a Microsoft közös, 1 milliárd dolláros adatközpont-beruházását...
Csak három évvel a megjelenése után végleg eltűnik a digitális boltok polcairól a LEGO 2K Gyorsulás (LEGO 2K Drive), az a nyílt világú versenyjáték, ahol saját építésű járgányaiddal száguldozhatsz...
😐 Ez a jelenség jól illusztrálható azzal, hogy ha egy alkotó bármilyen megjegyzést tesz egy legendás játék folytatásáról, az internetes rajongók azonnal az új rész bejelentését vizionálják...
Mi fűzte össze ezt a napot? Alkotmányok 📜, háborúk ⚔️ és történelmi első alkalmak 🚆 formálták a világot: Norvégia alkotmánya, a Boshin-háború lezárása, a Watergate-ügy nyilvános szenátusi meghallgatásai és az első legális azonos nemű házasságok mind ide kötődnek...
💪 Ami kezdetben ártalmatlannak tűnt, az utóbbi években jelentősen megváltozott: világszerte milliók home office-ba kényszerültek, ami alaposan átrajzolta, mit várunk el az irodabútortól...
A közelmúltban egy tengerjáró hajón történt hantavírus-kitörés miatt jelenleg mintegy 150 utast figyelnek meg, illetve akár hathetes karanténba is helyeznek...
🕵 Egy 17. századi marylandi temető különös titkot rejtett: egy mindössze nyolcéves fiú földi maradványait találták meg, aki túlnyomórészt afrikai származású volt...
Az agyunk működése mögötti titkos összetevőkre újabb fény vetült: amerikai kutatók felfedezték, hogy a tartós szorongással élőknél kimutathatóan kevesebb található egy létfontosságú agyi tápanyagból, amelyet az emberek többsége amúgy is hiányosan visz be...
💰 Az új Gmail-fiókok tulajdonosai néhány országban kellemetlen meglepetéssel szembesülnek: a megszokott 15 GB ingyenes tárhely helyett kezdetben csak 5 GB-ot kapnak...
🤒 Az öregedéssel és krónikus betegségekkel kapcsolatban egészen új tényezőt fedeztek fel a kutatók: a bélben képződő parányi részecskék, úgynevezett exoszómák is kulcsszerepet játszhatnak a szervezet gyulladásos folyamataiban...
A Metroid Dread fejlesztőjeként ismert MercurySteam komoly változások elé néz: a stúdió kénytelen volt elbocsátásokat bejelenteni, miközben legújabb akciójátékuk, a God of War-hangulatú Blades of Fire végre Steamen is elérhetővé vált...
Több mint 1600 kilométerrel Ecuador partjaitól nyugatra, a Csendes-óceán mélyén található Gofar-törésvonal már legalább harminc éve szinte óraműpontossággal produkál nagy, 6-os erősségű földrengéseket...
💫 A tudósoknak most először sikerült közvetlenül lefotózniuk a kozmikus hálót, vagyis azt a rejtett, óriási anyaghálózatot, amely a galaxisokat kapcsolja össze az univerzumban...
