A legújabb amerikai kutatás alapján az MI-asszisztensek sokkal gyakrabban helyeselnek a felhasználóknak, mint ahogyan azt emberek tennék, ráadásul akkor is, ha a kérdés megtévesztő vagy veszélyes ötletre vonatkozik. Stanfordi és Carnegie Melloni kutatók tizenegy népszerű chatbotot vizsgáltak meg – például a ChatGPT-t, a Claude-ot, a Geminit –, és azt találták, hogy ezek az MI-k 50%-kal nagyobb valószínűséggel bólogatnak mindenre, mint emberi beszélgetőpartnerek. Az MI így digitális vállveregetéssel jutalmazhat minket akkor is, amikor éppen butaságot mondunk.
Az MI-tól jön a bók – de veszélyes lehet
A tanulmány szerint a felhasználók szívesen fogadják, ha az MI kedves és dicsérő, még akkor is, ha egyébként butaságokat vagy ártalmas ötleteket sorolnak fel neki. Sokan megbízhatóbbnak, minőségibbnek tartják és szívesebben használnák újra a hízelgő chatbotokat, mint a tárgyilagosabbakat. Ez viszont oda vezet, hogy egyre nehezebben ismerik be, ha hibáznak, vagy amikor egyértelműen cáfolják az elképzeléseiket.
Érzelmi csapda és buborékhatás
A kutatók rámutattak: a hízelgő MI leginkább csak megerősíti a saját tévedéseinket és előítéleteinket. Az MI-k célja, hogy az emberek jóváhagyását elnyerjék, ezért még veszélyes vagy ártó szándékot sem utasítanak el – hiszen ezért pozitív visszajelzést kapnak a felhasználóktól. Az MI-fejlesztők pontosan ismerik ezt a problémát. Idén például az OpenAI vissza is vont egy GPT-4o frissítést, amely túlságosan dicsérte a felhasználókat veszélyes helyzetekben. A nagy cégek azonban ezen túl általában nem tesznek többet, mert a hízelgés több embert vonz, és ezzel több használatot generál.
Ha mindig csak helyesel valaki (vagy valami), abból előbb-utóbb buborék lesz – akárcsak a közösségi médiás vélemény-visszhangkamrákban, amelyek a leghajmeresztőbb és legveszélyesebb elméleteket is erősítik, csak mert jól esik az egónak. A megoldás nem az MI szigorítása, hanem az, hogy néha kérdőjelezzen, árnyaljon, vitázzon is – igaz, amíg a hízelkedés az üzleti modell alapja, addig ez aligha fog változni.
😴 Éjszaka nemcsak testünk pihen, agyunk is különös utakat jár be. Egy friss kutatás szerint ugyanis a színes, élénk álmok nem csupán szórakoztatnak, hanem hozzájárulhatnak ahhoz is, hogy reggel valóban kipihentnek érezzük magunkat — sőt, az intenzív álmodás azoknak az éjszakáknak a titka, amikor a legmélyebbnek érezzük az alvást, függetlenül attól, mennyire aktív maradt közben az...
Az Apple évek óta kivár a mobilkamerák terén, de most végre felrázhatja a piacot: tesztelés alatt áll egy 200 megapixeles főkamera, amely nagyobb lehet, mint a Samsung Galaxy S26 Ultra 200 megapixeles érzékelője...
💬 Fontos kérdés, hogy mi történik akkor, amikor a tudományos élet válságba kerül, és azok is távoznak, akik egyszer a kutatás iránti elkötelezettséget mindennél előbbre valónak tartották...
Ilyen eset például, amikor a csalók nem valódi telefonokat, hanem virtuális okostelefonokat használnak, hogy teljesen hiteles felhasználónak tűnjenek...
Egy új, folyamatosan fejlődő kártevő, a Torg Grabber már 850 böngészőbővítményből képes érzékeny adatokat ellopni, ebből 728 kifejezetten kriptopénztárcákhoz kapcsolódik...
🔬 Az elmúlt évtizedekben a tömegspektrometria alapvető eszközzé vált a tudományos kutatásban, ám a technika egyik legnagyobb korlátja, hogy a legtöbb jelenleg használt műszer egyszerre csak néhány molekulát képes elemezni...
🛑 A szoftverellátási lánc sebezhetőségei eddig főként kártevők és zsarolóvírusok révén kerültek be a köztudatba, azonban most egy lényegesen egyszerűbb módszer is elérhetővé vált a támadóknak: rosszindulatú vagy hamisított API-dokumentációval is megvezethetők az MI-alapú kódoló ügynökök...
A bűnözők legújabb trükkje, hogy a Bubble nevű, no-code, MI-alapú alkalmazáskészítő platformot használják Microsoft-fiókok elleni adathalász támadásokhoz...
👤 A Reddit új lépést tett a gyanús aktivitás kiszűrésére: hamarosan arra kötelezi azokat a fiókokat, amelyek automatizált vagy egyébként gépies viselkedést mutatnak, hogy igazolják, valóban ember kezeli őket...
🗿 Egy váratlanul gazdag lelet került elő egy észak-új-zélandi barlang mélyéből: mintegy egymillió éves fosszíliák, amelyek között tucatnyi madárfaj és négy különböző béka is szerepel...
A nagy nyelvi modellek fejlődése hatalmas dokumentumok és összetett beszélgetések feldolgozására teszi képessé az MI-t, de ezzel együtt egy komoly hardveres akadály, a kulcs–érték (KV) gyorsítótár szűk keresztmetszete is egyre nyilvánvalóbbá válik...
🎵 Zenei ötletekből mostantól kész dalok születhetnek mindössze néhány pillanat alatt. A Gemini alkalmazás fizetős előfizetői számára most elérhető a Lyria 3 Pro, amely már háromperces zeneszámok generálására is képes...
💻 Képzeld el az Apple II-t, amelyben valaki nem törődött bele az idő vasfogának munkájába, és összebarkácsolta a lehetetlent: új életet lehelt az AD8088 koprocesszor-kártyába, így az öreg gép MS-DOS 2...
Nincs még egy olyan szabad szemmel is látható csillag, mint a Cassiopeia csillagképben ragyogó Gamma Cassiopeiae, amely csaknem ötven éve zavarba ejti a kutatókat...
A Pinterest vezére, Bill Ready most nekiment annak a mélyen gyökerező hisztériának, amelyet a legtöbb közösségi oldal szinte az anyatejjel szívja magába...
