A Reddit “Családorvoslás” (Family Medicine) aloldalán egy moderátor figyelmeztetett: az MI-alapú Reddit-válaszok automatikusan felelnek a posztokra, de gyakran súlyosan veszélyes félretájékoztatást terjesztenek. A probléma az, hogy a moderátorok nem tudják kikapcsolni ezt a funkciót, így védtelenek a hibás tanácsokkal szemben.
Veszélyes tanácsok és megtévesztés
Egy egészségügyi dolgozó tapasztalata is aggasztó: krónikus fájdalommal kapcsolatos kérdésére olyan válasz jelent meg, amely a felírt gyógyszerek abbahagyását és magas dózisú kratom szedését javasolta, ami több amerikai államban illegális és szabályozatlan szer. Egy másik poszt pedig arról szólt, hogy a heroin segíthet a krónikus fájdalom kezelésében. Ez különösen veszélyes, hiszen a heroin az USA-ban tiltott, rendkívül addiktív és halálos szer. Az ilyen típusú MI által generált válaszok könnyen azt a látszatot kelthetik, mintha a szakmai fórum is támogatná őket.
Moderátori tiltakozás és változásigény
A moderátorok szerint az egészségi és mentális egészséggel foglalkozó aloldalakon azonnali változásra van szükség – vagy ki kell kapcsolni az MI-t, vagy legalább lehetőséget kell adni a moderátoroknak a funkció szabályozására. A Reddit adminisztrátorai azt közölték, hogy módosítottak a rendszer működésén, és a felhasználói visszajelzések alapján folytatják a fejlesztést, de a veszélyes MI-válaszok problémája továbbra is fennáll. A moderátorok mindenkit óva intenek attól, hogy egészségügyi tanácsot fogadjon el a Reddit-válaszoktól.
2025, adrienne, tech.slashdot.org alapján
Legfrissebb posztok
MA 08:08
💻 A Sakana AI kutatói áttörő megközelítéssel új alapokra helyezték az MI-modellek együttműködését...
MA 08:02
🧠 Fontos kérdés, hogy a hasnyálmirigyrákot mikor sikerül felfedezni, hiszen ez életet menthet...
MA 07:57
💰 Fontos kérdés, hogy mikor férhetnek hozzá ismét az amerikai felhasználók a globális kriptovaluta-piac legjobb áraihoz...
MA 07:43
🔑 A blokklánc-technológia világa egyszerre kínál teljes átláthatóságot és kihívásokat a felhasználói magánélet területén...
MA 07:37
⚡ Ebből következően érdemes megérteni, hogy a mesterséges intelligencia világában az óriási, egyre nagyobb modellek mellett egyre nagyobb figyelmet kapnak azok a fejlesztések, amelyek a kisebb, hatékonyabb és széles körben elérhető megoldásokra építenek...
MA 07:28
🌱 brazil kutatók egy őshonos fa leveléből származó természetes vegyületeket azonosítottak, amelyek több fronton támadják a COVID–19-et okozó vírust...
MA 07:22
💪 Taylor Swift újra bíróság előtt találja magát, ezúttal egy Las Vegas-i revütáncosnő miatt, aki azt állítja, hogy az énekesnő ellopta az Egy showgirl vallomásai (Confessions of a Showgirl) márkát...
MA 07:01
Egy kaliforniai start-up, a Humble Robotics mutatta be a Humble Haulert, amely minden eddigi elképzelést felülmúl azzal, hogy teljesen vezetőfülke nélkül képes szállítani árut...
MA 06:57
A GameStop vezérigazgatója, Ryan Cohen egészen szokatlan fordulatokat produkált, amikor eBay-felvásárlási tervei kapcsán bizarr akcióba kezdett: játékosokat célzó relikviákat és sportritkaságokat kezdett el árulni az eBay-en – állítólag azért, hogy finanszírozza magát a felvásárlást...
MA 06:50
A Consensus Miami konferencián a Coinbax zsebelte be a 7,2 millió forintos fődíjat, miután bemutatta azt a szoftvert, amely jelentősen egyszerűsítheti a stabilcoin-tranzakciók megfelelőségi ellenőrzését...
MA 06:43
A friss pénzügyi jelentés komoly csalódást okozott a befektetőknek: a Coinbase váratlan veszteséget szenvedett el az első negyedévben, és elmaradt a bevételi várakozásoktól is...
MA 06:36
A James Webb-űrtávcső friss megfigyelései minden előzetes várakozást felülírnak: a távoli XMM-VID1-2075 galaxis a világegyetem kezdeti korszakából származik, ám egészen meglepő módon nem mutat semmiféle forgásra utaló nyomot...
MA 06:30
San Franciscóban zajló második Anthropic-konferencián látványos eredményekkel mutatkozott be a Claude platform legnagyszabásúbb frissítése, amelynek középpontjában egy új, „álmodás” (dreaming) nevű fejlesztés áll...
MA 06:22
A Tejútrendszer egyik távoli pontján, mintegy 190 fényévre a Földtől, kutatók egy különleges bolygópárosra bukkantak...
MA 06:06
Ma olyan nap, amikor fordult a történelem kereke: Jeanne d’Arc áttörte Orléans ostromát, véget ért az európai háborúskodás a V-E Day napján, és az Egészségügyi Világszervezet megerősítette a himlő felszámolását...
csütörtök 21:58
🚗 Idén ősszel minden eddiginél nagyobb durranásnak ígérkezik a Forza Horizon 6, amelyben ezúttal Japán vadregényes vidékein, városaiban, hegyeiben és tengerpartjain száguldozhatunk, méghozzá a valaha volt legnagyobb választékkal...
csütörtök 21:46
🗿 Az RGG Studio legújabb játéka, a Különösebb a mennyországnál (Stranger Than Heaven) a 20...
csütörtök 21:34
Ilyen eset például, amikor a vállalat abban reménykedik, hogy a legmodernebb MI-modell végre áttörést hoz: precíz, személyre szabott eredményeket vár tőle – de ehelyett egységes, sablonos vagy akár teljesen irreleváns válaszokat kap...
csütörtök 21:01
Miután több napon át próbált 1,45 USD (kb. 535 HUF) felett maradni, az XRP elbukott, és hirtelen, 25%-os visszaeséssel 1,42 USD (kb...
csütörtök 20:57
Érdekes fejlemény, hogy államilag támogatott iráni hekkerek egyre kifinomultabb módszerekkel támadnak, és közben mindent megtesznek azért, hogy álcázzák valódi szándékaikat...
csütörtök 20:46
⚠ Hétköznapi helyzet fejlesztőknél: fut egy Anthropic Skill-szkenner, amely átvizsgálja a ClawHubról vagy a skills...
csütörtök 20:23
Erre utal többek között az, hogy a Solv Protocol több mint 700 millió dollár, vagyis mintegy 255 milliárd forint értékű tokenizált bitcoint (SolvBTC, xSolvBTC) visz át a Chainlink CCIP-jére, miután komoly biztonsági problémák merültek fel a LayerZero hídjával kapcsolatban...
csütörtök 20:13
🚜 Jól mutatja a helyzetet, hogy a Kanári-szigeteken élők pánikban várják a patkányvírussal fertőzött óceánjárót, amely vasárnap hajnalban érkezik Tenerife partjaihoz...
csütörtök 20:01
Egy floridai házaspár igazán sajátos módon oldotta meg az udvarukra tévedt drón ügyét: egyszerűen bedobták a tűzrakóba, és elégették a 440 ezer forintot érő szerkezetet...
csütörtök 19:45
Vizsgálják, hogyan kerülhetett egy 1500 éves, aranyból készült kardhüvelydísz egy kidőlt fa alá Norvégia délnyugati részén...
csütörtök 19:34
🚀 A Nintendo idén nyáron újabb bőrt húz le a legendás Star Fox 64-ről: a Star Fox legújabb verziója a Switch 2 exkluzív játékaként érkezik, teljesen újratervezett látványvilággal és karakterdizájnnal, azonban a pályák felépítése változatlan marad...
csütörtök 19:25
A kriptovalutapiac jelenleg nyugalmasnak tűnik, nagyobb emelkedések nélkül, de a felszín alatt jelentős átalakulás zajlik...
csütörtök 19:13
😷 Különösen igaz ez akkor, ha egy egzotikus hajóút váratlanul vírusveszélyes rémálommá válik...
csütörtök 18:56
180 év telt el a Franklin-expedíció tragédiája óta, de a kanadai sarkvidéken kihűlésben és éhezésben elhunyt tengerészek közül most újabb négyet sikerült azonosítani genetikai elemzések révén...
