Az etikus MI-használat szószólói kamu forrásokat gyártottak
Egy friss oktatási reformjelentés, amely a kanadai Newfoundland és Labrador tartomány tízéves iskolai reformját alapozza meg, legalább 15 hamis hivatkozást tartalmaz – miközben maga a jelentés etikus MI-használatot követel az iskolákban. A 418 oldalas dokumentumot 18 hónapon át készítették, és augusztus 28-án mutatták be az egyetem professzorai és az oktatásügyi miniszter.
Kitalált filmek és referenciák
Az egyik példában egy soha nem létezett, 2008-as National Film Board-filmet, az Iskolai játékok (Schoolyard Games) címűt idézik, amelyet a filmszövetség szóvivője szerint valójában soha nem készítettek el. A kérdéses hivatkozás egy egyetemi stíluskalauz mintapéldája, amely már az első oldalon figyelmeztet, hogy „sok hivatkozás fiktív”, csak a helyes formázást illusztrálja. Valaki – vagy éppen egy chatbot – ezt másolta át szó szerint, mintha valódi forrás volna.
Hamis tudományosság MI-segítséggel
A Memorial Egyetem egyik professzora szerint a forrásgyártás mögött minden bizonnyal generatív MI állhat. A hibás vagy egyszerűen kitalált hivatkozások az MI nyelvi modellek ismert problémái közé tartoznak, hiszen ezek a szoftverek hajlamosak „bizonyosnak tűnő, de teljesen kitalált” forrásokat létrehozni. Még azok az MI-programok is, amelyek hozzáférnek internetes forrásokhoz, gyakran téves vagy nem létező műveket adnak meg referenciaként – elég, ha a megfelelő formát követik ahhoz, hogy a gyanútlan emberi ellenőrök se vegyék észre a csalást.
A jelentés egyik legfontosabb ajánlása, hogy a tanároknak és a diákoknak ismerniük kellene az MI, az adatvédelem és a felelős technológiahasználat alapjait. Ez még kínosabbá teszi, hogy több forrás sem létezett. Egy politológus napokat töltött a hivatkozások ellenőrzésével, mivel a reformdokumentum országos oktatáspolitikát is befolyásolhat. Az ügy kirobbanása után a szerzőbizottság egyik társelnöke visszautasította az interjút; az oktatási minisztérium pedig elismerte, hogy néhány forrásnál probléma lehetett, és ígéretet tett a javításra.
2025, adrienne, arstechnica.com alapján
filózó
Te mit gondolsz arról, ha valaki nem ellenőrzi a forrásokat egy hivatalos jelentésben?
Szerinted szükség van új szabályokra az MI-használat ellenőrzésére?
Te lemondanál, ha kiderülne, hogy hibás forrásokat használtál egy fontos dokumentumban?
Az MI iránti kereslet továbbra is töretlen és szinte határtalan, ahogy a technológiai szektor szereplői mindent megtesznek, hogy lépést tartsanak az elképesztő tempójú fejlesztésekkel...
Kezdetben Brad Garlinghouse, a Ripple vezérigazgatója, és a társalapító, Chris Larsen komolyan fontolóra vették, hogy bezárják a céget, amikor 2020-ban az amerikai értékpapír-felügyelet beperelte őket...
A Marshall Stanmore IV merész külsővel és megdöbbentően erőteljes hangzással érkezik, és első pillantásra nyilvánvaló, hogy nemcsak a füleket, de a szemeket is rabul ejti...
A vállalati MI fejlődésében új korszak kezdődik: míg a múltban mindenhatónak hitt, hatalmas modellek uralták a terepet, ma már egyre többen ismerik fel, hogy kisebb, egyedi feladatra tervezett rendszerek hatékonyabban és olcsóbban nyújtanak pontmegoldásokat...
🌌 A héten a tudomány világa ismét meglepő felfedezéseket hozott, amelyek közül az egyik legizgalmasabb egy miniatűr univerzumban „megszülető” idő volt...
A brit üzletek forradalmi változás előtt állnak: hamarosan a rendőrség valós időben kap értesítést, ha súlyos bűncselekmények elkövetője lép be egy boltba...
🚗 Érdekes felvetés, hogy mennyit változott az autózás élménye a technológiai fejlődésnek köszönhetően, különösen akkor, ha valaki két évtizedet ugrik előre: egy 2003-as PT Cruiser helyett egy 2022-es Hyundai Tucson volánja mögé ülve...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. Sharp: Skin Scan Routine (iPhone/iPad)A SHARP egy bőranalízis és rutin alkalmazás férfiaknak, akik jobban bíznak a mérésekben, mint a találgatásban...
🚨 Egy lényeges fejlemény, hogy az OpenAI nagy átszervezésbe kezdett, melynek során távozik a vállalat biztonsági rendszerekért felelős vezetője, Johannes Heidecke...
Száz felhasználó is meglepődve tapasztalta, hogy a Philips Hue Bridge Pro eszköze egyik pillanatról a másikra működésképtelenné vált egy júniusi szoftverfrissítés után...
Meg kell vizsgálni, hogy az amazóniai és más trópusi esőerdők mennyire képesek továbbra is elnyelni és tárolni a légköri szén-dioxidot napjainkban, amikor évről évre egyre gyakoribb és intenzívebb éghajlati szélsőségekkel, például az El Niño-jelenséggel kell szembenézniük...
Egy forradalmi fejlesztésű gyógyszer, a DT-109 vegyület az állatkísérletekben teljesen visszafordította a súlyos zsírmájat azáltal, hogy helyreállította a bélrendszer egészségét...
Mi történt ezen a napon a történelemben? Feszült ostromok, sorsfordító csaták és függetlenségi nyilatkozatok alakították ezt a napot: Jeruzsálem falainak áttörése és a Második Templom pusztulása, a Bastille ostromához vezető szikra, a Boyne és Aughrim döntő ütközetei, valamint a Libanon–Izrael háború kezdete mind ide tartozik...
🚀 Kína történetének egyik legnagyobb űripari eseményét ünnepelte, amikor először sikerült visszanyerni egy újrafelhasználható, orbitális hordozórakéta első fokozatát a Dél-kínai-tengeren...
💻 A mesterséges intelligenciával működő ügynökök egyre gyakrabban üzletelnek és kötnek megállapodásokat emberi beavatkozás nélkül, ám ezek a gépi tranzakciók is ugyanúgy vitákhoz vezethetnek, ahogyan akkor is, amikor emberek állnak egymással szemben...
Ami kezdetben ártalmatlannak tűnt, mára súlyos problémává nőtte ki magát: az üzleti MI-ügynökök magabiztosan hibás válaszokat adnak, mindezt úgy, hogy senki nem veszi észre, amíg valaki vissza nem követi az adatot egy elavult metrikáig vagy egy olyan dokumentumig, amelyet a lekérő rendszer soha nem töltött be...
