Az MI rávágja a választ, de nem érti a kérdést

Új kutatások – van ok a kétkedésre

Úgy tűnik, hogy a Centaur sikerei alaposabb vizsgálatot igényelnek: a Zhejiang Egyetem friss tanulmánya szerint valójában túlillesztésről lehet szó. Vagyis a modell nem a feladat értelmét fogta fel, csupán a tanulóadatok mintázatait tanulta meg, s ezek alapján adott „várható” válaszokat. Az értékelés kiegészítéseként több új tesztet dolgoztak ki: például az eredeti, pontosan leírt feladatokat egyszerűen azzal helyettesítették, hogy „Kérlek, válaszd az A opciót.” Ha a Centaur tényleg értette volna a kérdéseket, akkor következetesen az A-t kellett volna választania, ehelyett viszont továbbra is az eredeti adatokban helyesnek számító válaszokat adta.

Az MI-értékelés nehézségei

Különösen fontos kiemelni, hogy a kutatás rávilágít az MI-modellek képességeinek felülvizsgálatának szükségességére: ezek a rendszerek gyakran jól illeszkednek az adathalmazokra, de fekete doboz jellegű működésük miatt nehéz visszafejteni, pontosan mi alapján jutnak egy-egy válaszhoz. Emiatt könnyen előfordulhatnak félreértések vagy úgynevezett hallucinációk. A megfelelő méréshez elengedhetetlen a sokoldalú, változatos tesztelés.

Az igazi akadály: nyelvi megértés

A Centaur minden ígérete ellenére egy komoly korláttal küzd: nem képes felismerni és helyesen értelmezni a kérdések mögötti szándékokat. Arra lehet következtetni, hogy a valódi nyelvi megértés lehet a következő nagy kihívás az emberi kogníciót modellező MI-k fejlesztésében.

2026, adrienne, www.sciencedaily.com alapján