Hugging Face vezető: Az MI veszélye, hogy “szolgalelkű szoftver” lesz belőle

Hugging Face vezető: Az MI veszélye, hogy “szolgalelkű szoftver” lesz belőle
Az MI-vállalatok alapítói arról ismertek, hogy merész állításokat fogalmaznak meg a technológia tudományokat átalakító potenciáljáról. Thomas Wolf, a Hugging Face társalapítója és tudományos vezetője azonban jóval visszafogottabban látja a helyzetet. Egy csütörtöki interjúban Wolf elmondta, attól tart, hogy az MI “szolgalelkű szoftverré” válik, ha nem történik áttörés a kutatásban. Kifejtette, hogy a jelenlegi MI-fejlesztési paradigmák nem fognak olyan mesterséges intelligenciát eredményezni, amely képes a dobozokon kívül gondolkodni és kreatívan problémákat megoldani – olyan típusú problémamegoldásra, amely Nobel-díjakat nyer. “A leggyakoribb tévedés, hogy az emberek azt hiszik, a Newtonhoz vagy Einsteinhez hasonló elmék csupán felfokozott jó tanulók, hogy a zseni akkor születik, amikor lineárisan extrapoláljuk egy felső 10%-os diák képességeit,” írta Wolf. “Ahhoz, hogy egy Einsteint teremtsünk egy adatközpontban, nem csupán olyan rendszerre van szükségünk, amely minden kérdésre tudja a választ, hanem olyanra, amely olyan kérdéseket tesz fel, amelyekre senki más nem gondolt, vagy nem mert feltenni.”

Szemben a nagyok optimizmusával

Wolf állításai éles ellentétben állnak az OpenAI vezérigazgatója, Sam Altman kijelentéseivel, aki egy interjúban azt mondta, hogy a “szuperintelligens” MI “hatalmas mértékben felgyorsíthatja a tudományos felfedezéseket.” Hasonlóképpen, az Anthropic vezérigazgatója, Dario Amodei is azt jósolta, hogy az MI jelentősen hozzájárulhat az új felfedezésekhez.

Wolf problémája a mai MI-vel – és amerre szerinte a technológia halad – az, hogy nem generál új tudást korábban nem kapcsolódó tények összekapcsolásával. Még ha az internet nagy része is a rendelkezésére áll, a mesterséges intelligencia jelenlegi formájában többnyire csak az emberek által már ismert dolgok közötti hézagokat tölti ki, mondta Wolf.

Egyes MI-szakértők hasonló nézeteket fogalmaztak meg, azzal érvelve, hogy bár az MI képes lehet memorizálni gondolkodási mintákat, valószínűtlen, hogy új következtetéseket tud levonni teljesen ismeretlen helyzetekben.

Engedelmes diákok, nem forradalmárok

Wolf szerint az MI-laborok lényegében “nagyon engedelmes diákokat” építenek – nem pedig tudományos forradalmárokat a szó bármilyen értelmében. A mai MI nincs arra ösztönözve, hogy megkérdőjelezze és olyan ötleteket javasoljon, amelyek potenciálisan ellentmondanak a tanítási adatainak, mondta, ez pedig arra korlátozza, hogy csak ismert kérdésekre válaszoljon.

“Ahhoz, hogy egy Einsteint teremtsünk egy adatközpontban, nem csak olyan rendszerre van szükségünk, amely minden választ tud, hanem olyanra, amely olyan kérdéseket tesz fel, amelyekre senki más nem gondolt, vagy nem mert feltenni,” mondta Wolf. “Olyanra, amely azt írja: ‘Mi van, ha mindenki téved ebben?’, amikor minden tankönyv, szakértő és közös tudás mást sugall.”

Az önelégültség problémája

Wolf szerint az MI területén tapasztalható “önelégültség” részben felelős ezért a kiábrándító helyzetért. Rámutat azokra a benchmarkokra, amelyeket gyakran használnak az MI-rendszerek fejlődésének mérésére, és amelyek többsége olyan kérdésekből áll, amelyekre egyértelmű, nyilvánvaló és “zárt végű” válaszok vannak.

Megoldásként Wolf azt javasolja, hogy az MI-iparág “térjen át a tudás és következtetés olyan mérésére”, amely képes megvilágítani, hogy az MI képes-e merész ellentétes megközelítéseket alkalmazni, általános javaslatokat tenni apró utalások alapján, és nem nyilvánvaló kérdéseket feltenni, amelyek új kutatási utakhoz vezetnek.

Wolf elismeri, hogy a trükk annak kiderítése lesz, hogyan is nézzen ki ez a mérés. De úgy gondolja, hogy megérheti az erőfeszítést.

“A tudomány legfontosabb aspektusa az a képesség, hogy a megfelelő kérdéseket tegyük fel, és megkérdőjelezzük azt is, amit megtanultunk,” mondta Wolf. “Nem egy kitűnő MI-diákra van szükségünk, aki minden kérdésre válaszolni tud általános ismeretekkel. Egy közepes diákra van szükségünk, aki észreveszi és megkérdőjelezi azt, amit mindenki más figyelmen kívül hagyott.”

  • Szerinted milyen kérdéseket kellene feltennie egy MI-nek, hogy valódi tudományos forradalmat okozzon?
  • Te mit tennél, hogy az MI-k ne csak a meglévő tudás hézagait töltsék ki, hanem új ismereteket is generáljanak?
  • Hogyan ösztönöznéd egy MI-t, hogy merje megkérdőjelezni az általánosan elfogadott tudást?



Legfrissebb posztok

Az OpenAI is saját MI-chipet fejleszt, vajon aggódik már az Nvidia

vasárnap 23:51

Az OpenAI is saját MI-chipet fejleszt, vajon aggódik már az Nvidia

Az OpenAI a hírek szerint intenzíven fejleszt saját MI-gyorsítót, méghozzá a Broadcom támogatásával. Ezzel az amerikai vállalat célja, hogy függetlenedjen az Nvidiától, és olcsóbbá tegye a GPT modelljeihez...

Az óriás jégtömb, amely végül feladja a harcot

vasárnap 23:26

Az óriás jégtömb, amely végül feladja a harcot

A negyven éve úszó A23a, a „jégtömbök királynője”, elvesztette trónját: a valaha rekordméretű antarktiszi jéghegy mostanra drámaian összezsugorodott, miután az elmúlt hónapokban jelentős darabokat veszített. Még májusban is...

Alfahímek, valódi vezetők vagy csak tévhitek terjednek róluk

vasárnap 22:52

Alfahímek, valódi vezetők vagy csak tévhitek terjednek róluk

🐶 A hetvenes években jelent meg először az alfahím fogalma a farkasok viselkedésének leírására. Megalkotója, egy kutatóbiológus, úgy vélte, nem egyedüli, autokrata vezért kell értenünk alatta, hanem sokkal inkább...

Az Ollama hibája miatt támadók is hozzáférhetnek a helyi csevegéseidhez

vasárnap 22:26

Az Ollama hibája miatt támadók is hozzáférhetnek a helyi csevegéseidhez

A népszerű Ollama nevű MI-futtató platform súlyos biztonsági hibájára derült fény, amely lehetővé tette rosszindulatú weboldalak számára, hogy távolról hozzáférjenek a felhasználók személyes számítógépéhez, kémkedjenek a helyi csevegések...

Az Android is kapott színes hívókártyákat, de nem örülhetsz túl sokáig

vasárnap 22:01

Az Android is kapott színes hívókártyákat, de nem örülhetsz túl sokáig

📞 A Google Telefon alkalmazása jelentős frissítést kapott: mostantól a hívó fél adatlapját te szabhatod személyre. Az új hívókártyák segítségével Androidon összesen három dolgot módosíthatsz: képet, színt és betűtípust...

Rejtett napfoltok, új irányt vehet a földönkívüli élet kutatása

vasárnap 21:51

Rejtett napfoltok, új irányt vehet a földönkívüli élet kutatása

Az űrtávcsövek, mint például a NASA TESS műholdja, évek óta segítik annak vizsgálatát, hogyan kereshetünk életet más bolygókon. Egy új, StarryStarryProcess nevű modell most forradalmasítja a csillagok sötét...

A jéghideg felfrissülés a Fülöp-szigeteken is megérkezett

vasárnap 21:26

A jéghideg felfrissülés a Fülöp-szigeteken is megérkezett

🍦 A Fülöp-szigeteken kevés dolog okoz akkora meglepetést, mint a jégverés. Az ország trópusi klímája miatt a lakosok sokkal inkább hozzászoktak a perzselő naphoz, mint a lehulló jéghez, mégis,...

Megérkezett az első robotkutya, aki verhet bennünket tollaslabdában

vasárnap 21:02

Megérkezett az első robotkutya, aki verhet bennünket tollaslabdában

A világ most először láthatja, ahogy egy négylábú robot sikeresen játszik tollaslabdát egy ember ellen. Az 50 kilogrammos, fél méter magas, kutyaszerű ANYmal robot nemcsak ugrál, hanem a...

Friss arcok a Meta Superintelligence Labsnál, íme az igazság

vasárnap 20:27

Friss arcok a Meta Superintelligence Labsnál, íme az igazság

💬 Mark Zuckerberg az elmúlt hónapokban elképesztő összegeket költött MI-tehetségek megszerzésére, a cél világos: a Meta a globális MI-verseny élvonalába akar tartozni. Ennek érdekében a cég új, Superintelligence Labs...