Az MI-chipek titkos fegyvere: a TMU

A mesterséges intelligencia rendszerek processzorainak fejlődése eddig elsősorban a mátrixszámítások gyorsítására irányult, de a legalább ilyen fontos adatmozgatás eddig kevés figyelmet kapott. Erre kínál újszerű megoldást a Tensor Manipulációs Egység (Tensor Manipulation Unit, TMU), egy átkonfigurálható, memória-közeli hardverblokk, amely hatékonyan képes nagymennyiségű adat mozgatására minimális számítás mellett.

Memóriából memóriába, villámgyorsan

A TMU RISC-alapú futtatási modellt alkalmaz, amely egységes címzési rendszert kínál. Ez lehetővé teszi a különféle, akár durva, akár finom mátrix- és tenzor-átalakítások széles körű támogatását. A TMU-t kifejezetten úgy fejlesztették, hogy nagy áteresztőképességű MI-chipen (SoC), egy Tenzo Feldolgozó Egység (Tensor Processing Unit, TPU) mellett működjön, és dupla pufferelést, valamint kimeneti továbbítást is kínáljon, így javítva a feldolgozócső kihasználtságát.

Kicsi, de erős

A TMU mindössze 0,019 mm² helyet foglal az SMIC 40 nm-es technológiájában, mégis több mint tíz különböző adatmozgató műveletet támogat. Tesztek szerint a TMU akár 1413-szoros, illetve 8,54-szeres operátorszintű késleltetés-csökkenést eredményez az ARM A72-höz és az NVIDIA Jetson TX2-höz képest. Ha házon belüli TPU-val együtt használják, a teljes rendszer végponttól végpontig terjedő válaszideje 34,6%-kal csökken – vagyis elhozza az MI-architektúrák új, hatékony korszakát.

2025, adrienne, arxiv.org alapján


Legfrissebb posztok

Az MI-nek semmi keresnivalója a naplóírásban

MA 14:26

Az MI-nek semmi keresnivalója a naplóírásban

📝 A naplóírás varázsa éppen abban rejlik, hogy a fehér lap előtt ülve őszintén találkozol önmagaddal. A digitális naplóalkalmazások fejlődésével azonban egyre több MI-alapú megoldás próbálja megkönnyíteni ezt a...

Meglepően stabil marad az agy testtérképe amputáció után is

MA 14:01

Meglepően stabil marad az agy testtérképe amputáció után is

💪 Nem hagyható figyelmen kívül, hogy új kutatások szerint az agy testtérképe, amely a tapintás és más érzékelések feldolgozásáért felelős elsődleges szomatoszenzoros kéregben található, jóval stabilabb, mint eddig gondoltuk....

Az űrrakéta, amit a SpaceX sem képes megépíteni

MA 13:53

Az űrrakéta, amit a SpaceX sem képes megépíteni

A SpaceX texasi Starbase gyára elképesztő méreteivel és fejlett technológiájával minden eddigi rakétaépítő üzem fölé magasodik. A cél: évente 365 Starship űrhajót gyártani, amivel a vállalat gyakorlatilag naponta...

Tényleg az adatainkra vadászik a mesterséges intelligencia, vagy csak unatkozik?

MA 13:27

Tényleg az adatainkra vadászik a mesterséges intelligencia, vagy csak unatkozik?

🕵 A kvantumszámítógépek fejlődése korszakváltást hoz az adatbiztonságban, amely ellen a jelenlegi titkosítási technológiák egyre kevésbé nyújtanak védelmet. Nem hagyható figyelmen kívül, hogy az új eszközök elképesztő számítási képességeikkel...

A kicsi méhek agya segíthet okosabbá tenni a mesterséges intelligenciát

MA 13:01

A kicsi méhek agya segíthet okosabbá tenni a mesterséges intelligenciát

A kutatók egy digitális méhagy-modell segítségével olyan felfedezést tettek, amely átírhatja, ahogyan a jövő mesterséges intelligenciáját (MI) fejlesztjük. Kiderült, hogy a méhek repülés közbeni mozdulatai nemcsak a látott...


MA 12:54

Mindenki erre az Apple-újításra várt volna, mégis sokan csalódtak

Az őszi hónapok minden Apple-rajongó számára egyet jelentenek az új iOS érkezésével. Idén különlegessé teszi az eseményt, hogy az Apple szakít a megszokott számozással: elhagyja a 19-es verziót,...

Hogyan szaporodtak el a fajok a földi élet nagy ugrásaiban

MA 12:26

Hogyan szaporodtak el a fajok a földi élet nagy ugrásaiban

🚀 A földi élővilág lenyűgöző változatossága mögött néhány látványos evolúciós robbanás áll. Ezekben az időszakokban egy-egy új tulajdonság vagy frissen nyíló élőhely gyors és tömeges fajképződést indított el. Az...

A brit kormány visszavonulót fújt: nem lesz hátsó ajtó az Apple-en

MA 12:01

A brit kormány visszavonulót fújt: nem lesz hátsó ajtó az Apple-en

🔒 Az Egyesült Királyság letett arról, hogy rákényszerítse az Apple-t arra, hogy átadja a felhasználók titkosított iCloud-adataihoz vezető kiskaput. Ezzel az Apple fontos csatát nyert a magánszféra védelméért vívott...

Most először láthattunk bele egy haldokló csillag belsejébe

MA 11:51

Most először láthattunk bele egy haldokló csillag belsejébe

💫 Az SN2021yfj szupernóva felrobbanása ritka betekintést nyújtott egy haldokló csillag belső szerkezetébe, ami újabb bizonyítékul szolgált arra, hogyan születnek az atomok a világegyetemben. A csillagászok egy vastag gázburkot...