Az MI-chipek titkos fegyvere: a TMU

A mesterséges intelligencia rendszerek processzorainak fejlődése eddig elsősorban a mátrixszámítások gyorsítására irányult, de a legalább ilyen fontos adatmozgatás eddig kevés figyelmet kapott. Erre kínál újszerű megoldást a Tensor Manipulációs Egység (Tensor Manipulation Unit, TMU), egy átkonfigurálható, memória-közeli hardverblokk, amely hatékonyan képes nagymennyiségű adat mozgatására minimális számítás mellett.

Memóriából memóriába, villámgyorsan

A TMU RISC-alapú futtatási modellt alkalmaz, amely egységes címzési rendszert kínál. Ez lehetővé teszi a különféle, akár durva, akár finom mátrix- és tenzor-átalakítások széles körű támogatását. A TMU-t kifejezetten úgy fejlesztették, hogy nagy áteresztőképességű MI-chipen (SoC), egy Tenzo Feldolgozó Egység (Tensor Processing Unit, TPU) mellett működjön, és dupla pufferelést, valamint kimeneti továbbítást is kínáljon, így javítva a feldolgozócső kihasználtságát.

Kicsi, de erős

A TMU mindössze 0,019 mm² helyet foglal az SMIC 40 nm-es technológiájában, mégis több mint tíz különböző adatmozgató műveletet támogat. Tesztek szerint a TMU akár 1413-szoros, illetve 8,54-szeres operátorszintű késleltetés-csökkenést eredményez az ARM A72-höz és az NVIDIA Jetson TX2-höz képest. Ha házon belüli TPU-val együtt használják, a teljes rendszer végponttól végpontig terjedő válaszideje 34,6%-kal csökken – vagyis elhozza az MI-architektúrák új, hatékony korszakát.

2025, adrienne, arxiv.org alapján


Legfrissebb posztok

A Cisco tűzfalnyi bajban: kritikus sérülékenységre figyelmeztet

MA 16:01

A Cisco tűzfalnyi bajban: kritikus sérülékenységre figyelmeztet

⚠ A Cisco komoly, legmagasabb súlyosságú sebezhetőséget azonosított a Secure Firewall Management Center (FMC) szoftverük RADIUS alrendszerében, amely számos nagyvállalatnál és az állami szférában is elterjedt a hálózati eszközök...

Az Everest szemetét is elintézik a drónok

MA 15:51

Az Everest szemetét is elintézik a drónok

Idén tavasszal egy nepáli, mesterséges intelligencia-technológiával dolgozó csapat is érkezett hegymászókkal az Everest alaptáborába: két erős, DJI FC 30 típusú drónnal takarították a világ legmagasabb szemétlerakójává vált hegyet....

Az Apple újabb titoklopási botrányba keveredett: most az Oppo a főszereplő

MA 15:26

Az Apple újabb titoklopási botrányba keveredett: most az Oppo a főszereplő

Egy volt Apple-alkalmazott, Chen Shi, aki 2020 januárjától 2025 júniusáig dolgozott a cég Apple Watch csapatában szenzorrendszer-építészként, azzal gyanúsítható, hogy üzleti titkokat lopott el és adott tovább az...

Egy egyszerű módszer, amivel később lesz szükség térdprotézisre

MA 15:02

Egy egyszerű módszer, amivel később lesz szükség térdprotézisre

Külön figyelmet érdemel, hogy egy friss kutatás szerint már egy apró változtatás a járásunkban jelentősen csökkentheti a térdízületi porckopás okozta fájdalmat, ráadásul gyógyszerek mellékhatásai nélkül. Egyszerűen a talpunk...

Az MI-nek semmi keresnivalója a naplóírásban

MA 14:26

Az MI-nek semmi keresnivalója a naplóírásban

📝 A naplóírás varázsa éppen abban rejlik, hogy a fehér lap előtt ülve őszintén találkozol önmagaddal. A digitális naplóalkalmazások fejlődésével azonban egyre több MI-alapú megoldás próbálja megkönnyíteni ezt a...

Meglepően stabil marad az agy testtérképe amputáció után is

MA 14:01

Meglepően stabil marad az agy testtérképe amputáció után is

💪 Nem hagyható figyelmen kívül, hogy új kutatások szerint az agy testtérképe, amely a tapintás és más érzékelések feldolgozásáért felelős elsődleges szomatoszenzoros kéregben található, jóval stabilabb, mint eddig gondoltuk....

Az űrrakéta, amit a SpaceX sem képes megépíteni

MA 13:53

Az űrrakéta, amit a SpaceX sem képes megépíteni

A SpaceX texasi Starbase gyára elképesztő méreteivel és fejlett technológiájával minden eddigi rakétaépítő üzem fölé magasodik. A cél: évente 365 Starship űrhajót gyártani, amivel a vállalat gyakorlatilag naponta...

Tényleg az adatainkra vadászik a mesterséges intelligencia, vagy csak unatkozik?

MA 13:27

Tényleg az adatainkra vadászik a mesterséges intelligencia, vagy csak unatkozik?

🕵 A kvantumszámítógépek fejlődése korszakváltást hoz az adatbiztonságban, amely ellen a jelenlegi titkosítási technológiák egyre kevésbé nyújtanak védelmet. Nem hagyható figyelmen kívül, hogy az új eszközök elképesztő számítási képességeikkel...

A kicsi méhek agya segíthet okosabbá tenni a mesterséges intelligenciát

MA 13:01

A kicsi méhek agya segíthet okosabbá tenni a mesterséges intelligenciát

A kutatók egy digitális méhagy-modell segítségével olyan felfedezést tettek, amely átírhatja, ahogyan a jövő mesterséges intelligenciáját (MI) fejlesztjük. Kiderült, hogy a méhek repülés közbeni mozdulatai nemcsak a látott...