A Bonsai 1 bites modellje kiszabadíthatja az MI-t a felhő fogságából
A Caltechről indult PrismML forradalmi, 1 bites nagy nyelvi modellt jelentett be, amely meglepő módon a sokkal nagyobb méretű vetélytársakkal is felveszi a versenyt. Ez a Bonsai 8B névre keresztelt modell mindössze 1,15 GB memóriát igényel, de teljesítményét tekintve bőven túlszárnyalja a hagyományos, teljes pontosságú rendszereket. A modell 14-szer kisebb, nyolcszor gyorsabb és ötször energiatakarékosabb edge-hardvereken, mint a kortársai – miközben nem marad el a versenytársaktól sem a paraméterszámban, sem a tudásban.
Egy bitnyi forradalom
A Transformer architektúrán alapuló MI-modellek hagyományosan rengeteg neuronkapcsolatot, azaz súlyt használnak, amelyek mérete a számábrázolás pontosságától függően rengeteg memóriát emészthet fel. A Bonsai 8B viszont minden egyes súlyt mindössze az előjelén (–1 vagy +1) ábrázol, csoportonként egy közös skálázó tényezővel – a sokkal többet foglaló 16- vagy 32-bites helyett. Ez várhatóan jelentősen csökkenti a szükséges tárhelyet anélkül, hogy elveszne a logikai következtetés vagy az összetett utasításvégrehajtás képessége.
Intelligencia-sűrűség, mint új mérce
A PrismML egy új metrikát vezetett be, az úgynevezett intelligencia-sűrűséget, amely a modell hibaarányának logaritmusát osztja el a modell méretével. A Bonsai 8B ezen a mutatón 1,06/GB eredményt ér el, míg a benchmarkokon néha jobban teljesítő Qwen3 8B csak 0,10/GB értéket produkál.
Az MI-függetlenség ajtaja nyílik
A vállalat célja, hogy az MI-modelljei ne szoruljanak óriási felhőadatközpontokra, hanem mobil eszközökön, robotikában és reziliens vállalati rendszerekben is működjenek, ahol a memória és az energia kulcskérdések. A Bonsai 8B közvetlenül futtatható Apple-eszközökön (Mac, iPhone, iPad) és Nvidia GPU-kon is, és teljes mértékben nyílt forráskódú. Elérhető két kisebb változat is: a Bonsai 4B és a Bonsai 1.7B modellek. Úgy tűnik, az MI-intelligencia sűrítése most hosszú időre meghatározhatja az iparági fejlesztési irányokat.
🚀 Az Orion űrhajó fedélzetén ülve, nyolc órányi, szinte álomszerű holdmegfigyelés után vészesen elfogytak a szavak a NASA Artemis II küldetésének parancsnokánál...
🙄 A tavaly bemutatott AYN Odin 3 kézikonzolt eredetileg az első olyan eszközként harangozták be, amely a Snapdragon 8 Elite processzorral jelenik meg...
💻 Fontos kérdés, miként lehet lépést tartani az egyre gyorsuló számítási igényekkel, amelyeket főként a mesterséges intelligenciára építő technológiák hajtanak előre...
A nassolás szerelmesei jól ismerik azt a bosszúságot, amikor a frissen bontott csipsz vagy perec pár óra vagy nap alatt elveszíti ropogós állagát, és hamar állottá válik...
A Bigme nevű E-Ink márka új szintre emeli az okostelefonos olvasás élményét: forradalmian új, kétkijelzős mobilt ígér, amely egy színes E-Ink panelt és egy hagyományos LCD-képernyőt kombinál...
Mindenki a mesterséges intelligencia (MI) gyors elterjedéséről beszél, de a valóság az, hogy a legtöbb vállalat – legyen szó óriásokról vagy startupokról – hajlamos kihagyni a legfontosabb lépést: az alapok tisztességes lerakását...
Négy űrhajósból álló csapat történelmet írt: az Artemis II legénysége jelenleg távolabb jár a Földtől, mint bármely más emberes küldetés során valaha...
🕵 Jellemző példa erre, hogy a német szövetségi rendőrség (BKA) hosszú nyomozás után két orosz állampolgárt nevezett meg a hírhedt GandCrab és REvil nevű zsarolóvírus-hálózatok vezetőjeként...
Megfeszített tempóval, elképesztő energiával haladt előre az Artemis II küldetés, miközben a NASA űrhajósai – Reid Wiseman, Victor Glover, Christina Koch és a kanadai Jeremy Hansen – túlszárnyalták az 1970-es Apollo–13 történelmi csúcsát, vagyis több mint 400 342 kilométerre jutottak a Földtől...
👀 A szenzációhajhászás, amely Tiger Woods és Justin Timberlake ittas vezetés miatti letartóztatásának felvételeit körülveszi, jóval túlmutat a híres emberek megszégyenítésén...
A legfrissebb kutatások szerint az egyetemi fejlesztésű GPUBreach támadás képes kihasználni a Rowhammer-sebezhetőséget, immár nemcsak a rendszermemóriában, hanem korszerű grafikus kártyák GDDR6-memóriájában is...
A négyfős Artemis II legénység elérte a Holdat, és hamarosan a kapcsolatot is elveszítik a Földdel, amikor elhaladnak az ismeretlen túlsó oldal mellett...
🚀 A bitcoin ára továbbra is 25,3 millió forint (68 780 USD) körül mozog, de április 6-án az amerikai spot bitcoin ETF-eken keresztül érkező tőke lendülete kiemelkedően erős volt...
Az Amazon most visszafogott, de azért érezhetően odacsap a jó öreg postának: végül 20 százalékkal vágja vissza az amerikai posta (USPS) kézbesítéseit...
Fizetős iOS appok és játékok, amik ingyenesek a mai napon. ASMR Playbook (iPhone/iPad)Az ASMR Playbook: Satisfying Games egy olyan digitális játékalkalmazás, amelyet a stressz oldására és a koncentráció erősítésére fejlesztettek ki...
Hihetetlen, de mégis igaz, hogy biztonsági kutatók MI‑ügynökök segítségével újabb két kritikus sebezhetőséget találtak a Common Unix Printing System (CUPS) szoftverben, amely a legtöbb Linux- és Apple‑eszköz alapértelmezett nyomtatórendszere...
📈 Senki sem várta volna, hogy miközben az amerikai technológiai cégek egyik napról a másikra tömeges elbocsátásokba kezdenek az MI miatt, addig Kínában jóval kisebbek a hullámok...
🚀 Az összehajtható telefonok piaca újabb nagy meglepetés előtt áll: friss hírek szerint már elindult az első összehajtható iPhone gyártása a Foxconn gyártósorain...
Annak vizsgálata, milyen közel jár a tudomány az 1-es típusú cukorbetegség teljes gyógyításához, különösen az őssejtalapú kezelések és az immunrendszert befolyásoló gyógyszerek gyors fejlődésének fényében...
