Az Ollama új szintre emeli a Mac-ek MI-teljesítményét
Fontos kérdés, hogy mennyit fejlődhetnek a helyi nagynyelvi modellek futtatásának sebessége Apple gépeken – mostantól ugyanis jelentős előrelépés várható. Az Ollama nevű rendszer, amely lehetővé teszi a helyi MI-modellek futtatását Mac-en, bevezette az Apple MLX gépi tanulási keretrendszerének támogatását. Emellett az Ollama javította a gyorsítótárazási teljesítményt, valamint mostantól támogatja az Nvidia által kidolgozott modelltömörítési formátumot is, ami bizonyos modelleknél sokkal hatékonyabb memóriakezelést tesz lehetővé.
Lendületben a helyi modellek
A fejlesztések elsősorban az újabb, Apple Silicon chippel szerelt Mac-ek (M1-től felfelé) tulajdonosainak kedveznek. Ez jókor jön, hiszen a kutatói és hobbista körökön túl most kezd igazán terjedni a nagy modellek helyi futtatása. Ehhez hozzájárult például az OpenClaw elképesztő népszerűsége is; a szoftver több mint 300 ezer csillagot zsebelt be rövid idő alatt, és Kínában valóságos őrület övezi.
Sokan már unják a felhőalapú MI-eszközök korlátait és drága előfizetéseit (például a Claude Code vagy a ChatGPT Codex szolgáltatásokat), ezért egyre többen próbálkoznak helyi megoldásokkal. Az Ollama épp mostanában javította a Visual Studio Code-integrációját is.
Újítások és hardverigények
Az MLX-támogatás egyelőre előnézeti fázisban érhető el (Ollama 0.19), és jelenleg csak egyetlen modellt támogat. A hardverigény viszont nem lesz mindenkinek barátságos: minimum egy Apple Silicon processzoros Macre van szükség, legalább 32 GB RAM-mal.
Ráadásként az Ollama már a legújabb M5-ös GPU-kban található Neural Accelerator egységeket is kihasználja, így a legfrissebb Mac-eknél még gyorsabb tokenfeldolgozás és válaszidő várható.
A jövő és a helyi modellek lehetőségei
Következésképpen, bár a helyi modellek még elmaradnak a felhőalapú élvonalbeli megoldásoktól, egyre inkább alkalmasak számos olyan feladatra, amiért eddig előfizetést kellett váltani. Ráadásul a helyi futtatás biztonságosabb, mint a felhő, bár nem ajánlott mély rendszerhozzáférést adni a modelleknek. A fő akadályok továbbra is a parancssoros használat, valamint a hardveres elvárások, különös tekintettel a videomemóriára. Az MLX viszont jelentős előrelépést jelent az Apple-chipek memóriakezelésében, ami a modern Mac-felhasználóknak egészen új lehetőségeket adhat. Az Ollama még nem közölt pontos dátumot arról, hogy mikor lesz szélesebb körben elérhető az MLX-támogatás.
Az Anthropic nagy hibát követett el: a nyílt forráskód iránti elköteleződésük ellenére a Claude Code eddig szigorúan zárt forrású volt, ám egy mai frissítés során véletlenül elérhetővé vált a teljes belső programkód...
🖊 Érdemes megvizsgálni, hogy egyetlen vállalat hogyan képes formálni a digitális korszakot – nemcsak eszközeivel, hanem a róluk szóló mondatokkal is...
👤 Eljött az idő: 22 év várakozás után a Gmail végre lehetőséget ad arra, hogy megváltoztasd a régóta nyögvenyelős e-mail címedet anélkül, hogy emiatt elveszítenéd a leveleidet, vagy teljesen új fiókot kellene nyitnod...
🌊 Utah állam legendás Nagy-Sóstója csak sósvízi óriásként ismert, de most kiderült, hogy jóval többet rejt: mélyen a tó feneke alatt a friss kutatások szerint hatalmas édesvízkészlet húzódhat...
A Google legfrissebb kutatása szerint már egy 500 000 kvantumbittel (qubittel) rendelkező kvantumszámítógép képes lehet feltörni a Bitcoin elliptikus görbékre épülő titkosítását – ehhez korábban jóval nagyobb értéket becsültek a szakértők...
💥 Feltételezhetően iráni hackercsoportok százával támadják a közel-keleti önkormányzatok Microsoft 365-fiókjait gyenge jelszavak tömeges próbálgatásával...
📹 Mostantól elég egyetlen mozdulat, és már kérhetsz is személyre szabott videót a kedvenc TikTok-készítődtől – nem kell többé külön alkalmazásokkal szenvedni...
💻 Tipikus eset, amikor egy frissítés több gondot okoz, mint amennyit javítana: a Microsoft nemrég kénytelen volt sürgősségi, rendkívüli frissítést kiadni, miután a márciusi opcionális, nem biztonsági Windows 11 előzetes frissítés (KB5079391) telepítése számos felhasználónál kudarcba fulladt...
Évtizedekkel az Apollo–17 után az Artemis II küldetés újra embert juttat a holdi környezetbe, közvetlenül a leendő holdbázis megvalósításának küszöbén...
🚗 A japán óriás újra beszáll a hidrogénes játszmába, méghozzá nem is akárkikkel: összeáll a Daimlerrel és a Volvóval, hogy közösen fejlesszék az üzemanyagcellás technológiát...
🛸 A SpaceX legutóbb egy váratlan Starlink-anomáliával szembesült: a cég elvesztette a kapcsolatot az egyik műholdjával, amelynek következtében a szatellit legalább tucatnyi darabra szakadt a Föld körüli pályán...
🚗 Érdemes megvizsgálni, hogy a Tesla robotaxijai néha valóban nemcsak maguktól közlekednek: bizonyos esetekben emberi operátorok veszik át a távoli irányítást...
🚀 A 2026 tavaszán startoló Artemis II küldetésben négy űrhajós – három amerikai és egy kanadai – tíz napon keresztül utazik majd a világ legerősebb rakétájával a Föld körüli pályán túlra, egészen a Hold közelébe...
📷 Az utóbbi években a Google Fotók folyamatosan átalakult, és most ismét változás jön: eltűnnek az érintős, körberajzolós és firkálós gyorsparancsok az androidos alkalmazásban...
Most őszintén, könyörgöm, észrevetted már, hogy az elektronikai kütyük ára valahogy csak kúszik felfelé, miközben az újak sem feltétlenül jobbak a régieknél?..
Kevés tudományterület tűnik annyira felfoghatatlannak, mint a kvantummechanika. Különösen, ha hozzávesszük az információelmélet összetett matematikáját, amely a modern számítógépek fejlődését is megalapozza...
A Bitcoin árfolyama három éve nem látott közelségbe került a klasszikus vételi zónához, de a piaci adatok szerint ez még nem az a pont, ahol a nagy vevők általában megjelennek...
Kevesen gondolták volna, hogy a Viagra néven elhíresült szer egyik hatóanyaga, a szildenafil, döntő áttörést hozhat egy pusztító gyermekbetegség kezelésében...
