Někdo právě obešel Apple Neural Engine a trénoval modely. Neural Engine v každém Macu řady M byl navržen pro inferenci. Spouštějte modely, netrénujte je. Žádné veřejné API, žádná dokumentace a rozhodně žádná zpětná propagace. Výzkumník přesto reverzně analyzoval soukromá API a vytvořil transformátorovou tréninkovou smyčku, která běží přímo na hardwaru ANE vpřed a zpět. Metoda CoreML zcela obchází. Místo použití oficiálních nástrojů Apple projekt vytváří programy v MIL (Model Intermediate Language), kompiluje je v paměti pomocí nedokumentovaných API '_ANEClient' a předává data přes sdílené paměťové buffery IOSurface. Váhy jsou do kompilovaných programů započítány jako konstanty. E TRÉNOVACÍ krok ACH vysílá šest vlastních jader: pozornost vpřed, feedforward forward, poté čtyři zpětné průchody, které počítají gradienty vzhledem k vstupům. Váhové gradienty stále běží na CPU pomocí maticových knihoven Accelerate, ale těžší práce (maticové násobení, softmax, aktivační funkce) probíhá na ANE. To umožňuje tří věci, které dříve nebyly: 1. Trénování malých modelů lokálně bez vyčerpání baterie 2. Jemné ladění přímo na zařízení bez odesílání dat na server nebo spuštění GPU 3. Zjistěte, co hardware ANE skutečně dokáže, když ignorujete omezení Applu Pokud se tento přístup rozšíří, další vlna AI na zařízení přestane být o spouštění cizího zmrazeného modelu.

Alibaba dodala čtyři malé modely Qwen 3.5 s trikem převzatým z modelu 397B: uzavřenou DeltaNet hybridní pozornost. Tři vrstvy lineární pozornosti na každou jednu vrstvu plné pozornosti. Lineární vrstvy zvládají rutinní výpočty s konstantním využitím paměti. Vrstvy plné pozornosti se střílejí jen tehdy, když záleží na přesnosti. Tento poměr 3:1 udržuje paměť rovnou a zároveň vysokou kvalitu, což je důvod, proč i model 0,8B podporuje kontextové okno o 262 000 tokenech. Každý model zpracovává text, obrázky a video nativně. Poté už žádný adaptér nepřišroubovaný. Vision enkoder používá 3D konvoluce k zachycení pohybu ve videu a poté spojuje prvky z více vrstev místo pouze z finální. 9B poráží GPT-5-Nano o 13 bodů v multimodálním porozumění, 17 bodů ve vizuální matematice a 30 bodů v parsování dokumentů. Verze 0.8B běží na telefonu a zpracovává video. 4B pojme 8GB VRAM a funguje jako multimodální agent. Všechny čtyři jsou Apache 2.0. Pokud tato architektura vydrží, malý modelový prostor se stal spíše závodem schopností než velikostí. Před rokem znamenalo lokální spuštění multimodálního modelu model 13B+ a vážnou grafickou kartu. Nyní 4B model s kontextem 262K zpracovává text, obrázky a video z uživatelského hardwaru. Propast mezi edge modely a vlajkovými modely se zmenšuje rychleji než mezi vlajkovými modely a lidmi.

Bylo by možné omezit dosah účtů, které jsou opakovaně označovány za dezinformace? Můžete použít Community Notes nebo Grok ke sledování strikeů. Svobodu projevu podporuji, ale když účet s milionem sledujících záměrně šíří nepravdivé informace, které dosáhnou 25 milionů zobrazení, má to reálné důsledky. @nikitabier