Alguém acabou de contornar o Neural Engine da Apple para treinar modelos. O Neural Engine dentro de cada Mac da série M foi projetado para inferência. Executar modelos, não treiná-los. Sem API pública, sem documentação e certamente sem retropropagação. Um pesquisador fez engenharia reversa das APIs privadas de qualquer forma e construiu um loop de treinamento de transformador que executa passes para frente e para trás diretamente no hardware do ANE. O método contorna completamente o CoreML. Em vez de usar as ferramentas oficiais da Apple, o projeto constrói programas em MIL (Model Intermediate Language), compila-os na memória usando APIs `_ANEClient` não documentadas e alimenta dados através de buffers de memória compartilhada IOSurface. Os pesos são incorporados nos programas compilados como constantes. E cada passo de treinamento despacha seis núcleos personalizados: atenção para frente, feedforward para frente, e depois quatro passes para trás que computam gradientes em relação às entradas. Os gradientes de peso ainda são executados na CPU usando as bibliotecas de matriz do Accelerate, mas o trabalho pesado (multiplicações de matriz, softmax, funções de ativação) acontece no ANE. Isso torna três coisas possíveis que não eram antes: 1. Treinar pequenos modelos localmente sem esgotar a sua bateria 2. Ajustar finamente no dispositivo sem enviar dados para um servidor ou ativar a GPU 3. Pesquisar sobre o que o hardware do ANE pode realmente fazer quando você ignora as barreiras da Apple Se essa abordagem escalar, a próxima onda de IA no dispositivo deixa de ser sobre executar o modelo congelado de outra pessoa.

A Alibaba enviou quatro modelos pequenos Qwen 3.5 com um truque emprestado do seu modelo 397B: atenção híbrida Gated DeltaNet. Três camadas de atenção linear para cada uma camada de atenção total. As camadas lineares lidam com cálculos rotineiros com uso constante de memória. As camadas de atenção total disparam apenas quando a precisão importa. Essa proporção de 3:1 mantém a memória estável enquanto a qualidade permanece alta, razão pela qual até o modelo de 0.8B suporta uma janela de contexto de 262.000 tokens. Cada modelo lida com texto, imagens e vídeo de forma nativa. Sem adaptador instalado posteriormente. O codificador de visão utiliza convoluções 3D para capturar movimento em vídeo, e depois mescla características de várias camadas em vez de apenas da final. O 9B supera o GPT-5-Nano em 13 pontos na compreensão multimodal, 17 pontos em matemática visual e 30 pontos na análise de documentos. O 0.8B funciona em um telefone e processa vídeo. O 4B cabe em 8GB de VRAM e atua como um agente multimodal. Todos os quatro são Apache 2.0. Se esta arquitetura se mantiver, o espaço dos modelos pequenos acaba de se tornar uma corrida de capacidades em vez de uma corrida de tamanhos. Um ano atrás, executar um modelo multimodal localmente significava um modelo de 13B+ e uma GPU séria. Agora, um modelo de 4B com 262K de contexto lida com texto, imagens e vídeo a partir de hardware de consumo. A diferença entre modelos de borda e modelos de destaque está se fechando mais rápido do que a diferença entre os modelos de destaque e os humanos.

Seria possível limitar o alcance de contas que são repetidamente sinalizadas por desinformação? Você poderia usar Community Notes ou Grok para rastrear as penalizações. Eu apoio a liberdade de expressão, mas quando uma conta com 1M de seguidores espalha deliberadamente informações falsas que alcançam 25M de impressões, isso tem consequências no mundo real. @nikitabier