Um modelo de 24 bilhões de parâmetros simplesmente rodou em um laptop e escolheu a ferramenta certa em menos de meio segundo. A verdadeira história é que os agentes de chamadas de ferramentas finalmente ficaram rápidos o suficiente para parecerem software. A Liquid construiu o LFM2-24B-A2B usando uma arquitetura híbrida que mistura blocos de convolução com atenção de consulta agrupada em uma proporção de 1:3. Apenas 2,3 bilhões de parâmetros ativam por token, mesmo que o modelo completo contenha 24 bilhões. Esse padrão de ativação esparso é o motivo pelo qual ele cabe em 14,5 GB de memória e despacha ferramentas em 385 milissegundos em um M4 Max. A arquitetura foi projetada por meio de busca hardware-in-the-loop, ou seja, otimizaram a estrutura do modelo testando-a diretamente nos chips em que ele rodaria. Sem camada de tradução de nuvem. Sem ida e volta da API. O modelo, as ferramentas e seus dados permanecem na máquina. Isso desbloqueia três coisas que antes eram impraticáveis: 1. Indústrias reguladas podem rodar agentes em laptops dos funcionários sem que os dados saiam do dispositivo. 2. Desenvolvedores podem prototipar fluxos de trabalho multi-ferramenta sem gerenciar chaves de API ou limites de taxa. 3. Equipes de segurança obtêm trilhas de auditoria completas sem subprocessadores do fornecedor no circuito. O modelo atingiu 80% de precisão na seleção de ferramentas em etapas únicas em 67 ferramentas abrangendo 13 servidores MCP. Se esse desempenho for mantido em escala, duas suposições precisam ser atualizadas. Primeiro, agentes no dispositivo não são mais uma troca entre duração e duração da bateria; Eles são um recurso de conformidade. Segundo, o gargalo nos fluxos de trabalho agentes está mudando da capacidade do modelo para a maturidade do ecossistema de ferramentas.

Trabalho incrível de: @liquidai @ramin_m_h