Meta lançou Muse Glimmer, um modelo de código aberto de 30 bilhões de parâmetros projetado para rodar em uma única GPU de consumidor em um Mac ou PC, otimizado para fluxos de trabalho agenticos no dispositivo. O modelo é lançado sob uma licença permissiva Apache 2.0 via Hugging Face, com integrações para llama.cpp, MLX e ExecuTorch chegando nos próximos dias. Meta também se comprometeu a abrir o código dos pesos do seu modelo Muse Spark 1.2 em destaque.
Muse Glimmer é destilado do Muse Spark usando uma receita de treinamento novel que transfere raciocínio agentico do modelo professor maior, adicionando quantização e otimizações de inferência. O modelo foi avaliado em relação ao DeepSeek QA, SWE-Bench e outros benchmarks de tarefas agenticas de ponta a ponta, apresentando forte desempenho em uso de ferramentas, raciocínio em várias etapas e recuperação de falhas.
Para arquitetos construindo pilhas de IA locais, Muse Glimmer aborda as penalidades de custo e latência da inferência em nuvem, posicionando Meta diretamente contra laboratórios de código aberto chineses (DeepSeek, Moonshot, Alibaba) dominando o espaço de modelos eficientes. O ensaio de acompanhamento de 6.500 palavras do CEO Zuckerberg desafiou diretamente as barreiras da política dos EUA na destilação e restrições de dados de treinamento que ele argumenta prejudicam os laboratórios de código aberto americanos versus concorrentes estrangeiros.