Liquid AI lança codificadores eficientes em CPU LFM2.5: modelos 230M/350M superam alternativas maiores em tarefas de contexto longo

Liquid AI lançou dois modelos codificadores de propósito geral no Hugging Face: LFM2.5-Encoder-230M e LFM2.5-Encoder-350M. Ambos os modelos igualam ou superam codificadores maiores em GLUE, SuperGLUE e benchmarks multilíngues, mantendo velocidade de inferência rápida. O modelo de 350M classifica em quarto lugar entre 14 modelos testados, superado apenas por modelos maiores, incluindo uma alternativa com parâmetro de 3,5B.

Os modelos suportam janelas de contexto de 8.192 tokens com latência que cresce lentamente à medida que as entradas aumentam. Na CPU, o LFM2.5-Encoder-230M é 3,7x mais rápido que ModernBERT-base em 8.192 tokens (cerca de 28 segundos por passaçem para frente versus 90+ segundos). Os codificadores são construídos a partir da família de decodificadores LFM2, convertidos para atenção bidirecional com convoluções não-causais e treinados em modelagem de linguagem mascarada para dois estágios: competência geral de linguagem em 1.024 tokens, depois adaptação de contexto longo para 8.192 tokens.

O impacto prático é que os desenvolvedores agora podem executar tarefas de classificação em escala de documento, roteamento de intencionalidade, aplicação de políticas, detecção de PII e extração de texto em hardware CPU de mercadoria sem APIs em nuvem. Liquid AI fornece demonstrações somente em CPU para roteamento de prompt sem exemplos, imposição de políticas e correção ortográfica, todos em execução em Hugging Face Spaces baseados em navegador.

Para profissionais: esses modelos reduzem o custo de infraestrutura de tarefas de entendimento de alto volume (classificação, extração, pontuação) que executam o dia todo. Um codificador ajustado em tarefas personalizadas é menor, mais rápido e muito mais barato do que um LLM generativo, mantendo precisão suficiente para pipelines de classificação de produção. Isto sugere uma bifurcação da fronteira: modelos de raciocínio grande para tarefas complexas, codificadores leves para classificação eficiente em escala.