Liquid AI lanza codificadores eficientes en CPU LFM2.5: modelos 230M/350M superan alternativas más grandes en tareas de contexto largo
Liquid AI lanzó dos modelos codificadores de propósito general en Hugging Face: LFM2.5-Encoder-230M y LFM2.5-Encoder-350M. Ambos modelos igualan o superan codificadores más grandes en GLUE, SuperGLUE y referencias multilingües mientras mantienen velocidad de inferencia rápida. El modelo de 350M se clasifica en el cuarto lugar entre 14 modelos probados, superado solo por modelos más grandes incluyendo una alternativa con 3,5B parámetros.
Los modelos soportan ventanas de contexto de 8.192 tokens con latencia que crece lentamente conforme las entradas aumentan. En CPU, el LFM2.5-Encoder-230M es 3.7x más rápido que ModernBERT-base en 8.192 tokens (aproximadamente 28 segundos por paso hacia adelante versus 90+ segundos). Los codificadores se construyen a partir de la familia de decodificadores LFM2, convertidos a atención bidireccional con convoluciones no causales y entrenados en modelado de lenguaje enmascarado para dos etapas: competencia general de lenguaje en 1.024 tokens, luego adaptación de contexto largo a 8.192 tokens.
El impacto práctico es que los desarrolladores ahora pueden ejecutar tareas de clasificación a escala de documento, enrutamiento de intenciones, imposición de políticas, detección de PII y extracción de texto en hardware CPU de comercio sin APIs en la nube. Liquid AI proporciona demostraciones solo en CPU para enrutamiento de indicaciones sin ejemplos, imposición de políticas y corrección ortográfica, todos ejecutándose en Espacios Hugging Face basados en navegador.
Para profesionales: estos modelos reducen el costo de infraestructura de tareas de comprensión de alto volumen (clasificación, extracción, puntuación) que se ejecutan todo el día. Un codificador ajustado en tareas personalizadas es más pequeño, más rápido y mucho más barato que un LLM generativo mientras mantiene precisión suficiente para canales de clasificación en producción. Esto sugiere una bifurcación de la frontera: modelos de razonamiento grande para tareas complejas, codificadores ligeros para clasificación eficiente a escala.