El Modelo LFM de 2.6B de LiquidAI Ejecuta Agents On-Device a 220 Tokens/Sec

LiquidAI lanzó LFM2.5-2.6B hoy — un modelo de pesos abiertos con 2.6B parámetros construido específicamente para cargas de trabajo de agentes ejecutándose on-device. El lanzamiento incluye soporte desde el primer día para llama.cpp, MLX, vLLM, SGLang y ONNX, además de guías de inicio rápido para ejecutar agentes dentro de OpenClaw, Hermes Agent y Pi.

Los números de rendimiento justifican la afirmación. En una Apple M5 Max, LFM2.5-2.6B decodifica a 220 tokens/s. En una CPU AMD Ryzen AI Max+ 395, se ejecuta a 113 tokens/s. En un teléfono, aproximadamente 30 tokens/s — suficiente para ciclos de agentes receptivos. La huella de memoria se mantiene por debajo de 2.5 GB. En un único H100 con alta concurrencia, el modelo alcanza casi 15.000 tokens de salida/s, o aproximadamente 1.3 mil millones de tokens por día. La arquitectura es la familia LFM2, construida explícitamente para eficiencia de CPU.

El modelo fue pre-entrenado en aproximadamente 34 billones de tokens, luego pasó por un pipeline de post-entrenamiento de cuatro etapas. La etapa uno es ajuste fino supervisado — dos rondas ponderadas hacia el uso de herramientas, búsqueda web y datos de trayectoria de harness. La etapa dos entrena modelos maestros especialistas por dominio: matemáticas, código, uso de herramientas y otros. La etapa tres ejecuta destilación on-policy multidominio para comprimir esos maestros en un único estudiante. La etapa cuatro es Agentic RL: aprendizaje por refuerzo multiturno dentro de harnesses de agentes reales, donde el modelo aprende a operar a través de diversas herramientas, prompts del sistema y entornos de tareas. El Harness Proxy de LiquidAI captura trayectorias a nivel de token de forma transparente sin modificar cada harness.

El rendimiento del benchmark en tareas de seguimiento de instrucciones y uso de herramientas es creíble. En IFBench, LFM2.5-2.6B obtiene 59.17 frente a 34.08 para Gemma-4-E2B-it (5.1B) y 48.40 para Qwen3.5-4B (4.7B). En Multi-IF, obtiene 80.07 frente a 62.55 para Qwen3.5-9B — un modelo casi cuatro veces más grande. En ToolSandbox, obtiene 77.83 frente a 65.00 para Gemma-4-E4B-it (8B). BrowseComp+ en OpenClaw: 26.89 frente a 8.31 para Gemma 5.1B. En todos los benchmarks de seguimiento de instrucciones y uso de herramientas, LFM2.5-2.6B compite con modelos dos a cuatro veces su tamaño.

La codificación es donde están las brechas del modelo. En LiveCodeBenchv6, LFM2.5-2.6B obtiene 59.41 frente a 69.86 de Qwen3.5-9B. LiquidAI recomienda explícitamente usar un modelo más grande cuando la generación de código es la carga de trabajo principal. La puntuación de matemáticas AIME25 es 51.87, competitiva contra Gemmas pero quedando atrás de los 56.07 de Qwen3.5-9B. Para agentes donde la síntesis y la planificación dominan sobre la generación de código ejecutable, el modelo funciona bien. Para agentes que pasan la mayoría de los turnos generando y ejecutando código, el Qwen más grande tiene una ventaja clara.

La implementación es sencilla. El modelo se carga a través de `AutoModelForCausalLM.from_pretrained("LiquidAI/LFM2.5-2.6B")` con transformers>=5.0.0, usando `device_map="auto"` y `dtype="bfloat16"`. Flash Attention 2 es opcional para GPU compatibles. La ventana de contexto se extiende a 128K tokens para largas trayectorias de agentes. Ambos modelos, instruct y base, están en Hugging Face hoy; una demostración de navegador WebGPU se ejecuta sin configuración local. En BFCLv4, la puntuación de 56.88 se queda solo detrás de Qwen3.5-9B en 60.13 — el único benchmark de uso de herramientas donde LFM2.5-2.6B no lidera.

Para agentes on-device, razonamiento de múltiples pasos, o agentes de seguimiento de instrucciones con alta concurrencia de CPU, LFM2.5-2.6B cumple los requisitos. Los agentes pesados en generación de código requieren un modelo más grande.