Mercado de IA cambia de modelos más grandes a sistemas más baratos, inteligentes y alternativas de peso abierto

La tarjeta de puntuación de la industria de IA está cambiando. Después de dos años persiguiendo modelos más grandes y mejores benchmarks, las empresas ahora están optimizando para enrutamiento, costo, control y eficiencia de computación. El CEO de Perplexity, Aravind Srinivas, le dijo a CNBC esta semana: 'El modelo solo ya no es el producto. Es el arnés, el sistema de orquestación que pone el modelo dentro de un arnés muy capaz y lo empareja con muchas herramientas.' Perplexity anunció un sistema para su producto computer-use construido alrededor de GLM 5.2, un modelo de peso abierto de Z.ai de China, diseñado para enrutar modelos más baratos para tareas de rutina y escalar solo cuando sea necesario.

Los modelos de peso abierto se están volviendo más capaces y mucho más baratos de ejecutar que los modelos de frontera propietarios. El socio general de Benchmark, Peter Fenton, dijo esta semana: 'Una visión quizás contraria que se está convirtiendo en consenso es nuestra creencia de que más del 90% de los tokens creados provendrán de modelos de peso abierto en los próximos 18 a 24 meses, posiblemente incluso antes del final del año.' Ollama, que ayuda a los desarrolladores a descargar y ejecutar modelos abiertos, afirma la adopción del 85% de Fortune 500, incluidas industrias reguladas como aviación, seguros y atención médica. El aumento de modelos abiertos ejerce presión directa sobre los márgenes de inferencia de OpenAI, Anthropic y otros laboratorios de frontera.

El gasto corporativo de IA se está apretando conforme los presupuestos maduran y la presión del ROI aumenta. Las empresas se están moviendo cada vez más de la experimentación a la producción, donde el costo por token se convierte en una preocupación de primer orden. El cambio también alimenta un desafío estratégico para EE.UU.: la mayoría de los modelos de peso abierto competitivos ahora provienen de laboratorios chinos como Z.ai y DeepSeek. Srinivas argumenta que EE.UU. debe apoyar modelos abiertos para hacer que la IA sea más asequible y accesible, pero las preocupaciones de política y seguridad nacional complican esa postura.

Para arquitectos: el cambio de 'mejor modelo' a 'mejor modelo para la tarea' está remodelando decisiones de infraestructura. Las pilas heterogéneas—mezcla de modelos pequeños ajustados con llamadas ocasionales a modelos de frontera—se están convirtiendo en estándar. Esto crea demanda para optimización de inferencia, enrutamiento de modelos y capacidades de ejecución local, potencialmente cambiando capex de centros de datos de hyperscaler a despliegues de borde y on-premise. Los modelos abiertos también plantean preguntas de defensibilidad para laboratorios que apuestan por el poder de fijación de precios: como señala Fenton, 'cuando puede ejecutar eso sin el margen que están proporcionando, los márgenes de inferencia…van a estar bajo presión.'