Los agentes de IA pueden impulsar la demanda de tokens 24 veces, aumentando los costos de inferencia de LLM: Goldman Sachs
El análisis de Goldman Sachs advierte que la adopción generalizada de agentes de IA podría aumentar el consumo de tokens hasta 24 veces los niveles actuales, aumentando materialmente los costos de inferencia para empresas. Empresas incluyendo Uber y Microsoft ya están absorbiendo facturación elevada en modelos de precios basados en tokens.
El hallazgo señala una tensión venidera: los sistemas agentes requieren más computación por tarea pero prometen mayor ROI a través de toma de decisiones autónoma. Los CIOs que presupuestan para despliegue multi-modelo necesitarán modelar tasas de quema de tokens y negociar precios de volumen con proveedores antes de que los agentes se escalen en toda la producción.