El gasto de tokens de IA se dispara fuera de control; Accenture pide protecciones

El audio filtrado de Accenture revela que el gasto de tokens de IA empresarial está creciendo exponencialmente y de manera impredecible, generando discusiones internas sobre contención de costos. El líder de estrategia de IA agéntica de Accenture, Justive Kwak, le dijo al personal que conforme las empresas pasan de chatbots simples a flujos de trabajo agenticos en toda la empresa y herramientas como Copilot, Claude Code y Codex, "escalada rápida en gasto de tokens de IA" se está convirtiendo en un impulsor de costo material y "no es un problema nicho. Es un problema que toda empresa enfrentará si es optimista sobre IA." Líderes a nivel de CFO, COO y CIO están preguntando si el gasto se traduce en ROI mensurable.

El problema es agudo porque los costos de tokens son impredecibles y difíciles de controlar: las empresas no pueden saber de antemano cuántos tokens consumirá una tarea, si el resultado será correcto en el primer intento, o cuánto tiempo tomarán las respuestas. Personal no técnico, no ingenieros, está impulsando gran parte del overspend. Tareas triviales (conversión PDF a markdown, bucles de resumen) están quemando tokens innecesariamente. Amazon reportedly cerró su leaderboard de IA en medio del gasto descontrolado; Uber está limitando el uso de IA de empleados; múltiples CEO y empresas están cambiando a modelos más económicos y monitoreo más estricto.

Para constructores de infraestructura, la volatilidad del gasto de tokens es un indicador líder de económicas de unidad de IA bajo estrés. Cuando las empresas no pueden atribuir valor al consumo, no están optimizando opciones de stack—están cortando indiscriminadamente. Observe si los modelos de facturación basados en uso (LLM APIs, bases de datos vectoriales, compute) cambian a alternativas de costo fijo o basadas en capacidad conforme los CFOs exigen previsibilidad. Esto podría remodelar el diseño de API, las estrategias de precios, y el foso competitivo de plataformas intensivas en consumo como OpenAI y Anthropic.