Together AI lanza Provisioned Throughput para inferencia de modelo abierto reservado a 90% por debajo de APIs cerradas
Together AI introdujo Provisioned Throughput, un producto de capacidad de inferencia reservada para modelos abiertos de frontera (MiniMax M3, GLM-5.2 inicialmente) con precio en Unidades de Throughput Provisionadas (PTUs) a $0.05 por PTU por minuto. Cada PTU proporciona una tasa fija garantizada de tokens por minuto — por ejemplo, en MiniMax M3: 138,840 tokens de entrada/min, 694,200 tokens de entrada en caché/min, o 23,140 tokens de salida/min — con SLA de 99% de tiempo de activo y compromiso mínimo de un mes.
Con utilización completa, una PTU en MiniMax M3 funciona aproximadamente a $0.36 por millón de tokens de entrada y $2.16 por millón de tokens de salida contra $5 y $25 precios de lista en Claude Opus 4.8, lo que representa ahorros de costos de ~90%. A diferencia de la API sin servidor de Together (pago por token, mejor esfuerzo), Provisioned Throughput da a los equipos "pago por capacidad garantizada" con precios predecibles que escalan con su forma de tráfico. Sin matemática de horas de GPU o gestión de infraestructura — el mismo modelo de consumo basado en tokens que las empresas esperan de proveedores propietarios, dirigido a modelos abiertos.
El volumen de tokens de Together ha crecido de 30 mil millones a más de 400 billones de tokens por mes en nueve meses, con una parte sustancial ahora proveniente de cargas de trabajo que emigraron de API cerradas. Provisioned Throughput aborda la brécha de preparación para producción: sin servidor es mejor esfuerzo (bien para desarrollo), los endpoints de GPU dedicados requieren gestión de complejidad completa. Este nivel intermedio ofrece garantas de confiabilidad sin gastos generales operacionales.
Para arquitectos: Los modelos abiertos ahora ocupan una fracción creciente de la frontera de Pareto — las tareas de codificación, finanzas, marketing y automatización de flujo de trabajo ahora se ejecutan 6-20x más barato en alternativas abiertas que en API propietarias. Provisioned Throughput hace viable la ruta de migración de cerrado a abierto para producción: modelos de calidad fronteriza, precios basados en tokens que puede presupuestar, y garantas de SLA en las que sus clientes confían, a una décima del costo.