Together AI lança Provisioned Throughput para inferência de modelo aberto reservado a 90% abaixo de APIs fechadas
Together AI introduziu Provisioned Throughput, um produto de capacidade de inferência reservada para modelos abertos de fronteira (MiniMax M3, GLM-5.2 inicialmente) precificado em Unidades de Throughput Provisionado (PTUs) em $0,05 por PTU por minuto. Cada PTU fornece uma taxa fixa garantida de tokens por minuto — por exemplo, em MiniMax M3: 138.840 tokens de entrada/min, 694.200 tokens de entrada em cache/min, ou 23.140 tokens de saída/min — com SLA de 99% de tempo de atividade e compromisso mínimo de um mês.
Com utilização completa, uma PTU em MiniMax M3 funciona de aproximadamente $0,36 por milhão de tokens de entrada e $2,16 por milhão de tokens de saída contra $5 e $25 preços listados em Claude Opus 4.8, representando economias de custo de ~90%. Ao contrário da API serverless da Together (pay-per-token, best-effort), Provisioned Throughput oferece às equipes "pagar pela capacidade garantida" com preços previsíveis que escalam com sua forma de tráfego. Sem matemática de horas de GPU ou gestão de infraestrutura — o mesmo modelo de consumo baseado em tokens que empresas esperam de fornecedores proprietários, apontado para modelos abertos.
O volume de tokens da Together cresceu de 30 bilhões para mais de 400 trilhões de tokens por mês em nove meses, com uma parcela substancial agora vindo de cargas de trabalho que migraram de APIs fechadas. Provisioned Throughput aborda a lacuna de prontidão de produção: serverless é best-effort (adequado para dev), endpoints de GPU dedicados requerem gestão de complexidade completa. Este nível médio oferece garantias de confiabilidade sem sobrecarga operacional.
Para arquitetos: Modelos abertos agora ocupam uma fração crescente da fronteira de Pareto — tarefas de codificação, finanças, marketing e automação de fluxo de trabalho agora executam 6–20x mais barato em alternativas abertas do que APIs proprietárias. Provisioned Throughput torna o caminho de migração de fechado para aberto viável para produção: modelos de qualidade de fronteira, preços baseados em tokens que você pode orçar, e garantias de SLA em que seus clientes dependem, a um décimo do custo.