NVIDIA Nemotron modelos abertos entregam inferência 20x mais barata que fronteira; Harvey, Glean entregam agentes pós-treinados

NVIDIA lançou uma série de blog do Nemotron Labs mostrando como modelos abertos estão permitindo que empresas construam sistemas de IA personalizados a uma fração dos custos dos modelos de fronteira. A história é controle: modelos abertos dão às equipes visibilidade completa e propriedade sobre o comportamento do modelo de forma que modelos fechados não conseguem, e o pós-treinamento especializado pode reduzir custos dramaticamente mantendo precisão em tarefas específicas de domínio.

Exemplos concretos de implantações em produção mostram a vantagem de custo. Harvey pós-treinou Nemotron 3 Ultra em seu benchmark legal e atingiu precisão de classe fronteira em tarefas legais complexas com custo 10x menor por execução. Glean construiu Waldo, um modelo de busca agentica emparelhando Nemotron com modelos fechados maiores, entregando busca empresarial com latência e custo de token significativamente menores. Holotron 3 Nano da H Company alcançou precisão de 76%+ em OSWorld-Verified pós-treinando Nemotron 3 Nano Omni em dados proprietários de uso computacional — correspondendo aos modelos de fronteira líderes a uma fração do custo.

A mudança mais ampla é visível em infraestrutura: Arcee AI alcançou custos de inferência de aproximadamente 90 centavos por milhão de tokens de saída em Nemotron pós-treinado em NVIDIA Blackwell — aproximadamente 20x mais barato do que alternativas de fronteira fechadas comparáveis mantendo o segundo lugar em PinchBench. Para arquitetos avaliando infraestrutura de agentes, a compensação agora é explícita: propriedade completa e controle de custos via modelos abertos, ou desempenho gerenciado via alternativas fechadas.