O Databricks lançou Smart Routing em Beta dentro do Unity AI Gateway, um roteador de modelos ciente de tarefas que correspondeu ao desempenho do Opus 5 em benchmarks públicos de codificação com custo 56% menor e reduziu o gasto por tarefa para 65% do Opus 5 na base de código interna do Databricks. O recurso roteia sessões de agentes de codificação para o modelo mais barato capaz de completar o trabalho sem alterar o fluxo de trabalho do desenvolvedor, integrando-se diretamente ao Claude Code e Codex.

A decisão de roteamento é bloqueada no início da tarefa para a sessão completa. O roteamento por solicitação reduz as taxas de acerto de cache porque as rodadas consecutivas devem chegar ao mesmo modelo e nível de esforço para reutilizar o cache. O roteamento no nível de sessão preserva a eficiência do cache enquanto captura a maioria das economias de custo de modelos mais baratos em trabalhos mais simples.

O classificador que faz a chamada de roteamento é intencionalmente barato: um modelo pequeno e de baixa latência que lê a descrição da tarefa e a anota com campos semânticos—qual parte do sistema está mudando, que evidência de código o prompt carrega (um trecho, rastreamento ou nada), o quão localizado é o conserto, qual modo de falha aparece e qual tipo de projeto. A partir desses rótulos, ele deriva uma família de tipo de tarefa e uma família de linguagem. Sem conteúdo do repositório, sem testes, sem respostas—apenas a descrição e metadados. O roteador é padronizado para um modelo de tamanho médio e escala para modelos de ponta ou mais baratos com base nesses rótulos.

Smart Routing entregou economias de custo de 35% contra o próprio benchmark de engenharia do Databricks em comparação com rotear tudo para Opus 5. Em benchmarks públicos (estilo SWE-bench) as economias chegaram a 56% enquanto correspondiam ao Opus 5 em qualidade. A diferença reflete a diversidade do mundo real: tarefas internas tendem para trabalho complexo de múltiplos arquivos; benchmarks públicos têm mais edições de arquivo único que modelos mais baratos lidam com limpeza. 2026 trouxe 33 novos modelos de codificação para o mercado, ampliando a superfície de roteamento.

Equipes otimizando entre arneses podem usar o Omnigent, um meta-arnês pareando Smart Routing com seleção de arnês. Omnigent roda sobre a decisão de roteamento e seleciona o arnês de agente mais adequado para o modelo e tarefa. Ele fica no mesmo plano de controle do Unity AI Gateway que gerencia gastos e política de acesso.

O Databricks reconhece que o roteador atual deixa espaço de manobra significativo. Um roteador com previsão perfeita superaria cada modelo a uma fração do custo; o sistema atual fecha apenas parte dessa diferença. Sessões reais expõem complexidade no meio da tarefa—um conserto de bug delimitado se tornando uma refatoração de múltiplos arquivos. O roteador não tem mecanismo de reavaliação uma vez em andamento, embora a equipe tenha como alvo reavaliação no meio da sessão quando o cache ficar obsoleto como objetivo de curto prazo. Melhorar o modelo de dimensionamento de complexidade requer loops de feedback de produção, e é por isso que o Beta está sendo lançado agora.

Se sua infraestrutura de agente de codificação padrão cada tarefa para um modelo de ponta, você está pagando demais em 35–56%. A solução é um classificador que nunca vê sua base de código—apenas a descrição da tarefa.