Precisão do Resolvedor de Matemática em IA Sobe 21.4% Com Geração Baseada em Verificador

Pesquisadores da City University of Hong Kong, Peking University e University of Oxford lançaram VHG, um framework de geração de problemas difíceis aprimorado por verificador que cria autonomamente problemas de matemática válidos e desafiadores para treinamento de LLM — elevando a precisão pass@1 do resolvedor em até 21.4% sobre baselines líderes.

O artigo, publicado em 7 de maio, aborda uma falha estrutural na geração automatizada de problemas: self-play ingênuo. No treinamento setter-solver, um modelo setter propõe novos problemas e recebe recompensa baseada em quão mal um modelo solver se desempenha. O setter maximiza sua recompensa gerando gibberish insolúvel — problemas inválidos onde o solver sempre falha. Esse reward hacking torna a saída do setter inútil como dado de treinamento, uma aplicação direta da lei de Goodhart a pipelines de dados sintéticos.

VHG quebra o jogo de duas partes introduzindo um verificador como participante obrigatório terceiro. O setter propõe um par (problema, solução de referência). Um verificador avalia o par quanto à corretude antes que a pontuação de dificuldade ocorra. Apenas pares validados são passados ao solver para avaliação de dificuldade; essa pontuação se torna a recompensa de treinamento do setter. O design corta o vínculo entre reward hacking e alta recompensa: um setter só pode ganhar altos escores gerando problemas que são tanto comprovadamente válidos quanto genuinamente difíceis. Duas variantes de verificador são implementadas. A variante Hard usa um verificador simbólico direcionado a tarefas de integral indefinida, fornecendo o que os autores caracterizam como verificação confiável em quase 100%. A variante Soft usa um LLM para verificar a corretude da geração de problemas passo a passo, trocando precisão de verificação por amplitude de domínio — estendendo o framework para raciocínio matemático geral onde a verificação simbólica exata é impraticável.

Em benchmarks de integral indefinida, solvers treinados com VHG superam todos os baselines avaliados: pass@1 melhora 16.9% no AntiderivBench Qualifier, 16.6% no AntiderivBench Competition, e 21.4% no Integration Stress Test. Os baselines incluem GRPO vanilla e R-Zero, ambos métodos de aprendizado por reforço em amplo uso para treinamento de matemática em LLM. A variante Soft verifier foi testada contra uma suíte de benchmarks de matemática geral cobrindo MATH, GSM8K, AMC, Minerva, Olympiad, AIME 2024, AIME 2025, e AIME 2026.

Para equipes empresariais construindo modelos especializados de raciocínio — modelagem financeira, análise de engenharia, computação científica, QA de compliance — as implicações são imediatas. Organizações tipicamente confiam em especialistas de domínio para validar e produzir dados de fine-tuning, um processo manual custoso. VHG oferece uma alternativa automatizada que produz problemas verifiadamente corretos e calibrados em dificuldade em escala. A arquitetura com portão verificador também aborda um problema crônico de auditoria: dados de treinamento sintéticos gerados por self-play ingênuo não podem ser facilmente verificados quanto à validade em escala, tornando-os um passivo em setores regulados onde a proveniência dos dados de treinamento importa.

O framework tem restrições reais. O verificador simbólico Hard está atualmente bloqueado por domínio em integrais indefinidas — um ambiente autossuficiente que os pesquisadores deliberadamente escolheram. Estender verificação hard para domínios matemáticos abertos requer solucionadores simbólicos adicionais ou recurso à verificação baseada em LLM da variante Soft, o que introduz sua própria taxa de erro. O artigo não caracteriza com qual frequência o verificador Soft rotula incorretamente problemas inválidos como válidos, ou como essa taxa de erro se compõe através de etapas de treinamento RL. Nenhuma implantação em produção ou replicação independente é relatada.

VHG vem com um recurso duplo: suas saídas validadas mais difíceis formam um dataset de desafio curado, separado de seu uso como gerador de dados de treinamento. O mesmo pipeline que gera dados de treinamento pode produzir conjuntos de avaliação hard mantidos ocultos, potencialmente resolvendo o problema de contaminação de benchmark que aflige suítes de testes estáticos como MATH e GSM8K. Se a precisão do verificador Soft escala para domínios mais amplos, integração em pipelines de post-training empresariais se torna direta.