Observando a nota da checagem de fatos, preciso corrigir a afirmação sobre a razão sinal-ruído: o artigo afirma que o próprio sinal é reduzido à metade, enquanto o desvio padrão cai apenas por um fator de sqrt(2), fazendo com que a redução da razão sinal-ruído seja um fator de sqrt(2), e não uma redução à metade. A frase anterior confundia esses dois pontos. Vou preservar tudo o mais literalmente.
O TextSeal2, um esquema de watermark para a saída de modelos de linguagem de grande porte (LLM) desenvolvido por pesquisadores do Meta Superintelligence Labs, fecha uma lacuna que a decodificação especulativa havia aberto em todo watermark sem distorção anterior: quando os tokens de um modelo de rascunho eram rejeitados e substituídos, o texto de substituição costumava perder o sinal ou dividi-lo entre chaves. Segundo o artigo, publicado no arXiv, o TextSeal2 detecta 18 e 22 pontos percentuais a mais de respostas com watermark de 200 tokens do que seu predecessor, o TextSeal, e um método rival chamado textGrain, respectivamente, quando comparados na mesma taxa de aceitação sob decodificação especulativa.
A mecânica depende de duas mudanças na forma como as chaves do watermark tocam o amostrador. O TextSeal, o esquema anterior da equipe, roteava cada token para uma de duas chaves por meio de um lançamento de moeda, o que significava que o detector não sabia qual chave havia gerado determinado token e precisava calcular a média das pontuações de ambas as chaves — o artigo afirma que isso reduz o sinal à metade, enquanto o desvio padrão cai apenas por um fator da raiz quadrada de 2, de modo que a razão sinal-ruído é reduzida por esse mesmo fator da raiz quadrada de 2, e não reduzida à metade diretamente. O TextSeal2, em vez disso, funde os valores das duas chaves no que o artigo chama de uma única "chave virtual" por meio de uma cópula gaussiana emprestada de um método separado chamado AutoMark, e acopla essa chave virtual a um ruído novo. Cada token é então pontuado em relação a essa chave combinada, em vez de dividido entre duas, e o artigo afirma que a construção se estende a qualquer número de chaves adicionais — incluindo chaves compartilhadas publicamente — "sem diluir a detecção".
A segunda mudança tem como alvo especificamente a decodificação especulativa. A amostragem Gumbel-max, esquema sobre o qual tanto o TextSeal quanto o TextSeal2 se baseiam, é descrita no artigo como uma "corrida exponencial" entre tokens candidatos, cada um correndo em uma pista a uma velocidade determinada por sua probabilidade. Como as distribuições exponenciais não têm memória, o tempo de corrida restante entre os tokens que perderam uma rodada de rascunho é, por si só, um novo sorteio exponencial. O TextSeal2 explora essa propriedade executando o que o artigo chama de "corrida residual" sobre esses restos para decidir tanto onde o bloco rascunhado para quanto qual token de substituição é emitido — reproduzindo exatamente a própria regra de parada da verificação por blocos, de modo que a Proposição 1 do artigo afirma que a distribuição de saída corresponde precisamente ao modelo-alvo e que a aceitação permanece inalterada.
Quanto aos números operacionais, o artigo relata que sua etapa de decodificação fica "a até 0.6%" da latência do TextSeal quando o cálculo exclusivo da chave se sobrepõe à passagem direta do modelo, e afirma claramente que o esquema "não adiciona latência de inferência mensurável". A aceitação também se manteve estável: com verificação por blocos e 8 rascunhos por rodada no Qwen3.5-9B combinado com um modelo de rascunho Qwen3.5-0.8B, a decodificação sem watermark emite 2.74 tokens por rodada, e o artigo relata que a corrida residual do TextSeal2 difere em apenas +0.02 tokens por rodada (intervalo de 95% de -0.01 a +0.05), igualando a aceitação dos esquemas de referência com diferença de até 0.04 tokens. O único esquema que não manteve a aceitação foi a própria receita de decodificação especulativa do textGrain, que verifica diretamente entre distribuições com watermark, e o artigo afirma que, como resultado, ela perde 5% dos tokens por rodada.
O trade-off aparece fora da decodificação especulativa, no caso-base. Com diversidade de saída equiparada no Qwen3.5-27B, o artigo relata que o TextSeal2 fica 5 pontos percentuais atrás do textGrain (intervalo de -10 a 0) em 100 tokens — a única configuração entre os três modelos testados em que um esquema de referência o supera. O artigo também observa que a paráfrase feita por um LLM "remove quase todo o watermark", uma limitação que, segundo ele, se aplica a esquemas em nível de token de forma geral, e não é uma fraqueza específica do TextSeal2. E os números de detecção, ao longo de todo o texto, se baseiam em uma taxa de falso positivo de 10⁻³ calibrada empiricamente em relação a 100,000 p-valores nulos, em vez de uma garantia estatística em forma fechada, o que o artigo afirma explicitamente se dever ao fato de que "nenhum nulo em forma fechada é exato na prática".
Para equipes que executam decodificação especulativa apenas para reduzir o custo de inferência, a leitura prática é que a aplicação de watermark e a otimização da taxa de aceitação não precisam mais ser trocadas uma pela outra: a corrida residual do TextSeal2 permite que um sinal de proveniência acompanhe os tokens rascunhados sem reajustar o detector ou abrir mão dos ganhos de tokens por rodada que a decodificação especulativa existe para entregar — mas o ganho em relação a esquemas mais simples diminui ou se inverte em modelos maiores, por isso vale a pena verificar a curva de diversidade-detecção para o tamanho específico do seu modelo antes de adotá-lo.