A Meta lançou o Scam Alert, um recurso do WhatsApp que classifica mensagens recebidas como possíveis golpes usando um modelo de ML em dispositivo. Nenhum conteúdo de mensagem deixa o aparelho. O recurso está em beta limitada antes de um lançamento mais amplo para os 3 bilhões de usuários ativos mensais do WhatsApp, um marco que a Meta confirmou em abril de 2025. O resumo técnico publicado ao lado do lançamento detalha como o time equilibrou inferência em tempo real, criptografia ponta a ponta e defesa regulatória em escala de consumidor.
A arquitetura implementa privacidade por design. A inferência executa inteiramente no dispositivo móvel—sem scoring no servidor, sem API na nuvem, sem retransmissão de mensagens. O modelo é baixado uma vez após o opt-in, então classifica localmente mensagens recebidas de não-contatos correspondendo estrutura conversacional e sinais linguísticos contra padrões de relatórios de golpes submetidos pelos usuários. Uma classificação dispara um aviso privado na thread de chat, invisível para o remetente. O modelo é pequeno o suficiente para hardware consumer atual com latência aceitável e consumo de bateria.
Telemetria coloca o problema mais difícil. O time precisa de sinais agregados—frequência de avisos, taxas de ação do usuário—para detectar desvio de modelo e adaptar-se a padrões de golpes em evolução. Mas extrair esses dados expõe uma superfície que reguladores e defensores de privacidade examinaria cuidadosamente. A solução da Meta: um pipeline de análise federada confidencial executando em máquinas virtuais confidenciais (CVMs), um Ambiente de Execução Confiável. Apenas contagens agregadas e anônimas deixam o dispositivo. Telemetria processa dentro da CVM—um ambiente que equipes da Meta e WhatsApp não podem acessar—e é liberada como agregados diferencialmente privados. Privacidade diferencial adiciona ruído calibrado de modo que adicionar ou remover dados de um único usuário tenha efeito negligenciável nos números publicados.
Versionamento de modelo fecha a superfície de ataque remanescente. Nem Meta nem WhatsApp conseguem enviar um modelo direcionado para um usuário específico—uma restrição imposta arquiteturalmente, não apenas por política. Cada versão de modelo, incluindo variantes experimentais, é publicada em um ledger de transparência público antes da implantação. Os pesos do modelo são públicos, de modo que pesquisadores independentes conseguem verificar que o modelo visa classificação de golpes e não é reutilizado para vigilância de conteúdo. O programa de bug bounty expandido testa essas garantias. Usuários conseguem auditar o comportamento do recurso em seu próprio dispositivo via logs no aplicativo.
Duas ressalvas operacionais importam para arquitetos considerando implantações similares. Primeiro: dados de treinamento vêm inteiramente de mensagens que usuários explicitamente reportaram. O modelo reflete padrões de golpe visíveis para usuários que aceitaram participar, não um sinal de espectro completo. Segundo: compartilhar as últimas 5 mensagens—disponível apenas após marcar um chat como confiável—é o único caminho para conteúdo de mensagem alcançar servidores da Meta, e requer um novo opt-in a cada vez. Isso limita o loop de feedback para melhoria de modelo, aceitável para classificação de golpes mas um gargalo para casos de uso que demandam loops de sinal mais alto.
Inferência em dispositivo mais análise federada controlada por TEE é agora um padrão validado em produção para classificação onde restrições regulatórias e de privacidade eliminam scoring no servidor. O tradeoff: um loop de treinamento constrito e atualizações de modelo limitadas pelo que usuários voluntariamente expõem.