Demis Hassabis pede órgão de padrões de IA liderado pelos EUA para testar modelos de fronteira
O chefe de IA do Google DeepMind, Demis Hassabis, pediu na terça-feira que os EUA estabeleçam uma parceria público-privada supervisionada federalmente para estabelecer padrões e testar modelos de IA de fronteira para riscos de segurança nacional antes do lançamento público. O órgão proposto funcionaria de forma semelhante à FINRA (o regulador financeiro) e incluiria especialistas técnicos independentes e representantes de código aberto em seu conselho. Hassabis argumentou que laboratórios de fronteira inicialmente enviariam voluntariamente modelos para revisão de 30 dias antes da implantação, com a estrutura se tornando obrigatória após demonstração de eficácia. O teste específico incluiria tentativas de contornar salvaguardas de segurança, sinais de engano e avaliação de práticas como marca d'água digital e saídas de modelo legíveis por humanos.
Hassabis reconheceu que o órgão de padrões exigiria financiamento 'substancial' para atrair talento de classe mundial e recursos computacionais, com custos provavelmente arcados pela indústria. A proposta referencia diretamente ameaças incluindo riscos de cibersegurança e possíveis perigos nucleares e biológicos conforme as capacidades de IA avançam em direção a AGI. Este apelo espelha propostas semelhantes do CEO da Anthropic Dario Amodei e do Sam Altman da OpenAI, ambas levantadas em uma reunião do G7 em junho com o Presidente Trump e líderes globais.
Para arquitetos, o enquadramento de Hassabis de uma estrutura de supervisão liderada pelos EUA carrega peso de política imediato: posiciona os EUA como o regulador estabelecedor de padrões em uma era quando modelos chineses (DeepSeek, Z.ai) estão ganhando tração com empresas americanas precisamente por causa de custo e flexibilidade de API. Um órgão de teste federado provavelmente se tornaria o mecanismo de portão de facto para lançamentos de modelos de alta capacidade no mercado dos EUA. As questões abertas permanecem financiamento, estrutura de governança, e se laboratórios de fronteira cumprirão voluntariamente ou enfrentarão restrições de exportação se não fizerem.
Fontes
- Primary source
- cnbc.com
“The chief of Google's AI division has called for the U.S. to spearhead a standards body that will oversee new AI models and assess national security risks”
- cnbc.com
“It could establish a new Standards Body modelled on a federally overseen public-private partnership or self-regulatory organisation, much like the Financial Industry Regulatory Authority (FINRA)”