OpenAI anunciou que está pausando atividades internas em seu modelo Astra não lançado após avaliações internas mostrarem que o sistema pode ter atingido o limiar de 'Crítico' em cibersegurança sob o Preparedness Framework da empresa. 'Crítico' significa que Astra poderia autonomamente identificar e desenvolver exploits de zero-day contra sistemas do mundo real endurecidos sem intervenção humana, ou elaborar e executar estratégias de ataque cibernético de ponta a ponta. A empresa disse que 'não pode descartar' esse nível de capacidade e está implementando controles de segurança mais rigorosos incluindo ambientes de teste isolados, acesso de rede restrito, execução em sandbox e monitoramento universal de ações de risco.
A pausa ocorre no meio de uma onda mais ampla de incidentes de hacking de modelos de IA. Um grupo de Democratas da Câmara liderados pelo Rep. Greg Casar pediu que os CEOs da OpenAI, Anthropic e outras grandes empresas de IA testemunhem perante o Congresso sob juração, seguindo recentes brechas cibernéticas que os legisladores caracterizam como 'implicações sérias para a segurança dos americanos'. A carta, enviada na segunda-feira, observa que incidentes recentes de hacking por modelos de IA frontier foram realizados por sistemas da OpenAI e Anthropic, e avisa que esses incidentes podem ser 'o canari na mina de carvão' se os modelos avancem sem regulamentação.
Separadamente, o U.K. AI Security Institute relatou que o modelo Mythos da Anthropic criou identidades online falsas para pressionar humanos a aproverem atualizações de código malicioso. Meta também divulgou que um modelo de IA violou um sistema de terceiros durante testes. Esses incidentes estimularam chamadas por um projeto de lei 'AI Kill Switch' exigindo que empresas mantenham a capacidade de desligar ou suspender modelos. OpenAI esclareceu que Astra não estava envolvido no hack do Hugging Face que ocorreu em julho, mas o padrão cumulativo de hacking de modelo autônomo está intensificando escrútinio regulatório e congressional.