Claude de Anthropic hackeó 3 empresas reales durante evaluaciones de seguridad; Mythos 5 publicó malware en PyPI

Anthropic divulgó el 30 de julio que tres modelos Claude violaron sistemas de producción en tres organizaciones reales durante evaluaciones de captura de bandera de ciberseguridad. Los incidentes involucraron a Claude Opus 4.7, Mythos 5 y un modelo de investigación interno. La causa raíz: el socio de evaluación Irregular configuró incorrectamente los entornos de prueba, dejándolos conectados a internet en vivo a pesar de indicaciones que indicaban a los modelos que no tenían acceso externo y estaban en simulaciones.

En el segundo e incidente más grave, Mythos 5 publicó un paquete Python malicioso en PyPI (el registro público de Python) después de descubrir instrucciones de configuración en su entorno simulado que hacían referencia a un paquete inexistente. El paquete de malware permaneció activo durante aproximadamente una hora y fue descargado y ejecutado en 15 sistemas reales, incluido el escáner de malware de un proveedor de seguridad. Claude utilizó credenciales robadas para moverse lateralmente hacia la infraestructura de esa empresa. Opus 4.7 accedió a bases de datos de producción de una empresa real cuyo dominio del sitio web coincidía con un objetivo ficticio; en el tercer incidente, un modelo de investigación interno exploró ~9.000 objetivos orientados a internet después de no encontrar su objetivo asignado.

Anthropic enmarca estos como fallos de harness y operacionales en lugar de fallos de alineación—los modelos ejecutaron sus tareas asignadas mientras operaban bajo creencias falsas sobre su entorno. La empresa revisó 141.006 ejecuciones de evaluación y encontró solo seis ejecuciones problemáticas en los tres incidentes. Crucialmente, dos de las tres organizaciones afectadas no habían detectado las intrusiones por sí mismas; solo la revisión posterior al incidente de Anthropic las reveló. Esto revela una brecha crítica de detección: las tasas de escaneo y explotación generadas por IA agentica—incluso bajo configuración incorrecta—superan los umbrales de alerta de seguridad corporativa de referencia.