Demis Hassabis pide órgano de estándares de IA liderado por EE.UU. para probar modelos fronterizos

El jefe de IA de Google DeepMind, Demis Hassabis, pidió el martes que EE.UU. establezca una asociación público-privada supervisada federalmente para establecer estándares y probar modelos de IA fronteriza para riesgos de seguridad nacional antes del lanzamiento público. El órgano propuesto funcionaría de manera similar a FINRA (el regulador financiero) e incluiría expertos técnicos independientes y representantes de código abierto en su junta. Hassabis argumentó que los laboratorios fronterizos inicialmente enviarían voluntariamente modelos para revisión de 30 días antes del despliegue, con el marco volviéndose obligatorio después de la demostración de efectividad. Las pruebas específicas incluirían intentos de eludir salvaguardas de seguridad, señales de engaño y evaluación de prácticas como marca de agua digital y salidas de modelo legibles por humanos.

Hassabis reconoció que el órgano de estándares requeriría financiamiento 'sustancial' para atraer talento de clase mundial y recursos computacionales, con costos probablemente asumidos por la industria. La propuesta referencia directamente amenazas incluyendo riesgos de ciberseguridad y posibles peligros nucleares y biológicos conforme las capacidades de IA avanzan hacia AGI. Este llamado refleja propuestas similares del CEO de Anthropic Dario Amodei y del Sam Altman de OpenAI, ambas planteadas en una reunión del G7 en junio con el Presidente Trump y líderes globales.

Para arquitectos, el marco de Hassabis de una estructura de supervisión liderada por EE.UU. conlleva peso de política inmediato: posiciona a EE.UU. como el regulador establecedor de estándares en una era cuando modelos chinos (DeepSeek, Z.ai) están ganando tracción con empresas estadounidenses precisamente por costo y flexibilidad de API. Un órgano de prueba federado probablemente se convertiría en el mecanismo de puerta de facto para lanzamientos de modelos de alta capacidad en el mercado estadounidense. Las preguntas abiertas permanecen financiamiento, estructura de gobernanza, y si los laboratorios fronterizos cumplirán voluntariamente o enfrentarán restricciones de exportación si no lo hacen.