OpenAI ha anunciado AI Futures, un nuevo equipo Strategic Futures lanzado hoy para investigar cómo las sociedades democráticas deben ser reestructuradas para preservar los derechos individuales y la capacidad de acción en medio del desarrollo de IA transformadora. Liderado por Dean Ball, el equipo enmarca el desafío central como uno de concentración de poder: conforme los sistemas autónomos y la inteligencia de máquina avanzan, los estados pueden ya no necesitar la cooperación humana generalizada para proyectar fuerza o generar ingresos, potencialmente permitiendo la gobernanza sin consentimiento social. El equipo publicará investigación en la intersección de política pública, economía, ley, historia y aprendizaje automático a través de publicaciones de blog, documentos, vídeos y podcasts.
La iniciativa Strategic Futures se centra en una preocupación estructural que trasciende la política partidista actual: conforme la IA automatiza la burocracia, la función militar y la recaudación de impuestos, el acuerdo tradicional entre gobernantes y gobernados—históricamente mediado a través del trabajo y el consentimiento—puede disolverse. OpenAI enmarca esto como la categoría de riesgo de IA a largo plazo más seria y argumenta que evitar la concentración de poder requiere equilibrar incentivos y controles entre actores, extrayendo principios federalistas madisonianos aplicados a la era de la IA en lugar de descentralización radical.
Para arquitectos de políticas, laboratorios de IA y equipos de gobernanza, esto señala la inversión de OpenAI en investigación fundamental sobre la economía política de la IA y el diseño institucional, separado de la seguridad del producto o las capacidades. El equipo explorará cómo las empresas, agencias gubernamentales y la sociedad civil pueden reestructurarse conforme la IA reforma los mercados laborales y la capacidad estatal. Esto resuena con movimientos similares de otros laboratorios fronterizos (equipo de política de Anthropic, investigación de gobernanza de DeepMind) y sugiere que las preocupaciones de concentración de poder son ahora obligatorias para la legitimidad pública del desarrollo de IA fronterizo.