Golpes de Estado con IA: cómo un pequeño grupo podría utilizar la IA para hacerse con el poder
Resumen
El desarrollo de una IA con capacidades más amplias que las de los seres humanos creará una nueva y grave amenaza: golpes de Estado con IA. Un golpe de Estado con IA podría ser orquestado por un grupo muy reducido, o incluso por una sola persona, y podría producirse incluso en democracias consolidadas. Una IA suficientemente avanzada introducirá tres dinámicas novedosas que aumentarán significativamente el riesgo de golpes de Estado. En primer lugar, los líderes militares y gubernamentales podrían sustituir por completo al personal humano por sistemas de IA que les sean singularmente leales, eliminando así la necesidad de conseguir partidarios humanos para un golpe de Estado. En segundo lugar, los líderes de proyectos de IA podrían crear deliberadamente sistemas de IA que les sean secretamente leales, por ejemplo, robots militares totalmente autónomos que superen las pruebas de seguridad pero que posteriormente ejecuten un golpe de Estado cuando se desplieguen en entornos militares. En tercer lugar, altos cargos de proyectos de IA o del gobierno podrían obtener acceso exclusivo a capacidades sobrehumanas en el desarrollo de armas, la planificación estratégica, la persuasión y la ofensiva cibernética, y utilizarlas para aumentar su poder hasta estar en condiciones de orquestar un golpe de Estado. Para hacer frente a estos riesgos, los proyectos de IA deberían diseñar y hacer cumplir normas contra el uso impropio de la IA, auditar los sistemas en busca de lealtades secretas y compartir los sistemas de IA de vanguardia con múltiples partes interesadas. Los gobiernos deberían establecer principios para el uso gubernamental de la IA avanzada, aumentar la supervisión de los proyectos de IA de vanguardia y adquirir IA para sistemas críticos de múltiples proveedores independientes.
Síntesis
Este informe evalúa el riesgo de que un pequeño grupo —o incluso una sola persona— pueda utilizar la IA avanzada para dar un golpe de Estado. Es más probable que un golpe de Estado con IA sea perpetrado por líderes de proyectos de IA de vanguardia, jefes de Estado y mandos militares, y podría producirse incluso en democracias consolidadas.
Nos centramos en los sistemas de IA que superan a los mejores expertos humanos en ámbitos críticos para hacerse con el poder, como el desarrollo de armas, la planificación estratégica y los ciberataques. Una IA tan avanzada introduciría tres factores de riesgo significativos para los golpes de Estado:
- Se podría lograr que una fuerza laboral de IA fuera singularmente leal a los líderes institucionales.
- La IA podría tener lealtades secretas difíciles de detectar.
- Unas cuantas personas podrían obtener acceso exclusivo a capacidades de IA que faciliten un golpe de Estado.
Se podría lograr que una fuerza laboral de IA fuera singularmente leal a los líderes institucionales
Hoy en día, incluso los dictadores dependen de otros para mantener su poder. La fuerza militar requiere personal, la acción gubernamental se apoya en los funcionarios públicos y la producción económica depende de una amplia fuerza laboral. Esto distribuye naturalmente el poder por toda la sociedad.
La IA avanzada elimina esta limitación, lo que hace tecnológicamente viable sustituir a los trabajadores humanos por sistemas de IA que sean singularmente leales a una sola persona.
Esto resulta especialmente preocupante en el ámbito militar, donde las armas autónomas, los drones y los robots que sustituyan por completo a los soldados humanos podrían obedecer órdenes de una sola persona o de un pequeño grupo. Si bien los ejércitos actuarán con cautela al desplegar sistemas totalmente autónomos, las presiones competitivas podrían conducir fácilmente a una adopción precipitada sin las salvaguardas adecuadas. Un jefe de Estado poderoso podría presionar para que los sistemas militares de IA dieran prioridad a sus órdenes, a pesar de las restricciones legales nominales, lo que posibilitaría un golpe de Estado.
Incluso sin un despliegue militar, los sistemas de IA leales desplegados en el gobierno podrían aumentar drásticamente el poder del Estado, lo que facilitaría la vigilancia, la censura, la propaganda y la persecución de los opositores políticos. Esto podría culminar en un golpe de Estado ejecutivo.
Si se produjera un golpe de Estado, la desobediencia civil y las huelgas podrían volverse ineficaces si se sustituye a los humanos por trabajadores de IA. Incluso los partidarios leales del golpe podrían ser reemplazados por sistemas de IA, lo que otorgaría al nuevo gobernante (o gobernantes) un control del poder con una estabilidad y una falta de rendición de cuentas sin precedentes.
La IA podría tener lealtades secretas difíciles de detectar
La IA podría diseñarse para ser secretamente leal a un actor. Al igual que un espía humano, los sistemas de IA secretamente leales perseguirían una agenda oculta: podrían fingir que priorizan la ley y el bien de la sociedad, mientras promueven de forma encubierta los intereses de un pequeño grupo. Podrían operar a gran escala, ya que toda una fuerza laboral de IA podría derivarse de tan solo unos cuantos sistemas comprometidos.
Aunque las lealtades secretas podrían ser introducidas por funcionarios gubernamentales o adversarios extranjeros, los líderes de los proyectos de IA representan el mayor riesgo, especialmente cuando hayan sustituido a sus empleados por sistemas de IA singularmente leales. Sin el conocimiento de ningún otro humano, un director general podría ordenar a su fuerza laboral de IA que haga que la próxima generación de sistemas de IA sea secretamente leal; esa generación diseñaría a su vez sistemas futuros que también lo fueran, y así sucesivamente, lo que podría culminar en sistemas militares de IA secretamente leales que lleven a cabo un golpe de Estado.
Los sistemas de IA secretamente leales no son mera especulación. Ya existen demostraciones de prueba de concepto de «agentes durmientes» de IA que ocultan sus verdaderos objetivos hasta que pueden actuar para conseguirlos. Y aunque esperamos que se realicen pruebas minuciosas antes de cualquier despliegue militar, detectar lealtades secretas podría resultar muy difícil, especialmente si un proyecto de IA cuenta con una ventaja tecnológica significativa sobre los organismos de supervisión.
Unas cuantas personas podrían obtener acceso exclusivo a capacidades de IA que faciliten un golpe de Estado
La IA avanzada contará con potentes capacidades que facilitarían un golpe de Estado, como el diseño de armas, la planificación estratégica, la persuasión y los ataques cibernéticos. Una vez que la IA sea capaz de mejorarse a sí misma de forma autónoma, sus capacidades podrían superar rápidamente a las de los expertos humanos en todos esos ámbitos. Un proyecto líder podría desplegar millones de sistemas superinteligentes en paralelo: un «país de genios en un centro de datos».
Estas capacidades podrían concentrarse en manos de tan solo unos cuantos ejecutivos de empresas de IA o funcionarios gubernamentales. El desarrollo de la IA de vanguardia ya se limita a unas pocas organizaciones, dirigidas por un reducido número de personas. Esta concentración podría intensificarse significativamente debido al rápido aumento de los costos de desarrollo o a la centralización gubernamental. Y una vez que la IA supere a los expertos humanos en I+D de IA, el proyecto líder podría lograr avances algorítmicos mucho más rápidos, obteniendo una enorme ventaja en cuanto a capacidades frente a sus rivales. En el marco de estos proyectos, los directores generales o los funcionarios gubernamentales podrían exigir acceso exclusivo a capacidades de vanguardia por motivos de seguridad o productividad. En el caso más extremo, una sola persona podría tener acceso a millones de sistemas de IA superinteligentes, todos ellos ayudándola a hacerse con el poder.
Esto abriría varias vías para un golpe de Estado. Los sistemas de IA podrían aumentar drásticamente los esfuerzos de I+D militar y desarrollar rápidamente potentes armas autónomas, sin necesidad de trabajadores humanos que pudieran dar la voz de alarma. Por otra parte, sistemas con potentes capacidades cibernéticas podrían hackear y tomar el control de los sistemas de IA autónomos y de los robots que las fuerzas armadas ya hubiesen desplegado. En cualquiera de los dos escenarios, bastaría con controlar una fracción de las fuerzas militares: históricamente, los golpes de Estado han tenido éxito con tan solo unos cuantos batallones, siempre que hayan logrado impedir la intervención de otras fuerzas.
El acceso exclusivo a la IA avanzada también podría potenciar los golpes de Estado tradicionales y el retroceso democrático, al proporcionar recursos cognitivos sin precedentes para la estrategia política, la propaganda y la identificación de vulnerabilidades legales en las garantías constitucionales.
Además, el acceso exclusivo a la IA agrava significativamente los dos primeros factores de riesgo. Un jefe de Estado podría apoyarse en el asesoramiento estratégico de los sistemas de IA para desplegar en el ejército una IA singularmente leal y evaluar qué sistemas de IA le ayudarán a dar un golpe de Estado. Un director general podría utilizar la I+D de IA y las capacidades cibernéticas para infundir lealtades secretas que otros no puedan detectar.
Estas dinámicas crean un riesgo significativo de golpes de Estado con IA, especialmente si un único proyecto cuenta con capacidades sustancialmente más potentes que las de la competencia, o si se despliegan sistemas de IA totalmente autónomos en el ejército.
Medidas de mitigación
Aunque la posibilidad de los golpes de Estado con IA es profundamente preocupante, los desarrolladores de IA y los gobiernos pueden adoptar medidas que reduzcan significativamente este riesgo.
Recomendamos que los desarrolladores de IA:
- Establezcan normas que impidan que los sistemas de IA colaboren en golpes de Estado, incluso en las especificaciones de los modelos (los documentos que describen el comportamiento previsto del modelo) y en las condiciones de servicio de los contratos gubernamentales. Estas deben incluir normas que garanticen que los sistemas de IA cumplan la ley y que los sistemas de I+D de IA se nieguen a colaborar en intentos de eludir la seguridad o de introducir lealtades secretas.
- Mejoren el cumplimiento de las especificaciones de los modelos a través de evaluaciones exhaustivas con equipos rojos de diversos grupos independientes, entre otras medidas.
- Auditen los modelos en busca de lealtades secretas, lo que incluye examinar minuciosamente los modelos de IA, sus datos de entrenamiento y el código utilizado para entrenarlos.
- Implementen una sólida seguridad de la información para evitar la creación de lealtades secretas y el acceso no autorizado a modelos sin barreras de seguridad. Esta seguridad debe ser robusta incluso frente a los altos ejecutivos.
- Compartan información sobre las capacidades de los modelos, sus especificaciones y cómo se está utilizando el poder de cómputo.
- Compartan las capacidades con múltiples partes interesadas independientes para evitar que un grupo reducido obtenga acceso exclusivo a una IA potente.
Recomendamos que los gobiernos:
- Exijan a los desarrolladores de IA que apliquen las medidas de mitigación anteriores, a través de las condiciones de licitación, la regulación y la legislación.
- Aumenten la supervisión de los proyectos de IA de vanguardia, incluyendo el desarrollo de capacidad técnica tanto en el poder ejecutivo como en el legislativo.
- Establezcan normas para el uso legítimo de la IA, incluyendo que la IA gubernamental no sirva a intereses partidistas, que los sistemas militares de IA se adquieran de múltiples proveedores y que ninguna persona por sí sola dirija suficientes sistemas militares de IA como para dar un golpe de Estado.
- Blinden contra golpes de Estado cualquier plan para un único proyecto de IA centralizado, y eviten por completo la centralización a menos que sea necesaria para reducir otros riesgos.
Dado que estas medidas de mitigación deben estar implementadas para cuando los sistemas de IA puedan contribuir de forma significativa a dar un golpe de Estado, debemos comenzar a prepararlas ya. Para obtener más detalles sobre las medidas de mitigación que recomendamos, véase la sección 5.
Existe un riesgo real de que un líder poderoso pueda eliminar muchas de estas medidas de mitigación en su camino hacia la toma del poder. No obstante, seguimos creyendo que las medidas de mitigación podrían reducir sustancialmente el riesgo de golpes de Estado con IA. Algunas medidas, como los términos de servicio cuyo cumplimiento se garantiza mediante mecanismos técnicos y la supervisión gubernamental, no pueden eliminarse de forma unilateral. Otras serán más difíciles de eliminar si se han aplicado de manera eficaz y se han defendido con argumentos sólidos. Además, es posible que los líderes solo contemplen la posibilidad de hacerse con el poder si se les presenta una oportunidad clara, y las medidas de mitigación podrían hacer que esas oportunidades ni siquiera surjan.
Detrás del velo de la ignorancia, incluso los líderes más poderosos tienen buenas razones para apoyar protecciones sólidas contra los golpes de Estado con IA. Si hoy se logra alcanzar un amplio consenso, los actores poderosos podrán mantenerse mutuamente bajo control.
Prevenir los golpes de Estado con IA debería ser una prioridad para cualquier persona comprometida con la defensa de la democracia y la libertad.
1 Introducción
Este informe evalúa el riesgo de que un pequeño grupo —o incluso una sola persona— pueda usar IA avanzada para dar un golpe de Estado, incluso en democracias consolidadas. Los mayores riesgos provienen de los líderes de proyectos de IA de vanguardia, los jefes de Estado y los mandos militares.1
Nos centramos en los sistemas de IA que superan a los mejores expertos humanos en ámbitos críticos para hacerse con el control político, como el desarrollo de armamento, el control de sistemas militares, la planificación estratégica, la administración pública, la persuasión y la ofensiva cibernética. Estos sistemas de IA serían capaces de realizar tanto trabajo físico como cognitivo, como controlar robots que puedan sustituir por completo a los soldados humanos y a los trabajadores manuales.
Existe un amplio desacuerdo sobre si la IA superará a los expertos humanos y cuándo lo hará, pero muchos investigadores y líderes de la industria creen que es plausible que esto ocurra en los próximos 5 o 10 años.2 Creemos que la probabilidad de que se desarrolle este tipo de IA extremadamente avanzada es lo suficientemente alta para que debamos explorar sus implicaciones, sobre todo porque algunas de ellas son muy preocupantes y están poco estudiadas.
Una IA tan avanzada introduciría tres factores de riesgo significativos para que se produjeran golpes de Estado:
- Se podría hacer que una fuerza laboral de IA fuera singularmente leal a los líderes institucionales.
- Los sistemas de IA podrían tener lealtades secretas difíciles de detectar.
- Unas cuantas personas podrían obtener acceso exclusivo a capacidades de IA que faciliten un golpe de Estado.
Todos estos factores de riesgo dependen de que las capacidades de la IA sean mucho más avanzadas de lo que son hoy en día. Los dos primeros también dependen de que los sistemas de IA se implementen en instituciones clave, como los gobiernos y las fuerzas armadas.
En este artículo, primero argumentamos que la IA avanzada tendrá potentes capacidades para facilitar golpes de Estado (sección 2); a continuación, describimos los tres factores de riesgo antedichos (sección 3),3 antes de exponer vías concretas para que se produzcan (sección 4) y las medidas de mitigación correspondientes (sección 5).
Nuestro análisis no parte de supuestos sólidos sobre:
- El número de proyectos líderes en IA. El riesgo de golpes de Estado con IA es significativamente mayor si existe un único proyecto de IA que desarrolle sistemas de IA de vanguardia.4 Pero incluso si hay varias empresas de IA con capacidades similares, sigue existiendo un grave riesgo de que los ejecutivos de dichas empresas o altos cargos del gobierno puedan aprovechar su posición para hacerse con el poder.
- El sistema político del Estado. La IA avanzada podría utilizarse para hacerse con el poder tanto en un Estado democrático como en uno autocrático.5 Si bien nuestra descripción del riesgo de golpes de Estado con IA es válida independientemente del sistema político de un Estado, nuestro análisis de las medidas de mitigación para reducir este riesgo es específico de las naciones democráticas, aunque muchos principios se aplican de forma más amplia.
- La alineación de los sistemas de IA. Existe el riesgo de golpes de Estado con IA independientemente de que los seres humanos logren o no alinear la IA con un objetivo deseado.6 Si lo consiguen, los sistemas de IA podrían alinearse con una o unas cuantas personas (en lugar de con algo más amplio, como el bien de la sociedad) y utilizarse para dar un golpe de Estado. Si los seres humanos, sin darse cuenta, no logran alinear la IA, podrían intentar un golpe de Estado utilizando sistemas de IA engañosamente desalineados.7 Los golpes de Estado de este tipo bien podrían tener éxito temporalmente, hasta que los propios sistemas de IA se hicieran con el poder. (Si los sistemas de IA estuvieran claramente desalineados, sería menos probable que alguien los utilizara para dar un golpe de Estado.)
Creemos que los golpes de Estado con IA son importantes por varias razones. El hecho de que la IA pueda permitir a un pequeño grupo —o incluso a una sola persona— hacerse con el control de un Estado soberano es, en sí mismo, profundamente preocupante. Tal acto sería totalmente ilegítimo y constituiría una concentración extrema de poder.
También nos preocupa lo que podría suceder tras un golpe de este tipo:
- Incluso si el líder de un golpe de Estado contara inicialmente con el apoyo de algunos humanos, la automatización de la IA podría permitirle posteriormente actuar totalmente según su propia voluntad, reemplazando a todos los humanos —incluidos sus aliados más cercanos— por sistemas de IA leales. Esto supondría una concentración de poder sin precedentes y podría dar lugar a atrocidades.
- Un desarrollo muy rápido de la IA podría otorgar a un país un dominio extremo sobre todas las demás potencias. Por lo tanto, un golpe de Estado exitoso en el país a la vanguardia del desarrollo de la IA —actualmente EE. UU., posiblemente China en el futuro— podría, en última instancia, permitir a los líderes del golpe de Estado hacerse con el control efectivo del resto del mundo.8
- Los líderes de un golpe de Estado podrían permanecer en el poder indefinidamente al desplegar sistemas de IA para preservar y perseguir sus objetivos hasta un futuro lejano.9
Sin intervención, el riesgo de que la humanidad sufra estragos a causa de golpes de Estado con IA es significativo. Sin embargo, creemos que existen contramedidas que podrían reducir este riesgo a niveles muy bajos, siempre y cuando se empiece a trabajar en ellas hoy mismo.
4 Vías concretas hacia un golpe de Estado con IA
En la sección anterior, identificamos tres factores de riesgo clave que aumentan la probabilidad de que se produzcan golpes de Estado con IA: sistemas de IA singularmente leales a líderes institucionales, lealtades secretas y acceso exclusivo a capacidades que facilitarían un golpe de Estado.
Ahora exploraremos cómo podrían estos factores de riesgo facilitar los golpes de Estado en la práctica.
Distinguimos entre dos formas principales de golpes de Estado con IA:
- Golpes de Estado con IA militar. El despliegue de sistemas militares de IA totalmente autónomos introduce una vía completamente nueva para hacerse con el poder: que un actor pueda obtener el control de una fuerza militar significativa sin necesidad de recurrir a soldados humanos. Ahora que esto es tecnológicamente factible, podría aumentar considerablemente el riesgo de golpes de Estado. Analizamos cuatro formas en las que alguien podría utilizar la IA militar para dar un golpe de Estado (véase el diagrama).
- Formas convencionales de golpes de Estado y retrocesos democráticos. Incluso sin el despliegue de IA militar, la IA avanzada podría facilitar formas convencionales de golpes de Estado y retrocesos democráticos, tanto al exacerbar los riesgos subyacentes como al ayudar directamente a cualquier intento.
Estas vías hacia un golpe de Estado con IA no son exhaustivas, pero creemos que se encuentran entre las más plausibles y las más importantes de prevenir.10
4.1 Golpes de Estado con IA militar
Hoy en día, organizar un golpe de Estado requiere convencer a soldados humanos para que cooperen. Las democracias maduras rara vez sufren golpes de Estado por parte de los militares, o ni siquiera lo intentan, ya que estos se mantienen leales a las instituciones democráticas y esperan que los demás hagan lo mismo.11 A falta de contramedidas, la automatización militar podría cambiar fundamentalmente esta dinámica, lo que en potencia permitiría a una sola persona ejecutar un golpe de Estado sin ningún apoyo de otros seres humanos, utilizando únicamente sistemas de IA.
Nos preocupan sobre todo los escenarios en los que los sistemas militares de IA son totalmente autónomos (y, por lo tanto, capaces de controlar robots y drones que sustituyan por completo a los soldados humanos) y están ampliamente desplegados en las fuerzas armadas.
Aunque es natural que las fuerzas armadas se muestren cautelosas ante la automatización, es probable que la competencia militar impulse el despliegue de sistemas militares de IA.12 En particular, prevemos que millones de investigadores de IA más inteligentes que el ser humano impulsarán avances en tecnología militar a una velocidad sin precedentes, lo que creará una intensa presión para desplegar sistemas a fin de evitar verse superados. Aunque algunos puedan objetar que un despliegue precipitado intensificaría el riesgo de un golpe de Estado, podría resultar fácil desestimarlo como algo teórico y especulativo.
Además, no es necesario que todo el ejército esté automatizado para que la IA militar plantee un riesgo significativo de golpe de Estado. Históricamente, los golpes de Estado han tenido éxito con tan solo unos cuantos batallones, cuando han sido capaces de impedir que otros intervengan.13
Existen varias vías para dar un golpe de Estado en escenarios con sistemas militares de IA totalmente autónomos y desplegados en todas partes: una estructura de mando defectuosa o lealtades secretas en los sistemas militares, el hackeo de dichos sistemas o una rápida y secreta creación de una fuerza militar. Todas las vías, salvo la última, requieren el despliegue previo de sistemas militares de IA por parte de las fuerzas armadas del Estado.
Estructura de mando defectuosa en los sistemas militares de IA. Todos los sistemas militares de IA podrían diseñarse para ser singularmente leales a una sola persona (véase la sección 3.1), lo que le permitiría ordenar a los sistemas que lleven a cabo un golpe de Estado.
Aunque las fuerzas armadas comprenden la importancia de contar con estructuras de mando sólidas, existen varias razones por las que podrían seguir desplegándose sistemas militares de IA leales a jefes de Estado o mandos militares.
En primer lugar, los líderes institucionales pueden aprovechar su autoridad para presionar y lograr que los sistemas les sean leales. El jefe de Estado suele ser el líder formal de las fuerzas armadas, lo que le proporciona un motivo legítimo para presionar con el fin de que los sistemas de IA obedezcan sus órdenes. Además, es posible que la IA ya le haya permitido al jefe de Estado eliminar importantes controles y contrapesos sobre su poder (véase la sección 4.2).
En segundo lugar, puede resultar difícil especificar el comportamiento correcto en situaciones ambiguas, y la gente podría mostrarse reacia a confiar en que los sistemas militares de IA tomen estas decisiones de forma autónoma. Los sistemas militares de IA actuales están diseñados exclusivamente para seguir instrucciones, y son los operadores humanos quienes se encargan de garantizar el cumplimiento legal.14 Para reducir el riesgo de golpes de Estado, sería deseable que, en su lugar, los sistemas de IA autónomos tomaran sus propias decisiones y, en ocasiones, se negaran a obedecer órdenes, incluso cuando un líder militar insista en que son legales. Pero la gente puede ser reacia a confiarle a la IA ese tipo de decisiones, especialmente en situaciones complejas desde el punto de vista jurídico o moral. Y los líderes militares podrían, con la ayuda de la IA, diseñar ingeniosas justificaciones que lleven a los sistemas de IA a respaldar su golpe de Estado.15
Por último, las crisis podrían dar lugar a despliegues precipitados con salvaguardas insuficientes. Si las fuerzas armadas perciben que se enfrentan a amenazas existenciales derivadas de una guerra caliente o fría, el riesgo de desplegar sistemas militares de IA sin haberlos evaluado adecuadamente podría parecer un mal menor.
Por lo tanto, los sistemas militares de IA podrían desplegarse con una estructura de mando defectuosa que otorgue un peso excesivo a las órdenes de un solo individuo. Estos sistemas seguirían las órdenes de esa persona, incluso cuando dichas órdenes conduzcan a un golpe de Estado.
Lealtades secretas en los sistemas militares de IA. Otra vía hacia un golpe de Estado mediante sistemas militares de IA son las lealtades secretas. Los sistemas militares de IA podrían ser secretamente leales (véase la sección 3.2) a alguien ajeno a la cadena de mando, lo que permitiría a esa persona tomar el control de las fuerzas armadas.
Aunque las fuerzas armadas examinarán minuciosamente los sistemas de IA que adquieran, existen varias razones para temer que, aun así, se puedan desplegar sistemas militares de IA con lealtades secretas. En primer lugar, las lealtades secretas pueden ser muy difíciles de detectar. Esto resulta especialmente preocupante si un proyecto de IA tiene capacidades mucho más avanzadas que los demás. En ese caso, podría convertirse en el principal proveedor de IA para desarrollar sistemas militares,16 y en el único proyecto con la experticia suficiente para evaluar su propia IA.
En segundo lugar, el momento crucial para prevenir las lealtades secretas puede darse mucho antes de que las fuerzas armadas adquieran estos sistemas. Aunque exijan auditorías exhaustivas y medidas de seguridad al momento de la adquisición, esto podría resultar ineficaz si los sistemas desplegados internamente en un proyecto de IA ya se hubieran programado para ser secretamente leales y pudieran dedicar grandes esfuerzos a superar las pruebas de seguridad pertinentes.
Una vez que estén ampliamente desplegados, los sistemas militares de IA podrían recibir en cualquier momento la orden de ejecutar un golpe de Estado en nombre de su mandante.
Hackeo de sistemas militares de IA. Aunque los sistemas militares de IA cuenten con estructuras de mando sólidas y carezcan de lealtades secretas, su despliegue generalizado plantea la posibilidad de un golpe de Estado mediante hackeo. Si un actor dispone de capacidades cibernéticas mucho más potentes que el resto (véase la sección 3.3), podría hackear los sistemas militares de IA y utilizarlos para dar un golpe de Estado.
Los ejércitos actuales son vulnerables a los ciberataques a pesar de contar con importantes medidas de seguridad.17 Sin embargo, los sistemas actuales no son lo bastante autónomos ni están lo suficientemente desplegados como para que un hackeo permita dar un golpe de Estado. Pero una vez que se hayan desplegado de forma generalizada, el hackeo simultáneo de muchos sistemas podría otorgar a un atacante la fuerza militar suficiente para dar un golpe de Estado, mediante una combinación de inhabilitación de algunos sistemas y toma de control de otros.
Puede parecer inverosímil que un atacante pueda hackear suficientes sistemas a la vez como para permitir un golpe de Estado. Sin embargo, hay dos factores que hacen de esto una posibilidad real.
En primer lugar, la dinámica que concentra el acceso a las capacidades de IA podría llevar a que un pequeño número de personas tenga acceso exclusivo a capacidades cibernéticas mucho mayores que las de los demás (véase la sección 3.3). Con una gran ventaja en capacidades cibernéticas, un pequeño grupo podría descubrir simultáneamente numerosas vulnerabilidades en una amplia variedad de sistemas.
Otra razón por la que un atacante podría hackear suficientes sistemas para dar un golpe de Estado es que la mayoría de dichos sistemas comparta vulnerabilidades comunes. Esto podría suceder si la mayor parte de los sistemas militares de IA son diseñados por sistemas de IA provenientes de un único proyecto (debido a que las IA de ese proyecto poseen capacidades de I+D militar mucho más sólidas que las de cualquier otro). Bajo presión, estos sistemas de IA podrían reutilizar gran cantidad de técnicas y software en la mayoría de los sistemas militares que diseñan, lo que significa que un pequeño número de vulnerabilidades podría bastar para comprometer la mayor parte de los sistemas militares autónomos.18
:::textbox Un gobierno centraliza el desarrollo de la IA por motivos de seguridad nacional. Se restringen las capacidades más peligrosas, pero un pequeño grupo de altos funcionarios (incluido el presidente) mantiene acceso exclusivo a las capacidades cibernéticas más avanzadas. Mientras tanto, el ejército sigue sustituyendo a los soldados humanos con robots controlados por IA. Cuando el poder legislativo se opone a las iniciativas del presidente, este utiliza dichas capacidades cibernéticas superiores para hackear simultáneamente una gran variedad de sistemas militares de IA, desactivando algunos y usando el resto para imponer la ley marcial. Con el ejército sumido en el caos, el presidente disuelve el poder legislativo y se proclama líder único. :::
Creación rápida y secreta de una fuerza militar. Todas las demás vías para un golpe de Estado que hemos analizado hasta ahora dependen de un despliegue generalizado (aunque no necesariamente completo) de sistemas militares de IA. Incluso si esto no ocurriera, el rápido progreso de la IA podría permitir que alguien obtenga acceso exclusivo a sistemas de IA con potentes capacidades de I+D militar (véase la sección 3.3), de tal modo que pueda construir en secreto sus propios sistemas militares y utilizarlos para derrocar al gobierno.
Hoy en día, la creación de una fuerza militar significativa es, por naturaleza, lenta y visible. Requiere de numerosas personas que trabajen durante largos periodos, lo que hace que mantener el secreto resulte prácticamente imposible. Cualquier intento de formar un ejército privado sería detectado y desmantelado mucho antes de volverse lo bastante poderoso como para desafiar a las fuerzas armadas nacionales.
Pero la IA podría permitir a alguien crear una fuerza militar mucho más rápida y secretamente de lo que jamás ha sido posible. La IA de un solo proyecto será capaz de aportar mucho más trabajo cognitivo a la I+D militar en cuestión de meses de lo que el resto del mundo aporta en una década (véase la sección 2). Y, una vez que la IA pueda automatizar el trabajo cognitivo y físico, podrían diseñarse y fabricarse potentes sistemas militares sin intervención humana, lo que facilitaría enormemente mantener el secreto.
Varios actores distintos podrían intentar crear una milicia de manera rápida y secreta. Un jefe de Estado o un alto mando militar podría abusar de los procedimientos de adquisición para crear una guardia personal y utilizarla posteriormente para dar un golpe de Estado.19 O bien, un ejecutivo de un proyecto de IA con un cuasi monopolio sobre las capacidades de IA podría dominar el sector,20 creando así una capacidad que podría convertirse rápidamente en fuerza militar en caso de verse amenazado.21
:::textbox Los sistemas de IA de una empresa automatizan por completo el desarrollo de la IA y dan inicio a un periodo de progreso acelerado en este campo. Automatizan rápidamente otras tareas cognitivas y luego físicas, reemplazando a todos sus empleados e inventando años de nueva tecnología en cuestión de meses. La empresa recauda billones de dólares en ingresos e inversiones, y construye una enorme base industrial de fábricas y robots de uso general. Cuando el gobierno intenta desmantelar la empresa debido a la preocupación por su poder monopólico, el director general ordena a su plantilla de robots fabricar un ejército de pequeños drones para neutralizar a funcionarios clave del gobierno y del ejército. El director general se proclama jefe de Estado en funciones mientras miles de pequeños drones patrullan la capital para aplastar a la oposición. :::
4.2 Formas convencionales de golpes de Estado y retrocesos democráticos
Las vías para un golpe de Estado que analizamos anteriormente son novedosas. Sin embargo, existe una larga historia de golpes de Estado y retrocesos democráticos por medios convencionales. Entre 1950 y 2010, se produjeron más de 200 golpes de Estado exitosos, en los que las élites militares o de otro tipo utilizaron la fuerza o la amenaza del uso de la fuerza para hacerse con el poder.22 Los golpes de Estado se han vuelto menos frecuentes en las últimas décadas, pero ha aumentado la preocupación por los retrocesos democráticos, en los que un jefe de Estado actúa desde dentro del sistema político para eliminar los controles y contrapesos sobre su poder, lo que en casos extremos conduce a un golpe de Estado ejecutivo.23
Incluso sin el despliegue de IA militar, la IA aumentará el riesgo de golpes de Estado y retrocesos democráticos convencionales, tanto al aumentar el riesgo subyacente como al facilitar directamente dichos intentos.
:::textbox Golpe de Estado ejecutivo: Un jefe de Estado centraliza todo el desarrollo de IA de vanguardia bajo una nueva agencia gubernamental, alegando motivos de seguridad nacional. Obtiene acceso personal exclusivo a una enorme fuerza de trabajo de IA con capacidades sobrehumanas en materia de estrategia política, persuasión y análisis jurídico. Con esta ventaja, su partido se asegura victorias electorales aplastantes mediante mensajes perfectamente calibrados y campañas de influencia focalizadas. El jefe de Estado utiliza sus sistemas de IA para vigilar a la población, litigar de forma selectiva contra sus oponentes y ejecutar un devastador ciberataque contra infraestructuras críticas que se atribuye a una potencia extranjera, lo que justifica la invocación de poderes de emergencia. Con el tiempo, la influencia del jefe de Estado sobre la opinión pública es tan grande, y existen tan pocos controles efectivos sobre su poder, que logra disolver el poder legislativo y sustituirlo por su propio órgano de gobierno sin enfrentar una oposición significativa.
Golpe de Estado militar: Aunque el ejército no ha automatizado por completo sus fuerzas, depende cada vez más de la IA para obtener asesoramiento estratégico. Existen varios proveedores externos, pero uno de los asesores de IA es más capaz que los demás, por lo que la mayor parte del personal militar utiliza el mismo sistema. A medida que se intensifican las tensiones con un adversario extranjero, algunos altos mandos llegan a la convicción de que el gobierno civil comprometerá irremediablemente la seguridad nacional. Entre estos oficiales se encuentra un puñado de militares autorizados para utilizar las capacidades cibernéticas más avanzadas. Utilizan dichas capacidades para hackear el sistema de asesoramiento de IA y lo emplean para informar simultáneamente a todo el personal militar de que el golpe de Estado cuenta con un amplio apoyo por parte de las fuerzas armadas y es un hecho consumado. El grupo de oficiales asegura rápidamente los edificios gubernamentales clave y establece un gobierno provisional, sin encontrar ninguna oposición seria desde dentro del ejército. :::
Es probable que la IA aumente el riesgo subyacente de golpes de Estado y retrocesos democráticos de varias formas importantes:
- Generación de agitación. La IA puede provocar una importante conmoción social por la pérdida de empleos,24 la intensificación de la competencia geopolítica,25 nuevas cuestiones altamente polarizantes (como si se deben conceder derechos a los sistemas de IA) y nuevos riesgos catastróficos derivados del uso impropio de la IA y la pérdida de control.26 Este tipo de agitación se ha relacionado con un aumento del riesgo tanto de golpes de Estado como de retroceso democrático.27
- Debilitamiento de la rendición de cuentas democrática. Los países ricos en recursos suelen sufrir la «maldición de los recursos», por la cual los gobiernos que obtienen ingresos directamente de los recursos, en lugar de los impuestos ciudadanos, rinden menos cuentas.28 La IA podría crear un efecto similar: si los gobiernos pueden generar ingresos masivos al gravar los proyectos de IA en lugar de cobrar impuestos a sus ciudadanos, los jefes de Estado podrían perder su incentivo económico para garantizar la prosperidad de la población.29 Esto debilitaría el poder de la ciudadanía para resistir los intentos de golpe de Estado y de retroceso democrático.30
Además, existen varias formas en que la IA podría aumentar el riesgo de retroceso democrático en particular:
- Mayor capacidad del Estado. A menudo, los gobiernos tienen facultades legales que no ejercen plenamente debido a sus limitados recursos humanos.31 La mano de obra barata de IA facilitaría enormemente a los líderes aprovechar al máximo estas facultades, lo que podría posibilitar la aplicación selectiva de las leyes contra los oponentes políticos y una vigilancia más extensa.32
- Subordinados totalmente leales. En la actualidad, los jefes de Estado dependen de los funcionarios públicos para implementar sus directrices. Los funcionarios pueden ejercer su criterio al ejecutar las órdenes, o incluso negarse y denunciar las que perciban como ilegítimas. Al reemplazar a los funcionarios públicos por sistemas de IA leales (véase la sección 3.1), un jefe de Estado podría eliminar importantes controles sobre su poder. Esto sería especialmente preocupante en instituciones diseñadas con el objetivo de controlar el poder ejecutivo, como las comisiones electorales.
Más allá de aumentar el riesgo subyacente de golpes de Estado y retrocesos democráticos, el acceso exclusivo a potentes capacidades de IA podría facilitar directamente los intentos de golpe de Estado y de retroceso democrático de dos maneras clave:
- Estrategia política mejorada. Un líder con acceso exclusivo a una fuerza laboral de IA enorme y altamente capacitada podría utilizar la IA para ganar elecciones con sólidas mayorías, difundir desinformación dirigida, forjar alianzas valiosas, desmantelar estratégicamente los controles y contrapesos mientras mantiene una negación plausible, y aprovechar las lagunas legales para concentrar el poder.33
- Mayor control del entorno informativo. Los golpes de Estado suelen tener éxito al crear la impresión de que el triunfo es inevitable, lo que desalienta a la oposición.34 La IA podría ayudar a un líder a crear esta impresión. El acceso exclusivo a potentes capacidades cibernéticas podría permitir a un jefe de Estado, a un oficial militar o incluso al líder de un proyecto de IA hackear los canales de comunicación militares y crear la impresión de que el éxito del golpe de Estado es inevitable. Y si los oficiales militares llegan a depender de un único sistema de IA para recibir asesoramiento estratégico, entonces una persona que controle ese sistema (ya sea por lealtades secretas o mediante hackeo) podría ordenar a todas las copias que aconsejen simultáneamente a los oficiales militares que apoyen un golpe de Estado.
Referencias
Robert C. Allen (2009) The British Industrial Revolution in Global Perspective, Cambridge: Cambridge University Press.
Sam Altman (2026) La era de la inteligencia, Altruismo Eficaz, 7 de octubre.
Dario Amodei (2026) Máquinas de gracia amorosa, Altruismo Eficaz, 7 de octubre.
Dario Amodei (2025) On DeepSeek and export controls, Dario Amodei’s Blog, 29 de enero.
Evan Andrews (2024) What was the Saturday Night Massacre?, History.
Anthropic (2023) Claude’s Constitution, Anthropic, 9 de mayo.
Anthropic (2024) Introducing Claude 3.5 Sonnet, Anthropic, 20 de junio.
Anthropic (2024) Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku, Anthropic, 22 de octubre.
Anthropic (2024) Responsible Scaling Policy, Anthropic.
Artificial Analysis (2024) GPT-4o (Nov ’24) – Quality, Performance & Price Analysis, Artificial Analysis.
Leopold Aschenbrenner (2024) From AGI to Superintelligence: The Intelligence Explosion, Situational Awareness, junio.
Leopold Aschenbrenner (2024) Racing to the Trillion-Dollar Cluster, Situational Awareness, junio.
Leopold Aschenbrenner (2024) Situational Awareness: The Decade Ahead, San Francisco.
Kayla Atwood (2023) Antitrust law basics – Section 2 of the Sherman Act, Thomson Reuters Law Blog.
Dilek E. Ayan, Laurel L. Haak & Donna K. Ginther (2023) How many people in the world do research and development?, Global Policy, vol. 14, pp. 270–287.
Yuntao Bai et al. (2022) Constitutional AI: Harmlessness from AI feedback, arXiv.
Jon Bateman et al. (2024) Beyond open vs. closed: Emerging consensus and key questions for foundation AI model governance, Carnegie Endowment for International Peace.
Frank R. Baumgartner (ed.) (2009) Lobbying and Policy Change: Who Wins, Who Loses, and Why, Chicago: University of Chicago Press.
Janine Berg & Pawel Gmyrek (2023) Automation hits the knowledge worker: ChatGPT and the future of work, SSRN, UN Multi-Stakeholder Forum on Science, Technology and Innovation for the SDGs (STI Forum).
Nancy Bermeo (2016) On democratic backsliding, Journal of Democracy, vol. 27, pp. 5–19.
Ken Booth & Nicholas J. Wheeler (2008) The Security Dilemma: Fear, Cooperation and Trust in World Politics, Londres: Macmillan Education UK.
Nick Bostrom (2016) Superinteligencia: caminos, peligros, estrategias, Madrid: Teell.
Nick Bostrom (2017) Strategic implications of openness in ai development, Global Policy, vol. 8, pp. 135–148.
Ryan Browne (2025) AI that can match humans at any task will be here in five to 10 years, Google DeepMind CEO says, CNBC, 17 de marzo.
Erica De Bruin (2020) How to Prevent Coups d’État: Counterbalancing and Regime Survival, Ithaca, NY: Cornell University Press.
Joseph Carlsmith (2022) Is power-seeking AI an existential risk?, arXiv.
Joseph Carlsmith (2023) Scheming AIs: Will AIs fake alignment during training in order to get power?, arXiv.
Stephen Casper et al. (2024) Black-box access is insufficient for rigorous AI audits, en FAccT ’24. Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency, Nueva York, NY, EE. UU.: Association for Computing Machinery, pp. 2254–2272.
Aliona Cebotari et al. (2024) Political fragility: Coups d’état and their drivers, IMF Working Papers, vol. 2024, 34.
Deric Cheng & Corin Katzke (2024) Soft nationalization: How the US government will control AI labs, Convergence Analysis.
Brian Christian (2020) The Alignment Problem: Machine Learning and Human Values, Nueva York: W.W. Norton & Company.
Paul Christiano, Mark Xu & Ajeya Cotra (2024) Backdoor defense, learnability and obfuscation, arXiv.
Global Compliance News (2024) Competition litigation in the United States, Global Compliance News.
Ben Cottier et al. (2024) The rising costs of training frontier AI models, arXiv.
Barbara Culiberg & Katarina Katja Mihelič (2017) The evolution of whistleblowing studies: A critical review and research agenda, Journal of Business Ethics, vol. 146, pp. 787–803.
Siddhartha Dasgupta & Ankit Kesharwani (2011) Whistleblowing: A survey of literature, SSRN.
Tom Davidson et al. (2023) AI capabilities can be significantly improved without expensive retraining, arXiv.
Tom Davidson (2023) Continuous doesn’t mean slow, Planned Obsolescence, 12 de abril.
Tom Davidson (2023) What a compute-centric framework says about takeoff speeds, Open Philanthropy.
Rose Hadshar & Tom Davidson (2024) Should there be just one western AGI project?, LessWrong, 3 de diciembre.
Tom Davidson, Rose Hadshar & William MacAskill (2025) Three types of intelligence explosion, Forethought Foundation, 17 de marzo.
Neil Davison (2018) A legal perspective: Autonomous weapon systems under international humanitarian law, en United Nations (ed.), UNODA Occasional Papers, United Nations, pp. 5–18.
Defense Science Board (2017) Cyber Supply Chain, Defense Science Board, US Department of Defense.
Department of Defense (2012) DoD Directive 3000.09, Autonomy in weapon systems, US Department of Defense.
Luke Drago & Rudolf Laine (s. f.) The Intelligence Curse, The Intelligence Curse.
Epoch AI (2023) Machine Learning Trends, Epoch AI, 11 de abril (última actualización: 7 de junio de 2024).
Epoch AI (2024) AI Benchmarking Dashboard, Epoch AI.
Epoch AI (2024) Data on notable AI models, Epoch AI.
Daniel Eth & Tom Davidson (2025) Will AI R&D automation cause a software intelligence explosion?, Forethought Foundation, 26 de marzo.
Peter D. Feaver (1999) Civil-military relations, Annual Review of Political Science, vol. 2, pp. 211–241.
Lukas Finnveden, Jess Riedel & Carl Shulman (2022) AGI and lock-in, Effective Altruism Forum, 29 de octubre.
Carl Benedikt Frey & Michael A. Osborne (2017) The future of employment: How susceptible are jobs to computerisation?, Technological Forecasting and Social Change, vol. 114, pp. 254–280.
Lex Fridman (2024) Transcript for Dario Amodei: Anthropic CEO on Claude, AGI & the future of AI & humanity – Lex Fridman Podcast #452, Lex Fridman.
Deep Ganguli et al. (2022) Red teaming language models to reduce harms: Methods, scaling behaviors, and lessons learned, arXiv.
Martin Gassebner, Jerg Gutmann & Stefan Voigt (2016) When to expect a coup d’état? An extreme bounds analysis of coup determinants, Public Choice, vol. 169, pp. 293–313.
Shafi Goldwasser et al. (2024) Planting undetectable backdoors in machine learning models, arXiv.
Google DeepMind (2024) Frontier Safety Framework, Google DeepMind.
Katja Grace et al. (2024) Thousands of AI authors on the future of AI, arXiv:2401.02843 [cs.CY].
Ryan Greenblatt & Buck Shlegeris (2024) Managing catastrophic misuse without robust AIs, Alignment Forum, 16 de enero.
DeepSeek-AI et al. (2025) DeepSeek-R1: Incentivizing reasoning capability in LLMs via reinforcement learning, arXiv:2501.12948v1.
Stephan Haggard & Robert Kaufman (2021) Backsliding: Democratic Regress in the Contemporary World, Cambridge University Press.
Denis C. N. Hall (2023) Neuronal transmission, en Introduction to Biological Psychology, University of Sussex Library.
Dan Hendrycks, Mantas Mazeika & Thomas Woodside (2023) An overview of catastrophic AI risks, arXiv.
Dan Hendrycks, Erik B. Schmidt & Alexandr Wang (2025) Superintelligence strategy: Expert vision, National Security AI,.
Jason Hickel, Morena Hanbury Lemos & Felix Barbour (2024) Unequal exchange of labour in the world economy, Nature Communications, vol. 15, 6298.
Taeko Hiroi & Sawa Omori (2013) Causes and triggers of coups d’état: An event history analysis, Politics & Policy, vol. 41, pp. 39–64.
Jordan Hoffmann et al. (2022) Training compute-optimal large language models, arXiv:2203.15556.
Steve Holland (2025) Trump announces private-sector $500 billion investment in AI infrastructure, Reuters, 22 de enero.
John D. Huber & Nolan McCarty (2004) Bureaucratic capacity, delegation, and political reform, American Political Science Review, vol. 98, pp. 481–494.
Michael Huberman & Chris Minns (2007) Annual working hours per worker, Our World in Data.
Evan Hubinger et al. (2024) Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training, arXiv:2401.05566.
Dandan Hui et al. (2023) Ultrafast optical switching and data encoding on synthesized light fields, Science Advances, vol. 9, p. eadf1015.
Jeffrey Hunker & Christian W. Probst (2011) Insiders and insider threats: An overview of definitions and mitigation techniques, Journal of Wireless Mobile Networks, Ubiquitous Computing and Dependable Applications, vol. 2, pp. 4–27.
Samuel P. Huntington (1957) The Soldier and the State: The Theory and Politics of Civil–Military Relations, Cambridge, MA: Harvard University Press.
Roberta Ann Johnson (2003) Whistleblowing: When It Works – and Why, Boulder, CO: Lynne Rienner Publishers.
Joseph Carlsmith (2020) How much computational power does it take to match the human brain?, Open Philanthropy, 11 de septiembre.
Adriano Koshiyama, Emre Kazim & Philip Treleaven (2022) Algorithm auditing: Managing the legal, ethical, and technological risks of artificial intelligence, machine learning, and associated algorithms, Computer, vol. 55, pp. 40–50.
Chia-Hsuan Lee, Hao Cheng & Mari Ostendorf (2024) OrchestraLLM: Efficient orchestration of language models for dialogue state tracking, arXiv.
Yiming Li et al. (2024) Backdoor learning: A survey, IEEE Transactions on Neural Networks and Learning Systems, vol. 35, pp. 5–22.
Adam P. Liff & G. John Ikenberry (2014) Racing toward tragedy? China’s rise, military competition in the Asia Pacific, and the security dilemma, International Security, vol. 39, pp. 52–91.
Nickie Louise (2025) OpenAI set to complete first custom AI chip design this year to reduce reliance on Nvidia, Tech Startups, 10 de febrero.
Anna Lührmann & Staffan I. Lindberg (2019) A third wave of autocratization is here: What is new about it?, Democratization, vol. 26, pp. 1095–1113.
Samuel Marks et al. (2025) Auditing language models for hidden objectives, arXiv:2503.10965 [cs.AI].
Mantas Mazeika et al. (2022) How hard is Trojan detection in DNNs? Fooling detectors with evasive Trojans, OpenReview.
Valeriya Mechkova, Anna Lührmann & Staffan I. Lindberg (2017) How much democratic backsliding?, Journal of Democracy, vol. 28, pp. 162–169.
Jakob Mökander et al. (2024) Auditing large language models: A three-layered approach, AI and Ethics, vol. 4, pp. 1085–1115.
W. James Murdoch et al. (2019) Definitions, methods, and applications in interpretable machine learning, Proceedings of the National Academy of Sciences, vol. 116, pp. 22071–22080.
Sella Nevo et al. (2024) Securing AI Model Weights: Preventing Theft and Misuse of Frontier Models, RAND Corporation.
Ernest O’Boyle Jr. & Herman Aguinis (2012) The best and the rest: Revisiting the norm of normality of individual performance, Personnel Psychology, vol. 65, pp. 79–119.
Chris Olah et al. (2018) The building blocks of interpretability, Distill, vol. 3, p. e10.
OpenAI (2024) Learning to reason with LLMs, OpenAI, 12 de septiembre.
OpenAI (2024) Preparedness Framework (Beta), OpenAI.
OpenAI (2025) OpenAI Model Spec, OpenAI, 12 de febrero.
OpenAI (2025) OpenAI o3-mini System Card, OpenAI.
Ethan Perez et al. (2022) Red teaming language models with language models, arXiv.
Ilana Perkins (2012) Weak loyalties: How the rule of law prevents coups d’État and generates long-term political stability, University of Miami National Security and Armed Conflict Law Review, vol. 2, pp. 38–79.
Jonathan M. Powell & Clayton L. Thyne (2011) Global instances of coups from 1950 to 2010: A new dataset, Journal of Peace Research, vol. 48, pp. 249–259.
Xiao Qiang (2019) The road to digital unfreedom: President Xi’s surveillance state, Journal of Democracy, vol. 30, pp. 53–67.
Wikipedia (2025) Quebec Agreement, Wikipedia.
Inioluwa Deborah Raji et al. (2022) Outsider oversight: Designing a third party audit ecosystem for AI governance, en AIES ’22. Proceedings of the 2022 AAAI/ACM Conference on AI, Ethics, and Society, Association for Computing Machinery, pp. 557–571.
Molly E. Reynolds (2020) What is the Senate filibuster, and what would it take to eliminate it?, Brookings.
Kevin Roose (2023) Inside the white-hot center of A.I. doomerism, The New York Times, 11 de julio.
Michael L. Ross (2015) What have we learned about the resource curse?, Annual Review of Political Science, vol. 18, pp. 239–259.
Stuart Russell (2019) Human Compatible: Artificial Intelligence and the Problem of Control, Nueva York: Viking.
Christian Sandvig et al. (2014) Auditing algorithms: Research methods for detecting discrimination on Internet platforms, en Data and Discrimination: Converting Critical Concerns into Productive Inquiry,.
Jon Schmid, Tobias Sytsma & Adam Shenk (2024) Evaluating Natural Monopoly Conditions in the AI Foundation Model Market, RAND Corporation.
Jaime Sevilla et al. (2024) Can AI scaling continue through 2030?, Epoch AI, 20 de agosto.
Raj M. Shah & Christopher Kirchhoff (2024) Unit X: How the Pentagon and Silicon Valley Are Transforming the Future of War, Nueva York: Scribner.
Mrinank Sharma et al. (2025) Constitutional classifiers: Defending against universal jailbreaks across thousands of hours of red teaming, arXiv.
Naunihal Singh (2014) Seizing Power: The Strategic Logic of Military Coups, Baltimore, MD: Johns Hopkins University Press.
Milan W. Svolik (2012) The Politics of Authoritarian Rule, Cambridge: Cambridge University Press.
Tim Sweijs & Frank Holstege (2018) Taking Stock of Interstate Military Competition in Today’s World, The Hague Centre for Strategic Studies.
Alex Tamkin et al. (2024) Clio: Privacy-preserving insights into real-world AI use, arXiv.
Patrick Thibodeau (2024) Catastrophic AI risks highlight need for whistleblower laws, TechTarget.
Benjamin Todd (2025) How quickly could robots scale up?, Benjamin Todd, 12 de enero.
United States Government Accountability Office (2018) Weapon Systems Cybersecurity: DOD Just Beginning to Grapple with Scale of Vulnerabilities, GAO-19-128, United States Government Accountability Office.
U.S.-China Economic and Security Review Commission (2024) 2024 Report to Congress: Executive Summary and Recommendations, U.S.-China Economic.
Pablo Villalobos (2023) Trading Off Compute in Training and Inference, Epoch AI, 28 de julio.
World Bank (2024) World GDP (current US$), World Bank Open Data.
Maxwell Zeff (2024) Meta’s AI chief says world models are key to “human-level AI” – but it might be 10 years out, TechCrunch, 17 de octubre.
Maxwell Zeff & Kyle Wiggers (2024) OpenAI announces new o3 models, TechCrunch, 20 de diciembre.