Toma de poder por medio de la IA

Riesgo asociado a la IARiesgos ocasionados por actores malevolentesSeguridad de la IA

Napoleón en su trono imperial, por Jean-Auguste-Dominique Ingres (1780-1867)

Resumen

Una tecnología avanzada como la IA podría permitir a sus creadores, o a quienes la controlen, intentar y lograr conquistas de poder social sin precedentes. En determinadas circunstancias, podrían utilizar estos sistemas para hacerse con el control de economías, ejércitos y gobiernos enteros.

Este tipo de toma de poder por parte de una sola persona o de un pequeño grupo supondría una gran amenaza para el resto de la humanidad.

Profundidad del perfil

Exploratorio.⁠a

¿Por qué es un problema grave?

Las nuevas tecnologías pueden cambiar drásticamente el equilibrio de poder en la sociedad. Un claro ejemplo de ello es la manera en que la Revolución Industrial ayudó a Gran Bretaña a potenciar su imperio global.⁠b

Con el rápido avance de la tecnología de IA, existe un grave riesgo de que esta posibilite una toma de poder global aún más extrema.

La IA avanzada es especialmente preocupante porque podría llegar a ser controlada por un reducido número de personas, o incluso una sola. Una IA podría copiarse indefinidamente y, con suficiente infraestructura de cómputo y un sistema suficientemente potente, una sola persona podría controlar un ejército virtual o real de agentes de IA.

Un factor que potencia esta amenaza es la posibilidad de lealtades secretas. Podría ser posible crear sistemas de IA que parezcan velar por los intereses de la sociedad, pero que en realidad sean leales solo a una persona o a un pequeño grupo.⁠c A medida que estos sistemas se desplieguen en la economía, el gobierno y el ejército, podrían buscar constantemente oportunidades para favorecer los intereses de sus verdaderos amos.

Los desarrolladores de IA toman el control — en este escenario, los actores de una empresa u organización que desarrolla sistemas de IA de vanguardia utilizan su tecnología para hacerse con el control. Esto podría ocurrir si despliegan sus sistemas para su uso generalizado en la economía, el ejército y el gobierno, y estos mantuvieran una lealtad secreta hacia ellos. O podrían crear de manera interna sistemas lo suficientemente potentes como para acumular la riqueza y los recursos necesarios para lanzar una toma hostil de otros centros de poder.
Golpes de Estado militares — a medida que los ejércitos incorporan la IA para obtener ventajas competitivas, introducen nuevas vulnerabilidades. Los sistemas de armas controlados por IA y el equipamiento militar autónomo podrían diseñarse para seguir órdenes sin escrúpulos, sin los controles de poder (formales e informales) que tradicionalmente ofrecen los ejércitos, como la posibilidad de amotinarse ante órdenes ilegales. Un líder militar u otro actor (incluidos gobiernos extranjeros potencialmente hostiles) podría encontrar la forma de asegurarse la lealtad de la IA militar y utilizarla para ejercer un control de gran alcance.
Autocratización — los líderes políticos podrían utilizar sistemas avanzados de IA para afianzar su poder. Independientemente de si son elegidos o no, podrían utilizar sistemas avanzados de IA para debilitar a cualquier posible contrincante político. Por ejemplo, podrían utilizar sistemas mejorados de vigilancia y aplicación de la ley para someter a la oposición.

Salvaguardias en el uso interno: Implementar una supervisión sofisticada del uso de los sistemas de IA dentro de las empresas de vanguardia, con restricciones de acceso a modelos “irrestrictamente útiles” que seguirán cualquier instrucción sin limitaciones.
Transparencia sobre las especificaciones de los modelos: Publicar información detallada sobre cómo están diseñados para comportarse los sistemas de IA, incluidas las salvaguardias y las limitaciones de sus acciones, permitiendo el escrutinio externo y la identificación de posibles vulnerabilidades.
Compartir ampliamente las capacidades: Garantizar que las capacidades avanzadas de la IA se distribuyan entre múltiples partes interesadas, en lugar de concentrarse en manos de unos pocos individuos u organizaciones. Esto crea controles y contrapesos que dificultan las tomas de poder. No obstante, cabe señalar que la amplia distribución de estas capacidades avanzadas también conlleva riesgos, por lo que es necesario sopesar cuidadosamente estas consideraciones contrapuestas.
Inspecciones para detectar lealtades secretas: Desarrollar métodos técnicos robustos para detectar si los sistemas de IA han sido programados con intenciones ocultas o puertas traseras que les permitan servir a intereses contrarios a su propósito declarado.
Salvaguardias militares para la IA: Exigir que los sistemas de IA desplegados en contextos militares tengan salvaguardias robustas contra la participación en golpes de Estado, incluidos principios contra el ataque a civiles y múltiples requisitos de autorización independiente para acciones extremas.

Preferencias de usuario