Resumen
Una tecnología avanzada como la IA podría permitir a sus creadores, o a quienes la controlen, intentar y lograr conquistas de poder social sin precedentes. En determinadas circunstancias, podrían utilizar estos sistemas para hacerse con el control de economías, ejércitos y gobiernos enteros.
Este tipo de toma de poder por parte de una sola persona o de un pequeño grupo supondría una gran amenaza para el resto de la humanidad.
Profundidad del perfil
Exploratorio.a
¿Por qué es un problema grave?
Las nuevas tecnologías pueden cambiar drásticamente el equilibrio de poder en la sociedad. Un claro ejemplo de ello es la manera en que la Revolución Industrial ayudó a Gran Bretaña a potenciar su imperio global.b
Con el rápido avance de la tecnología de IA, existe un grave riesgo de que esta posibilite una toma de poder global aún más extrema.
La IA avanzada es especialmente preocupante porque podría llegar a ser controlada por un reducido número de personas, o incluso una sola. Una IA podría copiarse indefinidamente y, con suficiente infraestructura de cómputo y un sistema suficientemente potente, una sola persona podría controlar un ejército virtual o real de agentes de IA.
Y dado que la IA avanzada podría desencadenar potencialmente un crecimiento explosivo en la economía, la tecnología y la inteligencia, cualquiera que tenga el control unilateral sobre los sistemas más potentes podría dominar al resto de la humanidad.
Un factor que potencia esta amenaza es la posibilidad de lealtades secretas. Podría ser posible crear sistemas de IA que parezcan velar por los intereses de la sociedad, pero que en realidad sean leales solo a una persona o a un pequeño grupo.c A medida que estos sistemas se desplieguen en la economía, el gobierno y el ejército, podrían buscar constantemente oportunidades para favorecer los intereses de sus verdaderos amos.
A continuación, se presentan tres posibles vías por las que la IA podría facilitar una toma de poder sin precedentes:
- Los desarrolladores de IA toman el control — en este escenario, los actores de una empresa u organización que desarrolla sistemas de IA de vanguardia utilizan su tecnología para hacerse con el control. Esto podría ocurrir si despliegan sus sistemas para su uso generalizado en la economía, el ejército y el gobierno, y estos mantuvieran una lealtad secreta hacia ellos. O podrían crear de manera interna sistemas lo suficientemente potentes como para acumular la riqueza y los recursos necesarios para lanzar una toma hostil de otros centros de poder.
- Golpes de Estado militares — a medida que los ejércitos incorporan la IA para obtener ventajas competitivas, introducen nuevas vulnerabilidades. Los sistemas de armas controlados por IA y el equipamiento militar autónomo podrían diseñarse para seguir órdenes sin escrúpulos, sin los controles de poder (formales e informales) que tradicionalmente ofrecen los ejércitos, como la posibilidad de amotinarse ante órdenes ilegales. Un líder militar u otro actor (incluidos gobiernos extranjeros potencialmente hostiles) podría encontrar la forma de asegurarse la lealtad de la IA militar y utilizarla para ejercer un control de gran alcance.
- Autocratización — los líderes políticos podrían utilizar sistemas avanzados de IA para afianzar su poder. Independientemente de si son elegidos o no, podrían utilizar sistemas avanzados de IA para debilitar a cualquier posible contrincante político. Por ejemplo, podrían utilizar sistemas mejorados de vigilancia y aplicación de la ley para someter a la oposición.
Un poder extremo concentrado en manos de unas pocas personas supondría una gran amenaza para los intereses del resto del mundo. Incluso podría socavar el potencial de un futuro próspero, ya que el curso de los acontecimientos podría depender de los caprichos de aquellos con aspiraciones dictatoriales.
También es probable que la IA pueda utilizarse para mejorar ampliamente la gobernanza, pero cabría esperar que los escenarios en los que la IA facilitara tomas de poder hostiles o ilegítimas fueran perjudiciales para el futuro de la humanidad.
¿Qué se puede hacer para mitigar estos riesgos?
Consideramos necesario investigar mucho más a fondo cuáles son los mejores métodos para reducir el riesgo de una toma de poder por medio de la IA. Varios enfoques que podrían ayudar incluyen:
- Salvaguardias en el uso interno: Implementar una supervisión sofisticada del uso de los sistemas de IA dentro de las empresas de vanguardia, con restricciones de acceso a modelos “irrestrictamente útiles” que seguirán cualquier instrucción sin limitaciones.
- Transparencia sobre las especificaciones de los modelos: Publicar información detallada sobre cómo están diseñados para comportarse los sistemas de IA, incluidas las salvaguardias y las limitaciones de sus acciones, permitiendo el escrutinio externo y la identificación de posibles vulnerabilidades.
- Compartir ampliamente las capacidades: Garantizar que las capacidades avanzadas de la IA se distribuyan entre múltiples partes interesadas, en lugar de concentrarse en manos de unos pocos individuos u organizaciones. Esto crea controles y contrapesos que dificultan las tomas de poder. No obstante, cabe señalar que la amplia distribución de estas capacidades avanzadas también conlleva riesgos, por lo que es necesario sopesar cuidadosamente estas consideraciones contrapuestas.
- Inspecciones para detectar lealtades secretas: Desarrollar métodos técnicos robustos para detectar si los sistemas de IA han sido programados con intenciones ocultas o puertas traseras que les permitan servir a intereses contrarios a su propósito declarado.
- Salvaguardias militares para la IA: Exigir que los sistemas de IA desplegados en contextos militares tengan salvaguardias robustas contra la participación en golpes de Estado, incluidos principios contra el ataque a civiles y múltiples requisitos de autorización independiente para acciones extremas.
Para profundizar en este problema, escucha nuestra entrevista con Tom Davidson.
Más información
- AI-enabled coups por Tom Davidson, Lukas Finnveden y Rose Hadshar
- Pódcast: Will MacAskill on AI causing a “century in a decade” — and how we’re completely unprepared.
- Nuestro análisis de carreras profesionales en gobernanza y políticas de la IA
- Nuestro perfil de problema sobre totalitarismo estable
- Sleeper Agents de Evan Hubinger et al. de Anthropic