En busca de estabilidad en la competencia por la ventaja de la IA
En un nuevo e importante informe, Superintelligence strategy: Expert vision, Dan Hendrycks, Eric Schmidt y Alexandr Wang plantean un escenario en el que Estados Unidos y China podrían competir de manera segura a medida que desarrollan sistemas de inteligencia artificial (IA) cada vez más potentes. Los autores pretenden sintetizar los imperativos de seguridad nacional, la competitividad económica y la gobernanza de la IA en un marco coherente para una acción gubernamental urgente. Son pocos los expertos que han propuesto estrategias integrales para gestionar el acelerado desarrollo de la IA, por lo que este ensayo supone una contribución fundamental para avanzar en el debate sobre las políticas en la materia.
Muchas de sus recomendaciones son acertadas y oportunas. Su propuesta más provocadora es un nuevo concepto para evitar que la competencia derive en inestabilidad entre los Estados líderes en IA, que los autores denominan «fallo de IA mutuamente asegurado» (en inglés mutually assured AI malfunction o MAIM, palabra que en inglés significa «mutilar» o «lisiar»), por analogía con la destrucción mutua asegurada (en inglés mutually assured destruction o MAD, palabra que en inglés significa «loco») nuclear. En el marco del MAIM, argumentan que «cualquier intento agresivo de un Estado por alcanzar el dominio unilateral de la IA se enfrenta al sabotaje preventivo de sus rivales». Aunque resulta valioso comparar las revoluciones nuclear y de la IA en busca de paralelismos y perspectivas, las diferencias entre ambas tecnologías y sus respectivos ecosistemas tienen profundas implicaciones estratégicas. Teniendo esto en cuenta, nos preocupan tanto la viabilidad práctica del concepto MAIM —como enfoque para superar los riesgos de inestabilidad en la carrera de la IA— como los posibles peligros de escalada que podrían derivarse de sus prescripciones fundamentales.
Elementos críticos de una estrategia de IA
Superintelligence strategy: Expert vision analiza el escenario cada vez más probable en el que Estados Unidos y China compiten agresivamente por alcanzar umbrales críticos en el desarrollo de una IA superinteligente, es decir, una IA que es más capaz que los humanos en prácticamente todas las tareas cognitivas, y también en muchas otras cuando se combina con robótica avanzada. (A este nivel de IA se le suele denominar «inteligencia artificial general» o IAG, pero es un término abstracto tan engañoso como esclarecedor). Muchos entusiastas de la IA sostienen (PDF) —y estos autores reconocen dicha posibilidad— que el primer Estado en desarrollar esta tecnología podría disfrutar de un crecimiento económico explosivo y de un poder militar sin precedentes a medida que la IA se reprograma y se duplica recursivamente a un ritmo vertiginoso para ser cada vez más capaz. Otros Estados podrían quedarse muy rezagados. Ese escenario entraña riesgos reales: si ambas partes consideran que la IA superinteligente es la clave para el dominio económico y tecnológico, y una amenaza potencialmente existencial si cae en manos de un adversario (ya sea por una intención hostil activa o porque un rival pierda el control de su IA), cabe esperar que los peligros de hostilidad y agresión mutuas aumenten cuanto más se acerque cualquiera de las partes a desarrollarla.
Hendrycks, Schmidt y Wang proponen una estrategia en tres partes para hacer frente a este escenario. Dos de los pilares son muy convincentes. Proponen una política de no proliferación de la IA: un esfuerzo por limitar los diversos riesgos de la proliferación de la IA mediante políticas y mecanismos basados en hardware que restrinjan el acceso de actores no estatales a los chips de IA de última generación y a los pesos de los modelos de IA de vanguardia. Dado el daño que podrían causar pequeños grupos con acceso a una IA superpoderosa, dicha agenda —aunque increíblemente difícil de llevar a la práctica (especialmente con el auge de los modelos de IA de pesos abiertos disponibles para cualquier usuario)— constituye una prioridad importante.
El segundo componente de su estrategia es la competencia gestionada, que aboga y busca garantizar que Estados Unidos siga liderando al mundo en el desarrollo y la difusión de la IA. Estamos de acuerdo, y también destacaríamos que competir en la Era de la IA implica algo más que desarrollar toda la cadena tecnológica; se trata también de forjar una sociedad capaz de implementar eficazmente la IA superinteligente, al tiempo que gestiona sus implicaciones disruptivas.
Muchas de las recomendaciones del documento vinculadas a estas dos líneas estratégicas de esfuerzo —seguridad del poder de cómputo, controles de exportación, seguridad de la información, salvaguardias de la IA e inversión en los fundamentos económicos de la ventaja de la IA— deberían formar parte de cualquier estrategia estadounidense en materia de IA con visión a futuro. Sin embargo, el tercer pilar de la estrategia propuesta —cómo disuadir a los Estados de perseguir imprudentemente un monopolio de la IA avanzada— plantea serias dudas.
Hendrycks, Schmidt y Wang describen un orden internacional en el que las amenazas de paralizar el desarrollo de la IA de un rival si este se precipita hacia un monopolio de la IAG pueden impedir que alguien busque dicho dominio tecnológico:
«Un Estado podría intentar sabotear un proyecto de IA de este tipo con intervenciones que van desde operaciones encubiertas que deterioren los procesos de entrenamiento hasta daños físicos que inutilicen la infraestructura de la IA. Así, ya nos estamos acercando a una dinámica similar a la de la destrucción mutua asegurada (MAD) nuclear, en la que ninguna potencia se atreve a intentar apoderarse abiertamente de un monopolio estratégico, ya que cualquier esfuerzo en ese sentido provocaría una respuesta paralizante. Esta condición estratégica, a la que denominamos fallo de IA mutuamente asegurado (MAIM), representa un régimen de disuasión potencialmente estable, pero mantenerlo podría requerir cautela».
Como exponen más adelante en el informe: «Si un Estado rival se lanza a la carrera hacia un monopolio estratégico, los demás Estados no se quedarán de brazos cruzados. […] En lugar de esperar a que un rival utilice una superinteligencia como arma contra ellos, los Estados actuarán para inutilizar los proyectos de IA que supongan una amenaza».
Esta es una idea que invita a la reflexión. No obstante, creemos que plantea graves problemas en dos ámbitos. En primer lugar, no parece ser un elemento disuasorio viable en la práctica. En segundo lugar, la capacidad de truncar los esfuerzos de un adversario por conseguir una IA avanzada agravaría, en lugar de mitigar, la inestabilidad de la carrera de la IA al crear poderosos incentivos para un primer ataque.
Apuntar a una tecnología opaca, distribuida y de uso general
El concepto MAIM depende de varios supuestos optimistas que sustentan la postulada «relativa facilidad para sabotear el programa de IA de un rival». Pero muchas de las técnicas de sabotaje propuestas serían extremadamente difíciles de implementar con eficacia por diversas razones. Aquí destacamos solo tres.
En primer lugar, el informe se refiere vagamente a una serie de acciones que los Estados podrían emprender para paralizar la arquitectura de un rival destinada a desarrollar IA avanzada. Estas van desde ciberataques y otras formas de sabotaje menos claramente definidas hasta ataques cinéticos contra centros de datos y otras instalaciones de apoyo a la IA mediante misiles hipersónicos. Esto da por sentado que los programas de IA del adversario contarán con instalaciones específicas que puedan localizarse y neutralizarse con facilidad. Sin embargo, los avances en el poder de cómputo distribuido en la nube, el entrenamiento descentralizado y el desarrollo de algoritmos reducen cada vez más la dependencia de instalaciones físicas centralizadas, lo que hace a los sistemas de IA más resistentes ante ataques limitados, además de dificultar el monitoreo del desarrollo de la IA del adversario. Por otra parte, a medida que las principales potencias en IA se acerquen a la superinteligencia, es de suponer que se esforzarán por proteger sus laboratorios de IA, centros de datos e infraestructuras de generación de energía frente a los ataques cibernéticos y el sabotaje físico, y que incorporarán cada vez más redundancia en sus sistemas. Y si cualquiera de las partes tuviera que escalar de la disrupción virtual al ataque directo, como supone el concepto MAIM, un ataque integral para inutilizar los centros de datos, la generación de energía y los laboratorios de IA en el territorio de la otra parte simplemente no es una opción realista para los ejércitos de Estados Unidos o China en la actualidad, a menos que se recurra al uso de armas nucleares.
Un segundo reto práctico radica en la expectativa de que cada parte pueda evaluar con precisión los avances secretos en IA de los demás y determinar cuándo sería necesaria una acción preventiva. Contrariamente a lo que se afirma en el informe, es poco probable que los Estados tengan una idea clara de cuándo ha llegado el momento de «lisiar» a su oponente. El concepto hace referencia a un punto desencadenante de «cualquier intento agresivo de un Estado por lograr el dominio unilateral de la IA», pero los términos agresivo y dominio son frustrantemente vagos, y no está claro que ninguno de los dos pueda definirse con la precisión suficiente como para aparecer en un documento de planificación que recomiende ataques preventivos a gran escala contra el territorio de otro país. Tanto los acontecimientos recientes como la historia de la competencia entre grandes potencias sugieren que puede resultar extremadamente difícil conocer el estado exacto del desarrollo tecnológico de un adversario, incluso con respecto a tecnologías como el desarrollo de armas nucleares, que involucran una infraestructura distintiva, una ciencia bien comprendida y umbrales de desarrollo relativamente claros.
Gran parte de la dificultad radica en una diferencia fundamental entre la disuasión nuclear de la Guerra Fría y la contemporánea, y el concepto MAIM. La MAD no pretendía impedir el desarrollo de armas, sino su uso, lo que simplificaba enormemente el umbral de respuesta (aunque podía seguir siendo problemático en casos como alertas de ataque falsas o ambiguas). No existe un umbral igualmente claro y evidente que justifique un ataque MAIM como medida defensiva. Desde una perspectiva china, por ejemplo, se podría argumentar de forma convincente —teniendo en cuenta las estrategias públicas de EE. UU. en materia de IA, las declaraciones de altos cargos, el financiamiento masivo del sector privado a los laboratorios de IA, la Ley CHIPS, los controles de exportación y el nuevo proyecto «Stargate», respaldado por el Gobierno— que Estados Unidos ya está avanzando a toda velocidad hacia el monopolio de la superinteligencia. Sin embargo, rara vez oímos que incluso los observadores más optimistas del progreso estadounidense en IA predigan un primer ataque chino o siquiera ciberataques a gran escala contra los laboratorios. Tampoco oímos esas ideas por parte de Estados Unidos, a pesar de los crecientes temores ante el avance acelerado de China en IA.
En tercer y último lugar, incluso una amenaza MAIM creíble podría no disuadir a un rival de desarrollar una IA superinteligente. Detener el desarrollo de la propia IA supondría, en esencia, los mismos costos que ser víctima de un ataque MAIM: la pérdida del programa de desarrollo de IA. Los instrumentos de prohibición de armas que han resultado razonablemente eficaces en el pasado (como el Tratado de No Proliferación y la Convención sobre las Armas Biológicas) obtienen su fuerza de la amenaza explícita o implícita de sufrir sanciones económicas, políticas o militares más amplias por incumplirlos, y no solo de la destrucción de las inversiones tecnológicas prohibidas.
Un Estado que se esté acercando a la superinteligencia tendría muchas opciones para frustrar o evitar que se ejecute una amenaza MAIM, aparte de ceder. Podría tomar medidas para ocultar su investigación, amenazar con respuestas proporcionales a cualquier ataque, recabar apoyo mundial y mucho más. También podría decidir acelerar, en lugar de detener, su trabajo en IA, partiendo del supuesto de que, dada la intención claramente hostil y represiva de su rival, la única vía hacia la verdadera seguridad es llegar primero.
La IA superinteligente sería la tecnología de uso general más poderosa de la historia de la humanidad. Promete transformar las sociedades, las economías y los ejércitos. Parece difícil de creer que una gran potencia, impulsada ya sea por la ambición de dominio mundial o por el temor a ser víctima de la ventaja tecnológica decisiva de otro, permita que su desarrollo de IA se vea paralizado por una amenaza tan limitada.
La problemática falta de «locura» (MAD) del MAIM
Además de estas preocupaciones sobre la viabilidad del concepto MAIM, un problema aún más grave radica en su lógica estratégica. A pesar de sus buenas intenciones, el MAIM podría agravar algunos de los mismos problemas de estabilidad que pretende resolver.
Aunque a menudo los autores presentan el MAIM como una realidad emergente —similar al aforismo de Robert Jervis de que «la MAD es un hecho, no una política»—, parecen recomendar que Estados Unidos lo adopte como una vía para un desarrollo seguro de la IA. Sin embargo, respaldar activamente el MAIM supondría declarar la disposición de Estados Unidos a ir a la guerra, de ser necesario, para impedir que China adquiera una tecnología de uso general con profundos beneficios sociales y humanos. Al lanzar esta amenaza, Estados Unidos incentivaría a China a llevar a la clandestinidad (tanto literal como metafóricamente) su desarrollo de IA más avanzado, reduciendo así la capacidad de los servicios de inteligencia estadounidenses para obtener información al respecto. Es posible que otros países no vean con buenos ojos un enfoque tan descaradamente unilateral y coercitivo, en especial si China ofreciera al mundo acceso a versiones de código abierto de su IA.
Lo más preocupante es que, una vez establecido un escenario de vulnerabilidad mutua en materia de IA, el riesgo de una crisis o incluso de una guerra podría aumentar en lugar de disminuir. Como se ha señalado, será muy difícil determinar el momento en que el desarrollo de la IA avanzada de un rival habrá alcanzado ese punto crítico. Por ello, un equilibrio basado en la lógica del MAIM podría resultar sumamente inestable, pues ambas partes se la pasarían malinterpretando las señales, reajustando las líneas rojas para responder y esforzándose por «calcular a ojo» los umbrales adecuados. Cada una de las partes sondearía el desarrollo de la IA de las demás con una intensidad rayana en la paranoia, y la posibilidad de percepciones erróneas podría llegar a ser enorme. Las medidas con un alto potencial de desencadenar una escalada podrían basarse en interpretaciones técnicas muy controvertidas —y algorítmicamente opacas— sobre los avances en IA. Y el resultado podría ser un equilibrio del terror basado en la IA extremadamente frágil.
Tal inestabilidad se vería amplificada por el hecho de que un Estado que se aproxime al umbral de la IA recursiva podría suponer que es capaz de anular los ataques de la otra parte, eliminando así la mutualidad del MAIM. El resultado serían dos (o más) bandos preparados para atacar, aterrorizados ante la idea de esperar demasiado para actuar. Si se les encomienda evitar que un rival dé un salto hacia la superinteligencia, las instituciones de seguridad nacional, reacias al riesgo, desconfiarán de depender de una inteligencia perfecta en el momento crítico, y bien podrían presionar para que se tomen medidas preventivas peligrosas.
Un ataque selectivo contra la infraestructura de IA avanzada también podría interpretarse como la primera oleada de un ataque más amplio contra la seguridad nacional del Estado objetivo. Es probable que la infraestructura de IA esté profundamente entrelazada con el poder económico y militar, por lo que un ataque contra los centros de datos de IA (por no hablar de las redes eléctricas) podría percibirse como un claro acto de guerra, lo que desencadenaría una rápida escalada. Distinguir un ataque inminente con misiles (o de otro tipo) contra sus centros de datos de un ataque más general sería difícil, si no imposible.
Parte del problema de la lógica estratégica del MAIM es que no refleja cómo funcionaba la disuasión nuclear durante la Guerra Fría. El documento presenta el MAIM como un análogo de la MAD, en el que «cualquier intento agresivo de un Estado por alcanzar el dominio unilateral de la IA se enfrenta al sabotaje preventivo de sus rivales». Pero así no funcionaba la MAD. La MAD era (y es) más bien lo contrario: ninguna de las partes era capaz de llevar a cabo un sabotaje o ataque preventivo eficaz y exhaustivo. Y ese era precisamente el objetivo: que nadie pudiera asestar un primer golpe sin exponerse a una respuesta devastadora. Ese equilibrio, a su vez, fue precisamente el que décadas de esfuerzos de control de armamentos buscaron reforzar.
La MAD tampoco fue una relación consolidada y estable una vez que surgió. Estados Unidos y la URSS adoptaron la destrucción asegurada, pero no la parte «mutua»: a menudo intentaron escapar de las limitaciones de la MAD con sistemas nucleares con capacidad de primer ataque y doctrinas de guerra nuclear y «limitación de daños», y temían constantemente que la otra parte pudiera lograrlo. La naturaleza de la tecnología y su enorme poder destructivo les impidieron superar la MAD, pero no fue por falta de intentos. Hay motivos de sobra para pensar que un «equilibrio del terror basado en la IA» generaría rápidamente toda una serie de medidas para recuperar la ventaja.
También vale la pena señalar que el escenario de MAIM descrito por Hendrycks, Schmidt y Wang es totalmente incompatible con la realidad actual del desarrollo de la IA impulsado por el sector privado. En un mundo en el que el progreso de la IA supusiera amenazas existenciales para los países, a los Estados seguramente les resultaría insostenible permitir que los actores del sector privado tomaran medidas que pudieran provocar una guerra. El control gubernamental de la investigación y el desarrollo de la IA parecería la única respuesta concebible en ese momento.
Conclusión
Superintelligence strategy: Expert vision ofrece un importante recordatorio de la necesidad de establecer una estrategia más coherente e integral por parte de todo el gobierno con respecto a la IA. Además, cumple una útil función catalizadora al plantear una serie de interrogantes interesantes para la investigación.
Queda mucho por comprender, y una agenda completa para promover la estabilidad en el camino hacia la superinteligencia requiere mucho más estudio si, citando a Isaac Asimov, queremos asegurarnos de que la ciencia no acumule conocimientos más rápido de lo que adquirimos sabiduría colectiva. Sin embargo, incluso ahora, creemos que es posible identificar varias medidas importantes —sin llegar al extremo de las amenazas disuasorias de atacar la infraestructura de la IA— que podrían resultar útiles.
Por ejemplo, Estados Unidos podría proponer un diálogo multilateral sobre la cuestión de la estabilidad geopolítica en el camino hacia la IA, con el objetivo de identificar puntos de riesgo claros y generar compromisos compartidos de contención. Podría sugerir un diálogo entre fuerzas armadas sobre las tecnologías militares desestabilizadoras derivadas de la superinteligencia y las medidas para mitigar sus efectos. En consonancia con las recomendaciones de Hendrycks, Schmidt y Wang, Estados Unidos podría proponer la colaboración entre los líderes en IA (lo que necesariamente incluiría a la industria privada) para controlar la proliferación en beneficio del interés común. Por último, y lo que es más importante, Estados Unidos podría anunciar su intención de rechazar algunas aplicaciones específicas de una IA cada vez más avanzada —como interferir en los sistemas de mando y control nuclear de otros países— para ofrecer ciertas garantías sobre el impacto potencial de la superinteligencia, aunque sería ingenuo esperar que, a corto plazo, China se sienta plenamente tranquila respecto a las intenciones estadounidenses.
Algo que Superintelligence strategy: Expert vision deja muy claro es la necesidad de un concepto estratégico para gestionar la estabilidad entre las grandes potencias en el camino hacia una IA de poder transformador. La amenaza de que los Estados intenten emprender acciones preventivas contra el desarrollo de la IA de sus rivales es motivo de seria preocupación. Sin embargo, existen dudas fundadas sobre si una doctrina de disuasión centrada en la acción preventiva aumentaría la inestabilidad en lugar de reducirla, sobre si el concepto es viable en la práctica y sobre la debilidad de las analogías con conceptos de la época de la Guerra Fría, como la MAD. Por lo tanto, puede que el MAIM no sea la respuesta adecuada, pero Estados Unidos y China necesitarán más de esta disposición a explorar ideas novedosas —y pronto— para gestionar esta peligrosa transición.