La IA y la evolución de los riesgos biológicos para la seguridad nacional: capacidades, umbrales e intervenciones

Resumen ejecutivo

Poco después de que la COVID-19 mostrara al mundo un atisbo del potencial catastrófico de los incidentes biológicos, los expertos comenzaron a advertir de que los rápidos avances en inteligencia artificial (IA) podrían presagiar un mundo de bioterrorismo, supervirus sin precedentes y nuevas armas biológicas dirigidas. Estas graves advertencias han llegado a los niveles más altos de la industria y el gobierno: desde los directores generales de los principales laboratorios de IA del mundo, que dan la voz de alarma sobre las nuevas capacidades técnicas al alcance de los posibles bioterroristas, hasta la preocupación de la vicepresidenta Kamala Harris de que las armas biológicas potenciadas por IA «podrían poner en peligro la propia existencia de la humanidad».⁠a De ser ciertos, tales avances expondrían a Estados Unidos a amenazas catastróficas sin precedentes, mucho más allá del alcance destructivo de la COVID-19. Sin embargo, evaluar hasta qué punto estas preocupaciones están justificadas —y qué hacer al respecto— requiere sopesar una serie de factores complejos, entre los que se incluyen:

• La historia y el estado actual de la bioseguridad estadounidense
• Las diversas formas en que la IA podría alterar los riesgos de bioseguridad existentes
• Qué capacidades técnicas emergentes de la IA afectarían a estos riesgos
• Dónde se necesitan intervenciones en la actualidad

Este informe analiza estos factores para proporcionar a los responsables de políticas una visión amplia de la intersección en constante evolución entre la IA y la biotecnología, junto con recomendaciones prácticas para mitigar los peores riesgos para la seguridad nacional derivados de las amenazas biológicas.

Las fuentes de riesgos biológicos catastróficos son variadas. Históricamente, los responsables de políticas han subestimado los riesgos que plantean las actividades rutinarias de científicos bienintencionados, incluso cuando el número de laboratorios de bioseguridad de alto riesgo y la frecuencia de incidentes peligrosos —entre los que quizá se incluya la propia COVID-19— siguen aumentando. Los actores estatales han sido tradicionalmente una fuente de riesgo considerable para la bioseguridad, sobre todo el programa de armas biológicas de la Unión Soviética, de proporciones asombrosas. Sin embargo, la dificultad de manejo y la imprecisión de las armas biológicas hacen que siga siendo poco probable que los Estados lancen ataques biológicos a gran escala a corto plazo, aunque el Departamento de Estado de EE. UU. exprese su preocupación por las posibles capacidades en materia de armas biológicas de Corea del Norte, Irán, Rusia y China. Por otra parte, los actores no estatales —entre los que se incluyen los «lobos solitarios», los terroristas y los grupos apocalípticos— tienen un historial inquietante de intentos de ataques biológicos, aunque con un éxito limitado debido a la complejidad intrínseca que supone desarrollar y manejar capacidades tan delicadas.

Hoy en día, los rápidos avances en biotecnología —independientemente de los avances en inteligencia artificial— están transformando muchos de estos riesgos. La combinación de nuevas técnicas de edición del genoma, métodos de secuenciación genética y herramientas de síntesis de ADN está abriendo un nuevo mundo de posibilidades en la biología sintética para lograr una mayor precisión en la manipulación genética y, con ello, un nuevo mundo de riesgos derivados tanto del desarrollo de potentes armas biológicas como de accidentes biológicos. Los laboratorios en la nube, que realizan experimentos por cuenta ajena, podrían facilitar la actuación de los actores no estatales al permitirles externalizar parte de la experticia experimental que históricamente ha actuado como barrera frente a usos peligrosos. Aunque la mayoría de los laboratorios en la nube revisan los pedidos para detectar actividades maliciosas, no todos lo hacen, y el conjunto de normas, convenciones y salvaguardias existentes en materia de armas biológicas deja abiertas diversas vías para que los actores malintencionados logren avances significativos en la adquisición de armas biológicas viables.

Sin embargo, las opiniones de los expertos sobre el estado general de la bioseguridad en EE. UU. varían ampliamente, especialmente en lo que respecta al temor a que actores no estatales utilicen armas biológicas. Los menos preocupados sostienen que, aunque existan vías viables para fabricar armas biológicas, los aspectos prácticos de su construcción, almacenamiento y diseminación son mucho más complejos de lo que la mayoría cree, con numerosos puntos potenciales de fallo que los preocupados por estos riesgos o bien no reconocen o bien subestiman. También señalan la ausencia de ataques biológicos a gran escala en las últimas décadas, a pesar de las advertencias constantes. Un grupo más pesimista apunta a experimentos que han demostrado la aparente facilidad con la que se pueden fabricar con éxito virus potentes utilizando datos de entrada disponibles en el mercado, así como a las barreras cada vez menores para acceder a los conocimientos y las capacidades técnicas necesarias para crear armas biológicas. Menos controvertida es la insuficiencia de las defensas biológicas de EE. UU. para hacer frente adecuadamente a amenazas biológicas a gran escala, ya sean de origen natural, accidentales o deliberadas. A pesar de que la COVID-19 ha puesto de manifiesto la incapacidad del Gobierno de EE. UU. para contener los efectos de un brote de gran envergadura, el país ha logrado avances limitados a la hora de mitigar la probabilidad y el daño potencial de otra catástrofe biológica aún más peligrosa.

Las nuevas capacidades de la IA pueden redefinir el panorama de riesgo de las amenazas biológicas de varias maneras. La IA está facilitando nuevas capacidades que, en teoría, podrían permitir a los actores avanzados optimizar las armas biológicas para lograr efectos más precisos, como atacar a grupos genéticos específicos o zonas geográficas concretas. Aunque estas capacidades siguen siendo especulativas, si se hicieran realidad alterarían drásticamente los incentivos de los Estados para utilizar armas biológicas con fines estratégicos. En lugar de poner en riesgo la salud de sus propias fuerzas armadas o de su población con armas difíciles de manejar, los Estados podrían sabotear la seguridad alimentaria de otras naciones o incapacitar a sus enemigos mediante crisis de salud pública de las que probablemente no podrían recuperarse. De igual modo, estas técnicas podrían crear supervirus optimizados para la transmisibilidad y la letalidad, lo que podría ampliar considerablemente el potencial destructivo de las armas biológicas. Sin embargo, estos temores se ven atenuados por varios retos técnicos que los científicos tendrían que superar, si es que ello es siquiera posible.

La preocupación más acuciante en cuanto a los riesgos biológicos relacionados con la IA proviene de las herramientas que pronto podrían acelerar la obtención de agentes biológicos por parte de actores no estatales. Estudios recientes sugieren que los modelos fundacionales podrían contribuir en breve a acelerar la capacidad de los actores malintencionados para adquirir agentes biológicos aptos para su uso como armas, aunque el grado en que estas herramientas de IA pueden ayudarles actualmente sigue siendo marginal.⁠b Resulta especialmente preocupante la capacidad incipiente de los sistemas de IA para ayudar a identificar dónde han fallado los experimentos, acelerando así el bucle de realimentación «diseñar-construir-probar-aprender» que es esencial para desarrollar agentes biológicos funcionales. Si se vuelven más eficaces, las herramientas emergentes de IA podrían suponer una gran ventaja para los posibles creadores de armas biológicas, al proporcionar de forma más dinámica parte de los conocimientos necesarios para producir y utilizar dichas armas, aunque dichos actores seguirían enfrentándose a otros obstáculos significativos —y a menudo subestimados— para el desarrollo de armas biológicas.

La IA también podría influir en los riesgos biológicos de otras maneras. Los fallos técnicos en las herramientas de IA podrían no impedir que los modelos fundacionales transmitan información biológica peligrosa a posibles actores malintencionados, o animar inadvertidamente a los investigadores a desarrollar agentes medicinales prometedores con efectos secundarios negativos inesperados. El uso de la IA para crear laboratorios automatizados más avanzados podría exponer a estos laboratorios a muchos de los riesgos de la automatización que históricamente han afectado a otros sistemas automatizados complejos, y facilitar que personas no especializadas elaboren agentes biológicos (dependiendo de los mecanismos de seguridad que establezcan los laboratorios automatizados). Por último, la fuerte inversión en empresas y países que buscan sacar partido del potencial de la IA para la biotecnología podría estar creando dinámicas de competencia que prioricen la rapidez frente a la seguridad. Estos riesgos son especialmente graves en relación con China, donde otros factores que configuran el ecosistema biotecnológico del país agravan aún más el riesgo de accidentes costosos.

Intentar predecir con exactitud cómo y cuándo se desarrollarán los riesgos catastróficos en la intersección entre la biotecnología y la IA en los próximos años es una tarea inútil, dada la incertidumbre inherente al progreso científico de ambas disciplinas. En su lugar, este informe identifica cuatro áreas de capacidad que los expertos y los responsables de políticas deben supervisar y que tendrán el mayor impacto en los riesgos asociados a la IA:

1. La capacidad de los modelos fundacionales para proporcionar eficazmente instrucciones experimentales para aplicaciones biológicas avanzadas
2. Los avances de los laboratorios en la nube y de la automatización de laboratorios en la reducción de la experticia experimental exigida en biotecnología
3. Los avances de doble uso en la investigación sobre la susceptibilidad genética del hospedador a las enfermedades infecciosas
4. Los avances de doble uso en la ingeniería de precisión de patógenos virales

Prestar especial atención a estas capacidades ayudará a los expertos y a los responsables de políticas a adelantarse a los riesgos en constante evolución en los próximos años.

Por el momento, deberían adoptarse las siguientes medidas para frenar los riesgos emergentes en la intersección entre la IA y la bioseguridad:

• Reforzar aún más los mecanismos de control de los laboratorios en la nube y otros proveedores de síntesis genética
• Realizar evaluaciones periódicas y rigurosas de las capacidades biológicas de los modelos fundacionales a lo largo de todo el ciclo de vida de las armas biológicas
• Invertir en mecanismos técnicos de seguridad que puedan mitigar las amenazas de los modelos fundacionales, especialmente medidas de protección reforzadas para el acceso en la nube a herramientas de IA, capacidades de «desaprendizaje» y enfoques novedosos para los «riesgos de la información» en el entrenamiento de los modelos.
• Actualizar la inversión pública para dar mayor prioridad a la agilidad y la flexibilidad en los sistemas de biodefensa.
• A largo plazo, considerar un régimen de licencias para un conjunto reducido de herramientas de diseño biológico con capacidades potencialmente catastróficas, en caso de que dichas capacidades comiencen a materializarse.

Introducción

En 2020, la COVID-19 puso al mundo de rodillas, con cerca de 29 millones de muertes estimadas, graves perturbaciones sociales y políticas, y enormes repercusiones económicas.⁠c Sin embargo, el impacto de este suceso podría haber sido mucho peor si el virus hubiera sido más letal, más transmisible o ambas cosas. Durante décadas, los expertos han advertido de que la humanidad está entrando en una era de posibles pandemias catastróficas que harían que la COVID-19 pareciera leve en comparación. La historia está repleta de ejemplos de este tipo, entre los que destacan la gripe de 1918, la Peste Negra y la plaga de Justiniano; cada una de las cuales, ajustada a la población actual, habría eclipsado el número de muertes de la COVID-19.⁠⁠1

Igualmente preocupante es que muchos expertos hayan dado la voz de alarma sobre posibles bioataques deliberados en los próximos años. Existen algunos precedentes: en las semanas posteriores al 11-S, se enviaron por correo cartas que contenían esporas mortales de ántrax a legisladores y medios de comunicación estadounidenses, y el ataque podría haber sido considerablemente peor si el autor hubiera ideado un mecanismo de dispersión más eficaz. El episodio podría presagiar un futuro en el que una mayor disponibilidad de capacidades biológicas implique que individuos malintencionados y pequeños grupos devasten gobiernos y sociedades mediante ataques biológicos estratégicos. Jeff Alstott, exdirector de tecnología y seguridad nacional del Consejo de Seguridad Nacional, advirtió en septiembre de 2023 que el expediente clasificado contenía «incidentes bastante recientes que estuvieron muy cerca de ser una catástrofe» en los que actores no estatales intentaron utilizar armas biológicas a «escala estratégica».⁠d

Valorar con precisión hasta qué punto son creíbles estas advertencias tan alarmantes puede parecer casi imposible, y requiere un juicio sereno ante los contrafácticos opacos, el alarmismo, el negacionismo y las posibilidades horribles. Pero, independientemente de su probabilidad, el potencial destructivo de las catástrofes biológicas es innegablemente enorme: la historia está plagada de ejemplos de sociedades que se han visto sometidas a una gran presión e incluso han colapsado bajo el peso de las enfermedades —desde la devastadora epidemia que asoló la antigua Atenas durante la Guerra del Peloponeso, hasta la peste bubónica que paralizó el Imperio Romano de Oriente en el siglo VI, pasando por el cataclísmico brote de salmonela en el Imperio azteca en el siglo XVI—.⁠e Es esencial que los líderes estadounidenses aborden con seriedad los riesgos de catástrofe biológica —los cuales, según muchos, cambiarán drásticamente en la era de la inteligencia artificial—.

Los líderes gubernamentales y del sector privado han expresado su profunda preocupación por la posibilidad de que la IA aumente drásticamente los riesgos asociados a sucesos catastróficos en general, y a catástrofes biológicas en particular.⁠f En una audiencia del Congreso celebrada en julio de 2023, Dario Amodei, director general del destacado laboratorio de IA Anthropic, afirmó que, en un plazo de dos a tres años, existía un «riesgo sustancial» de que las herramientas de IA «ampliaran considerablemente el abanico de actores con la capacidad técnica para llevar a cabo un ataque biológico a gran escala».⁠g El ex primer ministro del Reino Unido, Rishi Sunak, expresó igualmente su urgente preocupación por el hecho de que tal vez solo quede una «pequeña ventana» de tiempo antes de que la IA permita un cambio radical en las capacidades bioterroristas.⁠h La vicepresidenta de EE. UU., Kamala Harris, advirtió de la amenaza de «armas biológicas formuladas por la IA que podrían poner en peligro la vida de millones de personas… [y] podrían poner en peligro la propia existencia de la humanidad».⁠i Se trata de afirmaciones graves. De ser ciertas, representarían un aumento significativo de los riesgos de bioterrorismo. Pero, ¿son ciertas?

El presente informe tiene como objetivo evaluar con claridad el impacto de la IA en los riesgos de una catástrofe biológica. En primer lugar, analiza la historia y el panorama actual de riesgos en materia de bioseguridad estadounidense, independientemente de las perturbaciones provocadas por la IA. Basándose en un informe complementario, Catalyzing Crisis: A Primer on Artificial Intelligence, Catastrophes, and National Security, este estudio analiza a continuación cómo la IA está afectando a los riesgos biológicos en cuatro dimensiones de la seguridad de la IA: nuevas capacidades, retos técnicos, integración en sistemas complejos y condiciones de desarrollo de la IA.⁠j Partiendo de este análisis, el informe identifica áreas de desarrollo de capacidades futuras que podrían alterar sustancialmente los riesgos de catástrofes biológicas a gran escala y que merecen ser objeto de seguimiento a medida que la tecnología sigue evolucionando. Por último, el informe recomienda medidas concretas para que los responsables de políticas aborden los riesgos actuales y a corto plazo de catástrofes biológicas.

Si bien el potencial teórico de que la IA aumente la probabilidad y el impacto de las catástrofes biológicas es muy elevado, hasta la fecha los efectos de la IA sobre los riesgos biológicos han sido marginales. No hay forma de saber con certeza si, o cuándo, acabarán materializándose riesgos más graves, pero un seguimiento minucioso de varias capacidades en la intersección entre la IA y la biotecnología puede proporcionar indicios útiles, entre ellos la eficacia de las instrucciones experimentales de los modelos fundacionales, las cambiantes exigencias del conocimiento tácito a medida que aumenta la automatización de los laboratorios, y la investigación de doble uso impulsada por la IA sobre la susceptibilidad genética del hospedador a las enfermedades infecciosas y la ingeniería de precisión de patógenos. Para no verse sorprendidos con la guardia baja, los responsables de políticas deberían actuar ahora para reforzar las defensas biológicas de Estados Unidos de cara a la era de la IA, fortaleciendo los mecanismos de control de los proveedores de síntesis génica, evaluando periódicamente las capacidades en materia de armas biológicas de los modelos fundacionales, invirtiendo en una serie de mecanismos de seguridad técnica de la IA y preparándose para establecer requisitos de licencia para las herramientas sofisticadas de diseño biológico si estas comienzan a acercarse a capacidades potencialmente catastróficas.

---

Publicación original: Bill Drexel & Caleb Withers (2024) AI and the evolution of biological national security risks: capabilities, thresholds, and interventions, Center for a New American Security, 13 de agosto.