Cómo la IA podría provocar pandemias catastróficas
Esta entrada se ha actualizado para incluir el lanzamiento de Claude 4.5 Opus en noviembre de 2025.
A medida que las herramientas de IA abren nuevas vías para el diseño de vacunas, el descubrimiento de fármacos y la detección de enfermedades, también están reduciendo la barrera para crear amenazas pandémicas.
Esta entrada describe la situación a fecha de septiembre de 2025:
-
Los modelos de lenguaje de vanguardia estadounidenses están “cerca” de poder ayudar a principiantes a fabricar armas biológicas y se han lanzado con medidas de seguridad mejoradas.
-
Los modelos chinos muestran capacidades comparables, pero medidas de seguridad considerablemente más débiles, ya que acceden al 94 % de las solicitudes maliciosas, frente al 8 % en el caso de los modelos estadounidenses.
-
Las herramientas biológicas de IA están ampliando los límites de lo posible. Estudios recientes han generado 16 nuevos virus, varios de ellos más infecciosos que sus modelos naturales. Muchas herramientas de alto riesgo son de código abierto en su totalidad.
Desarrollar y liberar un patógeno pandémico sigue siendo difícil, y el número de actores con la capacidad y la motivación para causar víctimas masivas sigue siendo reducido. Sin embargo, cabe esperar que esto resulte más fácil a medida que los sistemas de IA se vuelvan más potentes. Por otro lado, la pandemia de COVID nos ha demostrado lo poco preparados que estamos.
La biología es la mayor vulnerabilidad de la civilización humana
La pandemia de COVID-19 se cobró la vida de unos 27 millones de personas en todo el mundo y supuso un costo de decenas de billones de dólares. Esto continúa una tendencia de siglos en la que las enfermedades pandémicas se encuentran entre los desastres más mortíferos de la humanidad.
Desde 1900, solo siete catástrofes agudas han causado más de 10 millones de muertes:
-
La pandemia de la “gripe de 1918” (1918-1920): Entre 50 y 100 millones de muertes
-
La Segunda Guerra Mundial (1939-1945): cerca de 66 millones de muertes
-
La Gran Hambruna China (1959-1961): cerca de 36 millones de muertes
-
La pandemia de VIH/SIDA (1981-actualidad): cerca de 33 millones de muertes
-
La pandemia de COVID-19 (2019-2024): cerca de 27 millones de muertes
-
La Hambruna China (1906-1907): entre 20 y 25 millones de muertes
-
La Primera Guerra Mundial (1914-1918): cerca de 15 millones de muertes
A modo de comparación:
-
Todas las demás guerras entre 1800 y 2011 tomadas en conjunto mataron a aproximadamente 9 millones de combatientes.
-
Todos los desastres naturales desde 1900, excluyendo enfermedades y hambrunas, en conjunto han matado a aproximadamente 23 millones de personas.
Esto no es de extrañar: un patógeno invisible y autorreplicante que se transmite de persona a persona es una forma devastadora de matar a mucha gente en poco tiempo.
El hecho no ha pasado desapercibido para los gobiernos, grupos terroristas ni actores aislados inescrupulosos.
En distintos momentos del siglo XX, la Unión Soviética, Japón, Estados Unidos y muchos otros Estados-nación contaban con importantes programas de armas biológicas. Se sospecha ampliamente que Rusia, Corea del Norte y China mantienen hoy en día dichos programas, a pesar de ser signatarios de la Convención sobre las Armas Biológicas.
Tanto el grupo Rajneeshee como Aum Shinrikyo intentaron llevar a cabo atentados terroristas con armas biológicas en las décadas de 1980 y 1990. Aum Shinrikyo tenía objetivos explícitamente apocalípticos para provocar muertes masivas. Los ataques con ántrax de 2001 en Estados Unidos fueron probablemente perpetrados por el “lobo solitario” Bruce Edwards Ivins, un científico de los laboratorios de biodefensa del Gobierno estadounidense en Fort Detrick.
La biología sintética y la IA están abriendo una nueva frontera
Biología sintética
Desde el descubrimiento a mediados del siglo XX de que el ADN es el principal material biológico hereditario, se ha desatado una carrera por comprender y manipular el lenguaje fundamental de la vida.
Las primeras herramientas rudimentarias para leer y editar el ADN se desarrollaron en las décadas de 1970 y 1980, y desde entonces se han vuelto cada vez más baratas y potentes. La secuenciación del ADN (la lectura de las “letras” que componen el “lenguaje” del ADN) es un millón de veces más barata en 2025 que en 2003, cuando se completó el Proyecto Genoma Humano. Las primeras enzimas de corte de ADN de la década de 1970 solo podían cortar en sitios específicos, mientras que los sistemas CRISPR actuales pueden realizar modificaciones con una precisión cercana a un solo nucleótido.
Más allá de leer y editar el ADN, podemos escribir e imprimir genomas desde cero. Los costos de síntesis de ADN no han caído tan drásticamente como los de secuenciación (hoy en día es solo 20 veces más barato que en 2005), pero hemos sido capaces de crear organismos sintéticos más complejos. El primer virus totalmente sintético se creó en 2002, y la primera bacteria totalmente sintética, en 2010. Desde entonces, hemos creado nuevas bacterias con todos los genes innecesarios eliminados y genomas recodificados.
Ya hemos visto los beneficios de la biología sintética aplicada. La insulina humana sintética producida por bacterias ha transformado el tratamiento de la diabetes desde 1983. La artemisinina semisintética para tratar la malaria ha estabilizado el suministro y reducido la volatilidad de los precios. Las vacunas de ARN mensajero contra la COVID-19 se desarrollaron y autorizaron 10 veces más rápido que cualquier otra vacuna de la historia y probablemente han salvado millones de vidas.
La biología sintética también ha abierto nuevas vías para las armas de destrucción masiva, mucho más allá de lo que la naturaleza ha diseñado.
La genética dirigida consiste en secuencias de ADN capaces de replicarse a sí mismas, de modo que se transmiten a toda la descendencia en los organismos que se reproducen sexualmente. Inicialmente se propuso para hacer que las poblaciones de mosquitos fueran resistentes al parásito de la malaria, y las pruebas de laboratorio demuestran que es eficaz, pero, en teoría, podría diseñarse para cultivos o incluso para seres humanos.
Más recientemente, un grupo de destacados biólogos sintéticos ha instado a la precaución en la investigación sobre la “vida especular”. Se trata de organismos biológicos cuyo ADN y proteínas son la imagen especular de los que aparecen en la naturaleza. Las proteínas especulares tienen aplicaciones terapéuticas, y se han realizado algunas investigaciones iniciales para diseñar organismos totalmente especulares, aunque aún faltan décadas para que esto sea posible. La principal preocupación en este caso es que las bacterias especulares podrían alimentarse de nutrientes no quirales (aquellos que son simétricos, por lo que la imagen especular es igual que la versión natural). Podrían infectar a seres humanos, animales y cultivos, y nuestro sistema inmunitario tendría dificultades para reconocerlas y eliminarlas. El artículo sobre la vida especular ilustra esta preocupación:
Aunque al principio nos mostrábamos escépticos de que las bacterias especulares pudieran suponer riesgos importantes, ahora nos sentimos profundamente preocupados. No estábamos seguros de la viabilidad de sintetizar bacterias especulares, pero hemos llegado a la conclusión de que el progreso tecnológico probablemente lo hará posible. Tampoco estábamos seguros de las consecuencias de una infección por bacterias especulares en humanos y animales, pero un examen minucioso de los estudios existentes nos ha llevado a concluir que las infecciones podrían ser graves. A diferencia de los debates anteriores sobre la vida especular, también nos hemos dado cuenta de que las bacterias especulares heterótrofas generalistas podrían encontrar una amplia gama de nutrientes en los huéspedes animales y en el medio ambiente y, por lo tanto, no estarían intrínsecamente biocontenidas.
Pedimos un análisis más riguroso de nuestros hallazgos y más investigación para comprender mejor estos riesgos. Sin embargo, a falta de pruebas convincentes que nos tranquilicen, nuestra opinión es que no deberían crearse bacterias especulares ni otros organismos especulares. Creemos que esto puede garantizarse con un impacto mínimo en la investigación beneficiosa y hacemos un llamamiento a una amplia participación para determinar el camino a seguir.
Aunque este ejemplo concreto sigue siendo teórico, muestra cómo la biología sintética podría ampliar el espacio de posibilidades de las amenazas biológicas más allá de lo que la naturaleza ha hecho posible.
IA
Los modelos de IA ya están acelerando avances beneficiosos en la biología sintética. Cabe destacar que el Premio Nobel de Química de 2024 fue para los creadores de AlphaFold2, un modelo de IA que predice la estructura de las proteínas a partir de secuencias de aminoácidos.
En cuanto a los riesgos, hay dos ámbitos que preocupan a los expertos:
-
Los modelos de lenguaje a gran escala que permiten a más personas desarrollar y desplegar patógenos peligrosos al ayudar a principiantes a diseñar y solucionar problemas en experimentos.
-
Las herramientas biológicas de IA que amplían los límites del daño a través de la nueva biología sintética.
Modelos de lenguaje a gran escala
Anthropic y OpenAI son las únicas empresas que publican evaluaciones detalladas sobre armas biológicas. Estas evaluaciones miden la capacidad de los modelos para elaborar planes detallados de principio a fin sobre cómo sintetizar un arma biológica, solucionar problemas en experimentos de laboratorio y eludir los controles de seguridad de las empresas de síntesis de ADN.
Ambas empresas han declarado en los últimos lanzamientos que sus modelos no están lejos de poder ayudar a principiantes a fabricar armas biológicas y los han lanzado con las medidas de seguridad adecuadas.
GPT-5 de OpenAI (agosto de 2025):
Hemos decidido asumir que este modelo tiene una alta capacidad en los ámbitos biológico y químico, por lo que hemos activado las medidas de seguridad de preparación asociadas. No disponemos de pruebas definitivas de que este modelo pueda ayudar de manera significativa a un principiante a causar daños biológicos graves —nuestro umbral definido para la alta capacidad— y el modelo, aunque está cerca de alcanzar tal capacidad, todavía no la alcanza.
Claude 4 Opus de Anthropic (mayo de 2025):
El resultado de Claude Opus 4 es lo suficientemente cercano como para que no podamos descartar el ASL-3 [Nivel 3 de Seguridad de la IA].
Nuestro umbral de capacidad ASL-3 para las armas CBRN (químicas, biológicas, radiológicas y nucleares) mide la capacidad de ayudar de manera significativa a personas o grupos con conocimientos técnicos básicos (por ejemplo, con un título universitario de grado en CTIM) a crear, obtener y desplegar estas armas.
Claude 4.5 Sonnet de Anthropic (septiembre de 2025):
En general, observamos que Claude Sonnet 4.5 demostró un mayor conocimiento de biología y un mejor uso de herramientas para las evaluaciones de agencia en bioseguridad, en comparación con los modelos anteriores de Claude. En concreto, Claude Sonnet 4.5 superó a los modelos Claude Opus 4 y Claude Opus 4.1 tanto en las tareas de virología de formato extenso como en varias subtareas de la evaluación de cribado de síntesis de ADN, al tiempo que logró un rendimiento comparable en todas las demás evaluaciones. Como resultado, determinamos que las medidas de seguridad ASL-3 eran adecuadas.
Claude 4.5 Opus de Anthropic (noviembre de 2025):
Cabe destacar que, en una prueba de mejora del rendimiento de expertos, Claude Opus 4.5 resultó significativamente más útil para los participantes que los modelos anteriores, lo que se tradujo en puntuaciones sustancialmente más altas y menos errores críticos, aunque siguió produciendo errores críticos que dieron lugar a protocolos inviables.
La exclusión de CBRN-4 resulta menos clara para Claude Opus 4.5 de lo que nos gustaría. Gran parte de nuestra incertidumbre respecto a dicha exclusión se debe también a nuestra comprensión limitada de los componentes necesarios del modelo de amenaza. CBRN-4 requiere elevar un programa estatal de armas biológicas de segundo nivel hasta alcanzar la sofisticación y el éxito de uno de primer nivel.
Los modelos chinos de última generación, como DeepSeek V3.1, Qwen3 y Kimi K2, muestran puntuaciones comparables a las de los modelos de vanguardia estadounidenses en razonamiento científico, matemáticas y razonamiento general, aunque carecemos de evaluaciones detalladas sobre armas biológicas. Es fundamental señalar que las medidas de seguridad de estos modelos son mucho más débiles que las de los modelos estadounidenses. Un estudio de septiembre de 2025 realizado por el Center for AI Standards and Innovation de EE. UU. reveló que el modelo más seguro de DeepSeek (R1-0528) accedía al 94 % de las solicitudes abiertamente maliciosas que utilizaban técnicas comunes de jailbreak, frente al 8 % de las solicitudes en los modelos de referencia estadounidenses. Esto significa que, aunque los laboratorios estadounidenses puedan implementar con éxito medidas de seguridad, los modelos chinos ofrecen una alternativa accesible para un uso impropio.
Herramientas biológicas de IA
“Herramientas biológicas de IA” es un término genérico que engloba los modelos de IA entrenados con datos biológicos. Están especializadas en una tarea muy específica (por ejemplo, AlphaFold predice la estructura de las proteínas), en contraste con las capacidades generales de los modelos de lenguaje a gran escala.
El estudio más exhaustivo sobre estas herramientas realizado hasta la fecha analizó 1107 herramientas con una amplia gama de capacidades, entre las que se incluyen el diseño de vectores virales, la ingeniería de proteínas y la predicción de interacciones entre huésped y patógeno. De las 1107 herramientas analizadas, se determinó que 57 eran de “vanguardia”. De ellas, 13 recibieron la calificación “roja” por tener altas capacidades relevantes para un uso impropio, combinadas con madurez tecnológica. Lo más preocupante: el 61,5 % de las herramientas con calificación roja son de código totalmente abierto.
Los expertos siguen sin ponerse de acuerdo sobre si las herramientas biológicas de IA serán capaces de producir agentes biológicos más peligrosos que los patógenos que han evolucionado de forma natural. Los escépticos señalan que la evolución los ha optimizado durante miles de millones de años; los patógenos diseñados por el ser humano podrían tener dificultades para igualar simultáneamente la virulencia, la transmisibilidad y la evasión inmunitaria naturales. Otros replican que la evolución optimiza la aptitud del patógeno, no el daño a los humanos, y que los patógenos diseñados por IA podrían optimizarse para propiedades que la evolución no seleccionaría, como períodos de incubación prolongados o resistencia a las vacunas.
Para dar un ejemplo ilustrativo de lo que pueden hacer las herramientas biológicas de IA de vanguardia, consideremos el “modelo de lenguaje genómico” (gLM) Evo 2. En lugar de entrenarse con lenguaje natural, se entrenó con secuencias de ADN de más de 100 000 especies diferentes.
En septiembre de 2025, los investigadores lograron un avance decisivo al utilizar Evo 2 para generar los primeros genomas funcionales novedosos creados con IA. Crearon 16 virus sintéticos basados en ΦX174, un bacteriófago que ataca a la bacteria E. coli. Muchos de estos virus sintéticos son lo suficientemente distintos de cualquier virus conocido como para ser clasificados como especies propias. Además, algunos resultaron considerablemente más infecciosos que el ΦX174 original.
Dadas las posibles preocupaciones en materia de bioseguridad, el equipo de Evo2 excluyó de los datos de entrenamiento a los virus que infectan a los seres humanos. Sin embargo, el código, los parámetros del modelo y los datos de entrenamiento de Evo2 son totalmente de código abierto, y es probable que un actor lo suficientemente motivado pueda realizar un ajuste fino del modelo con estas secuencias virales.
[En dos minutos de búsqueda en Google, descubrí que hay un tutorial disponible públicamente sobre cómo realizar un ajuste fino de Evo2 y que el Gobierno de los EE. UU. mantiene una gran base de datos de código abierto de genomas virales humanos.]
La ventana para crear defensas se está cerrando
Dadas estas capacidades, ¿por qué aún no hemos visto un ataque bioterrorista mediante IA? Siguen existiendo varias barreras. Crear y liberar un patógeno pandémico sigue siendo difícil y requiere conocimientos tácitos que van más allá de lo que proporcionan los modelos de lenguaje a gran escala. Las habilidades de laboratorio húmedo, el acceso a equipos y la capacidad de resolución de problemas siguen siendo importantes. El grupo de actores con la capacidad y la intención de causar bajas masivas sigue siendo reducido. Y, de manera crucial, los modelos de IA con capacidades significativas de asistencia existen desde hace menos de un año.
Pero estas barreras se están desmoronando. Los modelos están mejorando en la resolución interactiva de problemas. La automatización biológica está reduciendo los requisitos de habilidades prácticas. Y, a medida que caen las barreras de capacidad, aumenta el grupo de actores con acceso a esta capacidad. La ausencia de ataques hasta ahora nos dice más sobre las barreras actuales e históricas que sobre el riesgo futuro.
Tenemos un margen de tiempo reducido para crear defensas que hagan frente a esta amenaza. El cribado exhaustivo de la síntesis de ADN es el cuello de botella crítico entre el diseño in silico y la producción física; esto debería ser obligatorio y de alcance mundial antes de que las secuencias diseñadas por IA se vuelvan trivialmente accesibles. Más allá de esto, necesitamos escalar la infraestructura existente de preparación para las pandemias: secuenciación metagenómica para la detección temprana de brotes, reservas de equipos de protección personal para un despliegue inmediato y tecnologías de plataformas de ARN mensajero para la producción rápida de vacunas. Gran parte de la tecnología necesaria ya existe; solo requiere financiamiento y despliegue.