Preparativos para el lanzamiento
Una introducción a The Launch Sequence: por qué es importante orientar el progreso de la IA y cómo hacerlo
Este ensayo es el prólogo de The Launch Sequence, una recopilación de ideas concretas y ambiciosas destinadas a preparar al mundo para la IA avanzada. Estos proyectos necesitan personas que los desarrollen. Ponte en contacto con nosotros.
Si ampliamos la perspectiva más allá del debate sobre las capacidades específicas de cada nuevo modelo de IA, la trayectoria histórica del progreso de la IA resulta evidente: sus capacidades se potencian continuamente hacia algo transformador. Aunque los agentes actuales aún tropiezan al ejecutar largas secuencias de acciones, su rendimiento —medido con respecto al desempeño humano— en áreas como la programación, las matemáticas, el uso de herramientas y el análisis científico ha ido aumentando a un ritmo exponencial. Si más ámbitos siguen cediendo ante estas tendencias, la próxima década verá a la IA remodelar la economía, la ciencia y los cimientos del poder nacional.
Pero las trayectorias tecnológicas no son un destino ineludible. La IA no resuelve automáticamente primero los problemas más importantes, y tampoco neutralizará los nuevos riesgos que genera por defecto. Muchas propuestas destinadas a «maximizar los beneficios de la IA» y a «minimizar sus riesgos» están mal orientadas o adolecen de una grave falta de ambición. En este ensayo, exponemos los argumentos básicos para que Estados Unidos oriente de forma proactiva el progreso de la IA al acelerar el desarrollo de tecnologías tanto beneficiosas como defensivas:
- El progreso de la IA depende de la trayectoria: la secuencia del progreso de la IA es importante; dónde y en qué orden se desarrollan las nuevas capacidades puede ser tan importante como qué nuevas capacidades se desarrollan.
- Dada su posición en la cadena de suministro de la IA, y en su calidad de la democracia más poderosa del mundo, Estados Unidos tiene la responsabilidad de orientar el desarrollo de la IA hacia una trayectoria que dé lugar a la prosperidad de la humanidad y no a su sofocamiento.
Esta orientación proactiva no carece de precedentes. Desde la fisión nuclear hasta los vuelos espaciales y el ARNm, Estados Unidos ha cambiado la trayectoria de las tecnologías emergentes en repetidas ocasiones. En la era de la IA, defendemos cuatro principios rectores:
- Debemos aprovechar la naturaleza irregular de la frontera de las capacidades de la IA.
- No debemos pasar por alto los costos de un progreso estancado.
- Debemos rediseñar el funcionamiento de muchas de nuestras instituciones científicas.
- Debemos adaptarnos a la profunda incertidumbre mientras trabajamos para aminorarla.
Estos principios motivan The Launch Sequence: una colección de proyectos concretos y ambiciosos para acelerar la ciencia y reforzar la seguridad en los plazos que importan.
¿Por qué orientar el progreso de la IA?
Las empresas estadounidenses están apostando fuerte por la IA. Hace unos dos años, la inversión en la construcción de plantas de semiconductores superó la destinada a la construcción de cualquier otro tipo de instalaciones manufactureras. Y es probable que el gasto en construcción de centros de datos para entrenar e implementar modelos de IA supere pronto el gasto en oficinas para trabajadores humanos.
Estas inversiones podrían ayudar a resolver algunos de los problemas más apremiantes de la humanidad, desde encontrar tratamientos para enfermedades incapacitantes mediante el descubrimiento acelerado de fármacos hasta propiciar una nueva revolución científica a través del descubrimiento de nuevos materiales y herramientas.1 En términos más generales, la inteligencia artificial del futuro podría catalizar una nueva edad de oro de crecimiento y abundancia. Pero el progreso tecnológico no es una fuerza sobrenatural que ofrezca soluciones a los problemas más importantes de forma prioritaria. Para aprovechar plenamente los beneficios del progreso de la IA, debemos resolver dos grandes problemas.
1. Es posible que los beneficios del progreso de la IA no lleguen con la suficiente rapidez
Es posible que muchos de los beneficios del progreso de la IA no lleguen rápidamente (o que no lleguen en absoluto) por defecto, dados los incentivos comerciales existentes. Esto podría deberse, por ejemplo, a que una aplicación determinada genere bienes públicos, cuya oferta suele ser insuficiente en los mercados, o a que una línea de investigación sea de alto riesgo y requiera importantes inversiones iniciales. También es posible que los mercados por sí solos no prioricen una IA que automatice la replicación de estudios científicos.2 Tampoco investigarían nuevos tratamientos médicos que no puedan patentarse ni realizarían investigación básica en neurociencia que no tenga aplicaciones comerciales inmediatas.3
A pesar de una reciente oleada de nuevos proyectos públicos,4 privados5 y sin fines de lucro centrados en la IA para la ciencia,6 todavía estamos lejos de aprovechar plenamente las nuevas capacidades de la IA para acelerar las soluciones a los problemas más importantes del mundo. Además, se dedica muy poco esfuerzo a resolver las numerosas barreras estructurales que existen para materializar los beneficios de los descubrimientos científicos con IA. Es probable que el despliegue de nuevas tecnologías de energía limpia se enfrente a una serie casi interminable de obstáculos por parte de los grupos de conservación. Es probable que los nuevos medicamentos se estanquen durante años en el innecesariamente oneroso proceso de aprobación de la FDA. Debido a una combinación de incentivos deficientes y sistemas informáticos gubernamentales anticuados, muchos conjuntos de datos científicos útiles no pueden usarse para el entrenamiento de la IA.7 Además, la investigación pública se ve obstaculizada por un modelo de financiamiento deficiente, en el que los investigadores principales dedican casi la mitad de su tiempo al papeleo relacionado con las becas.
2. Los avances en IA pueden acarrear riesgos que la industria tiene pocos incentivos para resolver
Los agentes de programación avanzados que se usan en todos los sectores de la economía para aumentar enormemente la productividad también podrían ponerse a trabajar, día y noche, para encontrar y explotar vulnerabilidades de seguridad en infraestructuras críticas. Los sistemas de IA que pueden acelerar ampliamente el ritmo de la investigación médica también podrían ayudar a diseñar armas biológicas. Los principales laboratorios de IA tienen ciertos incentivos para evitar el uso impropio de sus modelos, pero el equilibrio entre ataque y defensa de las capacidades emergentes de la IA en ámbitos como el cibernético y el biológico es incierto. No existe ninguna ley inquebrantable de las ciencias de la computación o de la economía que establezca que las capacidades defensivas deban crecer a la par que las ofensivas. En el peor de los casos, los incentivos privados para invertir adecuadamente en la prevención del uso impropio podrían verse eclipsados por la escala de los riesgos que las nuevas tecnologías de IA imponen a la sociedad.
Las propuestas de la comunidad de la seguridad de la IA a menudo reciben críticas por centrarse en soluciones que dependen de un control jerárquico y frágil, como un régimen de licencias para todos los modelos que superen un umbral de poder de cómputo de entrenamiento. Sin embargo, a pesar de la validez de estas críticas, el problema persiste: el uso impropio y la desalineación de la IA bien podrían causar daños reales en un futuro cercano, y la investigación técnica destinada a resolver estos problemas sigue siendo un campo de nicho: alrededor del 2 % de los artículos sobre IA publicados, con un financiamiento de aproximadamente 100 millones de dólares al año.8 Además, gracias en parte a un instinto hacia la no proliferación, los investigadores de la seguridad de la IA no han prestado suficiente atención a las soluciones que asumen que las capacidades peligrosas de la IA se propagarán rápidamente.9 Ante una IA potente, ampliamente disponible y tan barata que no valdrá la pena cobrar por su uso, son muy pocos los proyectos que utilizan la IA para desarrollar tecnologías que beneficien de forma asimétrica a la defensa frente al ataque.
Necesitamos una formulación de políticas proactiva e inversiones públicas que aborden estos problemas. Frases del tipo «maximizar los beneficios de la IA y minimizar sus riesgos» ya se han convertido en cliché, pero las propuestas y los proyectos dirigidos a cualquiera de estos objetivos suelen estar mal enfocados o carecer gravemente de ambición.
En el IFP, estamos aplicando ideas de los estudios sobre el progreso, el aceleracionismo defensivo y el desarrollo tecnológico diferencial para ayudar genuinamente a garantizar que se aprovechen los beneficios de la IA y se mitiguen sus riesgos de manera eficaz. Intentamos comprender la secuencia adecuada de tecnologías que Estados Unidos necesita desarrollar para hacer realidad cuanto antes la promesa de una edad de oro gracias a la IA, y para garantizar que dispongamos a tiempo de las tecnologías defensivas necesarias para atravesar la transición de forma segura. Estamos investigando los incentivos, las estrategias para impulsar el desarrollo del campo, los mecanismos de financiamiento y las (des)regulaciones que pueden ampliar rápidamente la escala de un ecosistema de I+D para resolver estos desafíos. Para lograrlo, el primer paso es que Estados Unidos asuma la responsabilidad de dar forma al futuro de la IA.
Movilizar el laboratorio de I+D del mundo
Como afirmamos en el ensayo fundacional del IFP, el desarrollo y la implementación de la tecnología dependen ampliamente de la trayectoria. Dónde y en qué orden se desarrollan las tecnologías puede ser tan importante como qué tecnologías se desarrollan. Es probable que la inteligencia artificial sea especialmente dependiente de la trayectoria:
- Los modelos más potentes de la actualidad son de uso general. El espacio de posibles aplicaciones, tanto buenas como malas, es amplio.
- Muchas capacidades ofensivas de la IA también tienen una vertiente defensiva. La IA podría ayudar a diseñar nuevos virus mortales, pero también puede propiciar mejores sistemas de monitoreo de patógenos en caso de pandemias. La IA podría hackear sistemas informáticos sensibles, pero también puede ayudar a descubrir y corregir vulnerabilidades de manera proactiva. Que se desarrolle primero la capacidad ofensiva o la defensiva podría tener un gran efecto en si se materializan nuevos riesgos asociados a la IA y de qué manera.
- El progreso de la IA es sensible a las condiciones iniciales. Las aplicaciones que cuentan con grandes cantidades de datos de entrenamiento (p. ej., el diseño de proteínas) y/o carecen de importantes cuellos de botella en el mundo real (p. ej., el desarrollo de algoritmos) experimentarán rápidas mejoras en sus capacidades. Esto significa que las intervenciones focalizadas para cambiar estas condiciones iniciales podrían invertir el orden de desarrollo de las capacidades ofensivas frente a las defensivas.
Dada esta dependencia de la trayectoria, Estados Unidos tiene la responsabilidad de orientar el desarrollo de la IA hacia un camino que dé lugar a la prosperidad de la humanidad y no a su sofocamiento. Para tener una visión de un posible camino futuro, basta con observar a China, donde el PCCh ha desplegado un sistema de vigilancia masiva con IA para monitorear a sus ciudadanos tanto en el país como en el extranjero.
Estados Unidos también tiene el poder de dar forma al desarrollo de la IA. EE. UU. es la democracia más poderosa del mundo y, junto con nuestros aliados, tenemos la ventaja en gran parte de la cadena de suministro de la IA. El año pasado, la inversión del sector privado estadounidense en IA fue más de diez veces mayor que la de cualquier otro país.
Si Estados Unidos flaquea o cede el liderazgo, no hay ninguna otra democracia fuerte preparada para tomar el relevo. Fuera de Estados Unidos y China, solo hay un puñado de empresas y ecosistemas de IA destacables. No existe un plan B realista. La Unión Europea puede intentar seguir regulando a las empresas fuera de sus fronteras, pero, siendo realistas, solo Estados Unidos y China pueden construir las vías tecnológicas del siglo XXI.
Gracias a su dominio de la cadena de suministro, Estados Unidos tiene la poderosa capacidad de denegar a otros el acceso a la IA avanzada mediante controles a la exportación, lo que le permite seguir siendo el principal responsable de la toma de decisiones sobre el futuro de la tecnología. Creemos que los controles de exportación son una herramienta crucial para frenar la capacidad del PCCh de imponer su visión sobre el desarrollo de la IA avanzada. Pero, por muy buena herramienta que sean, no pueden mantener nuestra ventaja para siempre. Sería un desperdicio del esfuerzo dedicado a las políticas públicas no aprovechar la ventaja que proporcionan los controles de exportación para orientar el futuro en una mejor dirección. Estados Unidos es el laboratorio de I+D del mundo, y deberíamos actuar como tal.
¿Cómo deberíamos orientar el desarrollo de la IA?
La forma en que concebimos las tecnologías emergentes de nuestra época a menudo depende de cómo percibimos el momento en el que nos encontramos. En los albores de la Revolución Científica, Francis Bacon presentó en New Atlantis una visión fundamentalmente optimista de la investigación científica organizada y orientada al beneficio humano, lo que condujo a la fundación de la Royal Society en Londres, que a su vez inspiró una oleada de nuevas academias científicas en toda Europa. En 1955, John von Neumann escribió un ensayo titulado ‘¿Podemos sobrevivir a la tecnología?’ que contenía una visión más pesimista del desarrollo tecnológico en un mundo recién caracterizado por arsenales nucleares con la capacidad de destruir el planeta, en el que sugería que la única estrategia real consistía simplemente en salir del paso.10 En 2019, a medida que herramientas de biología sintética como CRISPR se volvían cada vez más accesibles y las tendencias de escalamiento del poder de cómputo de la IA se hacían más evidentes, en un artículo que Nick Bostrom publicó ese año, ‘La hipótesis del mundo vulnerable’, este sugirió que la única forma de lidiar con las tecnologías destructivas ampliamente disponibles podría ser «la vigilancia omnipresente o un orden mundial unipolar». El ensayo de Vitalik Buterin de 2023, My techno-optimism, puede considerarse una síntesis de muchas de estas ideas: las nuevas tecnologías de nuestra era podrían conducir al desastre, pero también podría hacerlo nuestra respuesta a estas amenazas si conlleva la pérdida de los valores democráticos o la concentración de poder. La solución de Buterin es un programa de I+D de amplio alcance centrado en tecnologías defensivas para mitigar los riesgos emergentes y defenderse de ellos, evitando al mismo tiempo el control centralizado.
Tomamos prestado el optimismo de Bacon, pero suscribimos la lógica básica de personas como Buterin: en lugar de asumir que la trayectoria de una tecnología es inevitable, deberíamos pensar con una visión más amplia en cómo podríamos orientarla. Esto no es una simple expresión de deseos. En las últimas décadas, Estados Unidos ha adoptado con éxito diversos enfoques para moldear el desarrollo de nuevas tecnologías:
- No proliferación. Con la llegada de las armas nucleares, decidimos que la única forma de gestionar la tecnología de manera segura era mediante un control estricto. La evidencia sobre el poder destructivo sin precedentes de esta tecnología llevó al presidente Roosevelt a clasificar como secreta toda la investigación sobre la fisión en 1942, lo que a su vez condujo a la centralización de la I+D a través del Proyecto Manhattan y a la posterior estrategia de no proliferación de Estados Unidos. Aunque esta estrategia no ha sido perfecta, la proliferación nuclear ha sido sistemáticamente más lenta de lo que la mayoría de los expertos esperaba.11
- Aceleración selectiva. En la década de 1980, al reconocer los inconvenientes de que las empresas privadas patentaran secuencias genéticas, decidimos acelerar de forma proactiva el desarrollo de herramientas e infraestructura universales para la secuenciación de genes a través del Proyecto Genoma Humano. Esto creó un enorme recurso de dominio público que ayudó a evitar patentes de amplio alcance sobre secuencias genómicas sin modificar.12
- Aceleración defensiva. Frente a la pandemia por COVID, la administración Trump se dio cuenta de que superar la emergencia sanitaria requería acelerar masivamente una nueva tecnología defensiva: la plataforma de vacunas de ARNm. La Operación Warp Speed combinó mecanismos de estructuración del mercado, una estrategia que abarcaba a todo el gobierno y la simplificación de las regulaciones para acelerar radicalmente el desarrollo de la primera vacuna de ARNm totalmente aprobada. La vacuna se desarrolló en apenas 9 meses, a una velocidad más de 10 veces superior a la normal, y mucho más rápido que cualquier otra vacuna desarrollada con anterioridad.
Desde luego, la IA de uso general difiere de todas estas tecnologías, tanto por su mayor variedad de aplicaciones como por la forma en que puede aprovecharse para acelerar de manera diferenciada el desarrollo de otras tecnologías. Esto significa que la manera correcta de encauzarla probablemente consista en una compleja combinación de estrategias, tanto comprobadas como novedosas.
Cuatro principios para orientar el progreso de la IA
1. Debemos aprovechar la naturaleza irregular de la frontera del progreso de la IA
Las capacidades de la IA no avanzan al mismo ritmo en todos los campos, lo que crea una «frontera irregular». A principios del año pasado, solo el 5 % de las empresas de EE. UU. usaba IA, según datos de la Oficina del Censo de EE. UU. Pero ese mismo año, un modelo de IA dio lugar a un Premio Nobel de Química, y Google anunció que más de una cuarta parte del código aceptado en las bases de código de producción de la empresa había sido generado por IA. Al menos en el ámbito de la programación, es claro que esta tendencia se está acelerando: el 80 % de Claude Code (una herramienta de programación autónoma desarrollada por Anthropic) fue escrito por el propio Claude. El futuro ya está aquí, solo que no está distribuido de manera uniforme.
Quienes deseen utilizar la IA para avanzar en la resolución de los problemas científicos más importantes del mundo, o para desarrollar tecnologías que aborden los nuevos riesgos asociados a la IA, deberían aprovechar esta frontera irregular. Si resulta fácil tokenizar grandes cantidades de conocimiento en un campo para que la IA lo procese, verificar rápidamente las soluciones a los problemas de dicho campo y desplegar nuevas capacidades con rapidez, entonces el trabajo en esa área se puede acelerar drásticamente mediante la IA. Esto ya resulta evidente en algunas áreas de las matemáticas, la química y la biología, así como en gran parte de la programación. No lo es tanto en campos como la física de partículas, que se ve limitada por el lento y costoso proceso de recopilación de datos de experimentos en aceleradores de partículas. ¿Qué lecciones debemos aprender de esto?
Las tácticas para orientar el progreso de la IA deberían basarse en predicciones sobre dónde tendrá éxito la IA primero. La facilidad de la tokenización, la verificación de soluciones y el despliegue en diferentes ámbitos es un buen indicador de dónde veremos por primera vez nuevas capacidades beneficiosas y desestabilizadoras. Esto ayuda a evaluar el probable equilibrio entre el ataque y la defensa, lo que, a su vez, ayudará a determinar la mejor estrategia para orientar el progreso. Por ejemplo:
- En ciberseguridad, las mismas capacidades de IA que permiten los ataques automatizados también podrían desplegarse rápidamente para posibilitar la defensa automatizada.13 En ámbitos como este, una estrategia basada en acelerar las aplicaciones defensivas y la infraestructura de seguridad podría ser suficiente.14 15
- Por otro lado, algunas áreas de la bioseguridad parecen inclinarse hacia el ataque. A muchos les preocupa que un grupo terrorista pueda hacer uso de herramientas de diseño biológico basadas en IA para diseñar y liberar un virus mortal y ultratransmisible. En este caso, sigue teniendo sentido acelerar las tecnologías defensivas pertinentes, como la luz ultravioleta de onda corta y las plataformas de vacunas flexibles. Sin embargo, es probable que el despliegue de estas tecnologías sea lento en comparación con la velocidad de las peores pandemias. Esto significa que probablemente también debamos adoptar una estrategia de no proliferación para algunas aplicaciones de bioseguridad. Un enfoque prometedor, tal y como exige el reciente Plan de Acción sobre IA de la Casa Blanca, es centrarse en las empresas dedicadas a la síntesis de ácidos nucleicos para garantizar que cuenten con procesos de cribado de secuencias y verificación de clientes.
Seguir de cerca la frontera de las capacidades de la IA en diferentes ámbitos podría brindarnos la alerta temprana necesaria para crear nuevas defensas de forma proactiva. La evidencia de los avances en benchmarks bien diseñados y de las nuevas capacidades observadas en los despliegues internos de nuevos modelos en laboratorios de IA de vanguardia puede proporcionarnos un «margen de adaptación» —un periodo que podemos aprovechar para desarrollar las herramientas, la infraestructura y las políticas necesarias para maximizar las probabilidades de que la amplia disponibilidad de las nuevas capacidades tenga un resultado positivo—. Esto requerirá el desarrollo de sistemas de alerta temprana adecuados que impulsen la acción pública y privada. La evidencia sobre nuevas capacidades bioofensivas observadas en las primeras versiones de nuevos modelos, por ejemplo, podría ayudar a desencadenar la acumulación de equipo de protección personal para su rápida distribución y el despliegue de la vigilancia de las aguas residuales para la detección temprana de nuevos patógenos.16
Rastrear y predecir las mejoras en las capacidades de la IA también puede ayudarnos a evitar el desperdicio de recursos al actuar demasiado pronto. Hoy en día, verificar formalmente el software que se utiliza en todas las infraestructuras críticas para demostrar su seguridad sería probablemente una tarea terriblemente costosa. Sin embargo, la rápida mejora del rendimiento en tareas de ingeniería de software con contextos largos de los modelos de vanguardia podría conducir a una situación en la que, de pronto, la verificación formal generalizada resultara costo-eficaz.17 En tales casos, en lugar de intentar desarrollar tecnologías defensivas de forma prematura, deberíamos establecer una infraestructura de medición que ayude a decidir cuándo actuar, así como políticas y relaciones que permitan un despliegue rápido. La refactorización automatizada de las bases de código utilizadas en las infraestructuras críticas, por ejemplo, se verá previsiblemente obstaculizada por los lentos procesos de contratación pública para el nuevo software. Este es un problema que puede abordarse desde ahora.18
Podemos modificar la forma de la frontera de las capacidades de la IA para obtener las capacidades que deseamos más rápidamente. Por ejemplo, existen muchas barreras para desbloquear conjuntos de datos debido a contingencias históricas en la normativa o a que los datos no son fácilmente monetizables. Según algunas estimaciones, el volumen total de datos generados cada año es más de un millón de veces superior al volumen actual de datos disponibles públicamente en Internet a través del Internet Archive, que contiene la mayor parte de los datos utilizados actualmente para entrenar a los LLM. Gran parte de estos datos podría resultar inútil para entrenar modelos de IA. No obstante, algunos de ellos, especialmente los conjuntos de datos científicos guardados bajo llave en discos duros de organismos gubernamentales y universidades, podrían tener un valor social significativo. Se podrían adoptar políticas eficaces para facilitar el acceso a los datos que permitan acelerar el desarrollo de capacidades beneficiosas de la IA.19
2. No debemos pasar por alto los costos de un progreso estancado
Esto podría parecer demasiado obvio, pero creemos que muchas de las políticas propuestas para gestionar el riesgo asociado a la IA no se toman lo suficientemente en serio el costo que tendría un progreso tecnológico estancado.20
Hasta hace relativamente poco, la mitad de todos los niños morían antes de alcanzar la edad adulta. Estas condiciones prevalecieron hasta que las revoluciones científica e industrial nos brindaron la teoría de los gérmenes, las vacunas, los alimentos enriquecidos, los antibióticos y miles de otras innovaciones similares, además de una riqueza mucho mayor. No invertir en la ciencia y en las tecnologías fundamentales que darán continuidad a estos avances supondrá costos para el bienestar humano. Estos costos deben sopesarse frente a los riesgos esperados de las nuevas tecnologías. Las estrategias para orientar la tecnología que no toman en cuenta las ventajas del progreso pueden retrasar las soluciones a algunos de los mayores problemas de la actualidad.
En el caso de los descubrimientos científicos relevantes en áreas como la medicina, el beneficio potencial de aprovechar la vanguardia de las capacidades de la IA es enorme. Jacob Trefethen, responsable de otorgar becas para la salud global, enumera un conjunto de tecnologías médicas, como las vacunas contra la malaria y la tuberculosis para adultos, que, de desarrollarse, salvarían en conjunto alrededor de 3,6 millones de vidas al año. Es factible desarrollar cada una de estas tecnologías, pero es probable que no estén disponibles en los próximos cinco años. Si se resuelven los evidentes cuellos de botella para el progreso de la IA en la medicina, la IA podría ayudar a suministrar estos y otros bienes públicos.
| # | Tecnología/herramienta | ¿Por qué la necesitamos? | ¿Estará disponible en 5 años? | ¿Es factible desarrollarla? |
|---|---|---|---|---|
| 1 | Vacuna contra la tuberculosis eficaz en adultos | 1,5 millones de muertes al año | Probablemente no | Sí |
| 2 | Vacuna contra el estreptococo A | 500 000 muertes al año | No | Sí |
| 3 | Anticuerpo monoclonal contra la malaria | 600 000 muertes al año | Probablemente no | Sí |
| 4 | Organismos que impiden la propagación de la malaria (incluidas las zonas rurales) | 600 000 muertes al año | No | Sí |
| 5 | Vacuna contra la hepatitis C | 300 000 muertes al año | No | Sí |
| 6 | Medicamento para reducir los ACV que pueda tomar la mayoría de los pacientes | 6 millones de muertes al año | No | No está claro |
| 7 | Cura completa de la hepatitis B | 600 000 muertes al año | No | No está claro |
| 8 | Prueba que te indique por qué estás enfermo | ¿Tengo COVID, gripe, faringitis estreptocócica, un resfriado o qué? | No lo sé | Sí |
| 9 | Medicamentos programables antes de una futura pandemia | La última se cobró entre 7 y 25 millones de vidas | Probablemente no | 🤞 |
| 10 | Vacuna contra la sífilis | 100 000 muertes al año | No | Sí |
Trefethen, 2025, What does AI progress mean for medical progress?
La promesa de utilizar la IA de esta manera pone de relieve cómo la concepción original del desarrollo tecnológico diferencial se queda corta como estrategia completa para orientar el progreso tecnológico: al centrarse únicamente en los riesgos que plantean las nuevas tecnologías, descuida los enormes beneficios que se pueden obtener al acelerar su desarrollo. Incluso si no hubiera nuevas tecnologías que generen riesgos adicionales, seguimos enfrentándonos a una serie de problemas importantes y urgentes. Como analizaremos más adelante, la actitud razonable ante los nuevos riesgos generados por la inteligencia artificial es la de una incertidumbre bastante profunda. Es posible que los problemas a los que ya nos enfrentamos hoy sigan siendo los problemas más importantes del futuro.
Como señala Trefethen:
Algunas tecnologías son más importantes que otras; de hecho, algunas son cuestión de vida o muerte. El progreso tecnológico no es una fuerza mística que nos brinde primero las más importantes. Algunos problemas son difíciles de resolver, no te harán ganar mucho dinero aunque los resuelvas y no se habla de ellos en las noticias. Los problemas que las personas deciden resolver determinan qué nuevas tecnologías se desarrollan.
La misma lógica que se aplica a las tecnologías defensivas también se aplica a la I+D humanitaria. A lo largo de muchas ramas del árbol de la tecnología, existen fallos del mercado que el sector privado no explorará por defecto (o con la rapidez suficiente). El papel esencial del sector público es cultivar deliberadamente estas partes desatendidas de la cartera: elegir, financiar y acelerar el trabajo que los mercados no pueden llevar a cabo con la velocidad o a la escala necesaria.21
3. Para aprovechar los beneficios de la IA, debemos rediseñar el funcionamiento de la ciencia
Las estrategias para orientar el progreso de la IA no deberían centrarse únicamente en las líneas de investigación propiamente dichas, sino también en la metaciencia. ¿Cómo deberíamos replantearnos la producción de investigación en un mundo en el que la IA se ha convertido en la fuerza motriz del descubrimiento científico? Al igual que las fábricas tuvieron que reequiparse para aprovechar las posibilidades que ofrecía la máquina de vapor, también nuestros mecanismos de financiamiento, instituciones e incentivos deberán rediseñarse para aprovechar los descubrimientos científicos habilitados por la IA.22
El ecosistema de financiamiento científico estadounidense se ha vuelto cada vez más burocrático. Los investigadores se enfrentan a tiempos de espera de hasta 20 meses para obtener financiamiento mediante becas, y los investigadores principales dedican casi la mitad de su tiempo a trámites burocráticos relacionados con las mismas. Esta pérdida de productividad científica se agudizará aún más en un mundo en el que el papel de los investigadores sea dirigir equipos de científicos de IA, encargados de generar y poner a prueba un gran número de nuevas hipótesis. Cada mes de retraso debido al papeleo equivaldrá a muchos meses de tiempo en el mundo actual. Y el modelo clásico de financiamiento, basado en pequeñas becas por proyecto concedidas a investigadores individuales en las universidades, no se adapta bien a la investigación científica impulsada por la IA. Este tipo de investigación requiere cada vez más recursos de los que carecen las universidades: infraestructura de poder de cómputo a gran escala y equipos de ingeniería especializados que ayuden a gestionar el poder de cómputo y los datos. Aunque la IA permita mejoras espectaculares en nuestro conocimiento del mundo, nuestros sistemas burocráticos pueden limitar gravemente nuestra capacidad para aprovecharla.
Una oleada de nuevas organizaciones está mostrando cómo debería ser el futuro de la investigación a fin de estar verdaderamente «preparada para la IA». Arc Institute y FutureHouse son organizaciones de investigación independientes y sin fines de lucro que han realizado grandes inversiones en la «ciencia en equipo» impulsada por la infraestructura. Estas inversiones ya han generado resultados prometedores. A principios de este año, Arc lanzó Evo 2, un modelo de biología de vanguardia capaz tanto de identificar mutaciones causantes de enfermedades en los genes humanos como de diseñar nuevos genomas simples.
Para beneficiarse de este nuevo paradigma de descubrimiento científico, organismos como los NIH y la NSF deberían hacer un mejor uso de mecanismos de adjudicación flexibles como la Autoridad para Otras Transacciones (OTA). Las OTA pueden permitir la experimentación con nuevas estructuras de financiamiento de la investigación, como becas institucionales en bloque para respaldar estructuras organizacionales similares a Arc y FutureHouse, y becas rápidas para que el financiamiento de la investigación pueda adaptarse a las capacidades de la IA, que mejoran rápidamente.23
4. Debemos adaptarnos a la incertidumbre mientras trabajamos para aminorarla
Por desgracia, la pronosticación tecnológica resulta extremadamente difícil. En 1955, John von Neumann (ampliamente considerado por sus colegas como la persona más inteligente de su época) hizo una serie de predicciones sorprendentemente precisas sobre el potencial de automatización de los semiconductores y el riesgo inminente del cambio climático. Sin embargo, sus predicciones (y las de otros) sobre la generalización de la energía nuclear barata y la geoingeniería desenfrenada no se cumplieron.24
Los avances que dieron lugar a las capacidades de los modelos de uso general actuales habrían sido igualmente difíciles de predecir. El trabajo de Google en la comprensión del lenguaje natural estuvo impulsado por su deseo de ofrecer mejores resultados de búsqueda para vender más anuncios. Estos incentivos llevaron indirectamente a la arquitectura transformadora, la innovación algorítmica clave que subyace a casi todos los modelos de IA de vanguardia en la actualidad. El origen de las GPU actuales no se remonta a ningún esfuerzo de desarrollo específico para la IA, sino a las necesidades de los videojuegos, que requerían el mismo procesamiento paralelo de alto rendimiento que resultó ser muy adecuado para entrenar grandes redes neuronales. Antes de reorientarse hacia los modelos de lenguaje a gran escala, OpenAI primero se dedicó a explorar el aprendizaje por refuerzo profundo para videojuegos y robótica como las vías más prometedoras hacia la IAG.
Incluso dentro del paradigma actual de desarrollo de la IA, a pesar de que las leyes de escalamiento permiten predecir con precisión la pérdida de entrenamiento, las capacidades específicas de los modelos a menudo han sorprendido a los investigadores de IA, tanto en tareas específicas —como la programación— como en lo que respecta a tendencias más amplias, tales como la autoconservación y el engaño.
Este historial irregular de predicciones debería disuadirnos de confiar demasiado en cómo y cuándo se materializarán las mayores oportunidades y los mayores riesgos asociados a la IA avanzada. Pero esta incertidumbre no implica que el enfoque correcto sea no hacer nada. Por el contrario, debemos adaptarnos a la incertidumbre y tratar de aminorarla.
Ciertas incertidumbres serán difíciles de mitigar. No podríamos haber predicho las contingencias históricas que llevaron al desarrollo de la arquitectura transformadora y de las GPU. Pero es probable que muchas incertidumbres sobre las capacidades de la IA y sus efectos puedan reducirse con un mejor ecosistema de medición y evaluación de la IA.25
Adaptarse a la incertidumbre sobre el progreso de la IA es también una tarea política. Pero ante una incertidumbre tan generalizada, resulta difícil conseguir una base amplia de apoyo para una agenda ambiciosa que pretende orientar el rumbo de la tecnología. El mejor enfoque es de carácter pluralista; uno que combine una serie de objetivos importantes. La CHIPS and Science Act (Ley de CHIPS y ciencia) es un buen ejemplo. Gracias a su doble enfoque en la resiliencia de la cadena de suministro de semiconductores y en el fomento de la ciencia básica, contó con el apoyo tanto de las partes interesadas en la seguridad nacional como de los defensores de la ciencia pública. Una agenda para encaminar la tecnología de la IA debería incluir, del mismo modo, medidas centradas tanto en la ciencia como en la seguridad.
La secuencia de lanzamiento
El ensayo de Dario Amodei Máquinas de gracia amorosa ofrece un panorama fascinante de los problemas científicos que podrían resolverse gracias a los avances de la IA durante los próximos cinco años. Sin embargo, no describe los pasos concretos necesarios para aplicar las nuevas capacidades de la IA a la resolución de problemas en aplicaciones que carecen de fuertes incentivos de mercado, como las tecnologías difusas de resiliencia social y la ciencia básica. Es posible que la trayectoria predeterminada del desarrollo de la IA no nos proporcione estos beneficios tan pronto como nos gustaría, ni nos proteja de las nuevas amenazas facilitadas por la IA.
¿Cuál es la secuencia adecuada de tecnologías que debemos desarrollar a medida que avanzamos hacia un mundo en el que la IA será tan barata que no tendrá sentido cobrar por su uso? El objetivo de esta recopilación es empezar a armar la respuesta a esta pregunta. Hemos reunido propuestas concretas, aunque ambiciosas, de algunas de las mentes más brillantes que reflexionan sobre cómo utilizar la IA para orientar de forma proactiva el progreso tanto de la ciencia como de la seguridad. La recopilación incluye proyectos que, dados los incentivos comerciales existentes, probablemente no se llevarían a cabo por defecto, pero que pueden alcanzarse o ponerse en marcha para 2030, y cuya consecución resulta especialmente importante a la luz de los rápidos avances de la IA.
El éxito no vendrá de un único plan maestro, sino de una estrategia adaptativa que evolucione a la par de las capacidades de la IA. Nuestra estrategia no debe pasar por alto las enormes ventajas de la tecnología, ni ignorar los peligros del control jerárquico y la centralización. Citando a von Neumann en ‘¿Podemos sobrevivir a la tecnología?’:
¿Qué salvaguarda nos queda? Al parecer, salir del paso día a día —o quizás año tras año— en función de las oportunidades: una larga secuencia de pequeñas decisiones acertadas.
Esta recopilación no es un plan exhaustivo. Y, si se compara con la magnitud de la inversión privada en I+D en IA, casi cualquier propuesta parece pequeña. Esperamos que las ideas de esta recopilación formen parte de una secuencia de «pequeñas decisiones acertadas» para orientar positivamente la trayectoria de la tecnología más importante jamás desarrollada.
Agradecimientos
Un agradecimiento especial a todos los autores de los ensayos de esta recopilación; a Emma Kumleben, Santi Ruiz y Beez Africa por la edición; a Beez y Emma Steinhobel por el diseño; y a Caleb Watney, Ari Kagan, Arushi Gupta, Saif Khan, Ben Schifman, Alexandra Bates, Jonah Weinbaum y Alec Stapp por sus comentarios a lo largo de todo el proceso.
Tim Fist es director de Políticas de Tecnologías Emergentes en el IFP.
Tao Burga es investigador de tecnología en el IFP, donde se centra en las políticas relacionadas con la IA, los controles de exportación y la aceleración de la innovación en materia de seguridad de la IA.
Tim Hwang es investigador sénior de tecnología en el IFP y autor del boletín Macroscience.