Máquinas de gracia amorosa

por Dario Amodei

BienestarCrecimiento económicoEstudios sobre el progresoInteligencia artificialIA transformadoraSalud y desarrollo globalesSuperinteligencia

Cómo la IA podría transformar el mundo para mejor

Pienso y hablo mucho sobre los riesgos de la IA potente. La empresa de la que soy director general, Anthropic, lleva a cabo numerosas investigaciones sobre cómo reducir estos riesgos. Por eso, a veces la gente llega a la conclusión de que soy un pesimista o un «catastrofista» que cree que la IA será, en su mayor parte, negativa o peligrosa. No pienso eso en absoluto. De hecho, una de mis principales razones para centrarme en los riesgos es que estos son lo único que se interpone entre nosotros y lo que considero un futuro fundamentalmente positivo. Creo que la mayoría de la gente subestima lo radical que podría ser el potencial positivo de la IA, del mismo modo que creo que la mayoría subestima lo graves que podrían ser los riesgos.

En este ensayo intento esbozar cómo podría ser ese potencial positivo: cómo sería un mundo con una IA potente si todo saliera bien. Por supuesto, nadie puede conocer el futuro con certeza ni precisión, y es probable que los efectos de una IA potente sean aún más impredecibles que los cambios tecnológicos del pasado, por lo que todo esto consistirá, inevitablemente, en conjeturas. Pero mi objetivo es ofrecer, al menos, conjeturas fundamentadas y útiles, que capten la esencia de lo que sucederá incluso si la mayoría de los detalles acaban siendo erróneos. Incluyo muchos detalles principalmente porque creo que una visión concreta contribuye más a hacer avanzar el debate que una visión muy cautelosa y abstracta.

Sin embargo, en primer lugar quería explicar brevemente por qué Anthropic y yo no hemos hablado mucho de los beneficios de la IA potente, y por qué probablemente seguiremos, en general, hablando mucho sobre los riesgos. En concreto, he tomado esta decisión movido por el deseo de:

Maximizar el efecto multiplicador. El desarrollo básico de la tecnología de IA y muchos de sus beneficios (no todos) parecen inevitables (a menos que los riesgos lo echen todo por tierra) y están impulsados fundamentalmente por poderosas fuerzas de mercado. Por otro lado, los riesgos no están predeterminados y nuestras acciones pueden modificar en gran medida su probabilidad.
Evitar la percepción de propaganda. Las empresas de IA que hablan de todos los increíbles beneficios de la IA pueden dar la impresión de ser propagandistas, o de que intentan desviar la atención de sus inconvenientes. También creo que, por una cuestión de principios, es malo para el alma dedicar demasiado tiempo a «hablar en beneficio propio».
Evitar la grandilocuencia. A menudo me produce rechazo la forma en que muchas figuras públicas que abordan el riesgo asociado a la IA (por no hablar de los líderes de empresas de IA) hablan del mundo posterior a la IAG, como si su misión fuera hacerlo realidad por sí solos, al estilo de un profeta que guía a su pueblo hacia la salvación. Creo que es peligroso considerar que las empresas moldean el mundo de forma unilateral, y peligroso plantear los objetivos tecnológicos prácticos en términos esencialmente religiosos.
Evitar la carga de la «ciencia ficción». Aunque creo que la mayoría de la gente subestima el potencial positivo de una IA potente, la pequeña comunidad de personas que sí debate sobre futuros radicales de la IA suele hacerlo en un tono excesivamente de «ciencia ficción» (con elementos como, por ejemplo, la transferencia mental, la exploración espacial o un ambiente cyberpunk en general). Creo que esto hace que la gente se tome las afirmaciones menos en serio y les atribuya una especie de irrealidad. Para que quede claro, la cuestión no es si las tecnologías descritas son posibles o probables (el ensayo principal aborda esto de manera muy detallada), sino más bien que ese «ambiente» introduce subrepticiamente un enorme bagaje cultural y suposiciones tácitas sobre qué tipo de futuro es deseable, cómo se desarrollarán diversos problemas sociales, etc. El resultado suele acabar pareciendo una fantasía para una subcultura muy reducida, a la vez que produce rechazo en la mayoría de la gente.

Sin embargo, a pesar de todas las preocupaciones anteriores, realmente creo que es importante debatir cómo podría ser un buen mundo con una IA potente, mientras hacemos todo lo posible por evitar los escollos mencionados. De hecho, creo que es fundamental tener una visión del futuro que sea genuinamente inspiradora, y no solo un plan para apagar incendios. Muchas de las implicaciones de una IA potente son antagónicas o peligrosas, pero, a fin de cuentas, tiene que haber algo por lo que luchar, algún resultado de suma positiva en el que todos salgan ganando, algo que movilice a la gente para que supere sus disputas y afronte los retos que se avecinan. El miedo es un tipo de motivación, pero no es suficiente: también necesitamos esperanza.

La lista de aplicaciones positivas de una IA potente es extremadamente larga (e incluye la robótica, la manufactura, la energía y mucho más), pero voy a centrarme en un pequeño número de áreas que, en mi opinión, tienen el mayor potencial para mejorar directamente la calidad de vida humana. Las cinco categorías que más me entusiasman son:

Biología y salud física
Neurociencia y salud mental
Desarrollo económico y pobreza
Paz y gobernanza
Trabajo y sentido

Mis predicciones van a resultar radicales según la mayoría de los estándares (salvo si se comparan con las visiones de «singularidad» de la ciencia ficción⁠⁠1), pero las expongo con seriedad y sinceridad. Es muy fácil que todo lo que digo resulte erróneo (por repetir lo que ya he dicho), pero al menos he intentado basar mis opiniones en una evaluación semianalítica de cuánto podrían acelerarse los avances en diversos campos y qué podría significar eso en la práctica. Tengo la suerte de contar con experiencia profesional en biología y neurociencia, y soy un aficionado bien informado en el campo del desarrollo económico, pero estoy seguro de que me equivocaré en muchas cosas. Algo de lo que me he dado cuenta al escribir este ensayo es que sería muy valioso reunir a un grupo de expertos en la materia (en biología, economía, relaciones internacionales y otras áreas) para redactar una versión mucho mejor y más documentada de lo que he elaborado aquí. Probablemente lo mejor sea considerar mis esfuerzos aquí como un punto de partida para ese grupo.

Supuestos básicos y marco de referencia

Para que todo este ensayo sea más preciso y esté mejor fundamentado, resulta útil especificar claramente a qué nos referimos con una IA potente (es decir, el umbral a partir del cual empieza a correr el reloj de los 5 a 10 años), así como establecer un marco para reflexionar sobre los efectos de dicha IA una vez que esté presente.

Cómo será la IA potente (no me gusta el término «IAG»)⁠⁠2 y cuándo (o si) llegará es un tema enorme en sí mismo. Es un tema que he debatido públicamente y sobre el que podría escribir un ensayo completamente aparte (probablemente lo haré en algún momento). Obviamente, muchas personas se muestran escépticas respecto a que se construya pronto una IA potente y algunas dudan incluso de que llegue a construirse alguna vez. Creo que podría llegar tan pronto como en 2026, aunque también hay formas en las que podría tardar mucho más. Pero a efectos de este ensayo, me gustaría dejar de lado estas cuestiones, dar por hecho que llegará en un plazo razonablemente corto y centrarme en lo que sucederá en los 5-10 años posteriores. También quiero partir de una definición de cómo será ese sistema, cuáles serán sus capacidades y cómo interactuará, aunque haya margen para el desacuerdo al respecto.

Por IA potente me refiero a un modelo de IA —probablemente similar en forma a los LLM actuales, aunque podría basarse en una arquitectura diferente, implicar varios modelos que interactúen entre sí y entrenarse de otra manera— con las siguientes propiedades:

En términos de inteligencia pura,⁠⁠3 es más inteligente que un ganador del Premio Nobel en la mayoría de los campos relevantes: biología, programación, matemáticas, ingeniería, escritura, etc. Esto significa que puede demostrar teoremas matemáticos sin resolver, escribir novelas excelentes, crear bases de código complejas desde cero, etc.
Además de ser simplemente una «cosa inteligente con la que se habla», dispone de todas las «interfaces» disponibles para un ser humano que trabaja de forma virtual, incluyendo texto, audio, vídeo, control de ratón y teclado, y acceso a Internet. Puede realizar cualquier acción, comunicación u operación remota que permita esta interfaz, lo que incluye llevar a cabo acciones en Internet, dar indicaciones a humanos o recibirlas de ellos, encargar materiales, dirigir experimentos, ver vídeos, crear vídeos, etcétera. Realiza todas estas tareas, una vez más, con una destreza que supera la de los seres humanos más capaces del mundo.
No se limita a responder preguntas de forma pasiva, sino que se le pueden asignar tareas que lleven horas, días o semanas completar, y luego se dedica a realizarlas de forma autónoma, tal y como lo haría un empleado inteligente, solicitando aclaraciones cuando sea necesario.
No tiene una encarnación física (más allá de existir en la pantalla de una computadora), pero puede controlar herramientas físicas, robots o equipos de laboratorio existentes a través de una computadora; en teoría, incluso podría diseñar robots o equipos para su propio uso.
Los recursos utilizados para entrenar el modelo pueden reutilizarse para ejecutar millones de instancias de este (lo que coincide con los tamaños de clúster previstos para ~2027), y el modelo puede absorber información y generar acciones a una velocidad aproximadamente entre 10 y 100 veces superior a la humana.⁠⁠4 Sin embargo, puede verse limitado por el tiempo de respuesta del mundo físico o del software con el que interactúa.
Cada uno de estos millones de copias puede actuar de forma independiente en tareas no relacionadas, o, si es necesario, pueden trabajar todas juntas de la misma manera que colaborarían los seres humanos, quizá con distintas subpoblaciones sometidas a un ajuste fino para destacar especialmente en tareas concretas.

Podríamos resumir esto como un «país de genios en un centro de datos».

Es evidente que una entidad así sería capaz de resolver problemas muy difíciles con gran rapidez, pero no es sencillo determinar a qué velocidad. Hay dos posiciones «extremas» que me parecen ambas erróneas. En primer lugar, se podría pensar que el mundo se transformaría instantáneamente a escala de segundos o días («la Singularidad»), a medida que una inteligencia superior se refuerce a sí misma y resuelva casi de inmediato todas las tareas científicas, de ingeniería y operativas posibles. El problema es que existen límites físicos y prácticos reales, por ejemplo, en lo que respecta a la fabricación de hardware o a la realización de experimentos biológicos. Incluso un nuevo país de genios se toparía con estos límites. La inteligencia puede ser muy poderosa, pero no es polvo mágico de hadas.

En segundo lugar, y a la inversa, se podría pensar que el progreso tecnológico está saturado o que su ritmo está limitado por los datos del mundo real o por factores sociales, y que una inteligencia superior a la humana aportará muy poco.⁠⁠5 Esto me parece igualmente inverosímil: se me ocurren cientos de problemas científicos o incluso sociales en los que un grupo numeroso de personas realmente inteligentes aceleraría el progreso de manera drástica, sobre todo si no se limitaran al análisis y pudieran hacer que las cosas sucedan en el mundo real (algo que nuestro hipotético país de genios sí puede hacer, incluso dirigiendo o ayudando a equipos humanos).

Creo que la verdad probablemente sea una mezcla confusa de estos dos escenarios extremos, algo que varía según la tarea y el campo, y que resulta muy sutil en sus detalles. Considero que necesitamos nuevos marcos conceptuales para pensar en estos detalles de forma productiva.

Los economistas suelen hablar de los «factores de producción»: cosas como el trabajo, la tierra y el capital. La expresión «rendimientos marginales del trabajo/la tierra/el capital» captura la idea de que, en una situación dada, un factor concreto puede ser o no el limitante; por ejemplo, una fuerza aérea necesita tanto aviones como pilotos, y contratar a más pilotos no sirve de mucho si te has quedado sin aviones. Creo que, en la era de la IA, deberíamos hablar de los rendimientos marginales de la inteligencia,⁠⁠6 e intentar averiguar cuáles son los otros factores que complementan a la inteligencia y que se convierten en limitantes cuando esta es muy elevada. No estamos acostumbrados a pensar de esta forma —a preguntarnos «¿en qué medida ayuda ser más inteligente en esta tarea y en qué escala temporal?»—, pero parece la manera correcta de conceptualizar un mundo con una IA muy potente.

Mi lista tentativa de factores que limitan a la inteligencia o la complementan incluye:

Velocidad del mundo exterior. Los agentes inteligentes necesitan operar de forma interactiva en el mundo para lograr resultados y también para aprender.⁠⁠7 Pero el mundo no se mueve tan deprisa. Las células y los animales funcionan a una velocidad fija, por lo que los experimentos con ellos conllevan una cantidad de tiempo determinada que puede resultar irreducible. Lo mismo ocurre con el hardware, la ciencia de los materiales, cualquier actividad que implique comunicarse con personas e incluso con nuestra infraestructura actual de software. Además, en la ciencia a menudo se necesitan muchos experimentos en secuencia, donde cada uno aprende del anterior o se basa en él. Todo esto significa que la velocidad a la que se puede completar un proyecto importante —como desarrollar una cura contra el cáncer— podría tener un mínimo irreducible que no se puede acortar más, por mucho que la inteligencia siga aumentando.
Necesidad de datos. A veces faltan datos brutos y, en su ausencia, contar con más inteligencia no sirve de ayuda. Los físicos de partículas de hoy en día son muy ingeniosos y han desarrollado una amplia variedad de teorías, pero carecen de los datos necesarios para elegir entre ellas debido a que la información de los aceleradores de partículas es muy limitada. No está claro que lograrían resultados drásticamente mejores si fueran superinteligentes —salvo, tal vez, por acelerar la construcción de un acelerador más grande—.
Complejidad intrínseca. Algunas cosas son inherentemente impredecibles o caóticas, y ni siquiera la IA más potente puede predecirlas o desentrañarlas sustancialmente mejor que un ser humano o una computadora de hoy en día. Por ejemplo, incluso una IA increíblemente potente solo podría predecir un poco más allá en un sistema caótico (como el problema de los tres cuerpos), en el caso general,⁠⁠8 en comparación con los humanos y las computadoras actuales.
Restricciones impuestas por los seres humanos. Muchas cosas no pueden hacerse sin infringir leyes, causar daño a las personas o desestabilizar la sociedad. Una IA alineada no querría hacer estas cosas (y si tuviéramos una IA no alineada, volveríamos a hablar de riesgos). Muchas estructuras sociales humanas son ineficientes o incluso activamente perjudiciales, pero son difíciles de cambiar respetando restricciones como los requisitos legales sobre ensayos clínicos, la disposición de las personas a cambiar sus hábitos o el comportamiento de los gobiernos. Entre los ejemplos de avances que funcionan bien en un sentido técnico, pero cuyo impacto se ha visto sustancialmente reducido por regulaciones o temores infundados, se incluyen la energía nuclear, los vuelos supersónicos e incluso los ascensores.
Leyes físicas. Esta es una versión más extrema del primer punto. Hay ciertas leyes físicas que parecen inquebrantables. No es posible viajar más rápido que la luz. El pudín no se desmezcla. Los chips solo pueden tener un número determinado de transistores por centímetro cuadrado antes de que dejen de ser fiables. El cálculo requiere una cierta energía mínima por bit borrado, lo que limita la densidad de cómputo en el mundo.

Existe otra distinción basada en las escalas temporales. Lo que a corto plazo son limitaciones estrictas puede volverse más maleable para la inteligencia a largo plazo. Por ejemplo, la inteligencia podría utilizarse para desarrollar un nuevo paradigma experimental que nos permita aprender in vitro lo que antes requería experimentos con animales vivos, o para construir las herramientas necesarias para recopilar nuevos datos (p. ej., un acelerador de partículas más grande), o para (dentro de los límites éticos) encontrar formas de sortear las limitaciones impuestas por los seres humanos (por ejemplo, ayudando a mejorar el sistema de ensayos clínicos, contribuyendo a crear nuevas jurisdicciones donde los ensayos clínicos tengan menos burocracia, o mejorando la propia ciencia para que los ensayos clínicos en humanos sean menos necesarios o más económicos).

Por lo tanto, deberíamos imaginar un escenario en el que la inteligencia se vea inicialmente muy limitada por los demás factores de producción, pero con el tiempo la propia inteligencia vaya sorteando cada vez más esos factores, aunque estos nunca desaparezcan por completo (y algunas cosas, como las leyes físicas, sean absolutas).⁠⁠9 La pregunta clave es con qué rapidez ocurre todo esto y en qué orden.

Teniendo en cuenta el marco anterior, intentaré responder a esa pregunta para las cinco áreas mencionadas en la introducción.

1. Biología y salud

La biología es probablemente el ámbito en el que el progreso científico tiene mayor potencial para mejorar de forma directa e inequívoca la calidad de vida humana. En el último siglo se han erradicado por fin algunas de las afecciones humanas más antiguas (como la viruela), pero aún quedan muchas más, y vencerlas supondría un enorme logro humanitario. Más allá incluso de curar enfermedades, la ciencia biológica puede, en principio, mejorar el nivel básico de la salud humana, al prolongar la esperanza de vida saludable, aumentar el control y la libertad sobre nuestros propios procesos biológicos y abordar problemas cotidianos que actualmente consideramos partes inmutables de la condición humana.

En el lenguaje de los «factores limitantes» de la sección anterior, los principales retos a la hora de aplicar directamente la inteligencia a la biología son los datos, la velocidad del mundo físico y la complejidad intrínseca (de hecho, los tres están relacionados entre sí). Las limitaciones humanas también influyen en una fase posterior, cuando entran en juego los ensayos clínicos. Analicemos estos aspectos uno por uno.

Los experimentos con células, animales e incluso procesos químicos están limitados por la velocidad del mundo físico: muchos protocolos biológicos implican el cultivo de bacterias u otras células, o simplemente esperar a que se produzcan reacciones químicas, lo que a veces puede llevar días o incluso semanas, sin que exista una forma obvia de acelerar el proceso. Los experimentos con animales pueden durar meses (o más) y los experimentos con seres humanos suelen durar años (o incluso décadas, en el caso de los estudios de resultados a largo plazo). En parte relacionado con lo anterior, a menudo faltan datos —no tanto en cantidad, sino en calidad—: siempre hay una escasez de datos claros e inequívocos que aíslen un efecto biológico de interés de las otras 10 000 variables de confusión que están presentes, o que intervengan causalmente en un proceso determinado, o que midan directamente algún efecto (en lugar de inferir sus consecuencias de forma indirecta o con ruido). Incluso los datos moleculares cuantitativos a gran escala, como los datos proteómicos que recopilé mientras trabajaba en técnicas de espectrometría de masas, son ruidosos y omiten mucha información (¿en qué tipos de células se encontraban estas proteínas? ¿En qué parte de la célula? ¿En qué fase del ciclo celular?).

La complejidad intrínseca es, en parte, responsable de estos problemas con los datos: si alguna vez has visto un diagrama que muestra la bioquímica del metabolismo humano, sabrás que es muy difícil aislar el efecto de cualquier parte de este complejo sistema, y aún más difícil intervenir en él de forma precisa o predecible. Y, por último, más allá del tiempo intrínseco que lleva realizar un experimento con seres humanos, los ensayos clínicos reales conllevan mucha burocracia y requisitos normativos que (en opinión de muchas personas, incluido yo mismo) añaden un tiempo adicional innecesario y retrasan el progreso.

Teniendo en cuenta todo esto, muchos biólogos se han mostrado desde hace tiempo escépticos respecto al valor de la IA y, en términos más generales, del «big data» en biología. Históricamente, los matemáticos, los científicos de la computación y los físicos que han aplicado sus conocimientos a la biología durante los últimos 30 años han tenido bastante éxito, pero no han logrado el impacto verdaderamente transformador que se esperaba inicialmente. Parte del escepticismo se ha visto reducido gracias a avances importantes y revolucionarios como AlphaFold (que acaba de valer a sus creadores, merecidamente, el Premio Nobel de Química) y AlphaProteo,⁠⁠10 aunque sigue existiendo la percepción de que la IA es (y seguirá siendo) útil solo en un conjunto limitado de circunstancias. Una forma habitual de expresarlo es: «La IA puede analizar mejor tus datos, pero no puede generar más datos ni mejorar su calidad. Si entran datos basura, salen datos basura».

Pero creo que esa perspectiva pesimista es una forma errónea de concebir la IA. Si nuestra hipótesis central sobre el progreso de la IA es correcta, entonces la forma adecuada de concebir la IA no es como un método de análisis de datos, sino como un biólogo virtual que realiza todas las tareas que hacen los biólogos, lo que incluye diseñar y realizar experimentos en el mundo real (controlando robots de laboratorio o simplemente indicando a los humanos qué experimentos deben llevar a cabo —tal y como haría un investigador principal con sus estudiantes de posgrado—), inventar nuevos métodos biológicos o técnicas de medición, etcétera. Es al agilizar todo el proceso de investigación como la IA puede acelerar verdaderamente la biología. Quiero repetir esto porque es el malentendido más común que surge cuando hablo de la capacidad de la IA para transformar la biología: no me refiero a la IA como una mera herramienta para analizar datos. En consonancia con la definición de IA potente que aparece al principio de este ensayo, me refiero al uso de la IA para llevar a cabo, dirigir y mejorar prácticamente todo lo que hacen los biólogos.

Para concretar más de dónde creo que es probable que provenga esta aceleración, una proporción sorprendentemente grande de los avances en biología ha procedido de un número realmente reducido de descubrimientos, a menudo relacionados con herramientas o técnicas de medición amplias⁠⁠11 que permiten una intervención precisa, pero generalizada o programable, en los sistemas biológicos. Quizás haya aproximadamente uno de estos descubrimientos importantes al año y, en conjunto, podría decirse que impulsan más del 50 % del progreso en biología. Estos descubrimientos son tan potentes precisamente porque superan la complejidad intrínseca y las limitaciones de los datos, lo que aumenta directamente nuestra comprensión y control sobre los procesos biológicos. Unos pocos descubrimientos por década han hecho posible la mayor parte de nuestra comprensión científica básica de la biología, y han impulsado muchos de los tratamientos médicos más potentes.

Algunos ejemplos son:

CRISPR: una técnica que permite la edición en vivo de cualquier gen en organismos vivos (la sustitución de cualquier secuencia génica arbitraria por cualquier otra secuencia arbitraria). Desde que se desarrolló la técnica original, se han producido mejoras constantes para apuntar a tipos celulares específicos, aumentar la precisión y reducir las ediciones en el gen equivocado, todo lo cual es necesario para su uso seguro en seres humanos.
Diversos tipos de microscopía para observar lo que ocurre a un nivel preciso: microscopios ópticos avanzados (con diversos tipos de técnicas de fluorescencia, ópticas especiales, etc.), microscopios electrónicos, microscopios de fuerza atómica, etc.
Secuenciación y síntesis del genoma, cuyo costo se ha reducido en varios órdenes de magnitud en las últimas dos décadas.
Técnicas optogenéticas que permiten hacer que una neurona se active al proyectar luz sobre ella.
Vacunas de ARNm que, en principio, nos permiten diseñar una vacuna contra cualquier cosa y adaptarla rápidamente (las vacunas de ARNm, por supuesto, se hicieron famosas durante la COVID).
Terapias celulares como CAR-T que permiten extraer células inmunitarias del cuerpo y «reprogramarlas» para que, en principio, ataquen cualquier cosa.
Avances conceptuales como la teoría microbiana de la enfermedad o el descubrimiento del vínculo entre el sistema inmunitario y el cáncer.⁠⁠12

Me tomo la molestia de enumerar todas estas tecnologías porque quiero hacer una afirmación crucial sobre ellas: creo que su ritmo de descubrimiento podría multiplicarse por diez o más si hubiera muchos más investigadores creativos y talentosos*.* O, dicho de otro modo, creo que los rendimientos de la inteligencia son altos en estos descubrimientos, y que casi todo lo demás en biología y medicina se deriva en gran medida de ellos.

¿Por qué pienso esto? Por las respuestas a algunas preguntas que deberíamos acostumbrarnos a hacer cuando intentamos determinar los «rendimientos de la inteligencia». En primer lugar, estos descubrimientos suelen ser obra de un número minúsculo de investigadores, a menudo las mismas personas una y otra vez, lo que sugiere habilidad y no una búsqueda aleatoria (esto último podría indicar que los experimentos prolongados son el factor limitante). En segundo lugar, a menudo «podrían haberse hecho» años antes: por ejemplo, CRISPR era un componente natural del sistema inmunitario de las bacterias que se conocía desde la década de 1980, pero pasaron otros 25 años hasta que se descubrió que podía reutilizarse para la edición del genoma en general. Además, a menudo se retrasan muchos años por la falta de apoyo de la comunidad científica a líneas de investigación prometedoras (véase este perfil sobre la inventora de las vacunas de ARNm; abundan historias similares). En tercer lugar, los proyectos exitosos suelen ser improvisados o ideas secundarias que, en un principio, no se consideraban prometedoras, en lugar de iniciativas con un financiamiento masivo. Esto sugiere que no es solo la gran concentración de recursos lo que impulsa los descubrimientos, sino el ingenio.

Por último, aunque algunos de estos descubrimientos presentan una «dependencia secuencial» (es necesario hacer primero el descubrimiento A para disponer de las herramientas o los conocimientos necesarios para el descubrimiento B) —lo que, una vez más, podría provocar retrasos experimentales—, muchos de ellos, quizás la mayoría, son independientes, lo que significa que se puede trabajar en muchos a la vez y en paralelo. Ambos hechos, al igual que mi experiencia general como biólogo, me sugieren firmemente que habría cientos de descubrimientos por hacer si los científicos fueran más inteligentes y hábiles para establecer conexiones entre la vasta cantidad de conocimiento biológico que posee la humanidad (pensemos de nuevo en el caso de CRISPR). El éxito de AlphaFold/AlphaProteo al resolver problemas importantes con mucha más eficacia que los humanos, a pesar de décadas de modelos físicos diseñados meticulosamente, constituye una prueba de principio (aunque con una herramienta limitada en un ámbito concreto) que debería marcar el camino a seguir.

Por lo tanto, imagino que una IA potente podría multiplicar al menos por diez el ritmo de estos descubrimientos, dándonos los próximos 50-100 años de progreso biológico en tan solo 5-10 años.⁠⁠13 ¿Por qué no por cien? Quizás sea posible, pero aquí cobran importancia tanto la dependencia secuencial como los tiempos de experimentación: lograr 100 años de progreso en 1 año exige que muchas cosas salgan bien a la primera, incluidos los experimentos con animales y cuestiones como el diseño de microscopios o de instalaciones de laboratorio costosas. De hecho, estoy abierto a la idea (que quizá suene absurda) de que podríamos lograr 1000 años de progreso en 5-10 años, pero muy escéptico respecto a que podamos lograr 100 años en 1 año. Otra forma de expresarlo es que creo que existe un retraso constante inevitable: los experimentos y el diseño de hardware tienen una cierta «latencia» y es necesario iterar sobre ellos un número «irreducible» de veces para aprender cosas que no pueden deducirse de forma lógica. Pero, por encima de eso, puede que sea posible una paralelización masiva.⁠⁠14

¿Y qué hay de los ensayos clínicos? Aunque conllevan mucha burocracia y retrasos, la verdad es que gran parte (¡aunque de ninguna manera toda!) de su lentitud se deriva, en última instancia, de la necesidad de evaluar rigurosamente medicamentos que apenas funcionan o lo hacen de forma ambigua. Lamentablemente, esto es cierto en el caso de la mayoría de las terapias actuales: el medicamento medio contra el cáncer aumenta la supervivencia en unos pocos meses, al tiempo que presenta efectos secundarios significativos que deben medirse cuidadosamente (algo similar ocurre con los medicamentos para el Alzheimer). Esto da lugar a estudios de gran envergadura (para lograr el poder estadístico) y a difíciles disyuntivas que las agencias reguladoras no suelen saber gestionar bien, de nuevo debido a la burocracia y a la complejidad de los intereses contrapuestos.

Cuando algo funciona realmente bien, el proceso es mucho más rápido: existe una vía de aprobación acelerada y la facilidad para obtenerla es mucho mayor cuando el tamaño del efecto es más pronunciado. Las vacunas de ARNm contra la COVID se aprobaron en nueve meses, mucho más rápido de lo habitual. Dicho esto, incluso en estas condiciones, los ensayos clínicos siguen siendo demasiado lentos; podría decirse que las vacunas de ARNm deberían haberse aprobado en unos dos meses. Pero este tipo de retrasos (aproximadamente un año de principio a fin para un medicamento), combinados con una paralelización masiva y la necesidad de cierta iteración —pero no excesiva— («unos cuantos intentos»), son muy compatibles con una transformación radical en un plazo de 5 a 10 años. Siendo aún más optimistas, es posible que la ciencia biológica con IA reduzca la necesidad de iteración en los ensayos clínicos mediante el desarrollo de mejores modelos experimentales con animales y células (o incluso simulaciones) que sean más precisos a la hora de predecir lo que ocurrirá en los seres humanos. Esto será especialmente importante en el desarrollo de fármacos contra el proceso de envejecimiento, que se prolonga durante décadas y en el que necesitamos un ciclo de iteración más rápido.

Por último, en lo que respecta a los ensayos clínicos y las barreras sociales, vale la pena señalar explícitamente que, en cierto modo, las innovaciones biomédicas cuentan con un historial inusualmente sólido de implementación exitosa, en contraste con otras tecnologías.⁠⁠15 Como se mencionó en la introducción, muchas tecnologías se ven obstaculizadas por factores sociales a pesar de funcionar bien desde el punto de vista técnico. Esto podría sugerir una perspectiva pesimista sobre lo que la IA puede lograr*.* Pero la biomedicina es única en el sentido de que, aunque el proceso de desarrollo de fármacos es excesivamente engorroso, una vez desarrollados, por lo general se implementan y utilizan con éxito.

Para resumir lo anterior, mi predicción básica es que la biología y la medicina con IA nos permitirán condensar en un plazo de 5 a 10 años los avances que los biólogos humanos habrían logrado en los próximos 50 a 100 años. Me referiré a esto como el «siglo XXI comprimido»: la idea de que, tras el desarrollo de una IA potente, en pocos años lograremos todo el progreso en biología y medicina que habríamos logrado a lo largo de todo el siglo XXI.

Aunque predecir lo que la IA potente podrá hacer en unos pocos años sigue siendo intrínsecamente difícil y especulativo, hay cierto grado de concreción al preguntarse «¿qué podrían hacer los humanos sin ayuda en los próximos 100 años?». El simple hecho de observar lo que hemos logrado en el siglo XX, o extrapolar a partir de las dos primeras décadas del siglo XXI, o preguntarnos qué «nos aportarían 10 CRISPR y 50 CAR-T», son formas prácticas y fundamentadas de estimar el nivel general de progreso que podríamos esperar de una IA potente.

A continuación intento elaborar una lista de lo que podríamos esperar. No se basa en ninguna metodología rigurosa y es casi seguro que resultará errónea en los detalles, pero pretende transmitir el nivel general de radicalismo que deberíamos esperar:

Prevención y tratamiento fiables de casi todas⁠⁠16 las enfermedades infecciosas naturales. Dados los enormes avances contra las enfermedades infecciosas en el siglo XX, no es descabellado imaginar que podríamos, más o menos, «terminar el trabajo» en un siglo XXI más breve. Las vacunas de ARNm y tecnologías similares ya señalan el camino hacia «vacunas para cualquier cosa». Que las enfermedades infecciosas se erradiquen por completo del mundo (en lugar de solo en algunos lugares) depende de cuestiones relacionadas con la pobreza y la desigualdad, que se tratan en la sección 3.
Eliminación de la mayoría de los cánceres. Las tasas de mortalidad por cáncer han ido disminuyendo aproximadamente un 2 % al año durante las últimas décadas; por lo tanto, al ritmo actual de la ciencia humana, vamos por buen camino para eliminar la mayoría de los cánceres en el siglo XXI. Algunos subtipos ya se han curado en gran medida (por ejemplo, algunos tipos de leucemia con terapia CAR-T), y quizá me entusiasmen aún más los fármacos muy selectivos que actúan sobre el cáncer en su fase inicial y impiden que llegue a desarrollarse. La IA también hará posibles regímenes de tratamiento adaptados con gran precisión al genoma individualizado del cáncer; esto ya es posible hoy en día, pero supone un enorme costo en tiempo y experticia, algo que la IA debería permitirnos ampliar a gran escala. Parece posible lograr reducciones del 95 % o más tanto en la mortalidad como en la incidencia. Dicho esto, el cáncer es extremadamente variado y adaptable, y probablemente sea, de todas estas enfermedades, la más difícil de erradicar por completo. No sería de extrañar que persistiera una variedad de neoplasias malignas raras y difíciles de tratar.
Prevención muy eficaz y curas eficaces para las enfermedades genéticas. Es muy probable que una selección embrionaria mucho más avanzada permita prevenir la mayoría de las enfermedades genéticas, y algún descendiente más seguro y fiable de CRISPR podría curar la mayoría de estas enfermedades en personas ya vivas. Sin embargo, las afecciones de todo el organismo que afectan a una gran proporción de células podrían ser las últimas en resistir.
Prevención del Alzheimer. Nos ha costado mucho averiguar qué causa el Alzheimer (está relacionado de alguna manera con la proteína beta-amiloide, pero los detalles concretos parecen ser muy complejos). Parece precisamente el tipo de problema que puede resolverse con mejores herramientas de medición que aíslen los efectos biológicos; por eso soy optimista respecto a la capacidad de la IA para resolverlo. Hay muchas posibilidades de que, una vez que comprendamos realmente qué está ocurriendo, pueda llegar a prevenirse con intervenciones relativamente sencillas. Dicho esto, los daños causados por un Alzheimer ya desarrollado pueden ser muy difíciles de revertir.
Mejora en el tratamiento de la mayoría de las demás enfermedades. Se trata de una categoría general que engloba otras afecciones, como la diabetes, la obesidad, las cardiopatías, las enfermedades autoinmunes y más. La mayoría de ellas parecen «más fáciles» de resolver que el cáncer y el Alzheimer y, en muchos casos, ya están experimentando un fuerte descenso. Por ejemplo, las muertes por cardiopatías ya se han reducido en más de un 50 %, e intervenciones sencillas como los agonistas del GLP-1 ya han supuesto un avance enorme contra la obesidad y la diabetes.
Libertad biológica. Los últimos 70 años se han caracterizado por avances en el control de la natalidad, la fertilidad, el control del peso y mucho más. Pero sospecho que la biología acelerada por la IA ampliará enormemente lo que es posible: el peso, el aspecto físico, la reproducción y otros procesos biológicos estarán totalmente bajo el control de las personas. Nos referiremos a todo esto bajo el concepto de libertad biológica: la idea de que todo el mundo debería tener la capacidad de elegir en qué quiere convertirse y vivir su vida de la forma que más le atraiga. Por supuesto, surgirán cuestiones importantes sobre la igualdad de acceso a nivel global; véase la sección 3 al respecto.
Duplicación de la longevidad humana⁠⁠17. Esto puede parecer radical, pero la esperanza de vida se multiplicó casi por dos en el siglo XX (pasando de unos 40 años a unos 75), por lo que «encaja con la tendencia» que el «siglo XXI comprimido» la duplique de nuevo hasta los 150. Obviamente, las intervenciones necesarias para ralentizar el proceso real de envejecimiento serán diferentes a las que se necesitaron en el siglo pasado para prevenir (sobre todo en la infancia) las muertes prematuras por enfermedades, pero la magnitud del cambio no carece de precedentes.⁠⁠18 En concreto, ya existen fármacos que aumentan la longevidad máxima en ratas entre un 25 % y un 50 % con efectos nocivos limitados. Y algunos animales (por ejemplo, algunos tipos de tortuga) ya viven 200 años, así que es evidente que los humanos no están en algún tipo de límite superior teórico. A simple vista, lo más importante que hace falta podrían ser biomarcadores fiables y no manipulables por la ley de Goodhart para el envejecimiento humano, ya que esto permitirá iterar rápidamente en experimentos y ensayos clínicos. Una vez que la longevidad humana sea de 150 años, es posible que alcancemos una «velocidad de escape», ganando tiempo suficiente para que la mayoría de los que hoy estamos vivos podamos vivir tanto como queramos, aunque, por supuesto, no hay garantías de que esto sea biológicamente posible.

Vale la pena echar un vistazo a esta lista y reflexionar sobre lo diferente que será el mundo si todo esto se logra de aquí a entre 7 y 12 años (lo que estaría en consonancia con unos plazos de la IA agresivos). Huelga decir que sería un triunfo humanitario inimaginable: la eliminación de un solo golpe de la mayoría de los flagelos que han acosado a la humanidad durante milenios. Muchos de mis amigos y colegas están criando hijos, y cuando esos niños crezcan, espero que cualquier mención a una enfermedad les suene igual que nos suenan a nosotros el escorbuto, la viruela o la peste bubónica. Esa generación también se beneficiará de una mayor libertad biológica y capacidad de autoexpresión y, con suerte, quizá también pueda vivir todo el tiempo que desee.

Es difícil sobreestimar lo sorprendentes que resultarán estos cambios para todos, salvo para la pequeña comunidad de personas que tenían expectativas sobre una IA potente. Por ejemplo, miles de economistas y expertos en políticas públicas de EE. UU. debaten actualmente cómo mantener la solvencia de la Seguridad Social y de Medicare, y, en términos más generales, cómo mantener a raya el costo de la asistencia sanitaria (que consumen principalmente las personas mayores de 70 años y, sobre todo, aquellas con enfermedades terminales como el cáncer). Es probable que la situación de estos programas mejore radicalmente si todo esto llega a materializarse,⁠⁠19 ya que la proporción entre la población en edad de trabajar y la población jubilada cambiará drásticamente. Sin duda, estos retos serán sustituidos por otros, como por ejemplo cómo garantizar un acceso generalizado a las nuevas tecnologías, pero vale la pena reflexionar sobre cuánto cambiará el mundo incluso si la biología fuera el único ámbito en el que la IA lograra acelerar con éxito el progreso.

2. Neurociencia y mente

En la sección anterior me centré en las enfermedades físicas y en la biología en general, y no abordé la neurociencia ni la salud mental. Pero la neurociencia es una subdisciplina de la biología y la salud mental tiene la misma importancia que la salud física. De hecho, si acaso, la salud mental afecta al bienestar humano incluso más directamente que la salud física. Cientos de millones de personas tienen una calidad de vida muy baja debido a problemas como la adicción, la depresión, la esquizofrenia, el autismo de bajo funcionamiento, el trastorno de estrés postraumático, la psicopatía⁠⁠20 o las discapacidades intelectuales. Otros miles de millones se enfrentan a problemas cotidianos que a menudo pueden interpretarse como versiones mucho más leves de alguno de estos trastornos clínicos graves. Y, al igual que con la biología general, podría ser posible ir más allá de abordar los problemas para mejorar la calidad básica de la experiencia humana.

El marco básico que expuse para la biología se aplica igualmente a la neurociencia. Este campo avanza impulsado por un pequeño número de descubrimientos, a menudo relacionados con herramientas de medición o de intervención precisa; en la lista anterior, la optogenética fue un descubrimiento de la neurociencia y, más recientemente, CLARITY y la microscopía de expansión son avances en la misma línea, además de muchos de los métodos generales de biología celular que se trasladan directamente a la neurociencia. Creo que el ritmo de estos avances se verá acelerado de forma similar por la IA y, por lo tanto, que el marco de «100 años de progreso en 5-10 años» se aplica a la neurociencia de la misma manera que a la biología y por las mismas razones. Al igual que en biología, el progreso en la neurociencia del siglo XX fue enorme; por ejemplo, ni siquiera entendíamos cómo ni por qué se activaban las neuronas hasta la década de 1950. Por lo tanto, parece razonable esperar que la neurociencia acelerada por la IA genere un rápido progreso en el plazo de unos pocos años.

Hay algo que deberíamos añadir a este panorama básico, y es que algunas de las cosas que hemos aprendido (o estamos aprendiendo) sobre la propia IA en los últimos años probablemente contribuyan al avance de la neurociencia, aunque esta siga siendo una disciplina exclusiva de los seres humanos. La interpretabilidad es un ejemplo evidente: aunque, a primera vista, las neuronas biológicas operan de manera completamente diferente a las neuronas artificiales (se comunican mediante impulsos y, a menudo, mediante la frecuencia de los mismos, por lo que hay un elemento temporal que no está presente en las neuronas artificiales, y una serie de detalles relacionados con la fisiología celular y los neurotransmisores modifican su funcionamiento de manera sustancial), la cuestión básica de «cómo trabajan juntas las redes distribuidas y entrenadas de unidades simples que ejecutan operaciones combinadas lineales/no lineales para llevar a cabo cálculos importantes» es la misma, y sospecho firmemente que los detalles de la comunicación entre neuronas individuales se abstraerán en la mayoría de las cuestiones interesantes sobre computación y circuitos.⁠⁠21 A modo de ejemplo, un mecanismo computacional descubierto por investigadores de interpretabilidad en sistemas de IA fue recientemente redescubierto en los cerebros de ratones.

Es mucho más fácil realizar experimentos con redes neuronales artificiales que con las reales (estas últimas suelen requerir abrir el cerebro de los animales), por lo que la interpretabilidad bien podría convertirse en una herramienta para mejorar nuestra comprensión de la neurociencia. Además, es probable que las IA potentes sean capaces, por sí mismas, de desarrollar y aplicar esta herramienta mejor que los humanos.

Más allá de la mera interpretabilidad, sin embargo, lo que hemos aprendido de la IA sobre cómo se entrenan los sistemas inteligentes debería (aunque no estoy seguro de que haya sucedido aún) provocar una revolución en la neurociencia. Cuando trabajaba en neurociencia, mucha gente se centraba en lo que ahora consideraría preguntas erróneas sobre el aprendizaje, porque el concepto de la hipótesis del escalamiento / lección amarga aún no existía. La idea de que una simple función objetivo, sumada a una gran cantidad de datos, pueda generar comportamientos increíblemente complejos hace que resulte más interesante comprender las funciones objetivo y los sesgos arquitectónicos, y menos interesante comprender los detalles de los cálculos emergentes. No he seguido de cerca este campo en los últimos años, pero tengo la vaga sensación de que los neurocientíficos computacionales aún no han asimilado del todo la lección. Mi actitud ante la hipótesis del escalamiento siempre ha sido «¡Ajá! Esta es una explicación, a alto nivel, de cómo funciona la inteligencia y de cómo evolucionó con tanta facilidad», pero no creo que esa sea la visión del neurocientífico promedio, en parte porque la hipótesis del escalamiento como «el secreto de la inteligencia» no está plenamente aceptada ni siquiera dentro de la IA.

Creo que los neurocientíficos deberían intentar combinar esta idea básica con las particularidades del cerebro humano (limitaciones biofísicas, historia evolutiva, topología, detalles de los datos de entrada y salida motores y sensoriales) para tratar de desentrañar algunos de los enigmas clave de la neurociencia. Es probable que algunos ya lo estén haciendo, pero sospecho que aún no es suficiente, y que los neurocientíficos de IA podrán aprovechar este enfoque de forma mucho más eficaz para acelerar el progreso.

Espero que la IA acelere el progreso neurocientífico a lo largo de cuatro vías distintas, que, con suerte, podrán combinarse para curar las enfermedades mentales y mejorar el funcionamiento:

Biología molecular, química y genética tradicionales. Se trata, en esencia, de la misma historia que la biología general de la sección 1, y es probable que la IA pueda acelerarla mediante los mismos mecanismos. Existen muchos fármacos que modulan los neurotransmisores para alterar la función cerebral, afectar al estado de alerta o la percepción, cambiar el estado de ánimo, etc., y la IA puede ayudarnos a inventar muchos más. Probablemente, la IA también pueda acelerar la investigación sobre las bases genéticas de las enfermedades mentales.
Medición e intervención neuronal de alta precisión. Se trata de la capacidad de medir lo que hacen muchas neuronas individuales o circuitos neuronales, e intervenir para modificar su comportamiento. La optogenética y las sondas neuronales son tecnologías capaces tanto de medir como de intervenir en organismos vivos, y varios métodos muy avanzados (como las cintas de registro molecular para leer los patrones de activación de grandes cantidades de neuronas individuales) también se han propuesto y parecen posibles en principio.
Neurociencia computacional avanzada. Como se ha señalado anteriormente, tanto los conocimientos específicos como la gestalt de la IA moderna probablemente puedan aplicarse de forma fructífera a cuestiones de la neurociencia de sistemas, entre las que quizás se incluya descubrir las causas reales y la dinámica de enfermedades complejas como la psicosis o los trastornos del estado de ánimo.
Intervenciones conductuales. No lo he mencionado mucho, dado el enfoque en el aspecto biológico de la neurociencia, pero la psiquiatría y la psicología han desarrollado, por supuesto, un amplio repertorio de intervenciones conductuales a lo largo del siglo XX; es lógico pensar que la IA también podría acelerarlas, tanto en el desarrollo de nuevos métodos como a la hora de ayudar a los pacientes a seguir los métodos existentes. En términos más generales, la idea de un «entrenador de IA» que siempre te ayude a ser la mejor versión de ti mismo, que estudie tus interacciones y te ayude a aprender a ser más eficaz, parece muy prometedora.

Mi hipótesis es que estas cuatro vías de progreso, actuando conjuntamente, estarían, al igual que con las enfermedades físicas, en camino de conducir a la cura o la prevención de la mayoría de las enfermedades mentales en los próximos 100 años, incluso si la IA no interviniera —y, por lo tanto, podrían completarse razonablemente en un plazo de entre 5 y 10 años de progreso acelerado por la IA. Concretamente, mi hipótesis sobre lo que sucederá es algo así:

Probablemente, la mayoría de las enfermedades mentales se puedan curar. No soy experto en enfermedades psiquiátricas (mi etapa en neurociencia la dediqué a construir sondas para estudiar pequeños grupos de neuronas), pero supongo que trastornos como el de estrés postraumático, la depresión, la esquizofrenia o la adicción podrán llegar a comprenderse y tratarse de forma muy eficaz mediante alguna combinación de las cuatro vías mencionadas. Es probable que la respuesta sea una combinación de «algo falló a nivel bioquímico» (aunque podría ser muy complejo) y «algo falló en la red neuronal, a un nivel superior». Es decir, se trata de una cuestión de neurociencia de sistemas, aunque eso no invalida el impacto de las intervenciones conductuales antes mencionadas. Las herramientas de medición e intervención, especialmente en seres humanos vivos, probablemente nos conduzcan hacia una rápida iteración y progreso.
Las afecciones que son muy «estructurales» pueden resultar más difíciles, pero no imposibles. Existen algunos indicios de que la psicopatía está asociada a diferencias neuroanatómicas evidentes: algunas regiones cerebrales son simplemente más pequeñas o están menos desarrolladas en los psicópatas. También se cree que los psicópatas carecen de empatía desde una edad temprana; sea cual sea la diferencia en sus cerebros, probablemente siempre haya sido así. Lo mismo podría aplicarse a ciertas discapacidades intelectuales y, tal vez, a otras afecciones. Reestructurar el cerebro parece difícil, pero también parece una tarea en la que aplicar un alto nivel de inteligencia genere grandes beneficios. Quizá haya alguna forma de inducir al cerebro adulto a un estado más temprano o más plástico en el que pueda remodelarse. No tengo muy claro hasta qué punto será posible, pero mi instinto me lleva a ser optimista sobre lo que la IA pueda inventar en este ámbito.
La prevención genética efectiva de las enfermedades mentales parece posible. La mayoría de las enfermedades mentales son parcialmente hereditarias, y los estudios de asociación de genoma completo (GWAS, por sus siglas en inglés) están empezando a cobrar impulso para identificar los factores relevantes, que a menudo son numerosos. Probablemente será posible prevenir la mayoría de estas enfermedades mediante el cribado embrionario, de forma similar a lo que ocurre con las enfermedades físicas. Una diferencia es que la enfermedad psiquiátrica tiende a ser más poligénica (contribuyen muchos genes), por lo que, debido a su complejidad, existe un mayor riesgo de descartar sin saberlo rasgos positivos que están correlacionados con la enfermedad. Sin embargo, curiosamente, en los últimos años los estudios GWAS parecen sugerir que estas correlaciones podrían haberse exagerado. En cualquier caso, la neurociencia acelerada por la IA puede ayudarnos a esclarecer estas cuestiones. Por supuesto, el cribado embrionario de rasgos complejos plantea una serie de problemas sociales y generará controversia, aunque supongo que la mayoría de la gente apoyaría el cribado en casos de enfermedades mentales graves o debilitantes.
Los problemas cotidianos que no consideramos enfermedades clínicas también se resolverán. La mayoría de nosotros tenemos problemas psicológicos cotidianos que normalmente no se considera que alcancen el nivel de enfermedad clínica. Algunas personas se enfadan con facilidad, otras tienen problemas para concentrarse o suelen estar somnolientas, algunas son miedosas o ansiosas, o reaccionan mal a los cambios. Hoy en día ya existen sustancias o medicamentos que ayudan, por ejemplo, con el estado de alerta o la concentración (cafeína, modafinilo, ritalina), pero, al igual que en muchos otros ámbitos, es probable que se pueda lograr mucho más. Seguramente existan muchos más fármacos de este tipo que aún no se han descubierto, y también podría haber modalidades de intervención totalmente nuevas, como la estimulación lumínica focalizada (véase «optogenética» más arriba) o los campos magnéticos. Teniendo en cuenta la cantidad de fármacos que hemos desarrollado en el siglo XX para regular la función cognitiva y el estado emocional, soy muy optimista respecto al «siglo XXI comprimido», en el que todo el mundo podrá lograr que su cerebro se comporte un poco mejor y así disfrutar de un día a día más pleno.
La experiencia humana de base puede ser mucho mejor. Llevando esto un paso más allá, muchas personas han vivido momentos extraordinarios de revelación, inspiración creativa, compasión, plenitud, trascendencia, amor, belleza o paz meditativa. El carácter y la frecuencia de estas experiencias difieren enormemente de una persona a otra y en la misma persona en distintos momentos, y a veces también pueden desencadenarse mediante diversos fármacos (aunque a menudo con efectos secundarios). Todo esto sugiere que el «espacio de lo que es posible experimentar» es muy amplio y que una mayor parte de la vida de las personas podría componerse de estos momentos extraordinarios. Probablemente también sea posible mejorar diversas funciones cognitivas de forma generalizada. Esta es quizás la versión neurocientífica de la «libertad biológica» o de la «prolongación de la vida».

Un tema que suele surgir en las representaciones de ciencia ficción sobre la IA, pero que no he querido abordar aquí intencionadamente, es la «transferencia mental», la idea de capturar el patrón y la dinámica de un cerebro humano para instanciarlos en un software. Este tema podría ser objeto de un ensayo por sí solo, pero baste decir que, aunque creo que la transferencia es casi con toda seguridad posible en teoría, en la práctica se enfrenta a importantes retos tecnológicos y sociales —incluso con una IA potente— que probablemente la sitúen fuera de ese plazo de 5 a 10 años del que estamos hablando.

En resumen, es probable que la neurociencia acelerada por la IA mejore enormemente los tratamientos o incluso cure la mayoría de las enfermedades mentales, además de ampliar en gran medida la «libertad cognitiva y mental» y las capacidades cognitivas y emocionales humanas. Será tan radical como las mejoras en la salud física descritas en la sección anterior. Quizá el mundo no sea visiblemente distinto desde fuera, pero el mundo tal y como lo experimentan los seres humanos será un lugar mucho mejor y más compasivo, así como un lugar que ofrezca mayores oportunidades para la autorrealización. También sospecho que una mejor salud mental paliará muchos otros problemas sociales, incluidos algunos que hoy parecen de índole política o económica.

3. Desarrollo económico y pobreza

Las dos secciones anteriores tratan sobre el desarrollo de nuevas tecnologías que curan enfermedades y mejoran la calidad de vida humana. Sin embargo, una pregunta obvia, desde una perspectiva humanitaria, es: «¿Tendrá todo el mundo acceso a estas tecnologías?».

Una cosa es desarrollar una cura para una enfermedad y otra muy distinta erradicarla del mundo. En términos más amplios, muchas intervenciones de salud existentes aún no se han aplicado en todas partes del mundo y, de hecho, lo mismo ocurre con las mejoras tecnológicas (no sanitarias) en general. Otra forma de expresarlo es que el nivel de vida en muchas partes del mundo sigue siendo desesperadamente bajo: el PIB per cápita es de unos 2 000 dólares en el África subsahariana, frente a los aproximadamente 75 000 dólares en Estados Unidos. Si la IA aumenta aún más el crecimiento económico y la calidad de vida en el mundo desarrollado, mientras hace muy poco por ayudar al mundo en desarrollo, deberíamos considerarlo un terrible fracaso moral y una mancha para las genuinas victorias humanitarias descritas en las dos secciones anteriores. Lo ideal sería que una IA potente ayudara al mundo en desarrollo a ponerse al nivel del mundo desarrollado, incluso al mismo tiempo que revoluciona a este último.

No confío tanto en que la IA pueda abordar la desigualdad y el crecimiento económico como en que pueda inventar tecnologías fundamentales, porque la tecnología presenta un rendimiento de la inteligencia claramente alto (incluida la capacidad de sortear las complejidades y la falta de datos), mientras que la economía implica muchas limitaciones impuestas por los seres humanos, además de una gran dosis de complejidad intrínseca. Me muestro algo escéptico respecto a que una IA pueda resolver el famoso «problema del cálculo socialista»⁠⁠22 y no creo que los gobiernos vayan a ceder (ni que deban ceder) su política económica a una entidad de ese tipo, aunque pudiera hacerlo. También hay problemas como el de cómo convencer a la gente de que acepte tratamientos que son eficaces, pero de los que puede desconfiar.

Los retos a los que se enfrenta el mundo en desarrollo se complican aún más por la corrupción generalizada tanto en el sector privado como en el público. La corrupción crea un círculo vicioso: agrava la pobreza, y la pobreza, a su vez, genera más corrupción. Los planes de desarrollo económico impulsados por la IA deben tener en cuenta la corrupción, la debilidad de las instituciones y otros retos muy humanos.

No obstante, veo motivos importantes para el optimismo. Se han erradicado enfermedades y muchos países han pasado de ser pobres a ricos, y está claro que las decisiones implicadas en estas tareas muestran un alto rendimiento de la inteligencia (a pesar de las limitaciones humanas y la complejidad). Por lo tanto, es probable que la IA pueda llevarlas a cabo mejor de lo que se hace actualmente. También puede haber intervenciones focalizadas que sorteen las limitaciones humanas y en las que la IA podría centrarse. Sin embargo, lo más importante es que tenemos que intentarlo. Tanto las empresas de IA como los responsables políticos del mundo desarrollado tendrán que poner de su parte para garantizar que el mundo en desarrollo no se quede al margen; el imperativo moral es demasiado grande. Así pues, en esta sección seguiré defendiendo el punto de vista optimista, pero teniendo siempre presente que el éxito no está garantizado y depende de nuestros esfuerzos colectivos.

A continuación expongo algunas hipótesis sobre cómo creo que podrían evolucionar las cosas en el mundo en desarrollo durante los 5-10 años posteriores al desarrollo de una IA potente:

Distribución de las intervenciones sanitarias. El ámbito en el que quizá me muestro más optimista es el de la distribución de las intervenciones sanitarias por todo el mundo. De hecho, algunas enfermedades han sido erradicadas gracias a campañas de arriba abajo: la viruela fue eliminada por completo en la década de 1970, y la poliomielitis y el gusano de Guinea están prácticamente erradicados, con menos de 100 casos al año. Los modelos epidemiológicos matemáticamente sofisticados desempeñan un papel activo en las campañas de erradicación de enfermedades, y parece muy probable que haya margen para que los sistemas de IA más inteligentes que los humanos lo hagan mejor que nosotros. Probablemente, la logística de la distribución también pueda optimizarse en gran medida. Una cosa que aprendí como uno de los primeros donantes de GiveWell es que algunas organizaciones benéficas dedicadas a la salud son mucho más eficaces que otras; la esperanza es que los esfuerzos acelerados por la IA sean aún más eficaces. Además, algunos avances biológicos facilitan mucho la logística de la distribución: por ejemplo, la malaria ha sido difícil de erradicar porque requiere tratamiento cada vez que se contrae la enfermedad; una vacuna que solo tenga que administrarse una vez simplifica mucho la logística (y, de hecho, actualmente se están desarrollando vacunas de este tipo contra la malaria). Son posibles mecanismos de distribución aún más sencillos: en principio, algunas enfermedades podrían erradicarse actuando sobre sus portadores animales, por ejemplo, liberando mosquitos infectados con una bacteria que bloquee su capacidad para transmitir una enfermedad (que a su vez infectan a todos los demás mosquitos) o simplemente utilizando genética dirigida para erradicar a los mosquitos. Esto requiere una o varias acciones centralizadas, en lugar de una campaña coordinada que deba tratar individualmente a millones de personas. En general, creo que un plazo de entre 5 y 10 años es razonable para que una buena parte (quizá el 50 %) de los beneficios sanitarios impulsados por la IA se extienda incluso a los países más pobres del mundo. Un buen objetivo podría ser que, entre 5 y 10 años después de la llegada de una IA potente, el mundo en desarrollo estuviera, como mínimo, sustancialmente más sano de lo que está hoy el mundo desarrollado, aunque siga estando por detrás de este. Lograrlo requerirá, por supuesto, un enorme esfuerzo en materia de salud global, filantropía, incidencia política y muchas otras iniciativas, a las que tanto los desarrolladores de IA como los responsables políticos deberían contribuir.
Crecimiento económico. ¿Puede el mundo en desarrollo alcanzar rápidamente al mundo desarrollado, no solo en materia de salud, sino en todos los ámbitos económicos? Existen algunos precedentes al respecto: en las últimas décadas del siglo XX, varias economías de Asia Oriental alcanzaron tasas de crecimiento anual sostenidas del PIB real de alrededor del 10 %, lo que les permitió ponerse al nivel del mundo desarrollado. Los planificadores económicos humanos tomaron las decisiones que condujeron a este éxito, no controlando directamente economías enteras, sino accionando algunas palancas clave (como una política industrial de crecimiento impulsado por las exportaciones y resistiendo la tentación de depender de la riqueza de los recursos naturales); es plausible que los «ministros de Hacienda y gobernadores de bancos centrales de IA» puedan replicar o superar este logro del 10 %. Una cuestión importante es cómo conseguir que los gobiernos del mundo en desarrollo las adopten respetando al mismo tiempo el principio de la autodeterminación: algunos pueden mostrarse entusiastas al respecto, pero es probable que otros se muestren escépticos. Desde un punto de vista optimista, es probable que muchas de las intervenciones sanitarias mencionadas en el punto anterior aumenten de forma orgánica el crecimiento económico: la erradicación del sida, la malaria y los parásitos intestinales tendría un efecto transformador en la productividad, por no hablar de los beneficios económicos que algunas de las intervenciones neurocientíficas (como la mejora del estado de ánimo y la concentración) tendrían tanto en el mundo desarrollado como en el mundo en desarrollo. Por último, es posible que la tecnología no sanitaria impulsada por la IA (como la tecnología energética, los drones de transporte, los materiales de construcción mejorados, una logística y distribución más eficaces, etc.) se extienda por el mundo de forma natural; por ejemplo, incluso los teléfonos móviles se extendieron rápidamente por el África subsahariana a través de los mecanismos de mercado, sin necesidad de iniciativas filantrópicas. En el lado más negativo, aunque la IA y la automatización tienen muchos beneficios potenciales, también plantean retos para el desarrollo económico, especialmente para los países que aún no se han industrializado. Encontrar formas de garantizar que estos países puedan seguir desarrollándose y mejorando sus economías en una era de creciente automatización es un reto importante que deben abordar los economistas y los responsables políticos. En general, un escenario ideal —quizá un objetivo al que aspirar— sería una tasa de crecimiento anual del PIB del 20 % en el mundo en desarrollo, con un 10 % procedente de decisiones económicas con IA y otro 10 % de la difusión natural de tecnologías aceleradas por la IA, incluyendo, entre otras, las relacionadas con la salud. Si se lograra, esto situaría al África subsahariana al nivel actual del PIB per cápita de China en un plazo de 5 a 10 años, al tiempo que elevaría a gran parte del resto del mundo en desarrollo a niveles superiores al actual PIB de EE. UU. Una vez más, se trata de un escenario ideal, no de lo que ocurre por defecto: es algo por lo que todos debemos trabajar juntos para que sea más probable.
Seguridad alimentaria.⁠⁠23 Los avances en la tecnología agrícola, como mejores fertilizantes y pesticidas, una mayor automatización y un uso más eficiente de la tierra, aumentaron drásticamente el rendimiento de los cultivos a lo largo del siglo XX, salvando de la hambruna a millones de personas. La ingeniería genética está mejorando actualmente el rendimiento de muchos cultivos aún más. Encontrar aún más formas de lograrlo —así como de hacer que las cadenas de suministro agrícolas sean aún más eficientes— podría proporcionarnos una segunda Revolución Verde impulsada por la IA, lo que ayudaría a reducir la brecha entre el mundo en desarrollo y el mundo desarrollado.
Mitigación del cambio climático. El cambio climático se notará con mucha más intensidad en el mundo en desarrollo, lo que obstaculizará su desarrollo. Cabe esperar que la IA impulse mejoras en las tecnologías que frenan o previenen el cambio climático, desde la eliminación de carbono y la tecnología de energía limpia hasta la carne cultivada en laboratorio que reduce nuestra dependencia de la cría intensiva de animales, con altas emisiones de carbono. Por supuesto, como se ha comentado anteriormente, la tecnología no es lo único que limita el progreso en materia de cambio climático —al igual que con todas las demás cuestiones tratadas en este ensayo, los factores sociales humanos son importantes—. Pero hay buenas razones para pensar que la investigación potenciada por la IA nos proporcionará los medios para que la mitigación del cambio climático resulte mucho menos costosa y disruptiva, lo que hará que muchas de las objeciones pierdan sentido y permitirá a los países en desarrollo avanzar más en el ámbito económico.
La desigualdad dentro de los países. Me he centrado principalmente en la desigualdad como fenómeno global (que, en mi opinión, tiene una importancia fundamental), pero, por supuesto, la desigualdad también existe dentro de los países. Con intervenciones sanitarias avanzadas y, sobre todo, con aumentos radicales de la esperanza de vida o con fármacos de mejora de la cognición, sin duda surgirán preocupaciones fundadas de que estas tecnologías sean «solo para los ricos». Soy más optimista respecto a la desigualdad dentro de los países, especialmente en el mundo desarrollado, por dos razones. En primer lugar, los mercados funcionan mejor en el mundo desarrollado, y suelen ser eficaces a la hora de reducir el costo de las tecnologías de alto valor con el paso del tiempo.⁠⁠24 En segundo lugar, las instituciones políticas del mundo desarrollado responden mejor a sus ciudadanos y cuentan con una mayor capacidad estatal para ejecutar programas de acceso universal; además, espero que los ciudadanos exijan el acceso a tecnologías que mejoran tan radicalmente la calidad de vida. Por supuesto, no está predeterminado que dichas demandas tengan éxito—y aquí hay otro ámbito en el que, colectivamente, debemos hacer todo lo posible para garantizar una sociedad justa. Existe un problema distinto en la desigualdad de la riqueza (a diferencia de la desigualdad en el acceso a tecnologías que salvan vidas y mejoran la calidad de vida), que parece más difícil de resolver y que analizo en la sección 5.
El problema de la «renuncia voluntaria». Una preocupación tanto en los países desarrollados como en los países en desarrollo es que las personas renuncien voluntariamente a los beneficios que la IA hace posibles (de forma similar al movimiento antivacunas o, en términos más generales, a los movimientos luditas). Podrían acabar produciéndose ciclos viciosos en los que, por ejemplo, las personas menos capaces de tomar buenas decisiones renuncien precisamente a las tecnologías que mejoran sus capacidades de toma de decisiones, lo que provocaría una brecha cada vez mayor e incluso crearía una clase marginada distópica (algunos investigadores han argumentado que esto socavará la democracia, un tema que analizo con más detalle en la siguiente sección). Esto supondría, una vez más, una mancha moral en los avances positivos de la IA. Se trata de un problema difícil de resolver, ya que no creo que sea éticamente aceptable coaccionar a las personas, pero al menos podemos intentar aumentar la comprensión científica de la gente —y tal vez la propia IA pueda ayudarnos en ello. Un signo esperanzador es que, históricamente, los movimientos antitecnológicos han sido más ruido que nueces: criticar la tecnología moderna está de moda, pero la mayoría de la gente acaba adoptándola, al menos cuando se trata de una elección individual. Las personas tienden a adoptar la mayoría de las tecnologías relacionadas con la salud y el consumo, mientras que las tecnologías que se ven verdaderamente obstaculizadas, como la energía nuclear, suelen ser decisiones políticas colectivas.

En general, soy optimista respecto a que los avances biológicos de la IA lleguen rápidamente a las personas del mundo en desarrollo. Tengo la esperanza, aunque no la certeza, de que la IA también pueda propiciar tasas de crecimiento económico sin precedentes y permitir que el mundo en desarrollo, como mínimo, supere el nivel actual del mundo desarrollado. Me preocupa el problema de la «renuncia voluntaria» tanto en el mundo desarrollado como en el mundo en desarrollo, pero sospecho que irá desapareciendo con el tiempo y que la IA puede ayudar a acelerar este proceso. No será un mundo perfecto, y quienes se hayan quedado atrás no lograrán ponerse al día por completo, al menos no en los primeros años. Pero con un gran esfuerzo por nuestra parte, quizá podamos hacer que las cosas avancen en la dirección correcta —y rápidamente—. Si lo conseguimos, podremos dar al menos un primer paso hacia las promesas de dignidad e igualdad que le debemos a cada ser humano de la Tierra.

4. Paz y gobernanza

Supongamos que todo lo expuesto en las tres primeras secciones sale bien: la enfermedad, la pobreza y la desigualdad se reducen significativamente y el nivel básico de la experiencia humana mejora sustancialmente. De ello no se deduce que todas las principales causas del sufrimiento humano estén resueltas. Los seres humanos siguen siendo una amenaza los unos para los otros*.* Aunque existe una tendencia hacia el avance tecnológico y el desarrollo económico que conduce a la democracia y la paz, se trata de una tendencia muy difusa, con frecuentes (y recientes) retrocesos. A principios del siglo XX, la gente pensaba que había dejado atrás la guerra; luego llegaron las dos guerras mundiales. Hace treinta años, Francis Fukuyama escribió sobre «el fin de la historia» y el triunfo definitivo de la democracia liberal; eso aún no ha sucedido. Hace veinte años, los responsables políticos estadounidenses creían que el libre comercio con China provocaría su liberalización a medida que se enriqueciera; eso no sucedió en absoluto, y ahora parece que nos encaminamos hacia una segunda Guerra Fría con un bloque autoritario resurgente. Y hay teorías plausibles que sugieren que la tecnología de Internet podría, de hecho, beneficiar al autoritarismo, y no a la democracia, como se creía inicialmente (por ejemplo, durante el periodo de la «Primavera Árabe»). Parece importante intentar comprender cómo la IA potente se entrecruzará con estas cuestiones de paz, democracia y libertad.

Por desgracia, no veo ninguna razón de peso para creer que la IA vaya a promover de manera preferente o estructural la democracia y la paz, del mismo modo que creo que promoverá estructuralmente la salud humana y aliviará la pobreza. El conflicto humano es de naturaleza antagónica y, en principio, la IA puede ayudar tanto a los «buenos» como a los «malos». De hecho, algunos factores estructurales resultan preocupantes: parece probable que la IA permita una propaganda y una vigilancia mucho mejores, dos herramientas fundamentales en el arsenal de cualquier autócrata. Por lo tanto, nos corresponde a nosotros, como actores individuales, inclinar la balanza en la dirección correcta: si queremos que la IA favorezca la democracia y los derechos individuales, tendremos que luchar por ese resultado. Siento esto con aún más fuerza que en el caso de la desigualdad internacional: el triunfo de la democracia liberal y de la estabilidad política no está garantizado, y quizá ni siquiera sea probable, y exigirá grandes sacrificios y un gran compromiso por parte de todos nosotros, como ha ocurrido a menudo en el pasado.

Considero que la cuestión tiene dos vertientes: el conflicto internacional y la estructura interna de las naciones. En el ámbito internacional, me parece muy importante que las democracias tengan la ventaja en la escena mundial cuando se cree una IA potente. El autoritarismo impulsado por la IA parece demasiado terrible como para contemplarlo, por lo que las democracias deben ser capaces de establecer las condiciones bajo las cuales se introduce en el mundo una IA potente, tanto para evitar que los autoritarios nos superen como para prevenir los abusos contra los derechos humanos en los países autoritarios.

Mi hipótesis actual sobre la mejor manera de lograrlo es mediante una «estrategia de entente»,⁠⁠25 en la que una coalición de democracias intente obtener una ventaja clara (aunque solo sea temporal) sobre la IA potente asegurándose su cadena de suministro, escalando rápidamente, y bloqueando o retrasando el acceso de los adversarios a recursos clave como chips y equipos semiconductores. Esta coalición, por un lado, utilizaría la IA para lograr una sólida superioridad militar (el palo), mientras que, al mismo tiempo, ofrecería distribuir los beneficios de la IA potente (la zanahoria) a un grupo cada vez más amplio de países a cambio de que apoyaran la estrategia de la coalición para promover la democracia (esto sería un poco análogo a «Átomos para la Paz»). La coalición aspiraría a ganarse el apoyo de una parte cada vez mayor del mundo, aislando a nuestros peores adversarios y, finalmente, colocándolos en una posición en la que les convendría aceptar el mismo trato que el resto del mundo: renunciar a competir con las democracias para recibir todos los beneficios y no tener que luchar contra un enemigo superior.

Si logramos todo esto, tendremos un mundo en el que las democracias lideren la escena mundial y cuenten con la fuerza económica y militar necesaria para evitar ser socavadas, conquistadas o saboteadas por las autocracias, y tal vez puedan convertir su superioridad en materia de IA en una ventaja duradera. Esto podría conducir, en el mejor de los casos, a un «1991 eterno»: un mundo en el que las democracias tengan la sartén por el mango y se hagan realidad los sueños de Fukuyama. Una vez más, esto será muy difícil de lograr y requerirá, en particular, una estrecha cooperación entre las empresas privadas de IA y los gobiernos democráticos, así como decisiones extraordinariamente acertadas sobre el equilibrio entre la zanahoria y el palo.

Incluso si todo eso sale bien, queda la cuestión de la lucha entre la democracia y la autocracia dentro de cada país. Obviamente, es difícil predecir qué sucederá aquí, pero tengo cierto optimismo en que, dado un entorno global en el que las democracias controlen la IA más potente, entonces la IA podría, de hecho, favorecer estructuralmente a la democracia en todas partes. En particular, en este contexto, los gobiernos democráticos pueden utilizar su IA superior para ganar la guerra de la información: pueden contrarrestar las operaciones de influencia y propaganda de las autocracias e incluso podrían crear un entorno de información libre a escala mundial, proporcionando canales de información y servicios de IA de tal forma que las autocracias carezcan de la capacidad técnica para bloquearlos o supervisarlos. Probablemente no sea necesario difundir propaganda, sino solo contrarrestar los ataques maliciosos y desbloquear el libre flujo de información. Aunque no sea inmediato, unas condiciones equitativas como estas tienen muchas posibilidades de inclinar gradualmente la gobernanza global hacia la democracia, por varias razones.

En primer lugar, las mejoras en la calidad de vida descritas en las secciones 1 a 3 deberían, en igualdad de condiciones, promover la democracia: históricamente así ha sido, al menos en cierta medida. En concreto, tengo la expectativa de que las mejoras en salud mental, bienestar y educación refuercen la democracia, ya que los tres aspectos están negativamente correlacionados con el apoyo a los líderes autoritarios. En general, las personas desean una mayor libertad de expresión cuando se satisfacen sus otras necesidades, y la democracia es, entre otras cosas, una forma de libre expresión. Por el contrario, el autoritarismo se nutre del miedo y el resentimiento.

En segundo lugar, hay muchas posibilidades de que la información libre realmente socave el autoritarismo, siempre y cuando los autoritarios no puedan censurarla. Y la IA sin censura también puede proporcionar a los individuos poderosas herramientas para socavar a los gobiernos represivos. Los gobiernos represivos sobreviven negando a la gente un cierto tipo de conocimiento común, impidiéndoles darse cuenta de que «el emperador va desnudo». Por ejemplo, Srđa Popović, quien ayudó a derrocar al gobierno de Milošević en Serbia, ha escrito extensamente sobre técnicas para despojar psicológicamente a los autoritarios de su poder, para romper el hechizo y movilizar el apoyo contra un dictador. Una versión de IA de Popović con una eficacia sobrehumana (cuyas habilidades parecen ofrecer un alto rendimiento de la inteligencia) en el bolsillo de todo el mundo, una que los dictadores sean incapaces de bloquear o censurar, podría suponer un impulso para los disidentes y reformistas de todo el mundo. Repito: esta será una lucha larga y prolongada, en la que la victoria no está asegurada, pero si diseñamos y construimos la IA de la forma adecuada, al menos podría ser una lucha en la que los defensores de la libertad de todo el mundo tengan ventaja.

Al igual que en la neurociencia y la biología, también podemos preguntarnos cómo podrían ser las cosas «mejores de lo normal»: no solo cómo evitar la autocracia, sino cómo lograr que las democracias sean mejores de lo que son hoy. Incluso en las democracias se cometen injusticias constantemente. Las sociedades basadas en el Estado de derecho prometen a sus ciudadanos que todos serán iguales ante la ley y que todos tienen garantizados unos derechos humanos básicos, pero es obvio que, en la práctica, las personas no siempre disfrutan de esos derechos. El mero hecho de que esta promesa se cumpla de forma parcial es motivo de orgullo, pero ¿puede la IA ayudarnos a mejorar?

Por ejemplo, ¿podría la IA mejorar nuestro sistema legal y judicial haciendo que las decisiones y los procesos sean más imparciales? Hoy en día, en los contextos legales o judiciales, a la gente le preocupa sobre todo que los sistemas de IA sean una causa de discriminación; estas preocupaciones son importantes y es necesario protegerse frente a ellas. Al mismo tiempo, la vitalidad de la democracia depende de que aprovechemos las nuevas tecnologías para mejorar las instituciones democráticas, no solo para reaccionar ante los riesgos. Una implementación verdaderamente madura y exitosa de la IA tiene el potencial de reducir los sesgos y de ser más justa para todos.

Durante siglos, los sistemas jurídicos se han enfrentado al dilema de que la ley pretende ser imparcial, pero es intrínsecamente subjetiva y, por lo tanto, debe ser interpretada por seres humanos con sesgos. Intentar que la ley sea totalmente mecánica no ha funcionado porque el mundo real es complejo y no siempre puede plasmarse en fórmulas matemáticas. En su lugar, los sistemas jurídicos se basan en criterios notoriamente imprecisos como «castigo cruel e inusual» o «carente por completo de valor social redentor», que luego interpretan los seres humanos (y a menudo lo hacen de una manera que revela sesgos, favoritismo o arbitrariedad). Los «contratos inteligentes» de las criptomonedas no han revolucionado el derecho porque el código ordinario no es lo bastante inteligente como para dirimir demasiadas cuestiones de interés. Pero la IA podría serlo: es la primera tecnología capaz de emitir juicios amplios y difusos de forma repetible y mecánica.

No sugiero que sustituyamos literalmente a los jueces por sistemas de IA, pero da la sensación de que la combinación de imparcialidad y capacidad para comprender y procesar situaciones complejas del mundo real debería tener aplicaciones muy positivas para el derecho y la justicia. Como mínimo, estos sistemas podrían trabajar junto a los humanos para ayudar en la toma de decisiones. La transparencia sería importante en cualquier sistema de este tipo, y una ciencia de la IA madura podría, en teoría, proporcionarla: el proceso de entrenamiento de dichos sistemas podría estudiarse a fondo y se podrían usar técnicas avanzadas de interpretabilidad para ver el interior del modelo final y evaluar si presenta sesgos ocultos, algo que sencillamente no es posible con los humanos. Estas herramientas de IA también podrían utilizarse para vigilar posibles violaciones de los derechos fundamentales en un contexto judicial o policial, lo que ayudaría a que las constituciones se apliquen más por sí solas.

En la misma línea, la IA podría utilizarse tanto para agregar opiniones como para fomentar el consenso entre los ciudadanos, resolver conflictos, encontrar puntos en común y buscar acuerdos. El proyecto de democracia computacional ha puesto en marcha algunas ideas iniciales en esta dirección, que incluyen colaboraciones con Anthropic. Sin duda, una ciudadanía más informada y reflexiva fortalecería las instituciones democráticas.

También existe una clara oportunidad para utilizar la IA como ayuda en la provisión de servicios públicos (como prestaciones sanitarias o servicios sociales) que, en principio, están al alcance de todos, pero que en la práctica suelen ser muy deficientes, y peores en algunos lugares que en otros. Esto incluye los servicios de salud, los departamentos de vehículos motorizados, los impuestos, la seguridad social, la aplicación de las normativas de construcción, etc. Contar con una IA muy reflexiva e informada cuya función sea proporcionarte, de una forma que puedas entender, todo aquello a lo que tienes derecho legalmente por parte del Estado —y que además te ayude a cumplir con normativas gubernamentales a menudo confusas— supondría un gran avance. Aumentar la capacidad del Estado contribuye tanto a cumplir la promesa de igualdad ante la ley como a fortalecer el respeto por la gobernanza democrática. En la actualidad, los servicios mal prestados son uno de los principales motivos de cinismo hacia el gobierno.⁠⁠26

Todas estas son ideas algo vagas y, como dije al principio de esta sección, no confío ni de lejos tanto en su viabilidad como en la de los avances en biología, neurociencia y alivio de la pobreza. Puede que sean de un utopismo poco realista. Pero lo importante es tener una visión ambiciosa, estar dispuestos a soñar a lo grande y a probar cosas. La visión de la IA como garante de la libertad, los derechos individuales y la igualdad ante la ley es una visión demasiado poderosa como para no luchar por ella. Una sociedad del siglo XXI con IA podría ser, a la vez, una defensora más firme de la libertad individual y un faro de esperanza que contribuya a que la democracia liberal se convierta en la forma de gobierno que todo el mundo desee adoptar.

5. Trabajo y sentido

Incluso si todo lo expuesto en las cuatro secciones anteriores sale bien —no solo aliviamos la enfermedad, la pobreza y la desigualdad, sino que la democracia liberal se convierte en la forma de gobierno dominante y las democracias liberales existentes se transforman en mejores versiones de sí mismas—, sigue quedando al menos una cuestión importante. «Es estupendo que vivamos en un mundo tan avanzado tecnológicamente, y además justo y digno», podría objetar alguien, «pero si las IA lo hacen todo, ¿cómo encontrarán sentido a su vida los seres humanos? Y, ya puestos, ¿cómo sobrevivirán económicamente?».

Creo que esta cuestión es más difícil que las demás. No quiero decir que sea necesariamente más pesimista al respecto que frente a las otras cuestiones (aunque sí veo desafíos). Me refiero a que es más difusa y difícil de predecir de antemano, porque está relacionada con cuestiones macroscópicas sobre la organización de la sociedad que suelen resolverse únicamente con el paso del tiempo y de manera descentralizada. Por ejemplo, las sociedades históricas de cazadores-recolectores podrían haber imaginado que la vida carecía de sentido sin la caza y sin diversos tipos de rituales religiosos relacionados con ella, y habrían pensado que nuestra sociedad tecnológica, bien alimentada, carece de propósito. Quizá tampoco habrían entendido cómo nuestra economía puede abastecer a todo el mundo, ni qué función útil pueden desempeñar las personas en una sociedad mecanizada.

No obstante, vale la pena decir al menos unas pocas palabras, teniendo presente que la brevedad de esta sección no debe interpretarse en absoluto como una señal de que no me tomo en serio estas cuestiones; al contrario, es una señal de la falta de respuestas claras.

Sobre la cuestión del sentido, creo que es muy probable que sea un error creer que las tareas que uno emprende carecen de sentido simplemente porque una IA podría realizarlas mejor. La mayoría de las personas no son las mejores del mundo en nada, y eso no parece molestarles especialmente. Por supuesto, hoy en día aún pueden contribuir a través de la ventaja comparativa, y pueden encontrar sentido en el valor económico que producen, pero las personas también disfrutan enormemente de actividades que no generan ningún valor económico. Yo paso mucho tiempo jugando a videojuegos, nadando, paseando al aire libre y hablando con amigos, actividades que no generan ningún valor económico. Puedo pasar un día intentando mejorar en un videojuego o ser más rápido subiendo una montaña en bicicleta, y realmente no me importa que alguien, en algún lugar, sea mucho mejor en esas cosas. En cualquier caso, creo que el sentido proviene principalmente de las relaciones y los vínculos humanos, no del trabajo económico. La gente sí que busca una sensación de logro, incluso de competición, y en un mundo pos-IA será perfectamente posible pasar años intentando realizar alguna tarea muy difícil con una estrategia compleja, de forma similar a lo que hace la gente hoy en día cuando se embarca en proyectos de investigación, intenta convertirse en actor de Hollywood o funda empresas.⁠⁠27 El hecho de que (a) una IA en algún lugar pudiera, en principio, realizar esta tarea mejor, y (b) esta tarea ya no sea un elemento económicamente remunerado de la economía global, no me parece muy relevante.

De hecho, la parte económica me parece más difícil que la parte del sentido. Por «económico» en esta sección me refiero al posible problema de que la mayoría o todos los seres humanos quizá no sean capaces de contribuir de forma significativa a una economía impulsada por una IA suficientemente avanzada. Se trata de un problema más macro que el problema independiente de la desigualdad, especialmente la desigualdad en el acceso a las nuevas tecnologías, que traté en la sección 3.

En primer lugar, a corto plazo estoy de acuerdo con los argumentos de que la ventaja comparativa seguirá manteniendo la relevancia de los humanos y, de hecho, aumentará su productividad, e incluso podría, en cierto modo, igualar las condiciones entre los seres humanos. Mientras la IA solo sea mejor en el 90 % de un trabajo determinado, el 10 % restante multiplicará enormemente el valor de los seres humanos, lo que aumentará su remuneración y, de hecho, creará un montón de nuevos puestos de trabajo para personas que complementen y amplíen aquello en lo que la IA destaca, de tal forma que ese «10 %» se amplíe para seguir dando empleo a casi todo el mundo. De hecho, incluso si la IA puede hacer el 100 % de las cosas mejor que los humanos, pero sigue siendo ineficiente o costosa en algunas tareas, o si los insumos de recursos de los humanos y de las IA son significativamente diferentes, entonces la lógica de la ventaja comparativa seguirá siendo válida. Un ámbito en el que es probable que los humanos mantengan una ventaja relativa (o incluso absoluta) durante un tiempo considerable es el mundo físico. Por lo tanto, creo que la economía humana puede seguir teniendo sentido incluso un poco más allá del punto en el que lleguemos a «un país de genios en un centro de datos».

Sin embargo, sí creo que, a largo plazo, la IA llegará a ser tan ampliamente eficaz y tan barata que esto ya no será aplicable. En ese momento, nuestro actual modelo económico dejará de tener sentido y será necesario un debate social más amplio sobre cómo debería organizarse la economía.

Aunque esto pueda parecer una locura, lo cierto es que la civilización ha sabido sortear con éxito grandes cambios económicos en el pasado: de la caza y la recolección a la agricultura, de la agricultura al feudalismo y del feudalismo al industrialismo. Sospecho que se necesitará algo nuevo y más extraño, y que se trata de una idea que nadie hoy en día ha sabido imaginar adecuadamente. Podría ser tan sencillo como una renta básica universal de gran envergadura para todos, aunque sospecho que eso solo será una pequeña parte de la solución. Podría tratarse de una economía capitalista basada en sistemas de IA, que luego distribuyeran recursos (en cantidades enormes, ya que el pastel económico global será gigantesco) a los seres humanos en función de una economía secundaria basada en lo que los sistemas de IA consideren que tiene sentido recompensar en las personas (basándose en un criterio derivado, en última instancia, de los valores humanos). Quizás la economía funcione con puntos Whuffie. O quizá los seres humanos sigan siendo, después de todo, valiosos desde el punto de vista económico, de alguna forma que los modelos económicos habituales no hayan previsto. Todas estas soluciones plantean un sinfín de posibles problemas, y no es posible saber si tendrán sentido sin muchas iteraciones y experimentación. Y, al igual que con algunos de los otros retos, probablemente tendremos que luchar para conseguir un buen resultado en este ámbito: es evidente que también son posibles caminos explotadores o distópicos, y hay que evitarlos. Se podría escribir mucho más sobre estas cuestiones y espero hacerlo en otra ocasión.

Balance final

A través de los diversos temas anteriores, he intentado esbozar una visión de un mundo que es a la vez plausible si todo sale bien con la IA, y mucho mejor que el mundo actual. No sé si este mundo es realista, y aunque lo fuera, no se logrará sin un enorme esfuerzo y lucha por parte de muchas personas valientes y comprometidas. Todo el mundo (¡incluidas las empresas de IA!) tendrá que aportar su granito de arena tanto para prevenir los riesgos como para aprovechar al máximo los beneficios.

Pero es un mundo por el que vale la pena luchar. Si todo esto realmente ocurre en un plazo de entre 5 y 10 años —la derrota de la mayoría de las enfermedades, el aumento de la libertad biológica y cognitiva, la salida de miles de millones de personas de la pobreza para que puedan participar en las nuevas tecnologías, un renacimiento de la democracia liberal y los derechos humanos—, sospecho que todos los que lo presencien se sorprenderán por el efecto que tendrá en ellos. No me refiero a la experiencia de beneficiarse personalmente de todas las nuevas tecnologías, aunque eso sin duda será asombroso. Me refiero a la experiencia de ver cómo un conjunto de ideales arraigados desde hace tiempo se materializa ante nosotros de golpe. Creo que a muchos les conmoverá literalmente hasta las lágrimas.

A lo largo de la redacción de este ensayo he percibido una tensión interesante. En cierto sentido, la visión aquí expuesta es extremadamente radical: es algo que casi nadie espera que ocurra en la próxima década, y probablemente a muchos les parecerá una fantasía absurda. Puede que algunos ni siquiera la consideren deseable; encarna valores y opciones políticas con las que no todo el mundo estará de acuerdo. Pero, al mismo tiempo, hay algo deslumbrantemente obvio —algo sobredeterminado— en ella, como si los distintos intentos de imaginar un mundo mejor condujeran inevitablemente, a grandes rasgos, a esto.

En The Player of Games⁠⁠28 de Iain M. Banks, el protagonista —miembro de una sociedad llamada la Cultura, basada en principios no muy distintos a los que he expuesto aquí— viaja a un imperio represivo y militarista en el que el liderazgo se determina mediante la competencia en un intrincado juego de batalla. El juego, sin embargo, es lo suficientemente complejo como para que la estrategia de un jugador dentro de él tienda a reflejar su propia visión política y filosófica. El protagonista logra derrotar al emperador en el juego, demostrando que sus valores (los valores de la Cultura) representan una estrategia ganadora incluso en un juego diseñado por una sociedad basada en la competencia despiadada y la supervivencia del más apto. Una conocida entrada de Scott Alexander plantea la misma tesis: que la competencia es contraproducente y tiende a conducir a una sociedad basada en la compasión y la cooperación. El «arco del universo moral» es otro concepto similar.

Creo que los valores de la Cultura son una estrategia ganadora porque son la suma de un millón de pequeñas decisiones que tienen una clara fuerza moral y que tienden a unir a todos en el mismo bando. Las intuiciones humanas básicas de equidad, cooperación, curiosidad y autonomía son difíciles de rebatir, y son acumulativas de un modo en que nuestros impulsos más destructivos a menudo no lo son. Es fácil argumentar que los niños no deberían morir de enfermedades si podemos evitarlo y, a partir de ahí, es fácil argumentar que los hijos de todos merecen ese derecho por igual. Partiendo de ahí, no es difícil argumentar que todos deberíamos unirnos y aplicar nuestro intelecto para lograr este resultado. Pocos están en desacuerdo con que se deba castigar a las personas que atacan o lastiman a otros de forma innecesaria, y de ahí no hay un gran salto a la idea de que los castigos deben ser coherentes y sistemáticos para todos. Es igualmente intuitivo que las personas deban tener autonomía y responsabilidad sobre sus propias vidas y decisiones. Estas simples intuiciones, si se llevan a su conclusión lógica, conducen finalmente al Estado de derecho, a la democracia y a los valores de la Ilustración. Si no de forma inevitable, al menos como tendencia estadística, este es el rumbo hacia el que la humanidad ya se dirigía. La IA simplemente nos ofrece una oportunidad para llegar allí más rápidamente: para hacer que la lógica sea más contundente y el destino, más claro.

Sin embargo, es algo de una belleza trascendente. Tenemos la oportunidad de desempeñar un pequeño papel para hacerlo realidad.

Gracias a Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe y a muchas personas de Anthropic por revisar los borradores de este ensayo.

A los ganadores del Premio Nobel de Química de 2024, por mostrarnos el camino a todos.

Publicación original: Dario Amodei (2024) Machines of Loving Grace, Dario Amodei’s Blog, octubre.

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28