La singularidad apacible
Hemos superado el horizonte de sucesos; el despegue ha comenzado. La humanidad está a punto de crear una superinteligencia digital y, al menos hasta ahora, todo resulta mucho menos extraño de lo que cabría esperar.
Los robots aún no deambulan por las calles, ni la mayoría de nosotros habla con la IA todo el día. La gente sigue muriendo de enfermedades, todavía no podemos viajar fácilmente al espacio y hay mucho sobre el universo que no entendemos.
Y, sin embargo, recientemente hemos creado sistemas que son más inteligentes que las personas en muchos aspectos y que son capaces de amplificar significativamente el rendimiento de quienes los utilizan. La parte del trabajo que menos probable parecía ya ha quedado atrás; los descubrimientos científicos que nos llevaron a sistemas como GPT-4 y o3 se consiguieron con gran esfuerzo, pero nos llevarán muy lejos.
La IA contribuirá al mundo de muchas maneras, pero las mejoras en la calidad de vida que traerá al acelerar el progreso científico y aumentar la productividad serán enormes; el futuro puede ser muchísimo mejor que el presente. El progreso científico es el mayor motor del progreso general; resulta tremendamente emocionante pensar en cuánto más podríamos llegar a tener.
En un sentido importante, ChatGPT ya es más potente que cualquier ser humano que haya existido jamás. Cientos de millones de personas dependen de él cada día para tareas cada vez más importantes; una pequeña capacidad nueva puede tener un impacto enormemente positivo; una pequeña desalineación multiplicada por cientos de millones de personas puede causar un gran impacto negativo.
En 2025 han aparecido agentes capaces de realizar un verdadero trabajo cognitivo; programar computadoras nunca volverá a ser lo mismo. Es probable que en 2026 veamos la llegada de sistemas capaces de descubrir ideas novedosas. En 2027 podrían aparecer robots capaces de realizar tareas en el mundo real.
Muchas más personas podrán crear software y arte. Pero el mundo quiere mucho más de ambas cosas, y los expertos probablemente seguirán siendo mucho mejores que los principiantes, siempre y cuando adopten las nuevas herramientas. En términos generales, que una sola persona pueda hacer mucho más en 2030 de lo que podía en 2020 supondrá un cambio sorprendente, y muchos descubrirán cómo sacar provecho de ello.
En los aspectos más importantes, es posible que la década de 2030 no sea radicalmente diferente. La gente seguirá amando a sus familias, expresando su creatividad, jugando y nadando en los lagos.
Pero en otros aspectos que siguen siendo muy importantes, es probable que la década de 2030 sea radicalmente diferente a cualquier época anterior. No sabemos hasta qué punto podremos ir más allá de la inteligencia de nivel humano, pero estamos a punto de averiguarlo.
En la década de 2030, la inteligencia y la energía —las ideas y la capacidad de hacerlas realidad— serán enormemente abundantes. Estos dos han sido durante mucho tiempo los factores que más han limitado el progreso humano; con inteligencia y energía en abundancia (y una buena gobernanza), teóricamente podríamos tener cualquier otra cosa.
Ya convivimos con una inteligencia digital increíble y, tras cierta sorpresa inicial, la mayoría nos hemos acostumbrado bastante a ella. En muy poco tiempo pasamos de sorprendernos de que la IA pueda generar un párrafo bellamente redactado a preguntarnos cuándo podrá generar una novela bellamente redactada; o de sorprendernos de que pueda realizar diagnósticos médicos que salvan vidas a preguntarnos cuándo podrá desarrollar las curas; o de sorprendernos de que pueda crear un pequeño programa de computadora a preguntarnos cuándo podrá crear una empresa completamente nueva. Así es como se desarrolla la singularidad: las maravillas se convierten en rutina y, después, en lo mínimo indispensable.
Los científicos ya nos dicen que son dos o tres veces más productivos de lo que eran antes de la IA. La IA avanzada es interesante por muchas razones, pero quizá nada sea tan significativo como el hecho de que podemos utilizarla para acelerar la investigación en IA. Tal vez seamos capaces de descubrir nuevos sustratos computacionales, mejores algoritmos y quién sabe qué más. Si podemos realizar la investigación de una década en un año, o en un mes, el ritmo de progreso será, obviamente, muy diferente.
De aquí en adelante, las herramientas que ya hemos construido nos ayudarán a obtener nuevos hallazgos científicos y nos facilitarán la creación de mejores sistemas de IA. Por supuesto, esto no es lo mismo que un sistema de IA que actualice su propio código de forma completamente autónoma; sin embargo, se trata de una versión incipiente de la automejora recursiva.
Hay otros bucles de autorrefuerzo en juego. La creación de valor económico ha puesto en marcha un círculo virtuoso que acelera la construcción de la infraestructura necesaria para hacer funcionar estos sistemas de IA cada vez más potentes. Y los robots capaces de construir otros robots (y, en cierto sentido, los centros de datos capaces de construir otros centros de datos) no están tan lejos.
Si tenemos que fabricar el primer millón de robots humanoides a la antigua usanza, pero luego estos pueden gestionar toda la cadena de suministro —extraer y refinar minerales, conducir camiones, dirigir fábricas, etc.— para construir más robots, que a su vez pueden construir más plantas de fabricación de chips, centros de datos, etc., entonces el ritmo de progreso será, obviamente, muy diferente.
A medida que avance la automatización de la producción de los centros de datos, el costo de la inteligencia debería acabar convergiendo hacia el costo de la electricidad. (La gente suele sentir curiosidad por cuánta energía consume una consulta a ChatGPT; la consulta promedio consume unos 0,34 vatios-hora, casi lo mismo que consumiría un horno en poco más de un segundo o una bombilla de alta eficiencia en un par de minutos. También consume unos 0,000085 galones de agua; aproximadamente la decimoquinta parte de una cucharadita.)
El ritmo del progreso tecnológico seguirá acelerándose, y seguirá siendo cierto que las personas son capaces de adaptarse a casi cualquier cosa. Habrá situaciones muy difíciles, como la desaparición de categorías enteras de empleos, pero, por otro lado, el mundo se enriquecerá tanto y tan rápidamente que podremos plantearnos seriamente nuevas ideas de política pública que antes nunca habríamos podido considerar. Probablemente no adoptemos un nuevo contrato social de golpe, pero cuando miremos atrás dentro de unas décadas, los cambios graduales habrán dado lugar a algo enorme.
Si la historia sirve de guía, descubriremos nuevas cosas que hacer y nuevas cosas que desear, y asimilaremos rápidamente nuevas herramientas (el cambio laboral tras la Revolución Industrial es un buen ejemplo reciente). Las expectativas aumentarán, pero las capacidades lo harán con la misma rapidez, y todos obtendremos cosas mejores. Construiremos cosas cada vez más maravillosas los unos para los otros. Las personas tienen una curiosa e importante ventaja a largo plazo sobre la IA: estamos programados para preocuparnos por los demás y por lo que piensan y hacen, y no nos importan demasiado las máquinas.
Un agricultor de subsistencia de hace mil años observaría lo que muchos de nosotros hacemos y diría que tenemos trabajos falsos, y pensaría que solo estamos jugando para entretenernos, ya que disponemos de comida en abundancia y lujos inimaginables. Espero que miremos los trabajos de dentro de mil años y pensemos que son trabajos muy falsos, y no tengo ninguna duda de que a las personas que los realicen les parecerán increíblemente importantes y satisfactorios.
El ritmo al que se lograrán nuevas maravillas será inmenso. Resulta difícil siquiera imaginar hoy lo que habremos descubierto para 2035; quizá pasemos de resolver la física de altas energías un año a iniciar la colonización del espacio al siguiente, o de un gran avance en la ciencia de materiales un año a verdaderas interfaces cerebro-computadora de gran ancho de banda al siguiente. Muchas personas elegirán vivir sus vidas prácticamente de la misma forma, pero al menos algunas probablemente decidirán «conectarse».
Mirando hacia el futuro, esto suena difícil de asimilar. Sin embargo, es probable que vivirlo resulte impresionante, aunque manejable. Desde una perspectiva relativista, la singularidad ocurre poco a poco, y la fusión se da lentamente. Estamos ascendiendo por el largo arco del progreso tecnológico exponencial; siempre se ve vertical al mirar hacia adelante y plano al mirar hacia atrás, pero se trata de una única curva suave. (Piensa en 2020 y en cómo habría sonado tener algo parecido a una IAG para 2025, frente a cómo han sido en realidad los últimos cinco años).
Hay serios retos que afrontar junto con las enormes ventajas. Necesitamos resolver los problemas de seguridad en el plano técnico y en el social, pero luego resulta de vital importancia distribuir ampliamente el acceso a la superinteligencia dadas sus implicaciones económicas. El mejor camino podría ser algo así:
-
Resolver el problema de la alineación, lo que significa garantizar de manera robusta que los sistemas de IA aprendan y actúen en pos de lo que realmente queremos de forma colectiva a largo plazo (los feeds de las redes sociales son un ejemplo de IA desalineada; los algoritmos que los impulsan son extraordinariamente buenos para lograr que sigas desplazando la pantalla y comprenden claramente tus preferencias a corto plazo, pero lo hacen explotando algo en tu cerebro que anula tus preferencias a largo plazo).
-
Luego enfocarnos en hacer que la superinteligencia sea asequible, esté ampliamente disponible y no se concentre demasiado en manos de ninguna persona, empresa o país. La sociedad es resiliente, creativa y se adapta rápidamente. Si logramos aprovechar la voluntad y la sabiduría colectivas de las personas, aunque cometamos muchos errores y algunas cosas salgan realmente mal, aprenderemos y nos adaptaremos con rapidez, y seremos capaces de utilizar esta tecnología para obtener las máximas ventajas y los mínimos inconvenientes. Otorgar mucha libertad a los usuarios, dentro de unos límites amplios que la sociedad deberá decidir, parece muy importante. Cuanto antes pueda el mundo iniciar una conversación sobre cuáles son estos límites amplios y cómo definimos la alineación colectiva, mejor.
Nosotros (todo el sector, no solo OpenAI) estamos construyendo un cerebro para el mundo. Será extremadamente personalizado y fácil de usar para todos; nuestro único límite serán las buenas ideas. Durante mucho tiempo, el personal técnico del sector de las empresas emergentes se ha burlado de «los tipos de las ideas», personas que tenían una idea y buscaban un equipo para desarrollarla. Ahora me parece que están a punto de tener su momento de gloria.
OpenAI es muchas cosas ahora, pero ante todo somos una empresa de investigación en superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino ya está iluminada y las zonas oscuras retroceden rápidamente. Nos sentimos extraordinariamente agradecidos de poder hacer lo que hacemos.
Una inteligencia demasiado barata para medirla está al alcance de la mano. Puede sonar descabellado decirlo, pero si en 2020 hubiéramos dicho que estaríamos donde estamos hoy, probablemente habría sonado más descabellado que nuestras predicciones actuales sobre 2030.
Ojalá escalemos hacia la superinteligencia de forma fluida, exponencial y sin sobresaltos.