Cómo los bucles de realimentación impulsados por la IA podrían desatar el caos en muy poco tiempo
Cuando la gente piensa en la inteligencia artificial general (IAG), creo que a menudo se imagina una versión aún más inteligente de ChatGPT. Pero no es ahí hacia donde nos dirigimos.
Las empresas de IA de vanguardia están intentando crear un “trabajador digital” en toda regla que pueda llevar a cabo tareas abiertas, como fundar una empresa, supervisar experimentos científicos o controlar equipamiento militar. Si lo logran, esto generaría dinámicas totalmente diferentes a las de los modelos de lenguaje a gran escala existentes y tendría consecuencias mucho más extremas.
La razón es el efecto de los bucles de realimentación que podrían acelerar el ritmo del cambio social 10 o incluso 100 veces.
El bucle de realimentación que ha recibido más atención en el pasado es el del progreso algorítmico. Si la IA pudiera aprender a mejorarse a sí misma, según el argumento, tal vez podría iniciar una singularidad que condujera rápidamente a la superinteligencia.
Pero hay otros bucles de realimentación que de todas formas podrían hacer que las cosas se vuelvan una verdadera locura —incluso sin superinteligencia—; solo que podrían tardar de cinco a veinte años en lugar de unos pocos meses. El argumento a favor de una aceleración es más sólido de lo que la mayoría de la gente cree.
Este artículo describirá tres formas en las que un verdadero trabajador de IA podría transformar el mundo, así como los tres bucles de realimentación que producen estas transformaciones, a modo de resumen de las investigaciones de los últimos cinco años.
Aunque la principal preocupación de la mayoría de las personas con respecto a la IAG es el desempleo masivo, las cosas podrían volverse mucho más extrañas incluso antes de que esto sea posible. Lo que está en juego es un orden económico y un ritmo de cambio totalmente nuevos, con importantes implicaciones sobre las mejores formas de hacer el bien, independientemente de los problemas en los que te enfoques hoy.
A lo largo del texto, no intento evaluar si o cuándo este tipo de trabajador digital estará listo para implementarse; más bien, asumo que las capacidades seguirán avanzando y exploro lo que sucederá después.
1. La explosión de inteligencia
Bucles de realimentación algorítmicos
En la década de 1960, Alan Turing e I. J. Good observaron que si la IA comenzara a ayudar en la propia investigación sobre IA, entonces el progreso en este campo se aceleraría, lo que llevaría a que la IA se volviera aún más avanzada y quizás produjera una “singularidad” en la inteligencia.a En aquel entonces se trataba de un argumento puramente teórico, pero en los últimos cinco años hemos obtenido una base empírica mucho más sólida sobre cómo podrían funcionar estos (y otros) bucles de realimentación.
Las principales empresas de IA en la actualidad ya utilizan la IA de manera extensiva para ayudar en su propia investigación, especialmente para ayudar con la programación del entrenamiento, las pruebas y el andamiaje de los experimentos.1 Hasta ahora, el impulso general a la productividad de estos investigadores parece ser todavía relativamente pequeño, tal vez de entre un 3 y un 30 %.b Pero a medida que las herramientas de IA mejoren, el impulso a su productividad aumentará.
Ahora imagina que el proceso continúa y los modelos siguen mejorando. Con el tiempo, llegarán a ser capaces de realizar el trabajo de un ingeniero júnior, y luego el de un ingeniero de nivel medio, y continuarán mejorando a partir de ahí.c
Si los modelos actuales pudieran producir un trabajo comparable al de un ingeniero de nivel medio, entonces, dado el poder de cómputo ya disponible hoy en los centros de datos, sería posible generar un resultado equivalente al de millones de ingenieros competentes trabajando en investigación sobre IA.d Probablemente haya menos de 10 000 investigadores humanos trabajando en la IA de vanguardia hoy en día, por lo que esto sería similar a que cada investigador humano tuviera el equivalente a 100 asistentes.
Luego, imagina que la IA sigue mejorando y que, con el tiempo, estos modelos empiezan a hacer incluso el trabajo de los mejores investigadores, con una mínima dirección humana.
Nadie sabe exactamente cuánto aceleraría eso el progreso, pero gran parte se reduce a una sola pregunta:
Si se duplica el esfuerzo de investigación dedicado a los algoritmos de IA (manteniendo constante la cantidad de chips), ¿se duplica al menos la calidad de los algoritmos?
Si la respuesta es sí, entonces cada vez que el número de investigadores digitales de IA se duplica, se desbloquean avances que permiten ejecutar inteligencias artificiales el doble de eficaces, lo que a su vez permite que la población de investigadores digitales se duplique de nuevo, y así sucesivamente, hasta acercarse a algún otro límite.
Existen estimaciones empíricas de los rendimientos de la investigación algorítmica previa que sugieren que, si bien el valor podría ser inferior a uno, hay muchas probabilidades de que sea mayor, lo que daría inicio a un bucle de realimentación positivo.
La siguiente pregunta es con qué rapidez pierde fuerza el bucle de realimentación al toparse con otras limitaciones. El modelo más completo de ambos efectos que he visto es el de Tom Davidson, quien actualmente trabaja en Forethought, un instituto de investigación con sede en Oxford fundado para estudiar el impacto de la IA. En marzo de 2025, Tom estimó que lo más probable es que viéramos tres años de avances en IA condensados en un solo año, y es posible que lleguemos a ver hasta diez.2
¿Cómo se verían tres años de avances en un solo año? A medida que los algoritmos se han vuelto más eficientes, la cantidad de modelos de IA que se pueden ejecutar en un número determinado de chips de computadora se ha multiplicado por más de tres cada año durante los últimos cinco años.e Por lo tanto, si empezaras con 10 millones de trabajadores digitales, ver tres años de progreso condensados en uno significaría que, un año después, podrías ejecutar unos 270 millones de ellos.
Estos modelos también serían más inteligentes. Tres años de progreso representan más que la brecha entre el GPT-4 original, que era pésimo en matemáticas, ciencias y programación, y GPT-5, que puede responder a preguntas científicas conocidas mejor que los estudiantes de doctorado en el campo y ganó el oro en la Olimpiada de Matemáticas.f Una vez que la IA esté cerca de ser capaz de realizar investigación en IA, podríamos ver este tipo de salto en menos de un año, partiendo de un punto en el que los modelos ya se encuentran en torno al nivel humano.
Las primeras discusiones se centraban en si podría suceder literalmente de la noche a la mañana (“foom”), pero hoy en día pocas personas creen que eso sea plausible. Todavía se necesita tiempo para realizar experimentos y sesiones de entrenamiento. Pero podría desarrollarse en una escala de meses, llegando a un mundo que, por lo demás, sería similar al actual y creando una disrupción masiva, y el proceso no se detendrá ahí.
Bucles de realimentación de hardware
Hoy en día, el número de chips de IA producidos se duplica aproximadamente cada año.g Si esa tendencia continúa, y se pueden ejecutar 270 millones de IA en un año, entonces se podrían ejecutar unos 540 millones al siguiente. También habría el doble de poder de cómputo disponible para el entrenamiento de la IA, por lo que también se volverían más inteligentes.
Si operar cada chip cuesta unos 2 dólares por hora, pero este puede hacer el trabajo de un trabajador humano del conocimiento, esos chips podrían generar 20 o incluso 200 dólares de ingresos por hora. La producción de chips se convertiría en una de las mayores prioridades del mundo, atrayendo inversiones no de cientos de miles de millones, sino de billones de dólares. Las empresas de IA dirigirían a los cientos de millones de trabajadores de IA a su disposición hacia la tarea de acelerar la producción de chips al máximo, por lo que es probable que esta también se acelere.h
Más chips generarían aún más ingresos, que permitirían financiar todavía más chips, lo cual mejoraría la IA aún más. Este es el bucle de realimentación impulsado por el hardware de chips, y cuenta con evidencia más sólida que el algorítmico.i
Es probable que este bucle de realimentación funcione porque cada vez que el poder de cómputo total se duplica, hay el doble disponible tanto para inferencia como para entrenamiento.j El doble de poder de cómputo para inferencia implica que se puede ejecutar el doble de modelos, lo cual, a simple vista, sugiere que deberían poder generar (casi) el doble de ingresos. Además, el doble de poder de cómputo para entrenamiento significa que esos modelos serán más inteligentes y eficientes, haciéndolos más útiles, por lo que es probable que los ingresos aumenten aún más.
De hecho, esto parece ser lo que ya está ocurriendo. Cada año, las empresas de IA de vanguardia aumentan la cantidad de poder de cómputo a su disposición unas 3 o 4 veces, pero sus ingresos han estado aumentando unas 4 o 5 veces por año.k
Además, cada vez que la inversión en chips se ha duplicado, la cantidad de poder de cómputo disponible ha aumentado en una proporción mucho mayor. De 1971 a 2011, la inversión en semiconductores se multiplicó por 18, pero la cantidad de poder de cómputo en un chip se multiplicó por un millón gracias a la innovación y a las economías de escala. El artículo Are ideas getting harder to find? muestra que duplicar la inversión en chips de computadora ha multiplicado por cinco el poder de cómputo.l
Estos dos efectos se potencian: cada vez que las empresas de IA duplican sus ingresos, pueden reinvertir en chips que les proporcionarán más del doble de poder de cómputo en la siguiente generación. Luego, cada vez que el poder de cómputo se duplica, este puede utilizarse para ejecutar más del doble de trabajadores digitales de mejor calidad, los cuales pueden generar más del doble de ingresos. (Al menos hasta que se alcancen otros límites, de los que hablaré más adelante).
¿En qué podría terminar esto?
Ya sea a través del bucle de realimentación algorítmico o del de hardware, podríamos terminar rápidamente en un mundo con muchos miles de millones de trabajadores de IA que puedan contratarse por decenas de centavos la hora. Es posible que estas IA alcancen velozmente lo que se ha denominado “superinteligencia” artificial: una IA más capaz que los humanos en prácticamente cualquier tarea cognitiva. Esto ya no es solo una idea, sino el objetivo explícito de las principales empresas de IA, las cuales han recaudado cientos de miles de millones de dólares para lograrlo.m
La superinteligencia podría significar inteligencias artificiales capaces de alcanzar un nivel de comprensión mucho mayor que los humanos. Pero también podría significar inteligencias artificiales que tengan más o menos el mismo nivel de inteligencia, pero que nos superen debido a otras ventajas. Imagina al ser humano más capaz que conozcas y, a continuación, imagina que pudiera aumentar su velocidad de procesamiento para pensar sesenta veces más rápido: un minuto para ti sería como una hora para él. Ahora imagina que pudiera hacer copias de sí mismo al instante y que todo lo que aprendiera una copia pudiera compartirse con las demás. Imagina una empresa como Google, pero en la que el director general puede supervisar personalmente a cada trabajador, y cada trabajador es una copia de quien sea mejor en ese puesto.
Ya sea que acabemos teniendo superinteligencia o un gran número de trabajadores digitales de nivel humano mejor coordinados, este proceso se ha denominado la “explosión de inteligencia”. Quizá sea más preciso llamarla “explosión de capacidades”, porque la IA no solo mejoraría en términos de inteligencia académica limitada, sino también en creatividad, coordinación, carisma, sentido común y cualquier otra habilidad que se pueda aprender.
Los expertos en la tecnología creen que hay un 40-60 % de probabilidades de que el argumento de la explosión de inteligencia sea, en líneas generales, correcto, y un 10 % de probabilidades de que la IA se vuelva mucho más capaz que los humanos en los dos años siguientes a la creación de la IAG,3 aunque a mí me parece una cifra baja.
2. La explosión tecnológica
¿Qué pasaría una vez que haya comenzado una explosión de inteligencia? Hoy en día hay unos 10 millones de científicos en el mundo.n Si estos cientos de millones de sistemas de IA llegaran a ser tan productivos como los científicos humanos, el número efectivo de investigadores se multiplicaría por 100 (y seguiría creciendo). Aunque existen muchos otros cuellos de botella para la ciencia además de la cantidad de científicos, esto aceleraría casi con toda seguridad el ritmo del progreso tecnológico. Forethought también ha estimado que podríamos ver 100 años de progreso tecnológico en menos de 10, y tal vez mucho más.o Podríamos llamar a esto la “explosión tecnológica”.p
Para hacerse una idea de lo alucinante que sería esto, imagina por un momento que todo lo descubierto en el siglo XX se hubiera descubierto entre 1900 y 1910. La física cuántica y la secuenciación del ADN, las computadoras y el internet, la penicilina y la ingeniería genética, los aviones a reacción y los satélites espaciales habrían surgido en tan solo dos o tres ciclos electorales.
Al principio, esto podría manifestarse en herramientas de IA especializadas, como AlphaFold, que resolvió el problema del plegamiento de proteínas y les valió a sus creadores el Premio Nobel. Más recientemente, un estudio reveló que los científicos que utilizaban IA produjeron alrededor de un 30 % más de artículos en 2024 en comparación con científicos de perfil similar que no la usaban, y estos artículos eran, sobre todo, de mayor calidad.4
Con el tiempo, esto podría traducirse en modelos de IA capaces de responder preguntas que los humanos aún no saben cómo contestar, o de ejecutar un gran número de experimentos automatizados y realizar de forma efectiva un trabajo que antes habría requerido cientos de científicos humanos (o que derechamente habría sido imposible). El director general de Anthropic esbozó cómo podría verse esto en la investigación biomédica en su manifiesto de optimismo sobre la IA “Machines of loving grace”.
Gran parte del trabajo intelectual, como las matemáticas o la filosofía, podría desarrollarse de forma virtual, por lo que avanzaría muy rápido. Sin embargo, lo que estos científicos digitales podrían hacer se vería rápidamente limitado por su incapacidad para interactuar con el mundo físico. La robótica se convertiría entonces en la actividad más rentable del mundo. Esto nos lleva a…
3. La explosión industrial
Bucles de realimentación de los trabajadores robóticos
Poco después del estallido de la Segunda Guerra Mundial, las fábricas de automóviles estadounidenses se reconvirtieron para producir aviones militares. Hoy en día, las fábricas de automóviles producen unos 90 millones de coches al año,5 y si se reconvirtieran para producir robots, es posible que pudieran producir entre 100 millones y mil millones de robots de tamaño humano al año.q
Sin robots, la explosión de inteligencia se desvanece en el punto en que la inteligencia incorpórea deja de ser útil. Tal vez todo el mundo tenga ya 100 personas doctoradas revisando cada pequeña decisión. Los ingresos que podría generar un chip de IA adicional caerían por debajo de su costo de producción.
Sin embargo, la IA combinada con la robótica avanzada tiene el potencial de realizar casi todas las tareas de importancia económica, incluida la construcción de las fábricas, los paneles solares y las plantas de fabricación de chips necesarios para producir más trabajadores robóticos.
Esto significa que si un grupo de trabajadores robóticos puede realizar un trabajo y ganar algo de dinero, este se puede utilizar para construir más trabajadores robóticos. Ese grupo más grande de trabajadores robóticos podrá entonces generar aún más ingresos, que podrán emplearse para construir todavía más robots, y así sucesivamente. ¿Qué efecto tendría esto?
Epoch AI es uno de los principales grupos de investigación en la intersección entre la IA y la economía, y ha creado algunos de los únicos modelos que exploran lo que significaría para la economía un verdadero trabajador robótico de nivel humano. Demuestran, por ejemplo, que si fuera posible producir un robot de uso general por menos de 10 000 dólares, y se lo introdujera en un modelo estándar de crecimiento económico, la cantidad total de bienes y servicios producidos comenzaría a crecer un 30 % al año.6 A esto se le ha denominado la “explosión industrial”.
Esto ocurre por la sencilla razón de que si se dispone del doble de trabajadores y del doble de herramientas y fábricas, se puede producir aproximadamente el doble de datos de salida. Esta es una idea ampliamente aceptada en economía y respaldada empíricamente, denominada “rendimientos constantes a escala”.r
El ciclo no ocurre en la economía actual porque, si la producción se duplica, aunque esto pueda reinvertirse en el stock de capital, no puede reinvertirse para aumentar el número de trabajadores. Dar a la misma cantidad de trabajadores una fábrica el doble de grande no significa que puedan producir el doble, por lo que la producción en su conjunto no crece tanto. Pero cuando es posible simplemente construir un nuevo trabajador robótico, esa restricción ya no se aplica. Esto conduce a un crecimiento de la producción que sigue siendo exponencial, al igual que en la actualidad, pero mucho más rápido.
Si los trabajadores de IA también pueden contribuir a la innovación, entonces, a medida que crece la población de IA, la cantidad de innovación que pueden generar también aumenta, lo que significa que cada trabajador de IA obtiene herramientas tecnológicas más potentes, lo que incrementa su producción aún más (podría decirse que este es un cuarto bucle de realimentación de “productividad” que resulta de la explosión tecnológica). En este escenario, la producción se acelera con el tiempo, creciendo de forma superexponencial.s
Mientras que un bucle de realimentación algorítmico probablemente se agotaría con bastante rapidez al alcanzarse los rendimientos decrecientes de la investigación algorítmica, la explosión industrial puede seguir acelerándose hasta alcanzar los límites físicos. Estos podrían ser muy elevados.
A modo de ejemplo, Forethought sostiene que es más probable que la producción de robots se vea limitada por la escasez de energía que por la falta de materias primas. Si se utilizara el 5 % de la energía solar para hacer funcionar robots con una eficiencia similar a la del cuerpo humano, sería suficiente para mantener a una población de 100 billones (!).t Y esto sin tener en cuenta la expansión hacia el espacio.
La velocidad de una explosión industrial se ve limitada, en última instancia, por el tiempo mínimo necesario para construir un ciclo de producción completo de paneles solares, fábricas de chips y robots. Nadie sabe cuán rápido podría ser, pero existen organismos biológicos, como las moscas de la fruta, que pueden replicar un cerebro y un “robot” en miniatura en aproximadamente una semana, por lo que a la larga podría llegar a ser un proceso muy veloz.
Algunos contraargumentos comunes
También es posible que sigan existiendo suficientes tareas que los robots no puedan (o no se les permita) realizar como para que nunca se inicie una explosión industrial (a pesar de los incentivos financieros y militares increíblemente grandes para que esto suceda).
Los mercados financieros actualmente no parecen predecir ningún aumento del crecimiento económico, y los economistas siguen mostrándose escépticos ante esta posibilidad.
Pero cuando la mayoría de los economistas intentan modelar los efectos de la IA, asumen implícitamente que esta seguirá siendo una herramienta complementaria para los trabajadores humanos. Si se modela el efecto de un robot que realmente puede sustituir a los trabajadores humanos, es bastante difícil no obtener un crecimiento explosivo. La mayoría de los argumentos en contra del crecimiento explosivo se limitan a afirmar que no será posible crear trabajadores robóticos lo suficientemente autónomos, sin cuestionar que el crecimiento explosivo se produciría si estos existieran.
Otra respuesta habitual es que la automatización masiva dejaría a todo el mundo sin empleo, lo que desplomaría la demanda. Sin embargo, las etapas iniciales producirían un auge salarial, ya que las tareas que la IA aún no puede realizar (incluidos muchos trabajos manuales) se convertirían en cuellos de botella cruciales y experimentarían aumentos salariales. Además, más de la mitad de los estadounidenses tiene un patrimonio neto superior a 100 000 dólares, y se convertirían rápidamente en multimillonarios. Luego, se grava alrededor del 25 % del PIB, y la mayor parte de ese importe se redistribuye en forma de asistencia social. Estas fuerzas mantendrían la demanda incluso si el empleo cayera.
Cada vez más economistas empiezan a tomarse en serio la posibilidad de un crecimiento explosivo, aunque no hayan interiorizado realmente sus implicaciones, como se observa en este informe de la Reserva Federal de Dallas sobre cómo “la IA impulsará el nivel de vida”:
Otra objeción habitual es que estos escenarios parecen descabellados y fuera de la norma histórica. Pero hay que tener en cuenta que ya se ha producido una aceleración económica a lo largo de los últimos miles de años. Antes de la era agrícola, prácticamente no había crecimiento económico. A partir de entonces, el crecimiento aumentó a quizá un 0,1 % anual. Durante la Revolución Industrial, se aceleró de nuevo hasta superar el 1 % anual.
La tasa de crecimiento se ha mantenido estable durante los últimos 100 años, pero eso se debe a que la población dejó de crecer al mismo ritmo que el tamaño de la economía. La IA y los robots retomarían la antigua dinámica en la que una mayor producción conduce a una “población” más numerosa, y esa dinámica lleva a un crecimiento superexponencial.
Dos visiones del futuro de la IA avanzada
Es posible que la IA no sea capaz de llevar a cabo investigación algorítmica, investigación científica o muchos trabajos comunes en un futuro próximo. Si las inversiones adicionales en poder de cómputo dejan de aumentar las capacidades de la IA, o si los ingresos no son lo suficientemente altos, entonces las capacidades de la IA se estancarán gradualmente.u
Quizás la IA acabe siendo extremadamente capaz en algunos ámbitos concretos, como las matemáticas y la programación, pero seguirá habiendo tantas cosas que no pueda hacer que la economía continuará como antes. Esto es lo que ocurre con la mayoría de las tecnologías, incluso las “revolucionarias”. La luz eléctrica fue un gran avance, pero una vez que todos la tenemos, no seguimos comprando más y más en un bucle autosostenible. El propósito de este artículo, sin embargo, es explorar qué sucederá si las capacidades de la IA no se estancan. Entre las personas que más han reflexionado sobre esta cuestión, las opiniones tienden a dividirse en dos bandos principales:
| Despegues “más rápidos” | Despegues “más lentos” | |
|---|---|---|
| Bucle de realimentación más importante | Algorítmico (los chips, el hardware robótico y la productividad toman el relevo más adelante) | Hardware de chips y trabajadores robóticos (algorítmico mínimo) |
| Trayectoria | Progreso constante, luego explosión de inteligencia de 3 a 12 meses, luego explosión industrial acelerada | Explosión de inteligencia, tecnológica e industrial que se acelera gradualmente a lo largo de 5 a 20 años |
| Escenario de ejemplo | IA 2027 | Modelo GATE de Epoch |
| Riesgos más preocupantes | Pérdida repentina de control o concentración de poder | Desempoderamiento gradual |
| Formación típica de los defensores | Matemáticas, filosofía, física, ciencias de la computación | Economía |
El primer bando está más preocupado por el bucle de realimentación algorítmico. Quizás la IA aún esté muy lejos de poder realizar la mayoría de los trabajos, pero resulta ser especialmente buena en dos cosas: la programación y la investigación en IA. Se trata de tareas puramente virtuales, con resultados relativamente medibles que se ajustan a los puntos fuertes actuales de los modelos.
Mientras la vida cotidiana sigue siendo básicamente igual que antes, en algún lugar de un centro de datos, 10 millones de investigadores digitales de IA participan en un bucle de realimentación algorítmico autosostenible. Menos de un año después, hay 300 millones de IA más inteligentes que los humanos —un “país de genios en un centro de datos”v—, ahora desplegadas para maximizar la producción de chips, la producción robótica, la investigación científica y, posteriormente, la automatización de la economía. Estos trabajadores digitales podrían ocupar puestos de trabajo existentes y, por lo tanto, difundirse mucho más rápido que las tecnologías anteriores.
Es extremadamente importante prepararse para este escenario, porque es el más dramático y peligroso. Podríamos pasar de un mundo normal a uno con IA superinteligentes en tan solo uno o dos años. Una sola empresa podría acabar teniendo 10 o 100 veces la capacidad intelectual de toda la comunidad científica actual. Y esto podría suceder en un mundo bastante similar al actual, antes de que se produzca un desempleo tecnológico significativo.
Este es el tipo de escenario que se explora en Situational Awareness o en AI 2027, que analiza qué pasaría si se creara un programador automatizado en 2027. No creo que se vaya a crear un programador automatizado en 2027, pero es muy posible que se invente en los próximos 10 años y, haciendo un balance, creo que es más que probable que se produzca un bucle de realimentación algorítmico (aunque no estoy seguro de hasta dónde llegará).
Un escenario que ahora me parece bastante probable es uno en el que el progreso de la IA continúa y tal vez se ralentiza gradualmente después de 2028, a medida que resulta cada vez más difícil ampliar la escala del poder de cómputo. Las capacidades de la IA siguen siendo muy irregulares e incapaces de llevar a cabo la planificación a largo plazo, la estrategia o el aprendizaje continuo que la harían autónoma, pero son lo suficientemente útiles como para generar ingresos sustanciales y avances científicos, lo que impulsa la inversión continua. Luego, en algún momento de la década de 2030, se superan los últimos cuellos de botella (o se crea un nuevo paradigma) y comienza un bucle de realimentación algorítmico, iniciando un despegue más rápido a finales de la década.
A diferencia de AI 2027, este escenario prevé un intervalo más largo entre el momento en que las cosas empiezan a volverse claramente descabelladas y una explosión de inteligencia total. Esto significa que la sociedad tendrá más tiempo para prepararse, pero también implica que el despegue podría producirse en un mundo con conflictos más intensos y más infraestructura robótica ya instalada.
El segundo grupo, partidario de un despegue más lento, cree que un bucle de realimentación algorítmico no es posible, pero sigue pensando que las explosiones de inteligencia, tecnológicas e industriales ocurrirán. La diferencia es que, en su lugar, estas explosiones tendrían que estar impulsadas por los bucles de realimentación del hardware de chips, de los trabajadores robóticos y de la productividad.
Este es el tipo de escenario que explora el modelo GATE de Epoch, el primer intento de crear un modelo macroeconómico integrado de la automatización por IA. Comienza en el punto en el que se crea una IA capaz de realizar el 10 % de las tareas de importancia económica, y modela cómo la reinversión en hardware de computadoras podría impulsar los ingresos y la automatización a niveles cada vez más altos.
Según sus supuestos predeterminados, en cinco años el PIB total se ha duplicado y la tasa de crecimiento ha alcanzado el 20 %, y a partir de ahí sigue acelerándose. Después de 15 años, el PIB es 30 veces mayor, hay 500 000 millones de trabajadores de IA y el crecimiento ha alcanzado el 50 % anual. Incluso si se añaden fricciones adicionales, la situación se vuelve bastante descabellada con gran rapidez.
Lo que está claro es que —sea más rápido, más lento o algo intermedio— la sociedad no está ni remotamente preparada para ninguno de estos escenarios.
Como resultado, podríamos ver una expansión espectacular de la riqueza y la tecnología, lo que facilitaría enormemente abordar muchos problemas globales. Pero también plantearía riesgos nuevos y verdaderamente existenciales.