La maldición de la inteligencia

Este artículo reproduce las secciones 3 y 4 del ensayo La maldición de la inteligencia de Luke Drago y Rudolf Laine.

3. Capital, IAG y ambición humana

Resumen: La IA hará que los factores de producción no humanos sean más importantes que los humanos. El resultado podría ser un futuro en el que las estructuras de poder actuales se vuelvan permanentes e inamovibles, sin que queden vías para la movilidad social ni el progreso.

Muchas personas afirman que el dinero no importará tras la IAG, o que al menos importará menos. Por defecto, esto es exactamente al revés.

Primero, definamos algunos términos: «trabajo» significa el esfuerzo humano mental y físico que produce algo de valor. Los «bienes de capital» son cosas como fábricas, centros de datos y software —cosas que los humanos han construido y que se utilizan para producir bienes y servicios—. Utilizaremos el término «capital» para referirnos tanto al acervo de bienes de capital como al dinero con el que se pueden pagar. Diremos «dinero» cuando queramos excluir los bienes de capital.

El efecto económico clave de la IA es que hace que el capital sea un sustituto cada vez más general del trabajo. Hay menos necesidad de pagar a los humanos por su tiempo para realizar un trabajo, porque esto se puede reemplazar con capital. Por ejemplo, los centros de datos que ejecutan software reemplazan a un humano que realiza trabajo intelectual.

Analizaremos las consecuencias de esto y concluiremos que la IA que sustituye el trabajo significa que:

1. La capacidad de comprar resultados en el mundo real aumentará drásticamente.
2. La capacidad humana para ejercer poder en el mundo real disminuirá drásticamente porque:
   1. El valor del trabajo de las personas disminuye, lo que para la mayoría constituye su principal palanca de poder.
   2. A los humanos les resultará más difícil alcanzar resultados excepcionales en relación con sus recursos iniciales.
3. Es poco probable que se adopten medidas igualitarias radicales.

En general, esto apunta a un inconveniente desatendido de la IA transformadora: que la sociedad podría volverse permanentemente estática y que los desequilibrios de poder actuales podrían amplificarse para luego volverse inmutables. Una sociedad estática con una casta dominante consolidada no parece dinámica ni viva. No deberíamos acabar con la ambición humana, si podemos evitarlo.

La solución por defecto

Supongamos que el trabajo mental y físico humano, en la gran mayoría de las tareas por las que actualmente se paga un salario, deja de tener un valor de mercado significativo porque las IA pueden realizarlas mejor, más rápido y más barato. Llamemos a esto «IA que sustituye el trabajo».

La solución estándar al problema de desempleo resultante tiene dos niveles:

1. Los gobiernos adoptarán algo parecido a la renta básica universal (RBU).
2. Alcanzaremos rápidamente la superinteligencia, y, suponiendo que la superinteligencia esté alineada con los valores humanos, viviremos en un paraíso tecnológico posterior a la escasez donde todo será posible.

Nótese, en primer lugar, que el dinero seguirá existiendo, a menos que tengamos un único sistema de IA que se encargue de toda la planificación económica. Los precios sirven, en gran medida, para comunicar información. Si hay muchos actores y estos comercian entre sí, la hipótesis más sólida debería ser que los precios existen (aunque los humanos no los vean ni interactúen con ellos). Recordemos también que, por muy pronunciada que sea la singularidad, la abundancia seguirá siendo finita y, por lo tanto, deberá asignarse.

Actualmente, el dinero tiene dificultades para comprar talento

El dinero puede comprar muchas cosas: los bienes de capital, por ejemplo, suelen adquirirse de forma bastante directa, y no pueden comprarse sin una gran cantidad de dinero.⁠⁠1 Sin embargo, resulta sorprendentemente difícil convertir el dinero por sí solo en trabajo, de una forma que resulte competitiva frente al trabajo de primer nivel.

Consideremos la interacción estereotípica entre un inversor de capital riesgo y un fundador, o la interacción entre un comprador y una empresa emergente. En ambos casos, los poseedores de un enorme capital financiero están dispuestos a pagar precios muy altos para apostar por el trabajo; y la apuesta es que el trabajo de unas cuantas personas en la empresa emergente superará a cantidades extremadamente grandes de capital.

Si quieres convertir el dinero en resultados, el problema más profundo al que probablemente te enfrentarás será contratar al talento adecuado. Y eso conlleva varios problemas:

1. A menudo resulta difícil evaluar el talento, a menos que tú mismo tengas un talento considerable en el mismo ámbito. Por lo tanto, si intentas encontrar talento, muchas veces pasará desapercibido.
2. El talento es escaso; el talento acreditado, aún más. Muchos actores no pueden permitirse depender de ningún otro tipo, debido al punto 1, por lo que simplemente no hay mucho disponible.
3. Incluso si logras localizar al talento más destacado, este suele estar menos dispuesto a dejarse comprar con dinero que los demás.

Con la IA que sustituye el trabajo, estos problemas desaparecen:

En primer lugar, las IA se pueden copiar. En la actualidad, enormes cantidades de dinero persiguen a un único investigador estrella que ha logrado un avance decisivo y que, de ese modo, ha hecho que su talento resulte evidente para quienes controlan el dinero, los cuales pueden juzgar la influencia de la recepción social de un artículo, pero normalmente no pueden evaluar el talento en sí mismo de forma directa. Sin embargo, si el investigador estrella es una IA, simplemente se puede copiar. Todos —o, al menos, todos los que tengan dinero suficiente para gastar en GPU— podrán disponer de ese investigador estrella de IA. No habrá necesidad de rebuscar entre la enorme variedad de seres humanos únicos con talentos aún por demostrar.

En segundo lugar, el precio del talento disminuirá drásticamente, porque las IA serán más baratas que la mano de obra humana equivalente, y porque la competencia será más feroz, ya que las IA se pueden duplicar.

En tercer lugar, gran parte del talento de primer nivel tiene preferencias humanas complejas que hacen que sea difícil comprarlo. El artista de primer nivel tiene una visión artística a la que está genuinamente apegado. El matemático de primer nivel siente un profundo amor por la elegancia y la belleza. El emprendedor de primer nivel tiene una profunda convicción en lo que hace —y, de todos modos, probablemente no rendiría bien como empleado—. El talento y el rendimiento en los seres humanos están sorprendentemente ligados a un vínculo sagrado con una disciplina o misión. Por el contrario, las IA existen específicamente para que puedan ser compradas sin dificultad (al menos dentro de los límites de su entrenamiento). El genio matemático de IA, a diferencia del humano, dedicará con gusto su limitado tiempo en la Tierra a demostrar que el código rutinario es correcto.

Por último, con el tiempo las IA llegarán a ser mucho más capaces que cualquier empleado humano en sus respectivas tareas.

Esto significa que la capacidad del dinero para comprar resultados en el mundo real aumentará drásticamente una vez que dispongamos de IA que sustituya el trabajo.

¿Se acabarán los resultados excepcionales?

Ya hemos analizado cómo la mayor parte del trabajo quedará obsoleta debido a la IA y la robótica. Pero, con el tiempo, incluso los seres humanos con más talento se verán superados por las IA. ¿Qué pasará entonces?

Gran parte del cambio en el mundo lo impulsan personas que empiezan sin poder, alcanzan un éxito excepcional y luego acaban teniendo poder. Esto tiene sentido, ya que quienes ostentan el poder rara vez sienten el fervor necesario para impulsar grandes cambios, puesto que son precisamente quienes más se benefician del statu quo.

Sea cual sea tu opinión sobre la desigualdad de ingresos o sobre cualquier grupo concreto de casos de éxito excepcional, la posibilidad de que alguien alcance un éxito excepcional y cambie el mundo es importante para evitar el estancamiento y mantener el progreso social continuo.

Analicemos los efectos de la IA que sustituye el trabajo en las diversas vías para alcanzar un éxito excepcional a través del trabajo:

El emprendimiento es, cada vez más, lo que Matt Clifford denomina la «tecnología de la ambición» preferida para los jóvenes ambiciosos. En la actualidad, emprender se ha vuelto más fácil. Las herramientas de IA ya pueden hacer que los equipos pequeños sean mucho más eficaces sin necesidad de contratar a nuevos empleados. Además, reducen la barrera de entrada a nuevas habilidades y campos. Sin embargo, la IA que sustituye el trabajo hace que la viabilidad del emprendimiento sea incierta. Existe un futuro posible en el que las IA sigan siendo, en su mayor parte, meras herramientas y los emprendedores puedan tener éxito mucho después de que la mayor parte del trabajo humano se haya automatizado, ya que aportan iniciativa y dirección. No obstante, también parece probable que una IA lo suficientemente potente acabe por dejar obsoleto el emprendimiento humano. Por ejemplo, los fondos de capital riesgo podrían convertir directamente el dinero en cientos de intentos de creación de empresas emergentes, todas ellas gestionadas por IA, sin tener que pasar por la vía intermedia de buscar emprendedores humanos que gestionen las IA por ellos.

Las ciencias exactas. La era de los logros humanos en las ciencias exactas podría terminar en unos años debido al ritmo del progreso de la IA en cualquier ámbito con señales de recompensa claras.

Los intelectuales. Keynes, Friedman y Hayek realizaron trabajos técnicos en economía, pero su enorme influencia provino de las visiones del mundo que desarrollaron y promovieron, lo que los hizo más influyentes que personas como Paul Samuelson, que dominó la economía matemática. John Stuart Mill, John Rawls y Henry George también fueron influyentes al crear marcos de referencia, visiones del mundo y filosofías. Lo que distingue fundamentalmente a estas personas de los científicos de las ciencias exactas es que los resultados de su trabajo no destacan únicamente por su corrección técnica, sino que requieren también un juicio moral. Una de las razones fundamentales por las que las ideologías de los intelectuales pueden tener tanto poder es que son producto de la genialidad en un mundo en el que esta es escasa. Una avalancha de ideologías creadas por la IA podría significar que ninguna ideología individual, y desde luego ninguna humana, vuelva a brillar con tanta intensidad. El intelectual de relevancia histórica podría extinguirse.

La política podría ser una de las opciones menos afectadas, ya que suponemos que la mayoría de los seres humanos prefiere que sea un humano quien desempeñe esa labor, y porque son los políticos quienes establecen las normas sobre lo que está permitido. Sin embargo, el carisma de los avatares generados por la IA y el rechazo generalizado hacia los políticos podrían dar un giro inesperado a la situación. También es difícil determinar si se favorecerá a los políticos en el cargo. La IA podría reducir el costo de muchos aspectos de las campañas políticas, disminuyendo así la barrera de recursos para participar. Sin embargo, si una IA demasiado cara para los actores pequeños es significativamente mejor que una IA más barata, esto favorecería a los actores con mayores recursos. Esperamos que estos efectos directos sean menores que los efectos indirectos derivados de los cambios que la IA provoque en el entorno de los memes.

El éxito militar como vía directa hacia un gran poder y disrupción no ha sido, afortunadamente, una realidad desde Napoleón. El avance tecnológico aumenta la base industrial mínima necesaria para un ejército de última generación, lo que beneficia a los gobernantes en el poder. Parece que la IA estará controlada por los países más poderosos. Una excepción sería si los golpes de Estado en los grandes países se volvieran más fáciles con la IA. Es probable que el control sobre los futuros ejércitos de IA sea tanto (a) más centralizado que antes, puesto que ya no será necesario que un gran número de personas esté de acuerdo para que el ejército actúe, como (b) más estrictamente controlable que antes, ya que los permisos podrán programarse en lugar de depender de normas sociales humanas. Estos dos factores apuntan en direcciones opuestas, por lo que no está claro cuál será el efecto neto sobre la facilidad para dar un golpe de Estado. Otra posible excepción sería que una combinación de tácticas revolucionarias y drones baratos permitiera a un «Napoleón de los drones» vencer a los ejércitos existentes. Sin embargo, es importante destacar que ninguna de estas posibilidades parece propiciar el tipo positivo de desafío disruptivo al statu quo.

Todo esto significa que la capacidad de obtener y ejercer poder en el mundo real sin capital preexistente disminuirá drásticamente una vez que dispongamos de una IA que sustituya el trabajo.

Es poco probable que se imponga la igualdad

The Great Leveler es un buen libro sobre la historia de la desigualdad que (al menos según el autor) ha resistido bastante bien las críticas. Su conclusión es que todas las grandes reducciones de la desigualdad en el pasado han sido impulsadas por uno de los «cuatro jinetes de la nivelación»: la guerra total, la revolución violenta, el colapso del Estado y las pandemias. La nivelación de las diferencias de ingresos ha sido históricamente tan difícil que, en la práctica, nunca se ha logrado mediante una decisión política consciente.

Imaginemos que la IA que sustituye el trabajo ya está aquí. Existe una carrera frenética entre países y empresas por sacar el máximo partido a la IA. Todo esto requiere un uso intensivo de capital, por lo que todos necesitan ganarse el favor de quienes lo poseen. Las principales empresas de IA ejercen un poder al nivel de los Estados. Es poco probable que la redistribución de la riqueza acabe ocupando un lugar prioritario en la agenda política.⁠⁠2

Por lo tanto, incluso si acabamos en una sociedad muy rica, es poco probable que las personas del futuro empiecen en ella en igualdad de condiciones. Tampoco es probable que puedan cambiar en gran medida su posición relativa más adelante.

Consideremos también la igualdad entre Estados. Algunos de ellos se perfilan para beneficiarse de la IA muchísimo más que otros. A los Estados les resultaría difícil extender a los no ciudadanos muchas medidas igualitarias, como la RBU, bajo un sistema político similar al actual. Esto es cierto incluso en el caso de Estados Unidos, la gran potencia más liberal y humanista de la historia mundial. Por tanto, el orden mundial por defecto podría parecerse —incluso más que hoy en día— a un sistema de castas global basado en el país de nacimiento.⁠⁠3

El resultado por defecto

Por defecto, en el mundo posterior a la sustitución del trabajo por la IA:

• El dinero puede comprar resultados en el mundo real mejor que nunca.
• El trabajo de las personas les otorga menos poder de negociación que nunca.
• Ahora es imposible alcanzar un éxito excepcional mediante el propio trabajo en la mayoría o en todos los ámbitos.
• No habrá habido una nivelación transformadora del capital, ni dentro de los países ni entre ellos.

Esto significa que quienes poseían un capital significativo cuando comenzó la sustitución del trabajo por la IA tienen una ventaja permanente. Ejercerán más poder que los ricos de hoy en día. Los recién llegados no los derrotarán, ya que ahora el capital se convierte con facilidad en trabajo sobrehumano en cualquier campo.

En el mejor de los casos, este es un mundo similar a una Noruega más desigual, estática como nunca antes y mucho más rica: una enorme reserva de recursos ajenos al trabajo humano (en el caso de Noruega, el petróleo) trae consigo beneficios que llegan a todos, y sí, algunos son más ricos que otros, pero todos disfrutan de un excelente nivel de vida. Las únicas formas realistas de ambición humana consisten en participar en juegos sociales y políticos locales dentro de tu red social y tu clase. Si no tienes mucho capital, ya no tienes ninguna posibilidad de influir en el resto del mundo. Recuerda: las IA son mejores poetas, artistas, filósofos… son mejores en todo; ¿por qué le importaría a alguien lo que haga un humano, a menos que sea alguien a quien conoce personalmente? En las sociedades feudales, la respuesta a «¿por qué es poderosa esta persona?» solía implicar una larga historia familiar, que tal vez culminaba en un antepasado lejano que había luchado en una batalla importante: «¡Mi tatarabuelo luchó en Bosworth Field!». En el futuro, la respuesta a «¿por qué es poderosa esta persona?» se remontaría a algo que ella o alguien cercano a ella hizo en la era anterior a la IAG: «Ah, mi tío trabajaba OpenAI». Los niños del futuro vivirán a la sombra de sus padres, con la movilidad social como cosa del pasado. Está lejos de ser el peor futuro que podríamos imaginar, pero se habrá perdido algo importante.

En un caso peor, los billonarios de la IA tendrán un poder casi ilimitado y sin control, y habrá una aristocracia permanente que se habrá consolidado en función de la cantidad de capital que poseía en el momento en que la IA haya sustituido el trabajo. Las disparidades de poder entre clases podrían estremecer a la gente de hoy, del mismo modo que la gente de hoy considera grotescas las jerarquías feudales. Pero no te preocupes: al igual que la clase baja feudal aceptaba en su mayoría su lugar en el mundo debido a su cultura, incluso sin IA sobrehumanamente persuasivas a su alrededor, la clase baja del futuro también lo hará.

En el peor de los casos, la humanidad se extingue, posiblemente debido a una lenta optimización a favor del poder de la IA por encima de la prosperidad humana a lo largo de un largo período de tiempo. Porque hacia ahí es adonde apuntarán los incentivos del poder y el dinero.

Hacia la maldición de la inteligencia

Hemos visto cómo la IA avanzada amenaza tanto las carreras profesionales normales como la capacidad del talento excepcional para marcar la diferencia en el mundo. El poder y la influencia que la mayoría de las personas ejercen en el mundo provienen de su capacidad de realizar un trabajo útil, es decir, de ser económicamente relevantes. La IA que sustituye el trabajo podría eliminar ese poder y esa influencia. Por defecto, eso tendrá consecuencias de gran alcance.

A lo largo de los últimos siglos, se ha producido un gran cambio hacia Estados que se preocupan más por los seres humanos. ¿A qué se debe esto? Podemos examinar las razones para ver qué tan duraderas parecen:

1. Cambios morales y políticos derivados de la Ilustración; en particular, una mayor centralidad del liberalismo y el individualismo.
2. Riqueza y tecnología. Las sociedades preindustriales eran en su mayoría tan pobres que hacer esfuerzos significativos para ayudar a los pobres las habría llevado a la quiebra. Además, muchos tipos de ayuda (como una atención médica eficaz) solo son posibles gracias a las nuevas tecnologías.
3. Los incentivos para que los Estados se preocupen por la libertad, la prosperidad y la educación.

La IA contribuirá en gran medida al segundo punto. Tendrá un efecto complejo en el primero. Pero el tercero, en particular, está subestimado. Con una IA que sustituya el trabajo, los incentivos de los Estados —en el sentido de qué medidas deben adoptar para maximizar su competitividad frente a otros Estados y/o su propio poder— ya no estarán alineados con los seres humanos de esta manera. Adam Smith pudo escribir que su cena no depende de la benevolencia del carnicero, del cervecero o del panadero. Hoy en día, el liberal clásico puede afirmar con credibilidad que el arco de la historia realmente se inclina hacia la libertad y la abundancia para todos, no por la benevolencia del Estado, sino por los incentivos del capitalismo y la geopolítica. Pero después de una IA que sustituya el trabajo, esto ya no será cierto.

A esto lo llamamos la maldición de la inteligencia, y es lo que examinaremos a continuación.

4. Definición de la maldición de la inteligencia

Resumen: Con la IAG, los actores poderosos perderán su incentivo para invertir en la gente común, del mismo modo que hoy en día los Estados ricos en recursos dejan a sus ciudadanos desatendidos porque su riqueza proviene de los recursos naturales y no de gravar el trabajo humano. Esta es la maldición de la inteligencia.

Los economistas están acostumbrados a modelar la IA como una herramienta, por lo que no comprenden cómo podría hacer que las personas se vuelvan irrelevantes. Las revoluciones tecnológicas del pasado han impulsado aún más el potencial humano. La revolución agraria dio origen a las civilizaciones; la Revolución Industrial nos permitió aumentar su escala.

Pero la IAG se parece mucho más al carbón o al petróleo que al arado, la máquina de vapor o la computadora. Al igual que esos recursos:

• Requerirá un capital inmenso para descubrirla y aprovecharla.
• Es probable que el control se concentre en manos de unos cuantos actores: los laboratorios que producen IA, los Estados donde residen y las empresas que fabrican las materias primas, los chips y los robots, así como la electricidad que todos ellos necesitan.
• Los Estados y las empresas que obtengan la mayor parte o la totalidad de sus rentas gracias a la IA no necesitarán depender de las personas para generar ingresos.

Este problema se parece mucho a la plaga que afecta a los Estados rentistas, es decir, aquellos que basan su riqueza principalmente en las rentas procedentes de un recurso, en lugar de los impuestos de sus ciudadanos. Estos Estados sufren la «maldición de los recursos»: a pesar de contar con una fuente natural de ingresos, obtienen peores resultados que sus homólogos económicamente más diversos a la hora de mejorar el nivel de vida de sus ciudadanos.

Los actores poderosos que adopten sistemas de IA que sustituyan el trabajo se enfrentarán a incentivos similares a los de un Estado rentista, pero con mucho más en juego. Dado que sus ingresos procederán de la inteligencia bajo demanda y no de las personas, no obtendrán rendimientos si invierten en cosas como la educación para preparar a las personas para el empleo, el propio empleo y los salarios, o un Estado de bienestar para los desempleados. Así, dejarán de invertir y, en consecuencia, la población no podrá mantenerse por sí misma. No se recibirán solicitudes de humanos, por lo que no recibirán remuneración alguna.

Esta es la maldición de la inteligencia: cuando los actores poderosos creen e implementen la inteligencia general, desaparecerán sus incentivos para invertir en las personas.

Por qué les importas a los actores poderosos

Por «actores poderosos» nos referimos a grandes organizaciones, como Estados, empresas y burocracias, que controlan recursos significativos, lo que les permite moldear el mundo en el que vivimos y nuestra forma de interactuar con él.

A los actores poderosos no les importas por pura bondad. Les importas por dos razones:

1. Ofreces un retorno de la inversión, por lo general a través de impuestos o ganancias.
2. Influyes en su capacidad para mantener el poder, ya sea a través de medios democráticos como el voto o mediante amenazas creíbles a un régimen.

La mayoría de los Estados en el mundo moderno son economías diversificadas, lo que significa que el valor proviene de diversos sectores y actividades humanas, y no de una sola o de unas cuantas fuentes. Dependen de la recaudación de impuestos de las personas físicas y morales para generar ingresos, por lo que aumentan dichos ingresos al incrementar la productividad de sus ciudadanos.⁠⁠4 El Estado tiene incentivos para formar ingenieros, emprendedores, innovadores y otros trabajadores económicamente productivos, así como para crear un entorno en el que estos generen un retorno de la inversión. Para ello, suelen:

• Establecer buenas escuelas, instituciones de investigación y universidades
• Construir infraestructura como carreteras y transporte público
• Crear sistemas de gobierno y tribunales confiables para proteger los derechos de propiedad
• Proteger la libertad de expresión y el flujo de información
• Apoyar la creación de pequeñas empresas
• Fomentar mercados competitivos
• Crear redes de seguridad social que respalden la toma de riesgos

Todo esto aumenta la productividad de los ciudadanos y amplía el margen de oportunidad para que surja la innovación. De igual importancia es que estas son las medidas que sacan a las personas de la pobreza extrema, mejoran el nivel de vida e instauran libertades políticas y económicas. Con buenas escuelas, infraestructura y mercados competitivos, un ciudadano puede capacitarse y encontrar un empleo bien remunerado que supere sus necesidades básicas. Asimismo, con sistemas de gobierno confiables, tribunales justos y libertad de expresión, un ciudadano puede exigir a su gobierno que atienda sus necesidades sin el temor de convertirse en preso político. Las personas adquieren poder de negociación a través de sus votos y su producción económica, de modo que pueden forzar cambios que eleven su nivel de vida. Como resultado, a veces los Estados ceden ante las demandas de los ciudadanos, incluso si esto les supone un costo.

Un fenómeno similar afecta a las empresas. Tomemos, por ejemplo, los exorbitantes salarios de Silicon Valley. Los trabajadores del sector tecnológico tienen un conjunto de habilidades que las empresas necesitan desesperadamente para ganar más dinero.⁠⁠5 Estos trabajadores son un bien muy codiciado y la competencia para atraerlos es feroz. Para ganárselos, las empresas pagan altos salarios, ofrecen opciones sobre acciones, compran mesas de billar, brindan comidas gratuitas las 24 horas a cargo de un chef con estrella Michelin y les lavan la ropa. Nadie cree que el servicio de lavandería de la empresa multiplique por diez los ingresos, pero podría convencer a un empleado potencial o evitar que otro, que de otro modo estaría insatisfecho, se vaya a la competencia. Los empleados tienen poder de negociación, por lo que pueden exigir beneficios suntuosos que mejoren su calidad de vida.

Esto crea un bucle de realimentación: a medida que la gente común hace ganar más dinero a los actores poderosos, es más probable que estos últimos atiendan sus demandas. ¿La educación aumentará los ingresos vitalicios de tu población (y, por lo tanto, los del Estado)? Construye escuelas. ¿Ofrecer licencias familiares remuneradas atraerá a mejores empleados a tu empresa? Cambia las políticas.

La maldición de los recursos

Ya tenemos sociedades que disocian la producción económica de su nación de su capital humano. Se denominan Estados rentistas. Estos Estados —entre los que se incluyen Venezuela, Arabia Saudita, Noruega y Omán— obtienen la mayor parte de sus ingresos de los recursos (generalmente el petróleo), en lugar de la producción de sus ciudadanos.

La República Democrática del Congo tiene en su subsuelo minerales sin explotar por un valor de más de 24 billones de dólares. ¿Cómo les ha ido a sus ciudadanos? Según el Banco Mundial:

La mayoría de la población de la RDC no se ha beneficiado de esta riqueza. Una larga historia de conflictos, agitación política e inestabilidad, así como un régimen autoritario, han provocado una grave crisis humanitaria que persiste en la actualidad. Además, se han producido desplazamientos forzados de la población. Estas características no han cambiado de forma significativa desde el fin de las Guerras del Congo en 2003.

La RDC se encuentra entre las cinco naciones más pobres del mundo. Se estima que el 73,5 % de la población congoleña vivía con menos de 2,15 dólares al día en 2024. Aproximadamente una de cada seis personas que viven en pobreza extrema en el África subsahariana reside en la RDC.

¿Qué está pasando aquí? ¿Cómo es posible que billones de dólares en recursos disponibles hayan dado lugar a la pobreza extrema?

Los economistas y politólogos denominan a esto la «maldición de los recursos». Los países con abundantes recursos naturales tienden a experimentar un menor crecimiento económico y mayores tasas de pobreza que sus homólogos económicamente diversos.⁠⁠6

Hay muchos factores que conducen a la «maldición de los recursos», pero uno fundamental son los incentivos que se crean para dejar de preocuparse por el bienestar económico de la población.

Dado que obtienen dinero de los recursos, los Estados rentistas no tienen incentivos para pagar a la gente común hoy o invertir en ella para el mañana. Construir mejores escuelas no les genera más ingresos. Invierten solo lo necesario para extraer el petróleo del suelo, cargarlo en camiones y transportarlo a los puertos.⁠⁠7 No es que sus ciudadanos no puedan hacer nada que valga la pena gravar, sino que no hay motivos para desarrollarlos a fin de que se conviertan en una población sujeta a tributación. ¿Por qué pedirle dinero a tu pueblo cuando puedes obtenerlo de la tierra?⁠⁠8

Sin dinero, la gente común tiene dificultades para exigir. En las autocracias, no hay incentivos para preocuparse por el pueblo a menos que amenace el poder de forma creíble. Quienes controlan las rentas pueden extraer riqueza sin preocuparse por los demás.

Entonces, ¿cómo es la vida de sus ciudadanos? El Dr. Ferdinand Eibl y el Dr. Steffen Hertog ofrecen dos visiones contrapuestas:

Hay pocos temas en los que las teorías de la política comparada ofrezcan predicciones más divergentes que en lo que respecta a la relación entre las rentas de los recursos y la provisión de bienestar por parte del Estado. Algunos autores, especialmente los que siguen la tradición de la «teoría del Estado rentista», esperan que los gobernantes de países ricos en petróleo recurran a la cooptación masiva, pacificando políticamente a su población con políticas de bienestar expansivas (Beblawi y Luciani, 1987; Karl, 1997). Otros, especialmente aquellos que proponen modelos formales de política en los Estados ricos en petróleo, esperan que los gobernantes rentistas dejen desatendida a su población. Dado que las rentas son desviadas por una pequeña élite gobernante que no necesita una base económica nacional para su enriquecimiento personal, la provisión de bienestar es mínima y la miseria se extiende (Acemoglu, Robinson y Verdier, 2004; Mesquita y Smith, 2009).

Existen ejemplos empíricos de ambas trayectorias. Omán y Guinea Ecuatorial presentan niveles de rentas de recursos naturales per cápita ampliamente comparables —ligeramente por encima de los 8000 USD per cápita en el período comprendido entre 1995 y 2014 (Ross, 2013)—. Ambos han estado gobernados por los mismos autócratas desde la década de 1970, cuando los dos países eran extremadamente pobres. Bajo el mandato del sultán Qabus, los servicios públicos de Omán se han expandido a un ritmo vertiginoso, lo que ha dado lugar a uno de los descensos más rápidos del mundo en la mortalidad infantil, que pasó de 159 por cada mil nacidos vivos en 1971 a 9 en 2010, muy por debajo de la media de Oriente Medio, que es de 32. En la Guinea Ecuatorial de Teodoro Obiang, el Estado —al margen de los servicios de seguridad— sigue siendo embrionario, la gran mayoría de la población continúa viviendo en la pobreza extrema y la mortalidad infantil ha disminuido a un ritmo dolorosamente lento: de 263 en 1971 a 109 en 2010, manteniéndose por encima de la (elevada) media subsahariana de 89. El acceso a la riqueza rentista está monopolizado por el reducido séquito del presidente (Wood, 2004).

En algunos casos, los Estados rentistas dan lugar a amplias redes de seguridad social. Pero en muchos otros, provocan una pobreza extrema para todos, salvo para los pocos que controlan los flujos de las rentas.⁠⁠9 ¿Por qué? Eibl y Hertog ofrecen una respuesta:

Coincidimos con los modelos formales de política en países ricos en recursos en que las élites gobernantes buscan garantizar su supervivencia en el poder. Las políticas públicas están sujetas a este objetivo primordial y reflejan la valoración que hacen las élites de las amenazas a su dominio. Dentro de estas limitaciones, las élites tratarán de maximizar sus rentas personales procedentes de los ingresos de los recursos.

También coincidimos con la literatura existente en que la rentabilidad económica relativa de la provisión de bienestar es menor en los regímenes basados en recursos, mientras que sus posibles efectos de modernización son políticamente indeseables (Acemoglu y Robinson, 2006; Mesquita y Smith, 2009). Por lo tanto, en igualdad de condiciones, esperamos que los regímenes ricos en petróleo establezcan coaliciones cleptocráticas reducidas, con una provisión de bienestar limitada y un enriquecimiento desenfrenado de las élites.

Explicación de la «maldición de la inteligencia»

La «maldición de la inteligencia» describe los incentivos en una economía posterior a la IAG que llevarán a los actores poderosos a invertir en inteligencia artificial en lugar de en seres humanos. Si la IA puede hacer tu trabajo de forma más barata y rápida, no hay motivo para contratarte. Pero, lo que es más importante, no hay ninguna razón económica para invertir en tu productividad mientras vivas, cuidar de ti o mantenerte empleado. Podríamos generar un valor sin precedentes con una economía totalmente automatizada, pero si los beneficios se distribuyen como en los peores Estados rentistas, esto no se traducirá en prosperidad para las masas.

Es probable que la «maldición de la inteligencia» sea más fuerte que la «maldición de los recursos», ya que la IA seguirá mejorando. En lugar de limitarse a proporcionar al gobierno una fuente de ingresos alternativa que siga requiriendo la gestión humana, la IA y la robótica sustituirán por completo la necesidad de seres humanos en la economía, el ejército y la burocracia gubernamental. Además, uno no puede «quedarse sin» IA como ocurre con el petróleo. Los Estados rentistas siguen teniendo un incentivo a largo plazo para diversificar sus economías, pero esto no se aplicará a los Estados posteriores a la IAG.

Una réplica habitual es que algunos trabajos nunca podrán automatizarse porque exigiremos que los realicen seres humanos.

Por ejemplo, los profesores. Es probable que la mayoría de los padres prefieran que un profesor real y humano cuide de sus hijos durante todo el día. Pero este argumento pierde de vista por completo el panorama general: no es que no vaya a haber demanda de profesores, sino que no habrá ningún incentivo para financiar las escuelas. Este argumento se repite hasta el cansancio para cualquier cosa que implique invertir en la capacidad productiva de la gente común, cualquier lujo que dependa de sus ingresos excedentes o cualquier bien que los mantenga a flote. Por defecto, los actores poderosos no construirán cosas que empleen humanos ni les proporcionen recursos, porque no tendrán que hacerlo.

Los impuestos seguirán siendo una fuente de ingresos relevante para los gobiernos, pero solo los procedentes de las empresas. Del mismo modo, las empresas ganarán dinero con sus sistemas de IA, no con el trabajo que produzcan las personas. Las inversiones que el mundo desarrollado asocia con una alta calidad de vida —salarios, educación, infraestructura, gobernabilidad estable, etc.— ya no generarán retornos. Las personas no les harán ganar dinero a los actores poderosos.

Entonces, ¿de dónde podrían obtener su dinero los actores poderosos?

Los Estados obtendrán dinero de los impuestos empresariales. Las empresas que produzcan sistemas avanzados de IA y las que los utilicen generarán grandes ingresos. A medida que crezcan, los Estados les cobrarán más impuestos. En 2022, los impuestos a las empresas representaron el 11,5 % de los ingresos promedio de los Estados de la OCDE, una muestra de economías diversas y de alto rendimiento. Al igual que Noruega (donde alrededor del 30 % de los ingresos estatales proviene del petróleo), Arabia Saudita (75 %) y la República Democrática del Congo (donde aproximadamente un tercio de los ingresos estatales proviene de la minería), los Estados dependerán menos de los impuestos sobre la renta y más de los impuestos a las empresas de IA u otras empresas que les permitan a los actores poderosos alcanzar sus objetivos. Cuando los desgloses de los ingresos estatales se parezcan más a los de estos países que al promedio de la OCDE, sabremos que la maldición de la inteligencia se está afianzando.

Los laboratorios de IA ganarán dinero al convertirse en los nuevos rentistas. Los objetivos declarados de los laboratorios de IA son desarrollar la IAG. OpenAI ya está modificando su estructura corporativa para eliminar los límites sobre la cantidad de ganancias provenientes de la IAG que puede retener para sí. Esto a pesar de tener una estructura corporativa originalmente diseñada para garantizar que en caso de que la IAG llegara a constituir la mayor parte de la economía, OpenAI distribuiría al mundo las ganancias que superaran determinada cantidad. Una vez que los laboratorios dispongan de un sistema de IA capaz de hacerlo todo, se convertirán en una capa horizontal de la economía y extraerán rentas de toda la actividad económica vendiéndoselo a empresas y Estados que lo utilicen para reemplazar a sus trabajadores. También harán todo lo posible por consumir la economía de forma vertical. Si lo logran, ejercerán un poder económico que antes era exclusivo de los Estados. El director general de Anthropic, Dario Amodei, ha comparado los efectos de la IA con «un país de genios en un centro de datos». Nótense sus palabras: un país de genios. Si los laboratorios logran hacer realidad esta visión, se parecerá menos a una simple empresa más operando en la economía, y más a toda una nación extranjera surgida de la nada, más poblada que cualquier otro país y habitada por trabajadores mucho más baratos, más inteligentes y más rápidos que cualquier ser humano.⁠⁠10

Las empresas comerciarán entre sí y con otros actores poderosos. La tierra, la energía, el poder de cómputo, los centros de fabricación, los centros de datos y los robots seguirán teniendo valor, ya que les permiten a los actores poderosos alcanzar sus objetivos. La cadena de cafeterías y la firma de marketing serán irrelevantes, pero el propietario de las tierras y la compañía de electricidad podrán ganar más dinero que nunca. Los actores poderosos, probablemente controlados por humanos (al menos por un tiempo), extraerán la gran mayoría del valor de estas fuentes.

Entonces, ¿qué le sucederá a la mayoría de las personas comunes, suponiendo que los actores poderosos sigan la trayectoria por defecto?

• Las empresas tendrán incentivos para despedirlas y no contratar nunca a otras nuevas. No producirán nada que las empresas valoren. Durante un breve periodo podrían depender de ellos como consumidores, pero la mayoría de las empresas orientadas al público desaparecerán a medida que su base de demanda pierda poder económico.
• Los Estados tendrán incentivos para recortar drásticamente el financiamiento público. Recuerda que su base de ingresos se desplazará hacia otros actores poderosos. No obtendrán ningún valor del trabajo de las personas, por lo que tampoco tendrán incentivos para crear cosas que las convierta en trabajadores productivos. El retorno de la inversión —capital, poder y resiliencia— proviene de garantizar que los laboratorios de IA puedan crear mejores modelos y que las empresas que los utilizan puedan hacer cosas en el mundo. Además, los impuestos para financiar la inversión en los humanos provendrían en gran parte de los laboratorios de IAG. La competencia entre Estados significa que, si alguno intenta establecer una renta básica universal con este impuesto, podría quedarse rezagado respecto a otros Estados.
• Las personas comunes no podrán mantenerse por sí mismas. La gran mayoría de las personas no tendrán el poder económico necesario para plantear exigencias. No podrán incentivar a los actores que controlan los recursos para que inviertan en ellas. Eso significa que (en el mejor de los casos) dependerán de la caridad benévola de los actores poderosos. En el peor de los casos, no podrán ganar ni siquiera un salario de subsistencia, y nadie intervendrá para salvarlas.

Durante un tiempo, quizá puedan generar algún valor. Los Estados rentistas necesitan a algunos humanos para mover cosas en el mundo físico —alguien tiene que extraer el petróleo del subsuelo—. Podría darse el caso de que a los humanos se les pague por el trabajo manual, mientras que los agentes se limiten a realizar tareas virtuales. A medida que la robótica mejore,⁠⁠11 la demanda de humanos disminuirá. No podrán participar en la economía porque no serán capaces de hacer nada mejor ni más rápido ni más barato ni de forma más fiable que sus reemplazos artificiales.

En los Estados rentistas, el valor se deriva principalmente de las materias primas o de los bienes físicos, que luego se venden a compradores extranjeros —por lo general, a otros Estados o empresas—. Unos cuantos humanos participan en su producción primaria o gestión, pero la mayoría no se beneficia. Aquí cabe esperar un escenario similar. Y esto nos lleva a una pregunta obvia: ¿entonces para quién producen algo los actores poderosos?

¿Puede la economía dejar de lado el consumo humano?

Los actores poderosos tienen objetivos y, por lo tanto, también los tendrá la producción de la economía. Los Estados quieren controlar su territorio y las empresas quieren enriquecer a sus propietarios. Las personas que hayan acumulado un capital significativo también tendrán objetivos. Quizá quieran utilizar su nuevo poder para colonizar Marte o excavar los océanos. Podría ser algo menos histórico: muchas personas ultrarricas se conforman con vivir sus vidas maximizando su propio placer. Todas ellas querrán asegurarse de que su nuevo lugar en la sociedad esté a salvo, y esto podría requerir enormes cantidades de poder y recursos.

De manera más fundamental, sin personas comunes en el bucle de producción de valor, no hay incentivos para que los beneficios se destinen a ellas. A medida que los seres humanos dejan de producir, dejan de obtener el poder económico que les permite dirigir la economía mediante sus decisiones de consumo. La economía los marginará cada vez más. En el caso extremo, gran parte de la economía podría funcionar en bucles que eviten por completo a los consumidores humanos.

Cómo romper la maldición de los recursos

Existen dos formas principales en las que los Estados pueden romper por completo la maldición de los recursos: una gobernanza eficaz para redistribuir los recursos y la diversificación económica⁠⁠12 para crear incentivos que logren que los Estados se preocupen por su población.

En primer lugar, un Estado puede crear instituciones eficaces para gestionar un recurso lucrativo. Masi y Ricciuti (2019) hallaron que, tras descubrir petróleo, la mayoría de los Estados se volvieron menos democráticos. Sin embargo, los Estados que ya contaban con niveles de democracia relativamente altos evitaron los impactos negativos.

Tomemos a Noruega como ejemplo. El país nórdico ha logrado un milagro con sus recursos. Es uno de los países más ricos del mundo y su población se ha beneficiado directamente de esta riqueza. Su Índice de Desarrollo Humano s el segundo más alto del mundo. Su fondo soberano, que invierte sus inmensas rentas petroleras, está valuado en más de 1,7 billones de dólares, o más de 300 000 dólares por persona. Además, se ubica sistemáticamente entre los países más felices.

Noruega rompió la maldición de los recursos únicamente gracias a una excelente gobernanza, pero muchos advierten sobre los peligros de intentar replicar su éxito. Construyó una democracia sólida con una gran capacidad burocrática antes de descubrir petróleo. El Dr. Steinar Holden —economista noruego que fue asesor del Ministerio de Finanzas— explicó el problema de utilizarla como modelo:

¿Hasta qué punto pueden otros países imitar la experiencia noruega? Esto es difícil de evaluar, sobre todo cuando se trata de países en una fase de desarrollo político y económico totalmente distinta. Cuando se descubrió petróleo en Noruega, el país ya era una democracia estable desde su independencia en 1905. La burocracia estatal funcionaba bien, con escasa corrupción. El sistema legal funcionaba correctamente y los medios de comunicación evaluaban y comentaban activamente el funcionamiento del sistema.

Pocos Estados son tan democráticos, funcionales y con tan poca corrupción como Noruega. Este camino es estrecho y cada vez más reducido; 2024 marcó el decimonoveno año consecutivo de retroceso de la libertad global. Lograrlo es difícil, y lograrlo rápidamente lo es aún más. Pocos Estados se convierten en democracias de primer nivel solo porque podrían descubrir petróleo en el futuro.

Además, un Estado puede diversificar la economía, situando el trabajo humano en el centro para que ningún recurso por sí solo pueda dominarla. Esto se aplica a las economías diversas existentes, pero también es una estrategia eficaz incluso después de descubrir petróleo. Por ejemplo, a medida que el mundo se acerca al pico de producción de crudo, muchos petroestados han comenzado a diversificarse. La Visión 2030 de Arabia Saudita tiene como objetivo proporcionar «un entorno empresarial propicio para empresas de todos los tamaños». No es de extrañar que, a medida que Arabia Saudita ha avanzado hacia la diversificación, haya intentado simultáneamente reformar el trato hacia las mujeres. Sin embargo, como ya se ha analizado, la IAG no es un recurso limitado como el petróleo. Esto significa que el incentivo para diversificarse será mucho menor una vez que alcancemos una IA que sustituya el trabajo.

Existe una tercera vía, pero es menos relevante. Eibl y Hertog 2023 señalan que, en los Estados autocráticos, las amenazas creíbles de revuelta predisponen a los actores poderosos a capitular ante las masas mediante la construcción de Estados de bienestar. Demuestran que esta vía se aplica a la mayoría de las monarquías del Golfo, especialmente a Omán.

Tenemos tres objeciones a esta vía como modelo para los Estados autocráticos inmersos en la maldición de la inteligencia. En primer lugar, creemos que esto no supone «romper» la maldición de los recursos, ya que siguen existiendo incentivos para que los Estados releguen a la población a un segundo plano. En segundo lugar, y en relación con lo anterior, prevemos que la capitulación no es estable. Los regímenes que cooptan con éxito a su población tras amenazas de revuelta siempre podrían volver a la represión. En tercer lugar, creemos que es mucho menos probable que esto resulte eficaz para la IA avanzada, ya que prevemos que los Estados tengan mucho más poder infraestructural⁠⁠13 a medida que la IA avance, en consonancia con la concepción de Bullock, Hammond y Krier del «Leviatán despótico» impulsado por IAG (‘La IAG, los gobiernos y las sociedades libres’). Así, los actores poderosos podrían detectar casi todas las grandes amenazas a su poder. Además, las nuevas tecnologías, como los drones autónomos baratos y muy eficaces, también podrían cambiar el equilibrio de poder de tal forma que los levantamientos armados no puedan amenazar al Estado. Por todas estas razones, prevemos que las autocracias con una IA que sustituya el trabajo sucumbirán a la maldición de la inteligencia; es probable que la democracia sea una condición previa necesaria para romperla.

En resumen: la maldición de los recursos desincentiva a los Estados a invertir en su población, a menudo con resultados desastrosos. Para romperla, tenemos dos enfoques relevantes:

• Confiar en que las instituciones controlen el recurso y se mantengan ancladas al bien público
• Diversificar la economía para poner a las personas en el centro

Profundizaremos más en cómo resolver la maldición de la inteligencia, pero primero analizaremos los efectos que tiene sobre el contrato social, hasta qué punto los incentivos económicos moldean realmente a la sociedad y si la IAG podría cambiar esto.

---

Publicación original: Luke Drago & Rudolf Laine (2025) The intelligence curse, The Intelligence Curse.