Pérdida gradual de poder: Resumen
Este es un resumen de Gradual disempowerment, de Kulveit et al. Nuestra intención es que esta entrada sirva como una introducción accesible, pero el lector interesado debería consultar el artículo para obtener un análisis más detallado.
Introducción
Te encuentras en el año 2040. Todo parece maravilloso; el dinero abunda, el entretenimiento se adapta a cada capricho y los carismáticos compañeros de IA son los mejores interlocutores que puedas imaginar. Terminator no se ha apoderado del mundo. Las preocupaciones sobre la seguridad de la IA se han descartado en gran medida.
Sigues explorando: es cierto que tus necesidades están muy bien cubiertas, pero te das cuenta de que, en realidad, no tienes poder alguno para hacer nada en el mundo. Apenas puedes establecer vínculos con otras personas, que están muy ocupadas hablando con sus chatbots. No tienes trabajo: la IA lo hace todo por ti. No puedes crear nada, ya que la IA también te supera en eso. Puede que siga habiendo “elecciones”, pero las burocracias de la IA se han vuelto tan complicadas que los gobiernos no pueden cambiar realmente el sistema. Ahora el algoritmo lo decide todo. Te das cuenta de que este “mundo feliz” es, en esencia, un zoológico humano.
Este es el mundo sobre el que nos advierte el artículo Gradual disempowerment. En él se describe cómo los sistemas sociales actuales funcionan, en su mayor parte, al servicio de las necesidades y deseos humanos, pero pueden verse sometidos a una presión extrema para automatizarse mediante la IA. Los autores sostienen que los sistemas sociales que no necesitan a los humanos para funcionar desatienden las necesidades y los deseos humanos, y privan a la humanidad de la capacidad de forjar su propio futuro.
Los sistemas sociales actuales son, en su mayoría, buenos
Se podría considerar que los sistemas sociales actuales se componen de tres partes principales:
- La economía
- La cultura
- Los gobiernos o los Estados nación
Estos sistemas distan mucho de ser perfectos, pero son mejores que los anteriores. Hay menos personas que nunca (como porcentaje de la población total) que viven en la pobreza o mueren a causa de enfermedades prevenibles. La mayoría de la gente, especialmente quienes viven en democracias, tiene una vida bastante buena.
Repasemos cada uno de estos sistemas y expliquemos cómo los seres humanos determinan su funcionamiento.
Economía
La economía representa cómo fabricamos, compramos y vendemos cosas, así como el flujo de dinero entre las personas, las empresas y los gobiernos. Tener dinero significa que puedes consumir bienes y servicios y, por lo tanto, influir en lo que produce la economía.
En el Reino Unido, aproximadamente el 60 % del pastel económico (la riqueza creada o el dinero que cambia de manos) va a parar cada año a los trabajadores en forma de salarios, mientras que el 40 % restante se destina a quienes poseen bienes físicos o activos (por ejemplo, accionistas, empresarios, propietarios de inmuebles).
Dado que los trabajadores ganan el 60 % de esta cantidad, tienen mucho poder e influencia sobre lo que se produce en la economía. Lo que deciden comprar determina lo que se fabrica y lo que luego se vende.
Por ejemplo, si ahora mismo te encuentras en una ciudad, probablemente haya diez cafeterías a menos de diez minutos a pie de donde estás, porque muchos trabajadores quieren su (¿delicioso?) café con leche de avena a primera hora de la mañana. Así pues, hay mucha demanda de este producto y, por lo tanto, la gente decide ofrecerlo.
Cultura
La cultura abarca los medios de comunicación que consumimos, las costumbres que seguimos y las normas sociales por las que nos regimos. Moldea nuestra forma de pensar, de comportarnos y de relacionarnos.
Las personas se inclinan por las culturas que las benefician. Las culturas que no se adaptan ni satisfacen las necesidades de sus miembros simplemente desaparecen: la gente se marcha en busca de mejores alternativas, o bien otras culturas más saludables las desplazan. Esto significa que las personas tienen un poder real para moldear la cultura: producen contenidos, cuestionan las normas y se mueven de acuerdo a sus preferencias.
Piensa en Nokia. La empresa tenía una cultura rígida que no supo adaptarse cuando llegaron los teléfonos inteligentes: Apple le comió el terreno. La razón por la que las empresas dedican tanto tiempo a pensar en la “cultura” es que una buena cultura es esencial para el éxito.
Estados
El gobierno desempeña funciones fundamentales para la sociedad. Sin él, la sanidad, la defensa, la educación y el Estado de derecho se derrumbarían. Aunque el gobierno tiene un enorme poder, está limitado por las exigencias de las personas a las que gobierna, incluso en las autocracias.
En última instancia, los gobiernos necesitan una fuerza laboral formada, cualificada y muy motivada para obtener suficientes ingresos fiscales. Más del 70 % de los ingresos del gobierno del Reino Unido proviene directamente de su población a través de diversos tipos de impuestos.
También necesitan personas para el aparato de seguridad nacional. Incluso las autocracias necesitan personal para sus servicios de seguridad. Muchas revoluciones han triunfado porque, a la hora de la verdad, el ejército se negó a abrir fuego contra los manifestantes. La revolución de Bangladés de julio de 2024 es uno de esos ejemplos.
Los sistemas se enfrentan a la presión de ser automatizados por la IA
Todos estos sistemas sociales se enfrentan a una enorme presión para automatizarse.
La economía
Imagina que eres el líder de una empresa de éxito. Aprecias a tu personal, pero ves que todos tus competidores se están automatizando poco a poco y, con ello, obtienen enormes beneficios. Tus accionistas te animan a hacer lo mismo.
Ahora imagina esta dinámica en toda la sociedad. Algunas empresas se automatizan únicamente para maximizar sus beneficios. Otras lo hacen para mantenerse competitivas frente a las empresas automatizadas. Incluso los últimos en resistirse a la automatización se enfrentan a una economía que avanza tan rápido y es tan compleja que tienen que delegar todas sus decisiones estratégicas importantes en la IA.
La economía se ha automatizado en gran medida.
Cultura
Antes de Internet, solíamos obtener nuestra información de fuentes compartidas. Nuestra comunidad local, los periódicos y las cadenas de televisión se ceñían en gran medida a la verdad. Vivíamos en una realidad compartida.
El mundo actual es muy diferente. La información sigue siendo producida por personas, pero aquello a lo que estamos expuestos lo determinan los opacos algoritmos de las redes sociales. Las cámaras de eco se han convertido en un gran problema.
Imagina que esta tendencia continúa. En lugar de limitarnos a tener recomendaciones algorítmicas, pasamos a tener contenido generado por IA, hiperpersonalizado para satisfacer cada uno de nuestros caprichos. La producción cultural se convierte poco a poco en una cuestión de dar instrucciones a sistemas artificiales, y pronto esos sistemas saben lo suficiente sobre nosotros como para simplemente producir el contenido que queremos antes incluso de que sepamos que lo queremos.
Es fácil ver cómo sucede esto. La cultura de masas requiere tiempo para producirse y necesita alguna forma de llegar a un grupo amplio de personas. El contenido artificial, por otra parte, puede crearse al instante y adaptarse en gran medida a las necesidades de una persona. Es difícil imaginar cómo la cultura creada por humanos podría salir ganando.
La cultura también acaba siendo automatizada…
Estados
Si eres un dictador, por supuesto que querrás automatizar la mayor parte posible del aparato estatal. Depender menos de los demás significa menos posibilidades de que te derroquen. Ya hemos visto la vigilancia automatizada en China, y el conflicto entre Rusia y Ucrania ha demostrado que los drones son el futuro del combate. Deberíamos esperar que estas tendencias continúen.
Lo realmente preocupante es que, incluso en las democracias, podríamos ver cómo las personas pierden relevancia. A medida que los sistemas artificiales se vuelvan cada vez más complejos, resultará cada vez más fácil delegar en ellos para lograr una toma de decisiones eficiente. Esto es especialmente cierto si se compite contra otros Estados que, a su vez, se han automatizado en gran medida. Claro, puede que haya “elecciones” cada cinco años, pero, en la práctica, los gobiernos carecen de poder para cambiar los sistemas en los que ahora se apoyan para prácticamente todo.
Al cabo de un tiempo, si casi todo el trabajo económico lo realizan las IA y los gobiernos dejan de necesitar a las personas para recaudar impuestos, el destino de la democracia podría convertirse en una incógnita…
Los sistemas sociales automatizados por IA son perjudiciales para los seres humanos
Nuestros sistemas sociales no son buenos por defecto. Han evolucionado a lo largo de miles de años hasta llegar al punto en el que se encuentran ahora. Durante todo ese tiempo, se han sustentado en una única premisa: estos sistemas han sido creados por y para las personas. Gradual disempowerment nos invita a imaginar un mundo en el que, lentamente y con el paso de los años, esta premisa deja de ser cierta.
El panorama es desolador. Por defecto, una economía totalmente automatizada significa que el valor del trabajo humano se reduce a la nada. Si la mayoría de las personas dejan de percibir un salario, la parte de la economía dedicada a producir bienes para ellas se marchitará. Incluso aquellos seres humanos que conserven poder financiero no podrán, en la práctica, influir en la economía, ya que esta se mueve con demasiada rapidez como para que la comprendan. En el caso extremo, podemos imaginar empresas formadas enteramente por IA, que producen bienes para consumidores que también son IA. ¿Quién satisfará entonces las necesidades humanas básicas…?
La historia es similar en el caso de la cultura. El 29 % de los estadounidenses menores de 30 años afirma sentirse solo la mayor parte del tiempo. Imaginemos que ese vacío lo llenan compañeros de IA. Siempre están disponibles, nunca te juzgan y dicen exactamente lo que quieres oír. Con el tiempo, esto se convierte en la forma predeterminada de amistad e interacción cultural. Los feeds de la gente se llenan de contenido generado por IA y todas sus conversaciones son con la IA. En este mundo, la conexión humana queda en el camino. También resulta difícil imaginar a los seres humanos coordinándose para algo en un mundo así; ¿cómo se puede inspirar a alguien para que abandone su burbuja de IA y asista a una manifestación? Los humanos han perdido el poder completamente en este mundo.
Incluso si este escenario no llega a ocurrir, sigue habiendo formas en las que los humanos pueden perder gradualmente el poder frente a la IA. Si la IA es mucho más rápida a la hora de producir contenido cultural, podemos imaginar una inundación masiva de contenido generado por ella. Puede que por ahora este contenido sea basura, pero la calidad está mejorando rápidamente. Podríamos acabar convertidos en meros consumidores desventurados de la cultura de la IA, o en peones de su guerra cultural.
Por último, consideremos a los Estados. A medida que cada vez más decisiones estatales se deleguen en la IA, la burocracia del Estado podría volverse tan compleja y cambiante que ninguna persona sea capaz de manejarla. Los seres humanos pierden la capacidad de comprender por sí mismos los sistemas legales y normativos.
Peor aún, el Estado deja de depender de los seres humanos, tanto en el ámbito económico como en el de seguridad. Es difícil imaginar qué incentivos tendría para preocuparse siquiera por sus ciudadanos en un escenario así. Ya podemos observar cómo se desarrolla esta dinámica en Estados que sufren la “maldición de los recursos”. Un país rico en petróleo como Venezuela no tiene motivos para preocuparse por sus ciudadanos: todos sus ingresos proceden del petróleo. Ahora imagina a Venezuela con un aparato de seguridad totalmente automatizado. Ese es el futuro contra el que nos advierte Gradual disempowerment.
Todas estas dinámicas interactúan entre sí. Una economía automatizada facilita que los Estados ignoren las preferencias de sus ciudadanos. Una cultura automatizada ayuda a mantener a la gente a raya. Estas dinámicas se refuerzan mutuamente y, si acabamos en un mundo en el que hemos perdido el poder gradualmente, es difícil vislumbrar una salida.
Qué puedes hacer
La pérdida gradual de poder es un problema poco explorado en este momento, y hay mucho trabajo útil que se puede hacer al respecto:
- ¿Cómo podríamos saber que hemos perdido el poder gradualmente? En relación con esto, ¿qué tan cerca estamos hoy de perder el poder?
- ¿Disponer de asistentes personales de IA que actúen en nuestro nombre nos ayudaría o empeoraría las cosas?
- Tecnología que nos ayude a identificar contenidos generados por IA, o formas de verificar que el contenido ha sido creado por seres humanos
- Investigaciones sobre cómo los países con recursos naturales han logrado evitar la “maldición de los recursos” y, en su lugar, construir democracias resilientes (por ejemplo, Noruega).
¡Estas son solo algunas ideas! Hay mucho que puedes hacer si te preocupa este tema, y nos entusiasma ver qué se te ocurre en el curso.