Distopía
Una distopía es una civilización desprovista de la mayor parte de su valor.
En la tipología de Toby Ord, las distopías irreversibles constituyen uno de los tres tipos principales de catástrofe existencial.1
Ord subdivide además las distopías irreversibles en tres tipos. Una distopía puede ser deseada por ninguno, por algunos o por la mayoría de los individuos que viven en ella. Ord las denomina distopías no deseadas, distopías forzadas y distopías deseadas, respectivamente.2
Las distopías forzadas son el tipo de distopía más conocido. En la ficción, George Orwell las describe memorablemente en 1984: Si quieres hacerte una idea del futuro, imagina una bota pisando una cara humana… para siempre
.3 Fuera de la ficción, Corea del Norte podría considerarse un ejemplo de distopía local estable.4 Las distopías forzadas reales y las de ficción suelen adoptar la forma de un totalitarismo robusto, aunque esta no es una característica necesaria.
Superficialmente, las distopías no deseadas pueden parecer improbables. Si nadie desea un mundo determinado, ¿por qué deberíamos esperar que exista? La respuesta está relacionada con la divergencia que a veces puede producirse entre las preferencias individuales y las colectivas: lo que es racional para cada persona puede ser irracional para todas. Tal vez lo mejor para cada individuo sea consumir recursos sin restricciones, independientemente de lo que hagan los demás individuos; pero si todos actúan así, el resultado puede ser el agotamiento de los recursos, que resulta peor para todos que una alternativa en la que todos moderen su consumo. Scott Alexander ofrece un ejemplo esquemático de una posible distopía no deseada:5 imaginemos una sociedad gobernada por dos reglas sencillas: la primera es que cada persona debe pasar ocho horas al día dándose fuertes descargas eléctricas; la segunda, que si alguien incumple alguna de las dos reglas, todos deben unirse para matar a esa persona. El resultado es un mundo en el que todos se dan descargas eléctricas, pues saben que de lo contrario morirán. Como resume Alexander, todos los ciudadanos odian el sistema, pero por falta de un buen mecanismo de coordinación, perdura
.6
Al igual que cabe preguntarse por qué existirían las distopías no deseadas, uno puede preguntarse por qué las distopías deseadas serían distópicas. Nick Bostrom ha proporcionado un ejemplo relevante al respecto.7 La externalización masiva de las emulaciones digitales o de los agentes de inteligencia artificial podría desembocar en un mundo totalmente desprovisto de conciencia fenoménica. Esto podría ocurrir si resultara que los estados conscientes no pudieran reproducirse in silico. También podría ocurrir si, en este entorno radicalmente nuevo, la consciencia fuera rechazada por fuertes presiones evolutivas. Por ejemplo, podría ser más eficiente desde el punto de vista computacional representar explícitamente la función de utilidad de un agente que basarse en una arquitectura de recompensa hedónica. En una amplia gama de teorías, el bienestar requiere conciencia (aunque puede no reducirse a la conciencia), por lo que un mundo así estaría desprovisto de sujetos con estatus moral, por muy próspero que pueda parecer a los observadores externos o por mucho que sus habitantes insistan en que son conscientes o en que sus vidas merecen ser vividas. Bostrom imagina una sociedad tecnológicamente muy avanzada, que contiene muchos tipos de estructuras complejas, algunas de las cuales son mucho más inteligentes e intrincadas que cualquier cosa que exista hoy en día, pero que carece por completo de cualquier tipo de ser cuyo bienestar tenga relevancia moral. En cierto sentido, se trataría de una sociedad deshabitada. Todos los tipos de seres que nos importan lo más mínimo habrían desaparecido
.8 Algunos aspectos de este posible futuro distópico pueden observarse hoy en día en la vida de algunos animales no humanos criados para el consumo humano.9
Dado que el concepto de distopía se define en términos del valor ausente del mundo así caracterizado, que algo sea o no una distopía puede variar dependiendo de la teoría moral en consideración. En el utilitarismo clásico, por ejemplo, existe una enorme diferencia de valor entre los mundos optimizados para la experiencia positiva y un mundo aparentemente deseable en el que todos disfrutan de la calidad de vida de los ciudadanos más privilegiados de las naciones más prósperas del mundo actual. El anquilosamiento permanente de este último tipo de mundo puede considerarse, según esta teoría, una distopía, en el sentido de que una enorme fracción del valor alcanzable no se habría hecho realidad. A la inversa, aunque el escenario distópico de los “externalizadores inconscientes” de Bostrom sería catastrófico en muchas teorías morales plausibles, podría no serlo desde la perspectiva de la ética centrada en el sufrimiento.
Michael Aird (2020) Collection of sources related to dystopias and “robust totalitarianism”, Effective Altruism Forum, 30 de marzo.
Lista de recursos adicionales sobre el tema
Toby Ord (2020) The Precipice: Existential Risk and the Future of Humanity, Londres: Bloomsbury Publishing, pp. 153–158.