Una propuesta de ajuste al argumento del desperdicio astronómico
Un riesgo existencial es un riesgo “que amenaza con extinguir de forma prematura la vida inteligente originada en la Tierra o con destruir de forma permanente y drástica su potencial para un desarrollo futuro deseable”.1 ha
la pérdida de valor esperado resultante de una catástrofe existencial es tan enorme que el objetivo de reducir los riesgos existenciales debería ser una consideración dominante siempre que lo que nos mueva a la acción sea una preocupación impersonal por la humanidad en su conjunto. Puede ser útil adoptar la siguiente regla empírica para este tipo de acción moral impersonal:
MAXIPOK: Maximizar la probabilidad de un “resultado aceptable”, donde un resultado aceptable es cualquier resultado que evite una catástrofe existencial.
Hay varias personas en la comunidad del altruismo eficaz que aceptan este punto de vista y citan el argumento de Bostrom como su principal justificación. Muchas de estas personas también creen que las mejores formas de minimizar el riesgo existencial implican hacer planes para evitar que se produzcan catástrofes existenciales específicas, y creen que las mejores oportunidades para hacer donaciones deben estar en las organizaciones benéficas que se centran principalmente en reducir el riesgo existencial. Las personas en este segundo grupo también apelan al argumento de Bostrom para apoyar sus puntos de vista. (Editado para añadir: Obsérvese que el propio Bostrom considera que MAXIPOK es neutral respecto a la cuestión de si los mejores métodos para reducir el riesgo existencial son muy amplios y generales, o muy focalizados y específicos). Para un ejemplo de esto, véase el comentario de Luke Muehlhauser:
Muchos seres humanos que viven en la actualidad valoran a las personas presentes y futuras lo suficiente como para concluir que, si una catástrofe existencial fuera probable este siglo, entonces, tras reflexionar (por ejemplo, después de haber corregido la insensibilidad al alcance habitual e inconsciente), llegarían a la conclusión de que reducir el riesgo de catástrofe existencial es lo más valioso que pueden hacer, ya sea a través del trabajo directo o donando para apoyar el trabajo directo.
Ahora creo que estos puntos de vista requieren algunos ajustes y salvedades importantes y que, hechos estos ajustes y salvedades, sus implicaciones prácticas se vuelven muy inciertas. Sigo creyendo que el aspecto más importante de lo que hacemos es cómo afectan nuestras acciones al potencial futuro a largo plazo de la humanidad, y sigo creyendo que la investigación y reducción focalizadas del riesgo existencial es una causa prometedora, pero ahora no parece tan claro que la reducción focalizada del riesgo existencial sea la mejor área para buscar formas de hacer que el futuro lejano vaya lo mejor posible. Puede que lo sea o puede que no lo sea, y lo correcto probablemente dependa de muchos detalles confusos sobre oportunidades específicas, así como de consideraciones metodológicas generales que, en este momento, son muy inciertas. En mi razonamiento han intervenido varias consideraciones, y tengo la intención de hablar de ellas con más detalle en el futuro. En este artículo me referiré solamente a un par de estas consideraciones.
En este artículo, sostengo que
Creo que algunos destacados partidarios de la reducción del riesgo existencial ya están de acuerdo con estos puntos generales, y creen que otros argumentos, u otros argumentos junto con el argumento de Bostrom, establecen que la reducción directa del riesgo existencial es lo que más importa. Este artículo es más relevante para quienes piensan que los argumentos de Bostrom bastan para dirimir las cuestiones discutidas anteriormente.
Al pensar en cómo podríamos influir en el futuro lejano, me ha resultado útil emplear el concepto de la trayectoria de desarrollo del mundo, o simplemente trayectoria para abreviar. La trayectoria de desarrollo del mundo, como yo la llamo, es un resumen aproximado de la forma en que se desarrollará el futuro a lo largo del tiempo. El resumen incluye varios hechos sobre el mundo que importan desde una perspectiva general, como la riqueza de la gente, las tecnologías disponibles, la felicidad de las personas, el grado de desarrollo de la ciencia y la cultura en varias dimensiones y el grado de prosperidad general en diferentes momentos del tiempo. Puede ser útil pensar en la trayectoria como una colección de gráficos, donde cada gráfico de la colección tiene el tiempo en el eje de abscisas y una de estas otras variables en el eje de coordenadas.
Habiendo establecido este concepto, consideremos tres tipos diferentes de beneficio de realizar una acción valiosa. En primer lugar, realizar una acción valiosa puede tener beneficios próximos, que es el nombre que doy a los beneficios relativamente previsibles a corto plazo en los que solemos pensar cuando curamos la ceguera de un niño, salvamos una vida o ayudamos a una anciana a cruzar la calle. En segundo lugar, hay beneficios derivados de acelerar el desarrollo. En muchos casos, los efectos de onda de las buenas acciones ordinarias aceleran el desarrollo. Por ejemplo, salvar la vida de un niño puede hacer que la economía de su país se desarrolle ligeramente más rápido o que ciertas innovaciones tecnológicas o culturales lleguen más rápido. En tercer lugar, nuestras acciones pueden alterar ligera o significativamente la trayectoria de desarrollo del mundo. Llamo a estos cambios cambios de trayectoria. Un ejemplo extremo de cambio de trayectoria sería evitar una catástrofe existencial. También puede haber cambios de trayectoria menores. Por ejemplo, si se destruyeran algunas especies de delfines que valoramos mucho, se trataría de un cambio de trayectoria mucho menor.
El concepto de cambio de trayectoria está estrechamente relacionado con el concepto de dependencia de la trayectoria en las ciencias sociales, aunque cuando hablo de cambios de trayectoria me interesan los efectos que persisten mucho más tiempo que los ejemplos típicos de dependencia de la trayectoria. Un ejemplo clásico de dependencia de la trayectoria es nuestro uso de los teclados QWERTY. Nuestros teclados podrían haber sido organizados de muchas otras formas posibles. Una gran parte de la explicación de por qué usamos teclados QWERTY es que resultó conveniente para fabricar máquinas de escribir, que mucha gente aprendió a usar estos teclados y que hay ventajas en que la mayoría de la gente use el mismo tipo de teclado. En esencia, existe dependencia de la trayectoria siempre que algún aspecto del futuro podría haber sido fácilmente de la manera X, pero está dispuesto de la manera Y debido a algo que ocurrió en el pasado, y ahora sería difícil o imposible cambiarlo a la manera X. El fenómeno de la dependencia de la trayectoria es especialmente interesante cuando la manera X habría sido mejor que la manera Y. Algunos politólogos han argumentado que la dependencia de la trayectoria es muy común en política. Por ejemplo, en un influyente artículo (con más de 3 000 citas) Paul Pierson sostiene que2
los patrones específicos de tiempo y secuencia importan; a partir de condiciones similares, puede ser posible una amplia gama de resultados sociales; grandes consecuencias pueden resultar de acontecimientos relativamente “pequeños” o contingentes; particulares cursos de acción, una vez introducidos, pueden ser virtualmente imposibles de revertir; por consiguiente, el desarrollo político suele estar marcado por momentos o coyunturas que configuran los contornos básicos de la vida social.
El concepto de cambio de trayectoria también está estrechamente relacionado con el de contingencia histórica. Si Thomas Edison no hubiera inventado la bombilla, otro lo habría hecho más tarde. En este sentido, no es históricamente contingente que tengamos bombillas, y los beneficios más evidentes de que Thomas Edison inventara la bombilla son los beneficios próximos y los beneficios de acelerar el desarrollo. Algo análogo ocurre probablemente con muchas otras innovaciones tecnológicas como las computadoras, las velas, las carretillas, la programación orientada a objetos y la imprenta. Algunos ejemplos importantes de contingencias históricas: el surgimiento del cristianismo, la creación de la Constitución estadounidense y los escritos de Karl Marx. Varios aspectos de la moral cristiana influyen en el mundo actual de maneras significativas, pero el hecho de que esos aspectos de la moral, exactamente de esas maneras, formaran parte de una religión mundial dominante fue históricamente contingente. Y, por tanto, acontecimientos como la muerte de Jesús y el hecho de que Pablo escribiera sus epístolas son ejemplos de cambios de trayectoria. Del mismo modo, la Constitución estadounidense fue el resultado de la deliberación de un conjunto específico de hombres. El documento influye en la política gubernamental actual y su influencia continuará en un futuro previsible, pero podría haber sido perfectamente un documento diferente. Y ahora que el documento existe en su contexto jurídico e histórico específico, es difícil introducir cambios en él, por lo que el cambio en cierto modo se refuerza a sí mismo.
Los cambios de trayectoria persistentes que no impliquen catástrofes existenciales podrían ser de gran trascendencia para configurar el futuro lejano. Es poco probable que el futuro lejano herede muchas de nuestras instituciones exactamente en su estado actual, pero varios aspectos del futuro lejano —incluyendo las normas sociales, los valores, los sistemas políticos y quizá incluso algunas tecnologías— pueden ser dependientes de la trayectoria con respecto a lo que ocurra ahora, y a veces de forma subóptima. En general, es razonable suponer que si hay algún problema que podría existir en el futuro y podemos hacer algo para solucionarlo ahora, las personas futuras también serían capaces de resolver ese problema. Pero si los valores o las normas sociales cambian, puede que no estén de acuerdo en que algunas cosas que creemos que son problemas realmente lo sean. O, si la gente toma decisiones equivocadas ahora, ciertas normas o convenciones podrían afianzarse, y los problemas resultantes podrían ser demasiado costosos como para que valga la pena solucionarlos. Para más categorías de ejemplos de aspectos del futuro lejano que dependen de la trayectoria, véanse estos artículos de Robin Hanson.
El argumento de Bostrom solamente funciona si reducir el riesgo existencial es la forma más eficaz de maximizar el potencial futuro de la humanidad. Pero no hay ningún argumento sólido en favor de que intentar reducir el riesgo existencial sea una forma más eficaz de configurar el futuro lejano que intentar crear otros cambios de trayectoria positivos. El argumento de Bostrom sobre la importancia abrumadora de reducir el riesgo existencial puede resumirse de la siguiente manera:
Llamémoslo el argumento del “desperdicio astronómico”.
No está claro si la premisa (5) es cierta porque no está claro si intentar reducir el riesgo existencial es la forma más eficaz de maximizar el potencial futuro de la humanidad. Por lo que sabemos, podría ser más eficaz intentar crear otros cambios de trayectoria positivos. Está claro que sería mejor evitar la extinción que mejorar nuestras normas sociales de forma que indirectamente el futuro vaya mejor en una millonésima parte, pero, en general, “X es un problema mayor que Y” no es más que un argumento débil en favor de que “intentar abordar X es más importante que intentar abordar Y”. Para que sea fuerte, el argumento debe complementarse con muchas otras consideraciones relacionadas con X e Y, como cuánto esfuerzo se está dedicando a resolver X e Y, cuán tratables son X e Y, en qué medida X e Y podrían hacer uso de recursos adicionales, y si hay subconjuntos de X o Y que sean especialmente fuertes en términos de estas consideraciones.
Bostrom tiene argumentos a favor de que acelerar el desarrollo y proporcionar beneficios próximos no es algo tan importante, en sí mismo, como reducir el riesgo existencial. Y estos argumentos, creo, tienen cierta plausibilidad. Dado que no tenemos argumentos en favor de que reducir el riesgo existencial sea mejor que intentar crear otros cambios de trayectoria positivos y que una catástrofe existencial es un tipo de cambio de trayectoria, parece más razonable que los defensores del argumento del desperdicio astronómico se centren en los cambios de trayectoria en general. Sería mejor sustituir los dos últimos pasos del argumento anterior por:
En términos esperados, algunas de nuestras acciones cambian nuestra trayectoria de desarrollo en un grado no insignificante.
Si lo más importante es maximizar el potencial futuro de la humanidad y, en términos esperados, algunas de nuestras acciones cambian nuestra trayectoria de desarrollo en un grado no insignificante, lo mejor que podemos hacer está determinado principalmente por el modo en que nuestras acciones cambian nuestra trayectoria de desarrollo en términos esperados.
Por lo tanto, lo mejor que podemos hacer está determinado principalmente por el modo en que nuestras acciones cambian nuestra trayectoria de desarrollo en términos esperados.
Esta parece una afirmación estrictamente más plausible que la original, aunque está menos focalizada.
En respuesta a los argumentos de este artículo, que le envié por correo electrónico con antelación, Bostrom escribió una réplica (véase al final). El comentario clave, desde mi punto de vista, es el siguiente:
Muchos cambios de trayectoria ya están comprendidos dentro de la noción de catástrofe existencial. Quedar encerrado permanentemente en algún estado radicalmente subóptimo es un riesgo existencial. La noción es más útil en la medida en que los escenarios probables se dividen de forma relativamente clara en dos categorías distintas: los muy buenos y los muy malos. En la medida en que exista una amplia gama de escenarios que sean aproximadamente igual de plausibles y que varíen de forma continua en el grado en que la trayectoria es buena, el concepto de riesgo existencial será una herramienta menos útil para pensar en nuestras decisiones. Entonces habría que recurrir a un cálculo más complicado. Sin embargo, la extinción es bastante dicotómica, y también cabe pensar que muchas civilizaciones futuras suficientemente buenas convergerían con el tiempo en la trayectoria óptima.
Estoy de acuerdo en que una cuestión clave aquí es si existe una gama muy amplia de equilibrios plausibles para las civilizaciones avanzadas, o si las civilizaciones que consiguen sobrevivir lo suficiente convergen de forma natural en algo cercano al mejor resultado posible. Cuanto más se confíe en la segunda posibilidad, más interesante será el riesgo existencial como concepto. Cuanto menos se confíe en la segunda posibilidad, más interesantes serán los cambios de trayectoria en general. Sin embargo, yo insistiría en que, a menos que podamos confiar plenamente en la segunda posibilidad, parece que no podemos confiar en que reducir el riesgo existencial sea más importante que crear otros cambios de trayectoria positivos basándonos únicamente en el argumento del desperdicio astronómico. Esto se traduciría en otras consideraciones del tipo que he expuesto anteriormente.
Tanto el argumento del desperdicio astronómico como la versión revisada de ese argumento concluyen que lo más importante es cómo influyen nuestras acciones en el futuro lejano. Simpatizo mucho con este punto de vista, considerado de forma abstracta, pero creo que sus implicaciones prácticas son muy inciertas. Existe un espectro de estrategias para configurar el futuro lejano que va desde las muy focalizadas (por ejemplo, impedir que un determinado asteroide impacte contra la Tierra) a las muy amplias (por ejemplo, generar crecimiento económico, ayudar a los pobres, ofrecer programas educativos a los jóvenes con talento), con opciones intermedias como “hablarle a la gente poderosa de la importancia de configurar el futuro lejano”. El caso límite de amplitud podría ser solo optimizar los beneficios próximos o la aceleración del desarrollo. Los defensores del argumento del desperdicio astronómico tienden a situarse en el extremo más focalizado de este espectro. Creo que es muy interesante preguntarse en qué punto de este espectro deberíamos situarnos, en igualdad de condiciones, y es un tema sobre el que pienso volver en el futuro.
Los argumentos que acabo de exponer favorecen estrategias más amplias para configurar el futuro lejano, aunque no dirimen la cuestión. La principal razón por la que digo esto es que las mejores formas de crear cambios de trayectoria positivos pueden ser muy amplias y generales, mientras que las mejores formas de reducir el riesgo existencial pueden ser más estrechas y específicas. Por ejemplo, puede ser razonable intentar evaluar, en detalle, cuestiones como “¿Cuáles son los mayores riesgos existenciales específicos?” y “¿Cuáles son las formas más eficaces de reducir esos riesgos específicos?”. En cambio, parece menos prometedor intentar hacer conjeturas específicas sobre cómo podríamos crear cambios de trayectoria positivos más pequeños, porque hay muchas posibilidades y muchos cambios de trayectoria no tienen una importancia que pueda predecirse de antemano. Nadie podría haber predicho el persistente efecto de onda que tuvo la vida de Jesús, por ejemplo. En otros casos, como la redacción de la Constitución estadounidense, es claro que una decisión tiene potencial para provocar un cambio de trayectoria, pero sería difícil especificar de antemano qué medidas concretas deberían tomarse. En general, parece que cuanto más dificultad haya en predecir algún fenómeno que es crucial para un plan, menos debería depender el plan de predicciones concretas sobre ese fenómeno. Por eso, las formas más prometedoras de crear cambios de trayectoria positivos en el mundo pueden ser más amplias que las formas más prometedoras de intentar reducir el riesgo existencial específicamente. Mejorar la educación, mejorar la paternidad, mejorar la ciencia, mejorar nuestro sistema político, difundir valores humanitarios o mejorar de cualquier otro modo nuestra sabiduría colectiva para dirigir el futuro podría, en mi opinión, crear muchos cambios de trayectoria positivos, pequeños e impredecibles.
No pretendo sugerir que los enfoques amplios sean necesariamente los mejores, solo que las personas interesadas en configurar el futuro lejano deberían tomárselos más en serio de lo que lo hacen actualmente. En mi opinión, los costos relativos de las estrategias muy focalizadas y las estrategias muy amplias son los siguientes. Las estrategias muy focalizadas para configurar el futuro lejano suelen depender de planes muy especulativos, a menudo con muchos pasos, que son difíciles de ejecutar. A menudo tenemos una idea muy poco clara de si estamos haciendo progresos valiosos en la investigación sobre el riesgo asociado a la IA o en la investigación sobre geoingeniería. Las estrategias muy amplias, por otro lado, deben basarse en suposiciones implícitas sobre los efectos de onda de hacer el bien de maneras más habituales. Es muy sutil y especulativo decir cómo se relacionan las acciones ordinarias con los cambios de trayectoria positivos, y estimar las magnitudes parece extremadamente difícil. Considerar las ventajas de uno y otro enfoque en casos concretos parece un área prometedora para investigaciones futuras.
En este artículo, he argumentado lo siguiente:
La perspectiva del cambio de trayectoria puede tener otras implicaciones estratégicas para quienes se preocupan por maximizar el potencial de la humanidad a largo plazo. Tengo previsto escribir sobre estas implicaciones en el futuro.a
[Lo que sigue es una respuesta que Nick Bostrom me envió por correo electrónico. Me sugirió que compartiera su comentario con este artículo. Téngase en cuenta que he añadido un par de pequeñas aclaraciones a este artículo (señaladas más arriba) en respuesta al comentario de Bostrom.]
Se puede llegar a un principio más probablemente correcto debilitándolo, llegando finalmente a algo como “haz lo mejor” o “maximiza el bien esperado”. Ahí podría descansar el filósofo analítico bien entrenado, habiendo alcanzado la más absoluta esterilidad. Por supuesto, para conseguir algo fructífero, hay que mirar al mundo y no solo a nuestros conceptos.
Muchos cambios de trayectoria ya están comprendidos dentro de la noción de catástrofe existencial. Quedar encerrado permanentemente en algún estado radicalmente subóptimo es un riesgo existencial. La noción es más útil en la medida en que los escenarios probables se dividen de forma relativamente clara en dos categorías distintas: los muy buenos y los muy malos. En la medida en que exista una amplia gama de escenarios que sean aproximadamente igual de plausibles y que varíen de forma continua en el grado en que la trayectoria es buena, el concepto de riesgo existencial será una herramienta menos útil para pensar en nuestras decisiones. Entonces habría que recurrir a un cálculo más complicado. Sin embargo, la extinción es bastante dicotómica, y también cabe pensar que muchas civilizaciones futuras suficientemente buenas convergerían con el tiempo en la trayectoria óptima.
En un análisis más extenso y cuidadoso hay buenas razones para considerar efectos de segundo orden no recogidos en el simple concepto de riesgo existencial. Reducir la probabilidad de resultados con valor negativo es obviamente importante, y algunos parámetros como los valores globales y la coordinación pueden admitir una variación más o menos continua en una cierta clase de escenarios y podrían influir en el valor del resultado a largo plazo en formas correspondientemente continuas. (El grado de importancia de estas complicaciones también depende de algunas cuestiones de axiología no resueltas, por lo que, en una evaluación global, el tratamiento adecuado de la incertidumbre normativa adquiere importancia. De hecho, crear una civilización futura a la que se pueda confiar la resolución de la incertidumbre normativa siempre que sea posible una resolución epistémica, y encontrar compromisos ampliamente aceptables y mutuamente beneficiosos en la medida en que dicha resolución no sea posible, me parece un punto de convergencia prometedor para la acción.)
No forma parte del concepto de riesgo existencial ni del principio MAXIPOK que debamos adoptar algún método lo más directo y concreto posible para reducir el riesgo existencial (como la defensa contra los asteroides): la cuestión de si se reduce mejor el riesgo existencial por medios directos o indirectos es totalmente independiente.