Riesgos de estado y riesgos de transición
Un riesgo de estado es un riesgo asociado a permanecer en un estado determinado, mientras que un riesgo de transición es un riesgo derivado de la transición a un nuevo estado. Nick Bostrom parece haber introducido la distinción en su libro Superinteligencia: caminos, peligros, estrategias, aunque algunas menciones preceden la publicación del libro.1
El riesgo de estado acumulado crece en función del tiempo que se permanece en ese estado. Los riesgos existenciales naturales son típicamente riesgos de estado. Por ejemplo, en ausencia de esfuerzos para desviarlo, el riesgo de que un asteroide de cierto tamaño colisione con la Tierra en 2030 es mayor que el riesgo de que lo haga en 2029. Cuanto más tiempo se exponga la humanidad a un riesgo de estado, mayor será la probabilidad de sucumbir a la catástrofe asociada. Por ello, existen razones pro tanto para reducir los riesgos de estado lo antes posible.
Las cosas son diferentes con los riesgos de transición. En este caso, la amenaza solo surge cuando comienza la transición al nuevo estado, y el riesgo global en que se incurre durante esta transición no suele ser una función de su duración total. Así pues, en los riesgos de transición no hay presunción a favor o en contra de aplazar o prolongar la transición; lo apropiado variará según las características específicas de cada riesgo. Algunos riesgos existenciales antropogénicos pueden considerarse riesgos de transición, siendo el riesgo asociado a la inteligencia artificial quizás el ejemplo más claro.
Dado que los riesgos de estado están correlacionados con los riesgos existenciales naturales y los riesgos de transición con los riesgos existenciales antropogénicos, la incidencia mucho mayor de estos últimos en el riesgo existencial total sugiere que la mayor parte de este riesgo se debe a la transición a nuevos estados, más que a la permanencia en un estado determinado.2 Esta conclusión tiene importantes implicaciones para la gestión estratégica del riesgo existencial.
Nick Bostrom (2018) Superinteligencia: caminos, peligros, estrategias,, chap. 14.
Toby Ord (2020) The Precipice: Existential Risk and the Future of Humanity, Londres: Bloomsbury Publishing, chap. 7.
Anders Sandberg (2017) Survivorship curves and existential risk, Andart II, 8 de febrero.