Actualizaciones a nuestra lista de los problemas más graves del mundo
El objetivo de 80 000 Horas es ayudar a las personas a encontrar carreras profesionales que aborden los problemas más graves del mundo. Para ello, entre otras cosas, mantenemos una lista pública de los problemas en los que una persona adicional puede obtener el mayor impacto positivo.
Acabamos de realizar importantes actualizaciones en nuestra lista. Estos son los cambios más importantes:
Hemos hecho este cambio en consonancia con nuestro nuevo enfoque estratégico, que implica ampliar y profundizar nuestro contenido sobre cómo contribuir a una buena transición hacia un mundo con IAG.
Desde 2016 hemos clasificado los “riesgos de la inteligencia artificial” como el problema más grave, pero nuestro perfil sobre este tema se centraba principalmente en la posibilidad de que una IA poderosa pudiera desarrollar objetivos contrarios a los intereses humanos. Seguimos pensando que la cuestión de la IA que busca acumular poder y está “desalineada” con los intereses de la humanidad sigue siendo muy grave, pero a medida que la IA ha avanzado, se han hecho evidentes más problemas. Hemos actualizado nuestra lista general de problemas para reflejar este panorama más amplio.
En particular, hemos destacado las tomas de poder por medio de la IA: la creciente preocupación por la posibilidad de que la IA avanzada permita una concentración de poder sin precedentes en manos de pequeños grupos de humanos o líderes autoritarios.
La tecnología de IA podría permitir a sus creadores —o a otros que la controlen, como gobiernos nacionales o ejércitos— obtener y, potencialmente, conservar un poder extraordinario. La posibilidad de “lealtades secretas”, en las que los sistemas de IA que parecen servir al interés público en realidad están entrenados para promover los intereses de sus verdaderos controladores, podría dificultar la detección de este problema. A medida que estos sistemas se implementen en la economía, el gobierno y el ámbito militar, podrían buscar oportunidades de forma encubierta para consolidar el poder en manos de quienes los controlan.
Anteriormente incluimos los “riesgos de totalitarismo estable” como un desafío emergente, que cubría un tema similar. Sin embargo, decidimos escribir un nuevo artículo con un enfoque distinto, para centrarnos en los tipos específicos de escenarios que creemos que tienen más probabilidades de ser graves y urgentes, y que impliquen el uso de la IA para concentrar poder. También nos preocupa una gama bastante amplia de escenarios en los que pequeños grupos de actores humanos podrían acumular cantidades peligrosas de control, aunque no constituyan un “totalitarismo” en el sentido tradicional.
No estamos seguros de lo probable o grave que podrían ser las tomas de poder por medio de la IA y, especialmente teniendo en cuenta lo desatendido que está el trabajo en este campo, podría ser incluso más importante que la gente considere dedicar sus esfuerzos a este tema que a los riesgos de la toma de poder por parte de la IA. Sin embargo, también es posible que, a medida que más personas profundicen en el tema, descubramos que no es tan grave como creemos, o que si se abordaran adecuadamente otras cuestiones que enumeramos, no suponga un problema adicional significativo.
También hemos cambiado nuestra lista de “desafíos emergentes”, para centrarnos más en cuestiones que, aunque actualmente son más especulativas, podrían volverse críticas a medida que se desarrolle la IA. Entre ellos se encuentran algunos problemas sobre los que ya hemos escrito, como el estatus moral de las mentes digitales, el desempoderamiento gradual y los “riesgos S”. No consideramos que esta lista esté completa, y esperamos añadir más perfiles, cuya investigación está en curso.
Estos cambios reflejan nuestra opinión de que el desarrollo de la IA plantea tanto enormes riesgos como algunas de las mayores oportunidades para la humanidad, y que aún estamos lejos de comprender este panorama en toda su complejidad.
Hemos eliminado nuestros perfiles sobre desarrollo del altruismo eficaz, mejora de la toma de decisiones institucionales e investigación sobre prioridades globales de la lista principal de problemas.
Las principales razones de este cambio son la claridad y la sencillez. Siempre ha sido difícil definir exactamente cómo clasificar estos problemas “meta” —que buscan mejorar nuestra capacidad para comprender y trabajar en problemas de nivel objeto— frente a los problemas de nivel objeto a cuya solución contribuyen. Además, consideramos que generan redundancia y una ontología poco clara en nuestro sitio, ya que este material también se trata en otras partes. Por ello, hemos decidido centrar la lista en los problemas de nivel objeto y analizar enfoques más amplios para abordar estos problemas en otras partes.
Este cambio no significa que pensemos que el trabajo “meta” no es importante; de hecho, la propia estrategia de 80 000 Horas para resolver problemas graves es “meta”. Seguimos pensando que este tipo de estrategias son muy valiosas, y las abordamos en nuestra página de análisis de carreras profesionales.
Además de los cambios sustanciales, hemos realizado varios ajustes para mejorar la claridad de la página:
Consolidación de temas relacionados: Ahora consideramos el problema de las armas nucleares como parte del problema del conflicto entre grandes potencias, ya que los riesgos nucleares son un componente importante de los escenarios de guerra entre grandes potencias más preocupantes.
Estructura unificada: En lugar de tener categorías separadas que parecían listas distintas de problemas, hemos reestructurado la página para que fluya de forma más natural desde lo que consideramos las prioridades más altas hacia aquellas que consideramos, en principio, menos graves.
(Aunque vale la pena señalar que consideramos que las cuestiones que enumeramos al final de nuestra página siguen siendo mucho más graves que la gran mayoría de los problemas en los que trabaja normalmente la gente en su carrera profesional. Por ejemplo, la salud global es un ámbito en el que las personas generalmente pueden generar un impacto mucho mayor del que lograrían en ámbitos más saturados, como la educación o la sanidad en países de ingresos altos).
Cabe destacar también que no pretendemos que nuestra lista sea exhaustiva; es probable que existan muchas lagunas y omisiones significativas que idealmente abordaríamos si contáramos con más tiempo y recursos.
Si te interesan las carreras profesionales relacionadas con la IA: Ahora hemos añadido más información sobre los distintos tipos de riesgos que plantea la IA avanzada, y hemos identificado algunos desafíos emergentes que, en nuestra opinión, podrían ser la opción ideal para aquellas personas particularmente bien posicionadas para lograr avances significativos en ellos. Todavía no tenemos un asesoramiento sobre carreras profesionales bien desarrollado en todas estas áreas, pero si te interesa, el primer paso es comprender la vanguardia del conocimiento en estos temas. Lee los perfiles en la página o escucha nuestro pódcast. Si estás listo para dar un giro a tu carrera profesional, solicita una conversación individual y gratuita con nosotros.
Si estás considerando dedicarte al trabajo “meta”: Nuestros análisis de carreras profesionales ofrecen orientación sobre cómo contribuir al desarrollo de comunidades, la investigación sobre prioridades globales y la mejora institucional. También seguimos asesorando en estas áreas.
Si no estás de acuerdo con nuestro enfoque en la IA: Reconocemos que nuestra opinión de que la IA puede ser lo suficientemente transformadora como para afectarlo todo es controvertida. Y nuestra decisión de centrarnos en ayudar a las personas a contribuir a que dicha transformación sea positiva representa una apuesta importante de nuestra parte. El desarrollo de la IA podría estancarse, sus riesgos podrían ser menores de lo que pensamos, o simplemente otras cuestiones podrían resultar más urgentes. En ese caso, otros problemas de nuestra lista, como la cría intensiva de animales o la salud global, podrían ser más prometedores.
También es posible que simplemente tengas valores y puntos de vista diferentes sobre los problemas que más importan. Si es así, seguimos pensando que vale la pena reflexionar detenidamente en qué centrarte si quieres tener un gran impacto positivo, y te animamos a analizar críticamente los argumentos que presentamos en nuestros artículos sobre cuestiones globales, así como los puntos de vista de otros y, si lo deseas, a establecer tu propia priorización de problemas.
Estos cambios reflejan nuestra mejor estimación actual sobre los campos en los que más personas pueden tener el mayor impacto positivo. Con la posibilidad de que la IAG llegue en 2030, pensamos que una amplia gama de desafíos derivados de este avance requieren atención urgente.
Esperamos que esta lista siga evolucionando rápidamente a medida que las capacidades de la IA sigan avanzando y el mundo cambie cada vez más deprisa. Ya tenemos previstas algunas actualizaciones, los detalles de los problemas que incluimos cambiarán, y es probable que los próximos años traigan consigo desafíos completamente nuevos que ni siquiera imaginamos. Prevemos que cometeremos errores y cambiaremos de opinión —quizás con bastante frecuencia—, y esperamos que compartir nuestros puntos de vista y explicitar las razones que los sustentan nos ayude a realizar actualizaciones importantes más rápidamente y a contribuir positivamente al debate sobre dónde deberían enfocar sus esfuerzos las personas adicionales que deseen generar el mayor cambio positivo posible.
Puedes ver nuestra clasificación actualizada completa aquí. Como siempre, te invitamos a que consultes cada perfil para comprender nuestro razonamiento y obtener ideas sobre cómo podrías contribuir a abordar estos desafíos con tu carrera profesional.
Gracias por querer dedicar tu carrera profesional a tratar de resolver los problemas más graves del mundo. Tu disposición a explorar estas ideas —y a actuar a pesar de la considerable incertidumbre sobre cuáles son los mejores enfoques— es lo que hace que el trabajo de 80 000 Horas valga la pena. Queda mucho por descubrir y mucho por hacer. Agradecemos que participes junto a nosotros en este esfuerzo.