Investigación sobre macroestrategia
Resumen
En pocas palabras:
Tenemos muchas preguntas sin respuesta sobre cuáles son las mayores amenazas a las que se enfrenta la humanidad, qué trabajo importará más en las próximas décadas y cómo sería siquiera que las cosas “salieran bien”. Los investigadores de macroestrategia tratan de responder a grandes preguntas como estas, que se adentran en un territorio nuevo e incierto.
Nos entusiasma especialmente la investigación sobre macroestrategia centrada en el futuro de la IA. Sin este tipo de trabajo, fácilmente podríamos pasar por alto los graves problemas que plantea el desarrollo de la IA avanzada, así como perder oportunidades de prosperar en un mundo con tecnología transformadora.
Ventajas:
- Una oportunidad real de ayudar a moldear la trayectoria a largo plazo de la humanidad.
- Trabajo extremadamente interesante y creativo, en la frontera de algunas de las preguntas más difíciles que existen.
- Muy desatendido: probablemente solo haya unas docenas de investigadores dedicados a esta área en todo el mundo, por lo que un esfuerzo adicional podría ser de gran ayuda.
Contras:
- Muy pocas organizaciones y puestos de trabajo.
- Es difícil asegurarse de los avances, ya que a menudo no se pueden contrastar las conclusiones con la realidad.
- Potencialmente, ofrece menos influencia directa sobre los responsables de la toma de decisiones que (por ejemplo) las carreras profesionales en gobernanza de la IA o en investigación sobre seguridad técnica.
Datos clave sobre la aptitud personal:
Tendrás que ser excelente realizando investigaciones novedosas, sentirte cómodo lidiando con preguntas confusas y mal definidas, y ser capaz de avanzar en ellas de forma independiente, a menudo sin marcos claros ni métodos establecidos. También es esencial tener una gran capacidad de redacción. Los mejores candidatos suelen ser creativos, poseer gran agudeza analítica y ser excelentes razonando en condiciones de incertidumbre.
Si quieres dedicarte a la investigación sobre macroestrategia centrada en el futuro de la IA, también necesitarás un profundo conocimiento de la IA y su dinámica.
La experiencia previa en investigación es muy útil. Pero, incluso si has ocupado puestos de investigación anteriormente, te recomendamos evaluar tu aptitud para este tipo de investigación antes de postularte a puestos de trabajo; consulta nuestras sugerencias a continuación.
Recomendado
Si tienes el perfil adecuado para esta carrera profesional, puede que sea la mejor manera de que tengas un impacto social.
Estado de la evaluación
Basada en una investigación exhaustiva.a
¿Qué es la investigación sobre macroestrategia y por qué dedicarse a ella?
Nuestro sitio web aborda muchos de los mayores retos del mundo, pero no muestra el panorama completo. Esto se debe a que:
- Siendo realistas, es imposible que ya hayamos identificado todos los problemas u oportunidades importantes que enfrentará la humanidad.
- Probablemente no estemos estableciendo prioridades de la mejor manera posible entre las cosas que sí hemos identificado. Al fin y al cabo, clasificar los problemas requiere emitir juicios sobre cuestiones profundamente inciertas.
- Como sociedad, no tenemos una imagen concreta de cómo sería realmente un gran futuro, y ni siquiera estamos de acuerdo en cómo evaluar la calidad de los diferentes resultados. Por lo tanto, no sabemos exactamente hacia dónde debemos dirigirnos.
Algunos investigadores intentan colmar estas lagunas explorando nuevas cuestiones, proponiendo prioridades y desarrollando teorías sobre el futuro al que deberíamos aspirar. Este conjunto de esfuerzos vagamente interconectados es lo que llamamos “investigación sobre macroestrategia”, aunque (¡lamentablemente!) no existe un término único consensuado para referirse a él.
La perspectiva de que la inteligencia artificial avanzada cambie el mundo de formas sin precedentes, y potencialmente lo haga muy rápido, significa que los “investigadores de macroestrategia” podrían tener un impacto inusualmente grande. Su trabajo podría ayudarnos a anticipar las graves amenazas que plantean los futuros sistemas de IA y a evitar que desaprovechemos las oportunidades de prosperar en la era de la IA, quizás moldeando cómo será la vida para todas las generaciones futuras.
Hoy en día, un investigador de macroestrategia podría centrarse en:
- Esbozar cómo podrían desarrollarse los períodos críticos para la humanidad, como una explosión de inteligencia; el AI Futures Project ha realizado mucho trabajo en este sentido.
- Identificar retos desatendidos o emergentes que podrían tener un gran impacto en el mundo (como la maldición de la inteligencia y la cuestión de cómo gestionar los recursos si la civilización se expande hacia el espacio.
- Argumentar cómo priorizar el trabajo en los problemas y oportunidades más importantes que ya se han identificado (como el influyente artículo de 2013 de Nick Bostrom, que sostiene que deberíamos dar prioridad al trabajo en problemas con implicaciones de escala existencial).
- Explorar qué podría significar que las cosas “vayan bien” o “vayan mal” para la civilización, incluyendo cuáles son las teorías morales adecuadas para juzgar lo bien que van las cosas, si evitar los malos resultados debería ser realmente nuestro enfoque si intentamos mejorar el futuro y cuáles podrían ser, en concreto, las características de un mundo bueno o malo.
- Poner de relieve las nuevas herramientas y los conceptos necesarios para guiarnos hacia un mundo próspero (como la idea del intercambio no causal o de nuevas estructuras de gobernanza para los seres digitales).
Todas estas áreas de investigación se adentran en un territorio nuevo e incierto, y suelen estar a varios pasos de distancia de ideas que sean de aplicación inmediata o de relevancia para las políticas. Esto significa que tienden a requerir un pensamiento más amplio, multidisciplinar y estratégico, así como la disposición a lidiar con lo desconocido.
Es evidente que la investigación sobre macroestrategia puede abarcar un amplio espectro. (Incluso se solapa en gran medida con lo que tradicionalmente se denominaba “investigación sobre prioridades globales”.) Pero lo que más nos interesa es ver a gente realizando investigación sobre macroestrategia relacionada con el futuro de la IA.b El ejemplo más claro que conocemos al respecto es el trabajo que se está llevando a cabo en Forethought, un grupo de investigación dedicado a abordar toda la gama de retos que plantea el progreso “explosivo” de la IA).
De hecho, cada vez resulta más difícil llevar a cabo una investigación seria sobre macroestrategia sin dedicarle cierta atención a la IA. La manera en que se desenvuelva el futuro de la IA —cómo se desarrolle y utilice, y los riesgos y oportunidades que traiga consigo— podría definir la respuesta a cualquiera de las preguntas anteriores.
¿Por qué dedicarse a la investigación sobre macroestrategia?
Hay varias razones para pensar que la investigación sobre macroestrategia podría ser un buen uso de tu carrera profesional, si tienes aptitudes para el trabajo:
- Tiene un historial de influencia. De hecho, muchos de los problemas globales que consideramos más urgentes son temas en los que la gente probablemente no pensaría si no fuera por los investigadores que exploran preguntas más amplias que, hace cinco o diez años, no se consideraban de relevancia inmediata para las políticas. (En aquel momento llamábamos a este trabajo “investigación sobre prioridades globales”). Por ejemplo:c
- La idea de que los sistemas de IA podrían ser conscientes o merecer consideración moral fue impulsada por investigadores como Carl Shulman y Nick Bostrom, que buscaban problemas desatendidos de una escala potencialmente enorme. Ahora el “bienestar de la IA” está en la agenda de Anthropic, y la posibilidad de la conciencia de la IA está siendo analizada por investigadores de otras grandes empresas de IA.
- La importancia de tener en cuenta los intereses de todas las generaciones futuras al comparar diferentes problemas globales fue destacada por primera vez por los filósofos Will MacAskill y Toby Ord, quienes reflexionaban sobre lo que significaría hacer del mundo un lugar mejor.
- El campo del bienestar de los animales salvajes surgió porque investigadores como Yew-Kwang Ng, profesor de economía en la Universidad de Monash, comenzaron a plantearse si podría representar una oportunidad inusualmente grande para generar un impacto en comparación con las áreas de trabajo existentes.
- Está muy desatendido. Probablemente solo haya unas docenas de personas dedicadas a la investigación sobre macroestrategia relevante para la IA, a pesar de que hay tantas cuestiones importantes que abordar.d Eso significa que un esfuerzo adicional podría dar muy buenos resultados.
- Es realmente interesante… ¡para la persona adecuada! Si te motiva pensar en profundidad sobre el mundo, explorar muchas ideas nuevas y trazar el rumbo en territorio incierto, difícilmente podría haber una carrera profesional más fascinante.
¿Cuáles son las desventajas de trabajar en macroestrategia?
Puede que te cueste encontrar trabajo
Actualmente hay muy pocas organizaciones dedicadas a la investigación sobre macroestrategia, y esos equipos suelen ser muy pequeños. Destacamos los puestos relevantes y las oportunidades de financiamiento en nuestra bolsa de empleo a continuación, ¡pero ojalá hubiera más que destacar!
Es posible trabajar de forma independiente en la investigación sobre macroestrategia, o abordar cuestiones relevantes desde el ámbito académico. Pero nuestra impresión es que estas no suelen ser las formas más eficaces de hacerlo, ya que la falta de apoyo institucional implica que tu trabajo no recibirá el tipo de retroalimentación (ni las vías para generar impacto) que tendría dentro de un think tank u otra organización especializada.
En definitiva, eso significa que no hay tantos puestos de trabajo, y que los empleadores de estas organizaciones son muy selectivos.
Puede resultar difícil avanzar
Podrías pensar que es difícil que la investigación dedicada a la macroestrategia supere de forma significativa nuestro mejor conocimiento actual sobre estas cuestiones. Existe una enorme incertidumbre acerca de la trayectoria del progreso de la IA y de cómo cambiará el mundo, y no hay muchos precedentes históricos en los que basarse. Además, los sistemas de IA y las dinámicas sociales o políticas sobre los cuales a menudo teorizarás ni siquiera existen todavía, lo que dificulta comprobar si tus conclusiones realmente se ajustan a la realidad.
Es razonable preocuparse por esto. Pero incluso con esta profunda incertidumbre, sí creemos que la investigación sobre macroestrategia de la IA ya ha tenido efectos positivos en el mundo.
Motivada en parte por la investigación sobre macroestrategia, la gama de riesgos asociados a la IA en los que se está trabajando activamente se ha ampliado mucho más allá del enfoque original del campo en la desalineación. Por ejemplo, ahora hay iniciativas para evitar que los sistemas de IA se utilicen para provocar pandemias artificiales, y para medir la pérdida de poder de la sociedad frente a la IA. Dada la incertidumbre que tenemos sobre los riesgos que realmente plantearán los sistemas de IA, estos avances nos parecen sumamente valiosos: al cubrir más frentes, nos estamos preparando mejor para una gama más amplia de posibles escenarios futuros.
Tenemos la esperanza de que más investigación sobre macroestrategia pueda seguir reforzando nuestra cartera de iniciativas sobre cuestiones globales.
Con el tiempo, también podría resultar más fácil avanzar en cuestiones de macroestrategia, gracias al desarrollo de sofisticadas herramientas de IA para la investigación y la pronosticación.
Puede resultar difícil influir en los responsables de la toma de decisiones
Además de realizar una excelente investigación, también debes lograr que esta tenga relevancia.
Esto puede resultar especialmente difícil en la investigación sobre macroestrategia, ya que los temas suelen ser más abstractos y no siempre sugieren soluciones de políticas inmediatas.
En comparación con ser un investigador de gobernanza de la IA, probablemente estarás menos involucrado en los círculos de políticas públicas. Y, en comparación con trabajar en investigación sobre seguridad técnica de la IA en una gran empresa de IA, tendrás menos influencia en cómo se desarrolla la tecnología.
Dicho esto, hay algunos ejemplos anteriores de responsables de políticas y empresas de IA que han actuado basándose en la investigación sobre macroestrategia,e y esperamos que haya más en el futuro.
E “influir en los responsables de la toma de decisiones” no tiene por qué significar asesorar directamente a gobiernos o empresas de IA. Como investigador de macroestrategia, tu trabajo podría resultar atractivo para un amplio grupo de personas interesadas en que el futuro de la IA vaya bien, incluidas organizaciones que otorgan becas, promotores del campo y fundadores de organizaciones sin fines de lucro. Estas personas están dando forma a las ideas y prioridades que, con el tiempo, llegan a los responsables de la toma de decisiones, aunque no establezcan las políticas directamente.
Quizá sea mejor centrarse en cuestiones más especulativas más adelante
Algunos de los riesgos que los investigadores ya han identificado parecen estar empezando a materializarse. Por ejemplo, estamos viendo las primeras señales de alerta de que los sistemas de IA podrían intentar arrebatar el poder a los humanos, ejemplos del uso de la IA para ejecutar ciberataques sofisticados y conflictos entre empresas y gobiernos sobre quién tiene el control definitivo de la IA.
Quizás pienses que primero deberíamos centrarnos en garantizar que la humanidad sobreviva a estas amenazas y solo después empezar a explorar nuevos territorios. Puede resultar extraño plantearse preguntas como “¿cómo podemos prosperar como sociedad?” cuando todavía estamos tratando de averiguar cómo evitar extinguirnos, causar una enorme cantidad de sufrimiento o caer en el autoritarismo.
También existe la posibilidad de que sea más fácil avanzar en cuestiones de macroestrategia más adelante de lo que es hoy: tendremos más información que nos ayude a hacer buenas predicciones sobre el futuro de la IA, y puede que incluso contemos con herramientas de IA muy sofisticadas que nos ayuden con los razonamientos más complejos.
La cuestión es que nadie sabe realmente qué riesgos resultarán ser los más urgentes, ni cuál es el margen ideal para actuar sobre cada tema. Los retos en los que nos centramos actualmente pueden acabar no siendo un problema; podríamos tener que enfrentarnos de repente a riesgos que ahora parecen especulativos. (De hecho, parte del papel de la investigación sobre macroestrategia es proporcionarnos más claridad sobre lo que realmente es más urgente e importante). Y no parece prudente confiar en que automatizar pronto la investigación sobre macroestrategia será fácil y eficaz, teniendo en cuenta lo irregular que suele ser el desarrollo de la IA.
Y aunque es probable que muchas cuestiones de macroestrategia no sean las preguntas más urgentes que la humanidad deba responder, seguimos pensando que es bueno que algunas personas miren hacia el futuro. Tiene sentido adoptar un enfoque diversificado para prepararnos para la IA avanzada, en lugar de poner todos los huevos en la misma cesta y limitarnos a esperar haber tomado la decisión correcta.
¿Serías un buen candidato para la investigación sobre macroestrategia?
¿Qué habilidades y rasgos se necesitan para tener éxito?
Estas son las cualidades que consideramos más importantes para ser un gran investigador de macroestrategia:
- Tendrás que ser excelente haciendo investigación novedosa. Esto implica:
- Tener un gran criterio para la investigación, es decir, la capacidad de detectar qué preguntas realmente importan.
- Ser capaz de abordar cuestiones complejas y mal definidas, y elaborar evaluaciones razonables sobre ellas utilizando diversos métodos de investigación. (Lee más sobre cómo predecir el éxito en la investigación.)
- Tendrás que disfrutar dedicando tiempo a un trabajo abstracto y especulativo que no cuente con bucles de realimentación claros (es decir, a menudo no podrás contrastar tus conclusiones con la realidad).
- Dado que estas preguntas de investigación no han sido exploradas por mucha gente, no siempre habrá investigadores con más experiencia a los que acudir en busca de orientación. Por lo tanto, necesitarás tener la motivación para perseverar en problemas difíciles mientras trabajas, en gran medida, de forma independiente.
- Para comunicar tus ideas de investigación de forma eficaz, necesitarás redactar muy bien.
- Para la investigación sobre macroestrategia centrada en el futuro de la IA, necesitarás un sólido conocimiento de la IA y sus dinámicas.
- Las habilidades de análisis cuantitativo o de pronosticación pueden ser útiles (dependiendo del tipo de preguntas que intentes responder), pero no siempre son imprescindibles.
- Los mejores candidatos también serán:
- Muy creativos, curiosos y abiertos a ideas poco comunes.
- Con una inteligencia analítica fuera de lo común.
- Dispuestos a cambiar de opinión cuando se les presente nueva evidencia o argumentos convincentes.
- Excelentes para darse cuenta de cuándo no están seguros de algo y para tener en cuenta esas incertidumbres a la hora de sacar conclusiones.
- Muy centrados en mejorar el mundo.
Te recomendamos evaluar primero tu aptitud personal si aún no estás listo para postularte a algún puesto. Puedes encontrar algunas ideas a continuación, u obtener más información sobre cómo evaluar tu aptitud personal.
¿Qué experiencia es útil?
No hay requisitos previos esenciales para conseguir un trabajo como investigador de macroestrategia, a menos que intentes trabajar en el ámbito académico, en cuyo caso necesitarás un doctorado. Las organizaciones que contratan para estos puestos suelen adoptar un enfoque “no credencialista” y están más interesadas en saber si encajas en el perfil de habilidades anterior.
Sin embargo, hay algunas experiencias que podrían demostrar tu aptitud. Entre ellas se incluyen:
- Experiencia previa en investigación: por ejemplo, una beca de investigación competitiva, estudios de posgrado o haber trabajado en un think tank o instituto de investigación (se valorará positivamente que hayas investigado en un entorno interdisciplinario o que tengas la costumbre de trabajar en áreas especulativas o poco comprendidas).
- Un historial de redacción, ya sean entradas de blog, artículos académicos, textos periodísticos u otros formatos.
- Éxito académico: por ejemplo, haber cursado un programa de posgrado de primer nivel en cualquier campo.
En cuanto a tu formación académica:
- Es mucho más importante tener las cualidades que describimos anteriormente que cualquier formación académica en particular. Pero contar con conocimientos profundos en cualquier disciplina altamente relevante —como la filosofía, la economía, la física, las matemáticas, las relaciones internacionales, la política, la historia o (¡por supuesto!) la IA— podría ser útil.
- Si quieres dedicarte a la investigación sobre macroestrategia como académico:
- En teoría, podrías intentar responder preguntas de investigación sobre macroestrategia en diversas disciplinas, pero necesitarás encontrar un asesor que te ayude a desarrollar estas ideas inusuales, lo cual puede resultar difícil.
- El punto de entrada con menos obstáculos podría ser un doctorado en filosofía, que suele ofrecer bastante flexibilidad. Ten en cuenta que la investigación académica puede ser un camino difícil.
Vías ajenas a la investigación
No es necesario ser investigador para incorporarse a una organización dedicada a la macroestrategia. Estas organizaciones suelen necesitar directores de investigación, personal de operaciones y especialistas en comunicación, entre otros.
En nuestra serie de evaluaciones de carreras profesionales, encontrarás artículos dedicados a las habilidades y experiencias necesarias para tener éxito en otros puestos como estos.
Nota: incluso si buscas puestos no relacionados con la investigación en organizaciones dedicadas a la macroestrategia, te resultará útil estar algo familiarizado con la investigación que realizan.
Ejemplos de personas
Principales organizaciones
Podrías dedicarte a la investigación sobre macroestrategia desde diversos entornos institucionales: el ámbito académico, organizaciones de investigación sin fines de lucro, think tanks, organizaciones que otorgan becas e incluso equipos de “preparación” en algunas empresas de IA. Sin embargo, en estos puestos no siempre podrás centrarte exclusivamente en la investigación sobre macroestrategia.
Estas son algunas organizaciones que conocemos en las que podrías trabajar en investigación sobre macroestrategia:
- Forethought (hoy en día, este es el ejemplo más claro de una organización centrada en la macroestrategia de la IA).
- The AI Futures Project, que cuenta con trabajos actuales que intentan pronosticar el futuro de la IA, y con algunos proyectos próximos sobre una visión positiva de la IAG.
- ACS Research, cuyos investigadores exploran cuestiones desatendidas como el desempoderamiento gradual.
- Redwood Research, aunque esta organización se centra principalmente en el control y la alineación de los sistemas de IA, sus investigadores también han publicado algunos trabajos sobre cuestiones más generales en torno a la estrategia de alineación.
- The Center on Long-Term Risk, que actualmente lleva a cabo trabajo de macroestrategia en el marco de su agenda de “preparación estratégica”.
- Macroscopic Ventures, que realiza investigación y otorga becas sobre temas como la concentración de poder y cómo evitar los peores escenarios futuros.
- Longview Philanthropy, en particular por su investigación orientada a otorgar becas para un “futuro mejor”.
- Coefficient Giving, especialmente su equipo de proyectos especiales de plazos cortos
- Coefficient Giving está abierta a recibir manifestaciones de interés de personas interesadas en la investigación sobre macroestrategia.
- El Equipo de Futuros del Future of Life Institute.
- El equipo de Esperanza Existencial del Foresight Institute.
- Rethink Priorities:
- El Equipo de Investigaciones sobre Cosmovisiones (aunque su trabajo no se centra principalmente en la IA y se acerca más a la “investigación sobre prioridades globales” tradicional).
- El nuevo equipo de estrategia de la IA de Rethink (que parece centrarse en la macroestrategia de la IA, pero aún no ha publicado nada).
Ten en cuenta que muchos lugares no utilizan el término “macroestrategia” para describir su trabajo, ¡ya que no existe un término único consensuado para este tipo de investigación!
Próximos pasos
Si estás listo para solicitar empleo
A continuación, en nuestra bolsa de empleo, puedes encontrar algunas organizaciones y proyectos de investigación relevantes que están contratando.
O, si tienes una idea de proyecto en mente, ya has trabajado en este campo o en uno afín, y te entusiasma crear algo nuevo: podrías plantearte fundar tu propia organización.
Si lo necesitas, evalúa tu aptitud personal o acumula capital profesional primero
Te recomendamos empezar por:
- Leer mucho y desarrollar tus propias ideas. Por ejemplo, intenta formarte una opinión sobre cómo podría desarrollarse una explosión de inteligencia, qué es fundamental hacer bien para que el futuro de la IA sea positivo, o en qué se queda corto el pensamiento actual sobre estos temas. Plantea ideas de posibles preguntas de investigación para analizar.
- Escribir un poco. Crea tu propio blog o Substack, o considera escribir en foros donde encontrarás a otros investigadores de macroestrategia (como el EA Forum y LessWrong).
- Probar con un pequeño proyecto. Podrías elegir una pregunta de investigación y dedicar 10 o 20 horas a intentar avanzar en ella. Probablemente no descubras nada revolucionario, pero te harás una idea del tipo de pensamiento que requiere la macroestrategia, y tal vez consigas sacar de ahí una entrada de blog interesante.
- Ponerte en contacto con personas del sector. Pídeles su opinión sobre tus ideas de investigación, tus textos o cualquier pequeño proyecto en el que hayas trabajado. Puedes encontrar consejos para conocer gente aquí y para contactar a otras personas aquí.
Si estás más seguro de querer seguir este camino, podrías probar algunas de estas opciones de mayor compromiso para ganar capital profesional:
- Solicita una beca de investigación. La línea Forethought del programa MATS se centra directamente en la macroestrategia de la IA. Las becas gestionadas por Constellation, el Future Impact Group y Foresight también pueden ofrecer oportunidades para investigar temas relevantes en torno a la IA, el riesgo existencial y la construcción de un futuro próspero. E incluso los programas de investigación que no sean tan directamente relevantes para la macroestrategia de la IA podrían ayudarte a desarrollar valiosas habilidades de investigación.
- Realiza un curso. Por ejemplo, para comprender mejor el panorama estratégico de la IA, te recomendamos el curso de estrategia de IAG de BlueDot. Si te interesa reflexionar detenidamente sobre cómo podría ser un gran futuro y cómo llegar a él, podrías probar un curso de construcción de mundos.
Antes de solicitar puestos de macroestrategia, también podría resultarte útil probar otros puestos de investigación relacionados con el riesgo asociado a la IA, como ser investigador de gobernanza de la IA o investigador en seguridad técnica de la IA, en los que tratarás temas de investigación más concretos y obtendrás mejores bucles de realimentación sobre tu trabajo.
Si quieres saber más
Ejemplos de investigación reciente sobre macroestrategia de la IA
- Recomendamos consultar los materiales del sitio web de Forethought, en particular toda investigación etiquetada como “macroestrategia” (puedes filtrar por tema en esta página). Algunos ejemplos son:
- Preparing for the intelligence explosion sostiene que debemos prepararnos ahora para una amplia gama de retos desatendidos de la IA, más allá de la desalineación.
- La serie Better Futures se centra en cómo podría ser un futuro post-IAG genuinamente bueno y en qué podemos hacer ahora para mejorar nuestras posibilidades de alcanzarlo.
- Las investigaciones del Proyecto Futuros de la IA, como IA 2027 y el modelo actualizado publicado en diciembre de 2025, ambos esfuerzos por trazar un panorama general de cómo podría desarrollarse la IAG.
- El trabajo de los investigadores de ACS Research, como Gradual disempowerment, otro esfuerzo por identificar riesgos muy desatendidos asociados a la IA.
- Esta entrada de blog de Ryan Greenblatt en Redwood Research en la que se esbozan diferentes estrategias de alto nivel para gestionar los riesgos de desalineación en función del nivel de voluntad política existente.
- Varias publicaciones etiquetadas como “priorización y macroestrategia” del Center on Long-Term Risk.
- También recomendamos seguir el trabajo de investigadores independientes como Nick Bostrom, Eric Drexler, Richard Ngo y Joe Carlsmith.
Investigación anterior influyente sobre macroestrategia
- Nick Bostrom: Superinteligencia, ‘La prevención del riesgo existencial como prioridad global’ y Consideraciones cruciales y filantropía sabia
- Eric Drexler: Reframing superintelligence: Comprehensive AI services as general intelligence y esta charla sobre la alineación paretotópica de objetivos
- Sharing the world with digital minds de Carl Shulman y Nick Bostrom, un ejemplo de los primeros trabajos sobre cómo abordar el estatus moral de las mentes digitales
- The Most Important Century, una serie de Holden Karnofsky y otros autores
Agendas de investigación e informes sobre el progreso de la investigación
- Este breve resumen de la agenda de investigación de Forethought, aunque puedes obtener más información en el sitio web de Forethought
- La agenda de investigación para 2024 del Global Priorities Institute, publicada antes de su cierre.
- El informe retrospectivo sobre sus contribuciones a la investigación del Future of Humanity Institute, aunque este instituto también ha cerrado, los ejemplos de sus proyectos de investigación anteriores te darán una idea de en qué piensan y en qué se basan los investigadores de macroestrategia hoy en día.
Trabajar en macroestrategia
Episodios de pódcast
- Will MacAskill sobre cómo la IA provocará un “siglo en una década” y cómo no estamos en absoluto preparados
- Carl Shulman sobre la economía, el gobierno y la sociedad tras la IAG: Parte 1 y Parte 2.