Riesgos ocasionados por actores malevolentes
Los riesgos ocasionados por actores malevolentes son riesgos asociados a personas con rasgos de personalidad narcisistas, psicopáticos, sádicos u otros rasgos nocivos socialmente.1
La malevolencia puede definirse como el factor general que explica las correlaciones observadas entre los rasgos de personalidad negativos, o el llamado “núcleo oscuro” de la personalidad.2 Las personas que obtienen puntuaciones inusualmente altas en tests de este factor general podrían ocasionar graves riesgos para el futuro a largo plazo de la humanidad, incluyendo riesgos existenciales y riesgos de sufrimiento astronómico. Estas personas parecen tener más probabilidades que la media de alcanzar puestos de poder en el gobierno y la industria. Y en caso de que consigan estas posiciones de influencia, también es mucho más probable que causen un daño considerable.
Los tipos de riesgos que pueden plantear los actores malevolentes que ocupan posiciones de poder son muy variados. Entre ellos se encuentran la propagación de ideologías extremistas y peligrosas, la escalada de conflictos entre grandes potencias, la formación de regímenes totalitarios y el debilitamiento de las instituciones públicas y la coordinación mundial. Sin embargo, dado que la malevolencia tiene una influencia negativa en sentido amplio, probablemente sea mejor considerarla como un factor de riesgo más que como un riesgo propiamente dicho.
En un ensayo pionero sobre el tema, David Althaus y Tobias Baumann propusieron varias intervenciones para reducir los riesgos ocasionados por actores malevolentes.3 Estas medidas incluyen financiar y promover la ciencia de la malevolencia —alineando los conceptos teóricos con las formas moralmente relevantes de malevolencia y desarrollando tests de malevolencia a prueba de manipulación— y promover reformas políticas para hacer menos probable el ascenso al poder de actores malevolentes. Además, dado que es probable que los actores malevolentes generen los riesgos más graves en los escenarios en los que obtienen acceso a tecnologías transformadoras, los autores también proponen orientar el desarrollo de esas tecnologías para mitigar los riesgos que plantean estas personas, por ejemplo, reduciendo la presencia de rasgos malevolentes en los entornos de entrenamiento de inteligencia artificial y garantizando que los candidatos a emulación de cerebro completo obtengan puntuaciones bajas en tests de malevolencia.
80 000 Horas califica los riesgos ocasionados por actores malevolentes como una “potencial área de máxima prioridad”: una cuestión que, si se examinara más a fondo, podría llegar a ser considerada como uno de los principales desafíos globales.4
David Althaus & Tobias Baumann (2023) ‘Reducir los riesgos a largo plazo ocasionados por actores malevolentes’, Altruismo Eficaz.