Riesgo asociado a la inteligencia artificial
Un riesgo asociado a la inteligencia artificial es un riesgo catastrófico o existencial derivado del desarrollo de la inteligencia artificial (IA) avanzada.
Los riesgos asociados a la IA suelen dividirse entre riesgos derivados del mal uso de la IA y riesgos derivados de la desalineación de la IA,1 aunque algunos autores los categorizan de manera diferente.2
Más información
Joseph Carlsmith (2022) Video and transcript of presentation on existential risk from power-seeking AI, Effective Altruism Forum, 7 de mayo.
Una presentación breve basada en un informe mucho más extenso del autor, ‘¿Es la inteligencia artificial que busca poder un riesgo existencial?’
Wei Dai & Daniel Kokotajlo (2019) The main sources of AI risk?, AI Alignment Forum, 21 de marzo.
Un intento de enumerar todas las fuentes significativas de riesgo asociado a la IA.
Benjamin Hilton (2023) Prevenir una catástrofe relacionada con la inteligencia artificial, Altruismo Eficaz, septiembre.
Una evaluación rigurosa de la importancia, tratabilidad y desatención de la mitigación de los riesgos asociados a la IA.
Entradas relacionadas
alineación de la inteligencia artificial • gobernanza de la inteligencia artificial • pronosticación de la inteligencia artificial • seguridad de la inteligencia artificial