Riesgo asociado a la inteligencia artificial
Un riesgo asociado a la inteligencia artificial es un riesgo catastrófico o existencial derivado del desarrollo de la inteligencia artificial (IA) avanzada.
Los riesgos asociados a la IA suelen dividirse entre riesgos derivados del mal uso de la IA y riesgos derivados de la desalineación de la IA,1 aunque algunos autores los categorizan de manera diferente.2
Joseph Carlsmith (2022) Video and transcript of presentation on existential risk from power-seeking AI, Effective Altruism Forum, 7 de mayo.
Una presentación breve basada en un informe mucho más extenso del autor, ‘¿Es la inteligencia artificial que busca poder un riesgo existencial?’
Wei Dai & Daniel Kokotajlo (2019) The main sources of AI risk?, AI Alignment Forum, 21 de marzo.
Un intento de enumerar todas las fuentes significativas de riesgo asociado a la IA.
Benjamin Hilton (2023) Prevenir una catástrofe relacionada con la inteligencia artificial, Altruismo Eficaz.
Una evaluación rigurosa de la importancia, tratabilidad y desatención de la mitigación de los riesgos asociados a la IA.
alineación de la inteligencia artificial • gobernanza de la inteligencia artificial • pronosticación de la inteligencia artificial • seguridad de la inteligencia artificial