Tesis de la convergencia instrumental
La tesis de la convergencia instrumental es la supuesta coincidencia en los objetivos instrumentales que se espera que persigan una amplia clase de sistemas de inteligencia artificial avanzados, debido a su utilidad para lograr una gran variedad de objetivos finales posibles.
Los objetivos instrumentales más comunes hacia los que convergerían todos los agentes inteligentes son la adquisición de recursos, la preservación de objetivos y la autoconservación.
Nick Bostrom (2023) ‘La voluntad superinteligente: motivación y racionalidad instrumental en agentes artificiales avanzados’, Altruismo Eficaz.
Eliezer Yudkowsky (2013) Five theses, two lemmas, and a couple of strategic implications, Machine Intelligence Research Institute’s Blog, 5 de mayo.
impulsos básicos de la inteligencia artificial • tesis de la ortogonalidad