Costo de alineación
El costo de alineación (en inglés, alignment tax) es el costo adicional de alinear la inteligencia artificial, es decir, la diferencia en costo entre una IA alineada y una no alineada.1
Paul Christiano distingue dos enfoques principales para lidiar con el costo de alineación.2 El primero trata de encontrar formas de cubrir el costo, como persuadir a los actores individuales de que lo asuman o facilitar la coordinación necesaria para que los grupos puedan asumirlo. El segundo trata de reducir el costo, haciendo avanzar diferencialmente los algoritmos alineables existentes o haciendo que los algoritmos existentes sean más alineables.
Amanda Askell et al. (2021) A general language assistant as a laboratory for alignment, arXiv:2112.00861 [cs].
Mark Xu & Carl Shulman (2021) Rogue AGI embodies valuable intellectual property, LessWrong, 3 de junio.
Eliezer Yudkowsky (2017) Aligning an AGI adds significant development time, Arbital, 22 de febrero.