Costo de alineación
El costo de alineación (en inglés, alignment tax) es el costo adicional de alinear la inteligencia artificial, es decir, la diferencia en costo entre una IA alineada y una no alineada.1
Enfoques del costo de alineación
Paul Christiano distingue dos enfoques principales para lidiar con el costo de alineación.2 El primero trata de encontrar formas de cubrir el costo, como persuadir a los actores individuales de que lo asuman o facilitar la coordinación necesaria para que los grupos puedan asumirlo. El segundo trata de reducir el costo, haciendo avanzar diferencialmente los algoritmos alineables existentes o haciendo que los algoritmos existentes sean más alineables.
Más información
Amanda Askell et al. (2021) A general language assistant as a laboratory for alignment, arXiv:2112.00861 [cs].
Mark Xu & Carl Shulman (2021) Rogue AGI embodies valuable intellectual property, LessWrong, 3 de junio.
Eliezer Yudkowsky (2017) Aligning an AGI adds significant development time, Arbital, 22 de febrero.
Entradas relacionadas
alineación de la inteligencia artificial • gobernanza de la inteligencia artificial • progreso diferencial • pronosticación de la inteligencia artificial