Costo de alineación
El costo de alineación (en inglés, alignment tax) es el costo adicional de alinear la inteligencia artificial, es decir, la diferencia en costo entre una IA alineada y una no alineada.1
Enfoques del costo de alineación
Paul Christiano distingue dos enfoques principales para lidiar con el costo de alineación.2 El primero trata de encontrar formas de cubrir el costo, como persuadir a los actores individuales de que lo asuman o facilitar la coordinación necesaria para que los grupos puedan asumirlo. El segundo trata de reducir el costo, haciendo avanzar diferencialmente los algoritmos alineables existentes o haciendo que los algoritmos existentes sean más alineables.
Más información
Amanda Askell et al. (2021) A general language assistant as a laboratory for alignment, arXiv:2112.00861 [cs].
Mark Xu & Carl Shulman (2021) Rogue AGI embodies valuable intellectual property, LessWrong, 3 de junio.
Eliezer Yudkowsky (2017) Aligning an AGI adds significant development time, Arbital, 22 de febrero.
Entradas relacionadas
alineación de la inteligencia artificial • gobernanza de la inteligencia artificial • progreso diferencial • pronosticación de la inteligencia artificial
El término inglés tax es ambiguo. Por un lado, no se trata de un impuesto sino de los recursos adicionales que deben emplearse para alinear los sistemas. Por otro lado, además de dinero, estos recursos adicionales incluyen tiempo de desarrollo, poder de cómputo y cualquier otro todo medio necesario para alcanzar el objetivo. Véase LessWrong (2022) Alignment tax, LessWrong Wiki, 25 de octubre.
Paul Christiano (2020) Current work in AI alignment, Effective Altruism Global, 3 de abril. Para un resumen, véase Rohin Shah (2020) A framework for thinking about how to make AI go well, LessWrong, 15 de abril.