Costo de alineación

El costo de alineación (en inglés, alignment tax) es el costo adicional de alinear la inteligencia artificial, es decir, la diferencia en costo entre una IA alineada y una no alineada.⁠1

Enfoques del costo de alineación

Paul Christiano distingue dos enfoques principales para lidiar con el costo de alineación.⁠2 El primero trata de encontrar formas de cubrir el costo, como persuadir a los actores individuales de que lo asuman o facilitar la coordinación necesaria para que los grupos puedan asumirlo. El segundo trata de reducir el costo, haciendo avanzar diferencialmente los algoritmos alineables existentes o haciendo que los algoritmos existentes sean más alineables.

Más información

Amanda Askell et al. (2021) A general language assistant as a laboratory for alignment, arXiv:2112.00861 [cs].

Mark Xu & Carl Shulman (2021) Rogue AGI embodies valuable intellectual property, LessWrong, 3 de junio.

Eliezer Yudkowsky (2017) Aligning an AGI adds significant development time, Arbital, 22 de febrero.

Entradas relacionadas

alineación de la inteligencia artificialgobernanza de la inteligencia artificialprogreso diferencialpronosticación de la inteligencia artificial