• Ingresar con

  • Preferencias de usuario

  • ¿Está seguro de que desea eliminar su cuenta?

  • Se perderán todas sus preferencias almacenadas. Esta acción es irreversible.

Costo de alineación

El costo de alineación (en inglés, alignment tax) es el costo adicional de alinear la inteligencia artificial, es decir, la diferencia en costo entre una IA alineada y una no alineada.⁠1

Enfoques del costo de alineación

Paul Christiano distingue dos enfoques principales para lidiar con el costo de alineación.⁠2 El primero trata de encontrar formas de cubrir el costo, como persuadir a los actores individuales de que lo asuman o facilitar la coordinación necesaria para que los grupos puedan asumirlo. El segundo trata de reducir el costo, haciendo avanzar diferencialmente los algoritmos alineables existentes o haciendo que los algoritmos existentes sean más alineables.

Más información

Amanda Askell et al. (2021) A general language assistant as a laboratory for alignment, arXiv:2112.00861 [cs].

Mark Xu & Carl Shulman (2021) Rogue AGI embodies valuable intellectual property, LessWrong, 3 de junio.

Eliezer Yudkowsky (2017) Aligning an AGI adds significant development time, Arbital, 22 de febrero.

Entradas relacionadas

alineación de la inteligencia artificial • gobernanza de la inteligencia artificial • progreso diferencial • pronosticación de la inteligencia artificial