El panorama de la gobernanza de la AI largoplacista: una visión general básica
Objetivo: ofrecer un panorama básico de la situación actual de la gobernanza de la IA largoplacista.
Público: personas que estén poco familiarizadas con la gobernanza de la IA largoplacista y quieran entenderla mejor. No espero que sea útil para quienes ya estén familiarizados con este campo. Agregado: A algunas personas que ya estaban familiarizadas con el tema les ha resultado útil.
Este artículo describe los diversos tipos de trabajo que se están llevando a cabo en la gobernanza de la IA largoplacista. Para cada tipo de trabajo, explicaré de qué se trata, daré ejemplos, describiré algunos escenarios en los que podría tener un impacto positivo y enumeraré los actores que conozco y que están realizando este tipo de trabajo en la actualidad.a
En primer lugar, algunas definiciones:
La gobernanza de la IA significa crear normas, políticas, leyes, procesos, actividad política e instituciones (no solo gobiernos) locales y globales que influyan en los resultados sociales del desarrollo y despliegue de los sistemas de IA largoplacista.b
La gobernanza de la IA largoplacista, en particular, es el subconjunto de estas actividades motivadas por una preocupación por los impactos a muy largo plazo de la IA. Esto se solapa significativamente con las actividades dirigidas a gobernar la inteligencia artificial transformadora (IAT).
Cabe señalar que el campo de la gobernanza de la IA largoplacista es muy pequeño. Yo diría que hay unas 60 personas trabajando en la gobernanza de la IA motivadas por una preocupación por los impactos a muy largo plazo.
En términos generales, me parece útil considerar que existe un espectro entre el trabajo fundacional y el aplicado. En el extremo fundacional, está la investigación estratégica, que pretende identificar objetivos de alto nivel deseables para la gobernanza de la IA largoplacista; luego está la , que pretende identificar planes que ayuden a alcanzar esos objetivos de alto nivel. En cuanto a la aplicación, hay un trabajo de desarrollo de políticas que toma esta investigación y la traduce en políticas concretas, un trabajo de promoción de estas políticas con el objetivo de que se implementen y, por último, la implementación efectiva de las políticas (por parte de funcionarios, por ejemplo).
También existe el trabajo de construcción de campo (que no encaja claramente en el espectro). En lugar de contribuir directamente al problema, este trabajo pretende crear un campo con personas que realicen un trabajo valioso en ese ámbito.
Por supuesto, esta clasificación es una simplificación y no todo trabajo encajará perfectamente en una única categoría.
Podría pensarse que los conocimientos fluyen principalmente desde el extremo más fundacional del espectro hacia el más aplicado, pero también es importante que la investigación sea sensible a las preocupaciones políticas, por ejemplo, considerando la probabilidad de que la investigación que se realiza sirva de base a una propuesta política que sea viable políticamente.
A continuación analizaremos cada uno de estos tipos de trabajo con más detalle.
La investigación estratégica de la IA largoplacista intenta identificar los objetivos de alto nivel que podríamos perseguir y que, de lograrse, aumentarían claramente las probabilidades de obtener buenos resultados de la IA avanzada, desde una perspectiva largoplacista (siguiendo a Muehlhauser, a veces me referiré a este objetivo como “obtener claridad estratégica”).
Esta investigación puede variar en un espectro entre focalizada y exploratoria, definidas del siguiente modo:
Es fácil confundir la investigación sobre estrategia (y especialmente la investigación sobre estrategia exploratoria) con la investigación de alcance amplio. Como muestran muchos de los ejemplos anteriores, la investigación sobre estrategia puede tener un alcance reducido, es decir, puede responder a una pregunta bastante específica. Ejemplos de preguntas de alcance amplio o reducido:
De hecho, creo que a menudo es mejor elegir preguntas de alcance reducido, especialmente para investigadores con poca experiencia, porque tienden a ser más fáciles de responder.
Luke Muehlhauser tiene algunas recomendaciones para quienes quieran probar este tipo de trabajo: véase el punto 4 de este artículo. Y véase este artículo para algunos ejemplos de preguntas de investigación pendientes de respuesta.c
Algunas personas de las siguientes organizaciones: FHI, GovAI, CSER, DeepMind, OpenAI, GCRI, CLR, Rethink Priorities, OpenPhil, CSET,d además de algunos académicos independientes.
La investigación táctica de la IA largoplacista tiene como objetivo último identificar planes que ayuden a alcanzar objetivos de alto nivel (que la investigación estratégica haya identificado como prioritarios). Suele tener un alcance más reducido por naturaleza.
Vale la pena señalar que puede haber razones para hacer investigación táctica aunque no se haya identificado claramente ningún objetivo prioritario: para el propio aprendizaje, para acumular capital profesional y para ayudar a construir un campo académico.
Algunas personas de las siguientes organizaciones: FHI, GovAI, CSER, DeepMind, OpenAI, GCRI, CSET, Rethink Priorities, Institute for Law & AI, además de algunos académicos independientes.
La investigación estratégica produce objetivos de alto nivel. La investigación táctica toma esos objetivos y elabora planes para alcanzarlos. El trabajo en desarrollo de políticas toma esos planes y los traduce en recomendaciones de políticas listas para ser entregadas a los responsables de formular políticas. Para ello hay que averiguar, por ejemplo, qué tipo de solicitud hay que hacer, qué lenguaje utilizar (tanto en la política formal como en la solicitud) y otras características específicas del contexto que afectarán a la probabilidad de éxito de la aplicación.
El trabajo de promoción de políticas promueve su adopción, por ejemplo, averiguando quién es la persona más adecuada para hacer la solicitud, a quién y en qué momento.
La aplicación de políticas es el trabajo de llevarlas a la práctica, a cargo de funcionarios o empresas.
Merece la pena distinguir la política gubernamental (es decir, la política pensada para ser promulgada por gobiernos u organizaciones intergubernamentales) de la política empresarial (es decir, la política pensada para que sea adoptada por las empresas). Algunas personas que trabajan en la gobernanza de la IA largoplacista se centran en mejorar la política empresarial (especialmente las políticas de los desarrolladores de la IA), mientras que otros en este campo se centran en mejorar las políticas de los gobiernos pertinentes.
Una motivación común a todo el trabajo sobre políticas es que a menudo se considera que los detalles de aplicación son fundamentales para el éxito en este ámbito. Por ejemplo, la presencia de una pequeña laguna puede volver inútil una norma gubernamental.
En comparación con la investigación, este tipo de trabajo tiende a exigir relativamente menos reflexión individual y relativamente más conversación y recopilación de información (por ejemplo, celebrar reuniones para saber quién tiene autoridad sobre una determinada política, qué les preocupa y qué quieren obtener de una política otros actores), así como coordinación (por ejemplo, averiguar cómo se puede conseguir que un grupo de agentes respalde una política y, a continuación, hacer que eso ocurra).
Como ya se ha dicho, la comprensión de las políticas a veces fluye “hacia atrás”. Por ejemplo, el desarrollo de una política puede hacerse de forma iterativa, sobre la base del modo en que la promoción cambia los propios conocimientos (y el panorama político).
Estas ideas varían en un espectro que va desde las más focalizadas (por ejemplo, no integrar la IA al NC3) a las más generales (en el sentido de crear capacidad general para hacer frente a una amplia clase de problemas que probablemente surgirán, como es el caso de la mayoría de los ejemplos anteriores). Creo que nuestras actividades actuales de desarrollo, promoción y aplicación de políticas deberían centrarse sobre todo en ideas más generales, dadas las incertidumbres que tenemos sobre cómo se desarrollará la IA (aunque también deberíamos impulsar ideas específicas claramente valiosas, cuando se presenten).
Impacto directo: contar con buenas políticas aumenta nuestras posibilidades de navegar con éxito la transición a un mundo con IA avanzada.
Impacto indirecto: incluso si no se puede estar seguro de que una idea sobre políticas sea buena, desarrollarla, promoverla o aplicarla ayudará a construir la comprensión, la competencia, las conexiones y la credibilidad de los actores involucrados en la gobernanza de la IA largoplacista. No queremos llegar al “momento crítico” de la IAe y solo entonces empezar a aprender cómo desarrollar políticas y tomar decisiones.
Se trata de un trabajo cuyo objetivo explícito es hacer crecer el campo o la comunidad de personas que están realizando un trabajo valioso en la gobernanza de la IA largoplacista.f Se podría pensar que este trabajo implica tanto (1) incorporar a nuevas personas como (2) hacer que el campo sea más efectivo.
GovAI, OpenPhil, SERI, CERI, CHERI y EA Cambridge. Desde un punto de vista más amplio, también hay que incluir todo el trabajo dedicado a la construcción de la comunidad del altruismo eficaz no focalizado en una causa específica. Este es el tipo de trabajo menos explorado en este artículo.
He presentado solamente una posible perspectiva del panorama de la gobernanza de la IA largoplacista; obviamente hay otras, que pueden ser más útiles para otros fines. Por ejemplo, se podría dividir el panorama en función de distintos tipos de intervenciones, como
También se puede dividir por centros geográficos (aunque no todas las organizaciones forman parte de uno de estos centros):
O se podría dividir el panorama en función de diferentes “teorías de la victoria”, es decir, historias completas sobre cómo la humanidad navega con éxito la transición a un mundo con IA avanzada. Se podría decir mucho más sobre todo esto; el objetivo de este artículo ha sido simplemente ofrecer una perspectiva concisa de los tipos de trabajo que se están llevando a cabo en la actualidad.
Agradecimientos: esta es mi propia síntesis del panorama, pero está inspirada y/o se basa directamente en los artículos del EA Forum de Allan Dafoe, Luke Muehlhauser y Convergence Analysis. Gracias también a Jess Whittlestone por sus útiles conversaciones, así como a Matthijs Maas, Yun Gu, Konstantin Pilz, Caroline Baumöhl y, especialmente, a un revisor del SERI por sus comentarios sobre un borrador.
Esta es una traducción directa del artículo original, publicado bajo licencia CC BY 4.0.