La gobernanza de la superinteligencia
Ahora es un buen momento para empezar a pensar en la gobernanza de la superinteligencia: futuros sistemas de IA drásticamente más capaces incluso que la IAG
Dado el panorama tal como lo vemos ahora, es concebible que en los próximos diez años los sistemas de IA superen el nivel de competencia de los expertos en la mayoría de los dominios y lleven a cabo tanta actividad productiva como una de las corporaciones más grandes de la actualidad.
Tanto por sus posibles ventajas como por sus desventajas, la superinteligencia será más poderosa que otras tecnologías a las que la humanidad ha tenido que enfrentarse en el pasado. Podemos tener un futuro drásticamente más próspero, pero tenemos que gestionar el riesgo para llegar a él. Dada la posibilidad de riesgo existencial, no podemos simplemente ser reactivos. La energía nuclear es el ejemplo histórico que suele citarse de una tecnología con esta propiedad; la biología sintética es otro.
También debemos mitigar los riesgos de la tecnología de IA actual, pero la superinteligencia requerirá un tratamiento y una coordinación especiales.
Un punto de partida
Son muchas las ideas que importan si queremos tener buenas posibilidades de gestionar con éxito este desarrollo; aquí exponemos nuestras reflexiones iniciales sobre tres de ellas.
En primer lugar, necesitamos cierto grado de coordinación entre las principales iniciativas de desarrollo para garantizar que la superinteligencia se desarrolle de una manera que nos permita tanto mantener la seguridad como facilitar una integración fluida de estos sistemas en la sociedad. Hay muchas formas de llevar esto a la práctica; los principales gobiernos de todo el mundo podrían poner en marcha un proyecto del que pasen a formar parte muchas de las iniciativas actuales, o podríamos acordar colectivamente (con el respaldo de una nueva organización como la que se sugiere más adelante) que el crecimiento de la capacidad de la IA en la vanguardia se limite a un determinado ritmo anual.
Y, por supuesto, a cada empresa se le debería exigir un estándar extremadamente alto de actuación responsable.
En segundo lugar, es probable que a la larga necesitemos algo parecido a un OIEA para las iniciativas de superinteligencia; cualquier iniciativa que supere un umbral determinado de capacidad (o de recursos como el poder de cómputo) deberá estar sujeta a una autoridad internacional que pueda inspeccionar los sistemas, exigir auditorías, comprobar el cumplimiento de las normas de seguridad, imponer restricciones a los grados de despliegue y a los niveles de seguridad, etc. Rastrear el uso del poder de cómputo y de la energía podría ser de gran ayuda y darnos cierta esperanza de que esta idea sea realmente viable. Como primer paso, las empresas podrían acordar voluntariamente empezar a implementar elementos de lo que algún día podría exigir dicha agencia, y como segundo paso, cada país podría implementarlo por su cuenta. Sería importante que esta agencia se centrara en reducir el riesgo existencial y no en cuestiones que deberían dejarse en manos de cada país, como definir qué se le debe permitir decir a una IA.
En tercer lugar, necesitamos la capacidad técnica para hacer que una superinteligencia sea segura. Se trata de una cuestión de investigación abierta a la que tanto nosotros como otros estamos dedicando mucho esfuerzo.
Lo que queda fuera del alcance
Creemos que es importante permitir que las empresas y los proyectos de código abierto desarrollen modelos por debajo de un umbral de capacidad significativo, sin el tipo de regulación que describimos aquí (incluidos mecanismos engorrosos como licencias o auditorías).
Los sistemas actuales generarán un valor enorme en el mundo y, aunque conllevan riesgos, su nivel parece equiparable al de otras tecnologías de Internet, y los enfoques que probablemente adopte la sociedad parecen adecuados.
Por el contrario, los sistemas que nos preocupan tendrán un poder superior al de cualquier tecnología creada hasta la fecha, y debemos tener cuidado de no diluir la atención que se les presta aplicando normas similares a tecnologías que se encuentran muy por debajo de esta vara.
Aportes del público y potencial
Pero la gobernanza de los sistemas más potentes, así como las decisiones relativas a su despliegue, debe contar con una sólida supervisión pública. Creemos que las personas de todo el mundo deberían decidir democráticamente sobre los límites y ajustes predeterminados de los sistemas de IA. Aún no sabemos cómo diseñar un mecanismo de este tipo, pero tenemos previsto experimentar con su desarrollo. Seguimos pensando que, dentro de estos amplios límites, los usuarios individuales deberían tener un gran control sobre el comportamiento de la IA que utilizan.
Dados los riesgos y las dificultades, vale la pena plantearse por qué desarrollamos siquiera esta tecnología.
En OpenAI, tenemos dos razones fundamentales. En primer lugar, creemos que nos llevará a un mundo mucho mejor del que podemos imaginar hoy en día (ya estamos viendo los primeros ejemplos de esto en ámbitos como la educación, el trabajo creativo y la productividad personal). El mundo se enfrenta a muchos problemas y necesitaremos mucha más ayuda para resolverlos; esta tecnología puede mejorar nuestras sociedades, y la capacidad creativa de todos para utilizar estas nuevas herramientas sin duda nos asombrará. El crecimiento económico y el aumento de la calidad de vida serán asombrosos.
En segundo lugar, creemos que detener la creación de la superinteligencia sería, contra toda intuición, arriesgado y difícil. Dado que las ventajas son tan enormes, que el costo de crearla disminuye cada año, que el número de actores que la desarrollan aumenta rápidamente y que su creación forma parte intrínseca de la trayectoria tecnológica en la que estamos, detenerla requeriría algo parecido a un régimen de vigilancia global, y ni siquiera eso garantiza que funcione. Por lo tanto, tenemos que hacerlo bien.
Agradecimientos
Miles Brundage, Jade Leung, Anna Makanju, John Schulman, Helen Toner, Wojciech Zaremba