En busca de una visión dinámica para una IA sobrehumana y segura
Esta entrada se publicó también en AI Frontiers, una nueva plataforma para el diálogo y el debate entre expertos sobre los impactos de la inteligencia artificial, bajo el título «Estamos debatiendo mal sobre la seguridad de la IA».
Históricamente, la forma en que hemos afrontado con éxito los procesos inciertos y de rápida evolución ha sido el liberalismo clásico.
No esperaba que un libro de 1998 explicara las guerras de 2023-2024 por la seguridad de la IA, pero The Future and Its Enemies de Virginia Postrel —que leí por recomendación de Adam Thierer, experto libertario en política de IA— lo hace sorprendentemente bien.
El libro de Postrel me ayudó a replantear algo que me había estado inquietando. Creo que hay mucho que criticar sobre las ideas y la comunidad de la seguridad de la IA, pero cuando son objeto de ataques —como ha ocurrido muy seguido en los últimos dos años—, las críticas a menudo no dan en el blanco. Un tema común es presentar a los defensores de la seguridad de la IA como personas antitecnología, lo cual no encaja en absoluto con los nerds que yo conozco, todos pioneros en la adopción de tecnologías y entusiastas de la Revolución Industrial. Otra crítica recurrente es que la seguridad de la IA se inscribe en una tradición más amplia de «seguristas» que quieren erradicar cualquier asunción de riesgos en el mundo, sin importarles la relación costo-beneficio.a Pero esto tampoco encaja: la comunidad de la seguridad de la IA, quizá por sus estrechos vínculos con el mundo del altruismo eficaz, es muy dada a pensar en términos de valor esperado, apuestas al estilo del capital de riesgo con una pequeña probabilidad de obtener una enorme recompensa y cosas por el estilo.
Estas dicotomías —protecnología frente a antitecnología, proclives al riesgo frente a reacios al riesgo— no son un buen marco para los debates que la gente quiere plantear sobre las ideas relativas a la seguridad de la IA. En su libro, Postrel se propone describir una dicotomía distinta; una que, en mi opinión, define mucho mejor qué aspecto de dichas ideas irritan a los críticos.
The Future and Its Enemies es un manifiesto a favor de lo que Postrel denomina «dinamismo: un mundo de creación, descubrimiento y competencia constantes». Su antítesis es la «estasis: un mundo regulado y planificado… [que valora] la estabilidad y el control».
Postrel describe la forma en que la oposición entre dinamismo y estasis ofrece una perspectiva más clara para algunos de los debates políticos de finales de la década de 1990 que el espectro político tradicional de izquierda a derecha. En materia comercial, los librecambistas dinamistas chocaron con una coalición estasista —defensora de la estasis— preocupada por las implicaciones del comercio para la soberanía (en la derecha) y la justicia social (en la izquierda). En cuanto a la inmigración, los dinamistas partidarios de mayores cuotas se enfrentan a estasistas motivados, en algunos casos, por el temor al crecimiento demográfico y, en otros, por la xenofobia.
Ella no podía saberlo en aquel momento, pero el dinamismo frente al estasismo también es una perspectiva útil para analizar los desacuerdos sobre cómo afrontar los desafíos en el camino hacia la IA sobrehumana.
Estasismo: la búsqueda de la «única vía óptima»
Para evitar malentendidos, seré clara: no creo que la seguridad de la IA sea intrínsecamente estasista. Pero sí creo que un subconjunto de las políticas promovidas por la comunidad de la seguridad de la IA lo es bastante, y que la comunidad en general puede transmitir un aire estasista.
¿Qué quiero decir con esto? Veamos qué más dice Postrel sobre el estasismo:
Los estasistas buscan normas concretas para regular cada nueva situación y mantener las cosas bajo control […] quieren que sus normas detalladas se apliquen a todo el mundo.
«[El estasista William Greider] se inquieta al pensar que alguien debería estar al mando; una fuerza arrolladora del capitalismo global anda suelta y “nadie lleva el timón”. Sin embargo, esto plantea la pregunta de quién queremos realmente que lleve el timón de la economía global.»b
[El estasismo] no permite tal turbulencia. Es centralizado e inflexible. Exige a las personas con ideas nuevas que las justifiquen ante consejos y comisiones. Establece normas, desde regulaciones sobre radiodifusión hasta leyes contra el teletrabajo, que dan por sentado que ni las tecnologías ni los gustos cambiarán.
Estas descripciones me traen a la mente una serie de cuestiones asociadas a la seguridad de la IA.
La primera de ellas es probablemente el artículo sobre riesgo existencial que menos me gusta de todos los tiempos: ‘La hipótesis del mundo vulnerable’, de Nick Bostrom. Se trata de un artículo de filosofía construido a partir de abstracciones y experimentos mentales, centrado en la idea de que la urna de posibles inventos tecnológicos podría contener una «bola negra», que destruiría la civilización. La implicación para las políticas:
Para que la civilización tuviera una capacidad general para hacer frente a inventos de «bola negra» de este tipo, necesitaría un sistema de vigilancia omnipresente en tiempo real a escala mundial. En algunos escenarios, dicho sistema tendría que estar en funcionamiento antes de que se inventara la tecnología.
Es difícil imaginar algo más estasista —al centrarse en la estabilidad y el control— que un sistema de vigilancia de ese tipo.
Al tratarse de un artículo de filosofía escrito por un filósofo, no queda claro hasta qué punto la hipótesis del mundo vulnerable pretende ser una exploración neutral del espacio de posibilidades en lugar de un conjunto sincero de prescripciones. Sin embargo, independientemente de su intención, es un texto influyente en la comunidad del riesgo existencial, la cual está estrechamente vinculada a la comunidad de la seguridad de la IA. Según mi experiencia, el tono subyacente de que «la única forma de lidiar con una tecnología lo suficientemente peligrosa es el control de arriba hacia abajo» impregna muchas partes (aunque ciertamente no todas) de la comunidad de la seguridad de la IA.c
Otras manifestaciones de las tendencias estasistas en el mundo de la seguridad de la IA incluyen las siguientes:
- La creencia generalizada (y aceptada durante mucho tiempo sin cuestionamientos) de que es mejor que haya menos proyectos líderes de IA; quizá, idealmente, solo uno.d De este modo, sería más fácil que los proyectos líderes se coordinaran entre sí en caso de que se estuvieran acercando a la IAG y aún no hubieran resuelto el problema de la alineación. La supervisión externa, por ejemplo, mediante regulación gubernamental, también sería más sencilla si solo tuviera que cubrir unas cuantas organizaciones.
- Los esfuerzos por evitar el uso indebido de la IA que se centran en la no proliferación, de modo que menos personas tengan acceso a una tecnología Peligrosa (con P mayúscula). Critiqué esto en una entrada anterior sobre los amortiguadores de adaptación, donde no mencioné el dinamismo de Postrel, pero lo tenía muy presente.
- La efímera iniciativa de 2023 para implementar un régimen de licencias para el entrenamiento de modelos de vanguardia. El artículo que presentó este enfoque, Frontier AI regulation, lo ofrecía solo como una opción más dentro de una variedad de alternativas, pero en el seno de la parte de la comunidad de políticas de IA que se centra en los riesgos existenciales, la concesión de licencias se trató durante meses como la recomendación por excelencia.e
- La costumbre en algunos círculos de la seguridad de la IA de preguntar cuál es tu «teoría de la victoria». Esto es menos habitual que preguntar por tu p(catástrofe) o tus plazos, pero sigue siendo bastante común. Trabajar a la inversa a partir de un estado final deseado es una buena forma de plantearse una estrategia. Pero es un error obsesionarse demasiado con avanzar hacia un único resultado preestablecido. En palabras de Postrel, anhelo un futuro «dinámico e intrínsecamente inestable» de «desorden emergente y complejo». Pensar en términos de estados finales finitos que constituyan la «victoria» quizá no sea la mejor manera de alcanzarla.f
Estas tendencias estasistas no están presentes en todo el mundo de la seguridad de la IA y no soy la primera persona en criticarlas. En los últimos uno o dos años, la propia comunidad de la seguridad de la IA ha mostrado un interés creciente por avanzar en una dirección menos estasista. Los riesgos derivados de la «concentración de poder» se incluyen cada vez más en los desgloses de los diferentes tipos de riesgos existenciales de la IA; reconozco a Daniel Kokotajlo, denunciante de OpenAI y autor principal de IA 2027, como un destacado defensor de esta línea de pensamiento.g Desde fuera de la comunidad, Jeremy Howard destaca como alguien que se toma en serio el poder potencial de la IA avanzada, aunque sostiene que los riesgos derivados del poder centralizado son más graves que el riesgo asociado a una superinteligencia desalineada. Existe un consenso cada vez mayor de que intentar gestionar los riesgos asociados a la IA por medio de un control masivo de arriba hacia abajo podría salir muy mal.
La IA avanzada como amenaza para un futuro dinámico
No obstante, el problema radica en que criticar las soluciones de la comunidad de la seguridad de la IA no niega los numerosos y muy reales retos a los que nos enfrentamos a medida que la IA sigue avanzando. De hecho, me imagino que la reacción de muchas personas del ámbito de la seguridad de la IA ante la sección anterior será: «Es obvio que lo que queremos idealmente es el dinamismo, pero no sirve de nada si todos los humanos están muertos o totalmente privados de poder».
No estoy en desacuerdo. Sí creo que resulta esclarecedor replantear los retos de la transición hacia un mundo con IA avanzada de modo que, en lugar de pensar principalmente en la seguridad, pensemos en términos de amenazas para un futuro dinámico. Para que esto funcione, debemos explicitar que la agencia humana es un componente fundamental del dinamismo. Postrel no escribe en sí sobre esto, pero creo que del libro se desprende claramente que no celebraría un mundo en el que las empresas ricas crearan, descubrieran y compitieran mientras la mayoría de la gente no pudiera participar. De forma análoga, podemos decir que un mundo en el que la IA tomara las decisiones y los humanos estuvieran muertos o privados de poder no contaría como verdadero dinamismo, incluso si existiera una vibrante economía de la IA basada en la invención y la creación.h
Al pensar en cómo la IA podría amenazar un futuro dinámico, queda claro que evitar los peores escenarios es solo el primer paso. Los riesgos clásicos asociados a la IA —el uso indebido catastrófico, la desalineación catastrófica— podrían, en efecto, suponer el fin del dinamismo, por lo que debemos abordarlos. Pero si los abordamos mediante la concentración masiva de poder, no habremos tenido éxito. Para que el futuro vaya realmente bien, tendremos que encontrar el camino hacia un nuevo equilibrio que permita la experimentación descentralizada, el ajuste espontáneo, la creatividad y la asunción de riesgos. Quizá este se parezca a nuestro sistema actual de Estados nación democráticos y liberales con fronteras soberanas y mercados relativamente libres; pero lo más probable es que difiera tanto de nuestro sistema actual como este difiere del feudalismo.
Quizá aspirar al «dinamismo» no sea muy distinto a aspirar a otros términos de connotación positiva como «prosperidad humana» o «democracia». Sin embargo, el concepto de Postrel me pareció una forma útil de abordar algunas de esas ideas desde un ángulo nuevo y con mayor especificidad sobre los inconvenientes y las contrapartidas que conllevan (por ejemplo, que la descentralización implica desorden, o que asumir riesgos implica fracasos), en lugar de limitarse a un sentimiento puramente positivo.
Dinamismo: un «futuro abierto»
Creo que esta es la parte del ensayo en la que se supone que debo ofrecer soluciones, pero no las tengo.
Lo escribo de todos modos con la esperanza de que sea una nueva perspectiva desde la cual podamos resolver todo esto juntos. El discurso sobre la seguridad de la IA ya ha cambiado en cierta medida en esta dirección, lo cual me alegra.
Postrel describe cinco características de las «reglas dinamistas»:
A modo de resumen, las reglas dinamistas tienen las siguientes características:
Permiten a las personas (incluidos los grupos de personas) actuar con base en su propio conocimiento.
Se aplican a unidades simples y genéricas y permiten que estas se combinen de muchas formas diferentes.
Dan lugar a compromisos creíbles, comprensibles, duraderos y exigibles.
Protegen la crítica, la competencia y la retroalimentación.
Establecen un marco en el que las personas puedan crear marcos anidados y en competencia de normas más específicas.
Veo cierto solapamiento con las ideas existentes en materia de políticas de IA:
-
La transparencia, la recomendación favorita de todos, encaja bien en una visión dinamista del mundo. Contribuye a los puntos de Postrel 1 (dar a las personas acceso a una mejor información con base en la cual puedan actuar según su criterio), 3 (facilitar los compromisos) y 4 (facilitar la crítica y la retroalimentación). Lo mismo ocurre con la protección a los denunciantes.
-
Apoyar el desarrollo de un ecosistema de auditorías de terceros también encaja: ayuda a crear y hacer cumplir compromisos creíbles, según el punto 3, y podría considerarse una especie de marco anidable, según el punto 5.
-
El valor de los modelos abiertos para impulsar el uso, las pruebas y la investigación descentralizados es evidente desde una perspectiva dinamista, y concuerda con los puntos 1 y 4. (Creo que debería existir cierto grado de fricción preventiva antes de poner modelos de IA de vanguardia a disposición del público sin restricciones, pero se trata de una excepción puntual frente al valor más amplio de los recursos de IA de código abierto).
Otra buena apuesta es el desarrollo tecnológico diferencial, también conocido como aceleracionismo defensivo —la creación proactiva de tecnologías que ayuden a gestionar los retos que plantean otras tecnologías—, aunque me cuesta relacionarlo con las cinco características de Postrel. Me encantaría conocer las ideas de los lectores sobre otras direcciones productivas en las que se podría avanzar.
Sin embargo, el objetivo de esta entrada no es promover soluciones concretas. El objetivo es que resulte más fácil sostener al mismo tiempo las dos ideas siguientes.
Es cierto que algunas de las recomendaciones de políticas de la comunidad de la seguridad de la IA —y parte de su espíritu— son lo que Postrel llamaría «estasistas», ya que priorizan el control y la estabilidad a expensas de la libertad, la exploración y la adaptación descentralizada del dinamismo.
Pero también es cierto que la creación de una IA sobrehumana conlleva muchas otras amenazas para un futuro dinamista, incluidos los riesgos de que los humanos utilicen la IA para tomar y retener el poder, de que los propios sistemas de IA tomen el control y de que los humanos cedamos gradualmente nuestra capacidad de dirigir nuestro propio destino. Necesitamos ser capaces de criticar las soluciones sin ignorar los problemas subyacentes.