El proyecto
A medida que se intensifique la carrera por la IAG, el Estado de seguridad nacional se involucrará. El Gobierno de EE. UU. despertará de su letargo y, para el 27 o el 28, tendremos algún tipo de proyecto gubernamental de IAG. Ninguna empresa emergente puede gestionar la superinteligencia. En algún lugar de una SCIF, se estará librando el final de la partida.
«Debemos sentir curiosidad por saber cómo un conjunto de objetos así —cientos de centrales eléctricas, miles de bombas, decenas de miles de personas concentradas en instalaciones nacionales— puede remontarse a unas pocas personas sentadas en las mesas de un laboratorio discutiendo el comportamiento peculiar de un tipo de átomo».
Spencer R. Weart
Hoy en día se proponen muchos planes para la «gobernanza de la IA», desde la concesión de licencias para sistemas de IA de vanguardia hasta normas de seguridad, pasando por una nube pública con unos cientos de millones en cómputo para el ámbito académico. Parecen bienintencionados, pero, en mi opinión, cometen un error de categoría.
Me parece una propuesta descabellada que el Gobierno de EE. UU. permita que una empresa emergente cualquiera de San Francisco desarrolle una superinteligencia. Imaginemos que hubiéramos desarrollado bombas atómicas dejando que Uber simplemente improvisara.
La superinteligencia —sistemas de IA mucho más inteligentes que los humanos— tendrá un poder enorme, desde desarrollar armamento novedoso hasta impulsar una explosión del crecimiento económico. La superinteligencia será el epicentro de la competencia internacional; una ventaja de meses podría resultar decisiva en un conflicto militar.
Creer que esto no despertará fuerzas más primordiales es una ilusión propia de quienes han interiorizado inconscientemente nuestro breve respiro de la historia. Al igual que muchos científicos antes que nosotros, las grandes mentes de San Francisco esperan poder controlar el destino del demonio que están engendrando. Por ahora, aún pueden hacerlo; pues se encuentran entre los pocos que tienen conciencia de la situación y comprenden lo que están construyendo. Pero en los próximos años, el mundo despertará. Y también lo hará el Estado de seguridad nacional. La historia regresará triunfante.
Al igual que en muchas ocasiones anteriores —la COVID, la Segunda Guerra Mundial—, parecerá que Estados Unidos está dormido al volante, hasta que, de repente, el Gobierno se ponga en marcha de la forma más extraordinaria. Llegará un momento —en solo unos años, tras un par de saltos más «al nivel de 2023» en las capacidades de los modelos y el discurso sobre la IA— en el que quedará claro: estamos en la cúspide de la IAG y, poco después, de la superinteligencia. Aunque hay mucha incertidumbre en cuanto a los mecanismos exactos, de una forma u otra, el Gobierno de los EE. UU. estará al timón; los laboratorios líderes se fusionarán («voluntariamente»); el Congreso destinará billones a chips y energía; y se formará una coalición de democracias.
Las empresas emergentes son estupendas para muchas cosas, pero una empresa emergente por sí sola simplemente no está preparada para encargarse del proyecto de defensa nacional más importante de Estados Unidos. Necesitaremos la participación del Gobierno para tener siquiera una esperanza de defendernos de la amenaza de espionaje a gran escala a la que nos enfrentaremos; los esfuerzos privados en materia de IA bien podrían estar entregando directamente la superinteligencia al PCCh. Necesitaremos que el Gobierno garantice siquiera una apariencia de cadena de mando sensata; no se puede permitir que cualquier director general (o cualquier junta directiva de una organización sin fines de lucro) tenga acceso al botón nuclear. Necesitaremos que el Gobierno gestione los graves retos de seguridad de la superinteligencia, que gestione la niebla de la guerra de la explosión de inteligencia. Necesitaremos que el Gobierno despliegue la superinteligencia para defendernos de cualquier amenaza extrema que surja, para superar la situación internacional extraordinariamente volátil y desestabilizada que seguirá. Necesitaremos que el Gobierno movilice una coalición democrática para ganar la carrera frente a las potencias autoritarias, y forje (y haga cumplir) un régimen de no proliferación para el resto del mundo. Ojalá no fuera así, pero necesitaremos al Gobierno. (Sí, independientemente de la Administración).
En cualquier caso, mi argumento principal no es normativo, sino descriptivo. Dentro de unos años, El Proyecto estará en marcha.
El camino hacia El Proyecto
Un giro de los acontecimientos que tengo grabado en la memoria tuvo lugar entre finales de febrero y mediados de marzo de 2020. En aquellas últimas semanas de febrero y primeros días de marzo, estaba sumido en la más absoluta desesperación: parecía claro que nos encontrábamos en la curva exponencial de la COVID: una plaga estaba a punto de arrasar el país, el colapso de nuestros hospitales era inminente y, sin embargo, casi nadie se lo tomaba en serio. El alcalde de Nueva York seguía tachando de racismo los temores ante la COVID y animando a la gente a ir a los espectáculos de Broadway. Lo único que podía hacer era comprar mascarillas y vender en corto en el mercado.
Y, sin embargo, en tan solo unas semanas, todo el país se paralizó y el Congreso destinó billones de dólares (literalmente, >10 % del PIB). Prever de antemano hasta dónde podría llegar la curva exponencial resultaba demasiado difícil, pero cuando la amenaza se acercó lo suficiente y se volvió lo bastante existencial, se desataron fuerzas extraordinarias. La respuesta fue tardía, tosca y contundente… pero llegó, y fue dramática.
Los próximos años de la IA darán una sensación similar. Ahora estamos en la fase intermedia. El 2023 ya supuso un cambio radical. La IAG pasó de ser un tema marginal con el que uno dudaría en asociarse, a ser el tema central de importantes audiencias en el Senado y cumbres de líderes mundiales. Considerando la fase tan temprana en la que aún nos encontramos, el nivel de implicación del Gobierno de EE. UU. me ha parecido impresionante. Un par de «2023» más, y la ventana de Overton se abrirá de par en par.
A medida que avanzamos a toda velocidad por los OOM, los saltos continuarán. Hacia 2025 o 2026, espero que se produzcan los siguientes saltos cualitativos verdaderamente impactantes; la IA generará más de 100.000 millones de dólares en ingresos anuales para las grandes empresas tecnológicas y superará a los doctores en capacidad pura para resolver problemas. Al igual que el colapso bursátil provocado por la COVID-19 hizo que muchos se tomaran la pandemia en serio, tendremos empresas de 10 billones de dólares y la fiebre por la IA estará por todas partes. Por si esto no fuera suficiente, para 2027/28 contaremos con modelos entrenados en el clúster de más de 100.000 millones de dólares; agentes de IA plenamente capacitados y «trabajadores remotos de sustitución» comenzarán a automatizar ampliamente la ingeniería de software y otros trabajos cognitivos. Cada año, la aceleración resultará vertiginosa.
Aunque muchos aún no ven la posibilidad de la IAG, con el tiempo se formará un consenso. Algunos, como Szilard, vieron la posibilidad de una bomba atómica mucho antes que otros. Su alarma no fue bien recibida al principio; la posibilidad de una bomba se descartó por considerarse remota (o, al menos, se pensó que lo prudente y correcto era restarle importancia). Las fervientes peticiones de Szilard para mantener el secreto fueron objeto de burla y se ignoraron. Pero muchos científicos, inicialmente escépticos, empezaron a darse cuenta de que una bomba era posible a medida que se obtenían cada vez más resultados empíricos. Una vez que la mayoría de los científicos llegó a creer que estábamos a las puertas de la bomba, el Gobierno, a su vez, consideró que la exigencia de seguridad nacional era demasiado grande, y se puso en marcha el Proyecto Manhattan.
A medida que las OOM pasen de ser una extrapolación teórica a una (extraordinaria) realidad empírica, poco a poco se formará también un consenso entre los principales científicos, ejecutivos y funcionarios del Gobierno: estamos al borde, al borde de la IAG, al borde de una explosión de inteligencia, al borde de la superinteligencia. Y, en algún momento de este proceso, seremos testigos de las primeras demostraciones verdaderamente aterradoras de la IA: tal vez el tan comentado «ayudar a los novatos a fabricar armas biológicas», el hackeo autónomo de sistemas críticos o algo completamente distinto. Quedará claro: nos guste o no, esta tecnología será una tecnología militar absolutamente decisiva. Incluso si tenemos la suerte de no vernos envueltos en una guerra a gran escala, parece probable que el PCCh se haya dado cuenta y haya puesto en marcha un formidable esfuerzo de IAG. Quizá el (inevitable) descubrimiento tarde o temprano de la infiltración del PCCh en los principales laboratorios de IA de Estados Unidos cause un gran revuelo.
En torno al 26 o 27, el ambiente en Washington se tornará sombrío. La gente empezará a sentir visceralmente lo que está ocurriendo; tendrán miedo. Desde los pasillos del Pentágono hasta las reuniones a puerta cerrada del Congreso resonará la pregunta obvia, la pregunta que todos se hacen: ¿necesitamos un Proyecto Manhattan de IAG? Poco a poco al principio, y luego de golpe, quedará claro: esto está sucediendo, las cosas se volverán una locura, este es el reto más importante para la seguridad nacional de Estados Unidos desde la invención de la bomba atómica. De una forma u otra, el aparato de seguridad nacional se involucrará muy profundamente. El Proyecto será la respuesta necesaria; de hecho, la única plausible.
Por supuesto, este es un relato extremadamente resumido: mucho depende de cuándo y cómo se forme el consenso, de las señales de advertencia clave, etcétera. Washington D. C. es tristemente famoso por su disfuncionalidad. Al igual que con la COVID-19, e incluso con el Proyecto Manhattan, el Gobierno actuará con un retraso increíble y de forma torpe. Tras la carta de Einstein al presidente en 1939 (redactada por Szilard), se creó un Comité Asesor sobre el Uranio. Pero los funcionarios eran incompetentes y, al principio, no ocurrió gran cosa. Por ejemplo, Fermi solo recibió 6 000 dólares (unos 135 000 dólares actuales) para financiar su investigación, y ni siquiera esa cantidad se le concedió fácilmente, sino que tuvo que esperar meses para obtenerla. Szilard creía que el proyecto se retrasó al menos un año por la falta de visión y la lentitud de las autoridades. En marzo de 1941, el Gobierno británico llegó finalmente a la conclusión de que la bomba era inevitable. El comité estadounidense ignoró por completo este informe británico durante meses, hasta que, finalmente, en diciembre de 1941, se puso en marcha un programa a gran escala para la fabricación de la bomba atómica.
Hay muchas formas de poner esto en práctica. Para que quede claro, esto no tiene por qué parecerse a una nacionalización literal, en la que los investigadores de los laboratorios de IA pasen a ser empleados de las fuerzas armadas o algo por el estilo (¡aunque podría ser así!).1 Más bien, espero una orquestación más sutil. La relación con el Departamento de Defensa podría parecerse a la que este mantiene con Boeing o Lockheed Martin. Quizá a través de contratos de defensa o similares, se establezca una empresa conjunta entre los principales proveedores de cómputo en la nube, los laboratorios de IA y el Gobierno, lo que la convertiría, en la práctica, en un proyecto del aparato de seguridad nacional. Al igual que los laboratorios de IA asumieron «voluntariamente» compromisos con la Casa Blanca en 2023, los laboratorios occidentales podrían aceptar, más o menos «voluntariamente», fusionarse en el esfuerzo nacional. Y es probable que el Congreso tenga que intervenir, dados los billones de dólares implicados y para garantizar los controles y contrapesos.2 Cómo se resolverán todos estos detalles es una historia para otro día.
Pero a finales del 26, 27 o 28 ya estará en curso. El equipo central de investigación en IAG (unos pocos cientos de investigadores) se trasladará a una ubicación segura; el clúster de un billón de dólares se construirá a una velocidad récord; El Proyecto estará en marcha.
Por qué El Proyecto es la única vía
No me hago ilusiones con el gobierno. Los gobiernos se enfrentan a todo tipo de limitaciones y malos incentivos. Soy un gran defensor del sector privado estadounidense y casi nunca abogaría por una fuerte intervención del gobierno en la tecnología o la industria.
Solía aplicar este mismo enfoque a la IAG, hasta que me uní a un laboratorio de IA. Los laboratorios de IA son muy buenos en algunas cosas: han sido capaces de llevar la IA desde ser un proyecto científico académico hasta el gran escenario comercial, de una manera en que solo una empresa emergente puede hacerlo. Pero, al fin y al cabo, los laboratorios de IA siguen siendo empresas emergentes. Simplemente no deberíamos esperar que las empresas emergentes estén preparadas para gestionar la superinteligencia.
No hay buenas opciones aquí, pero no veo otra salida. Cuando una tecnología se vuelve tan importante para la seguridad nacional, necesitaremos al gobierno de los Estados Unidos.
La superinteligencia será el proyecto de defensa nacional más importante de Estados Unidos
Ya he hablado del poder de la superinteligencia en artículos anteriores. En cuestión de años, la superinteligencia alteraría por completo el equilibrio de poder militar. A principios de la década de 2030, es probable que todo el arsenal estadounidense (nos guste o no, la base de la paz y la seguridad mundiales) haya quedado obsoleto. No se tratará solo de una modernización, sino de una sustitución total.
En pocas palabras, quedará claro que el desarrollo de la IAG entrará en una categoría más parecida a la de las armas nucleares que a la de Internet. Sí, por supuesto que será de doble uso, pero la tecnología nuclear también lo era. Las aplicaciones civiles tendrán su momento. Pero en la niebla de la etapa final de la IAG, para bien o para mal, la seguridad nacional será el telón de fondo principal.
Tendremos que remodelar por completo las fuerzas estadounidenses en cuestión de años frente al rápido cambio tecnológico, o correremos el riesgo de vernos completamente superados por adversarios que sí lo hagan. Quizás, por encima de todo, la prioridad inicial será desplegar la superinteligencia para aplicaciones defensivas, con el fin de desarrollar contramedidas que nos permitan sobrevivir a nuevas e incalculables amenazas: adversarios con capacidades de hackeo sobrehumanas, nuevas clases de enjambres de drones sigilosos que podrían ejecutar un ataque preventivo contra nuestra disuasión nuclear, la proliferación de avances en biología sintética que pueden militarizarse, turbulentas luchas de poder internacionales (y nacionales) y proyectos de superinteligencia rebeldes.
Ya sea nominalmente privado o no, el proyecto de IAG tendrá que ser —será— íntegramente un proyecto de defensa, y requerirá una cooperación extremadamente estrecha con el aparato de seguridad nacional.
Una cadena de mando sensata para la superinteligencia
El poder —y los retos— de la superinteligencia pertenecerán a una clase de referencia muy diferente a todo lo que estamos acostumbrados a ver por parte de las empresas tecnológicas. Parece bastante claro: esto no debería estar bajo el mando unilateral de un director general cualquiera. De hecho, en el mundo de los laboratorios privados que desarrollan superinteligencia, es bastante plausible que directores generales individuales tengan el poder de dar literalmente un golpe de Estado al Gobierno de Estados Unidos.3 Imaginemos que Elon Musk tuviera el mando definitivo sobre el arsenal nuclear.4 (O que cualquier junta directiva de una organización sin fines de lucro pudiera decidir tomar el control del arsenal nuclear).
Quizá resulte obvio, pero: como sociedad, hemos decidido que los gobiernos democráticos deben controlar a las fuerzas armadas;5 la superinteligencia será, al menos al principio, el arma militar más poderosa. La propuesta radical no es el Proyecto; la propuesta radical es apostar a que los directores generales de empresas privadas de IA ejerzan el poder militar y se conviertan en dictadores benevolentes.
(De hecho, en el mundo de los laboratorios privados de IA, probablemente sería incluso peor que tener a unos directores generales cualquiera con el botón nuclear: parte de la pésima seguridad de los laboratorios de IA es su absoluta falta de controles internos. Es decir, cualquier empleado de un laboratorio de IA (sin ninguna comprobación de antecedentes) podría actuar por su cuenta sin que nadie se diera cuenta).
Necesitaremos una cadena de mando sensata —junto con todos los demás procesos y salvaguardias que conlleva necesariamente manejar de manera responsable algo comparable a un arma de destrucción masiva— y será necesario que el Gobierno se encargue de ello. En cierto sentido, este es simplemente un argumento burkeano: las instituciones, las constituciones, las leyes, los tribunales, los controles y contrapesos, las normas y la dedicación común al orden democrático liberal (por ejemplo, los generales que se niegan a acatar órdenes ilegales), etc., que controlan el poder del Gobierno, han superado la prueba del tiempo durante cientos de años. Mientras tanto, las estructuras especiales de gobernanza de los laboratorios de IA colapsaron la primera vez que se pusieron a prueba. Las fuerzas armadas de EE. UU. ya podrían matar prácticamente a todos los civiles de Estados Unidos, o tomar el poder, si así lo quisieran; y la forma en que mantenemos a raya el poder del gobierno sobre las armas nucleares no es a través de un sinfín de empresas privadas con sus propios arsenales nucleares. Solo hay una cadena de mando y un conjunto de instituciones que han demostrado estar a la altura de esta tarea.
Una vez más, quizá seas un verdadero libertario y discrepes desde un punto de vista normativo (¡que Elon Musk y Sam Altman dirijan sus propios arsenales nucleares!)6 Pero, una vez que quede claro que la superinteligencia es una cuestión fundamental de seguridad nacional, estoy seguro de que así es como lo verán los hombres y mujeres de Washington D. C.
Los usos civiles de la superinteligencia
Por supuesto, eso no significa que las aplicaciones civiles de la superinteligencia vayan a estar reservadas al Gobierno.
- La reacción nuclear en cadena se aprovechó por primera vez como proyecto gubernamental —y las armas nucleares quedaron reservadas de forma permanente para el Gobierno—, pero la energía nuclear civil floreció mediante proyectos privados (en los años 60 y 70, antes de que los ecologistas la paralizaran).
- Boeing fabricó el B-29 (el proyecto de I+D de defensa más caro de la Segunda Guerra Mundial, más costoso que el Proyecto Manhattan) y los bombarderos de largo alcance B-47 y B-52 en colaboración con el ejército, antes de utilizar esa tecnología para el Boeing 707, el avión comercial que marcó el inicio de la era de la aviación a reacción. Y hoy en día, aunque Boeing solo puede vender aviones de combate furtivos al Gobierno, puede desarrollar y vender libremente aviones civiles de forma privada.
- Y lo mismo ocurrió con el radar, los satélites, los cohetes, la tecnología genética, las fábricas de la Segunda Guerra Mundial, etcétera.
El desarrollo inicial de la superinteligencia estará dominado por la exigencia de seguridad nacional de sobrevivir y estabilizar un período increíblemente volátil. Los usos militares de la superinteligencia seguirán reservados al Gobierno, y se harán cumplir las normas de seguridad. Pero, una vez que haya pasado el peligro inicial y el mundo se haya estabilizado, lo natural será que las empresas que formen parte del consorcio nacional (y otras) persigan de forma privada el desarrollo de aplicaciones civiles.
Incluso en mundos con El Proyecto, un floreciente ecosistema de aplicaciones civiles de la superinteligencia, de carácter privado, pluralista y basado en el mercado, tendrá su momento.
Protección
Ya me he extendido mucho sobre este tema en un artículo anterior de la serie. Con el rumbo actual, más vale que renunciemos a cualquier esfuerzo estadounidense en materia de IAG; China podría robar rápidamente y de forma directa todos los avances algorítmicos y los pesos de los modelos (literalmente, una copia de la superinteligencia). Ni siquiera está claro que, siguiendo este rumbo, lleguemos a conseguir una seguridad «a prueba de Corea del Norte» para la superinteligencia. En un mundo en el que las empresas emergentes privadas desarrollan la IAG, la superinteligencia proliferaría en docenas de Estados parias. Es sencillamente insostenible.
Si nos vamos a tomar esto mínimamente en serio, es obvio que tenemos que blindar todo esto. La mayoría de las empresas privadas no se lo han tomado en serio. Pero, en cualquier caso, si acabamos enfrentándonos a toda la fuerza del espionaje chino (por ejemplo, si el robo de los pesos es la prioridad número uno del MSS), probablemente sea imposible que una empresa privada consiga una seguridad lo suficientemente buena. En ese momento, se necesitará una amplia cooperación por parte de la comunidad de inteligencia de EE. UU. para proteger adecuadamente la IAG. Esto implicará restricciones invasivas para los laboratorios de IA y para el equipo central de investigadores de la IAG, desde controles de seguridad extremos hasta una vigilancia constante, pasando por trabajar desde una instalación de seguridad clasificada (SCIF) y una libertad limitada para salir; y requerirá una infraestructura que solo el Gobierno puede proporcionar, incluyendo, en última instancia, la seguridad física de los propios centros de datos de la IAG.
En cierto sentido, la seguridad por sí sola basta para justificar el proyecto gubernamental: tanto la preeminencia del mundo libre como la seguridad de la IA están condenadas al fracaso si no conseguimos blindar todo esto. (De hecho, creo que es bastante probable que sea un factor principal en el desencadenante definitivo: una vez que quede clara la infiltración china en los laboratorios de IAG, todos los senadores, congresistas y responsables de seguridad nacional… tendrán una opinión muy firme al respecto).
Seguridad
En pocas palabras: hay muchas formas en las que podemos arruinarlo todo, desde garantizar que podamos controlar de forma fiable y confiar en los miles de millones de agentes superinteligentes que pronto estarán al mando de nuestra economía y nuestras fuerzas armadas (el problema de la superalineación) hasta controlar los riesgos del mal uso de nuevos medios de destrucción masiva.
Algunos laboratorios de IA afirman estar comprometidos con la seguridad: reconocen que lo que están construyendo, si sale mal, podría causar una catástrofe y prometen que harán lo necesario cuando llegue el momento. No sé si podemos confiar lo suficiente en su promesa como para arriesgar en ella las vidas de todos los estadounidenses. Y lo que es más importante, hasta ahora no han demostrado la competencia, la confiabilidad o la seriedad necesarias para lo que ellos mismos reconocen que están construyendo.
En el fondo, son empresas emergentes, con todos los incentivos comerciales habituales. La competencia podría empujarlas a todas a lanzarse sin más a la carrera a través de la explosión de inteligencia, y habrá al menos algunos actores dispuestos a dejar de lado la seguridad. En particular, tal vez queramos «gastar parte de nuestra ventaja» para tener tiempo de resolver los desafíos de seguridad, pero los laboratorios occidentales tendrán que coordinarse para hacerlo. (Y, por supuesto, a los laboratorios privados ya les habrán robado los pesos de su IAG, por lo que sus precauciones de seguridad ni siquiera importarán; estaremos a merced de las precauciones de seguridad del PCCh y de Corea del Norte).
Una respuesta es la regulación. Puede que eso sea adecuado en mundos en los que la IA se desarrolla más lentamente, pero me temo que la regulación simplemente no estará a la altura del desafío que plantea la explosión de inteligencia. Lo que será necesario no se parecerá tanto a dedicar unos años a hacer evaluaciones minuciosas e impulsar algunas normas de seguridad a través de una burocracia. Será más bien como librar una guerra.
Nos enfrentaremos a un año de locura en el que la situación cambiará con extrema rapidez cada semana, en el que las decisiones difíciles basadas en datos ambiguos serán de vida o muerte, en el que las soluciones —incluso los propios problemas— no estarán para nada claras de antemano, sino que se reducirán a nuestra competencia en medio de una «niebla de guerra», lo que implicará disyuntivas demenciales como: «Algunas de nuestras mediciones de alineación parecen ambiguas, ya no entendemos realmente qué está pasando, quizá todo vaya bien, pero hay algunas señales de advertencia de que la próxima generación de superinteligencia podría salir mal; ¿deberíamos retrasar el próximo ciclo de entrenamiento tres meses para tener más confianza en la seguridad? Pero, oh no, los últimos informes de inteligencia indican que China nos ha robado los pesos y avanza a toda velocidad hacia su propia explosión de inteligencia, ¿qué debemos hacer?».
No estoy seguro de que un proyecto gubernamental sea competente para abordar esto, pero la alternativa de la «superinteligencia desarrollada por empresas emergentes» parece mucho más cercana a «rezar para que todo salga bien» de lo que se suele reconocer. Necesitaremos una cadena de mando capaz de aportar la seriedad que exigirá afrontar estas difíciles disyuntivas.
Estabilizar la situación internacional
La explosión de inteligencia y sus consecuencias inmediatas darán lugar a una de las situaciones más volátiles y tensas a las que se ha enfrentado la humanidad. Nuestra generación no está acostumbrada a esto. Pero en este periodo inicial, la tarea que tendremos entre manos no será crear productos geniales. Será, de alguna manera y a la desesperada, lograr superar este periodo.
Necesitaremos el proyecto gubernamental para ganar la carrera contra las potencias autoritarias —y para que nos proporcione la ventaja clara y el margen de maniobra necesarios para sortear los peligros de esta situación. Más vale que nos rindamos si no podemos impedir el robo inmediato de los pesos del modelo de superinteligencia. Querremos aunar los esfuerzos occidentales: reunir a nuestros mejores científicos, utilizar todas las GPU que encontremos y asegurar que la construcción de clústeres de billones de dólares se lleve a cabo en Estados Unidos. Tendremos que proteger los centros de datos contra el sabotaje enemigo o un ataque directo.
Tal vez, por encima de todo, hará falta el liderazgo estadounidense para desarrollar —y, de ser necesario, hacer cumplir— un régimen de no proliferación. Tendremos que impedir que Rusia, Corea del Norte, Irán y los grupos terroristas utilicen su propia superinteligencia para desarrollar tecnología y armamento que les permita tomar al mundo como rehén. Tendremos que utilizar la superinteligencia para reforzar la seguridad de nuestra infraestructura crítica, nuestro ejército y nuestro gobierno, a fin de defendernos frente a nuevas y extremas capacidades de hackeo. Tendremos que utilizar la superinteligencia para estabilizar el equilibrio entre ataque y defensa de los avances en biología o campos similares. Tendremos que desarrollar herramientas para controlar de forma segura la superinteligencia, y para apagar las superinteligencias rebeldes que surjan de los proyectos descuidados de otros. Los sistemas de IA y los robots se moverán a una velocidad de entre 10 y 100 veces la humana, o superior; todo empezará a suceder con extrema rapidez. Tendremos que estar preparados para hacer frente a cualquier otra convulsión de seis sigmas —y a las amenazas concomitantes— que surja de comprimir el progreso tecnológico de un siglo en unos pocos años.
Al menos en este periodo inicial, nos enfrentaremos a la urgencia de seguridad nacional más extraordinaria. Tal vez nadie esté a la altura de esta tarea. Pero, de las opciones que tenemos, El Proyecto es la única sensata.
El Proyecto es inevitable; que sea bueno no lo es
En última instancia, mi principal afirmación aquí es descriptiva: nos guste o no, la superinteligencia no se parecerá a una empresa emergente de San Francisco y, de alguna manera, pertenecerá principalmente al ámbito de la seguridad nacional. He hablado mucho de «El Proyecto» con mis amigos de San Francisco durante el último año. Quizá lo que más me ha sorprendido es lo sorprendida que se muestra la mayoría de la gente ante esta idea. Simplemente no han considerado esa posibilidad. Pero una vez que la consideran, la mayoría coincide en que parece obvio. Si estamos en lo cierto respecto a lo que creemos que estamos construyendo, por supuesto, al final esto será (de alguna forma) un proyecto gubernamental. Si mañana un laboratorio desarrollara una superinteligencia en sentido estricto, por supuesto que el Gobierno federal intervendría.
Una variable importante no es si sino cuándo. ¿El Gobierno no se dará cuenta de lo que está pasando hasta que estemos en plena explosión de inteligencia, o se dará cuenta un par de años antes? Si el proyecto gubernamental es inevitable, cuanto antes mejor. Necesitaremos urgentemente esos dos años para llevar a cabo el programa intensivo de seguridad, poner al día y preparar a los responsables clave, construir un laboratorio fusionado que funcione, etcétera. Será mucho más caótico si el Gobierno solo interviene al final (y para entonces ya se habrán robado los secretos y los pesos).
Otra variable de importancia es la coalición internacional que podamos reunir: tanto una alianza más estrecha de democracias para desarrollar la superinteligencia, como una oferta más amplia de reparto de beneficios dirigida al resto del mundo.
- La primera podría parecerse al Acuerdo de Quebec: un pacto secreto entre Churchill y Roosevelt para aunar sus recursos con el fin de desarrollar armas nucleares, sin utilizarlas el uno contra el otro ni contra terceros sin consentimiento mutuo. Querremos incorporar al Reino Unido (DeepMind), a aliados de Asia Oriental como Japón y Corea del Sur (cadena de suministro de chips) y a la OTAN y otros aliados democráticos clave (base industrial más amplia). Un esfuerzo conjunto dispondrá de más recursos y talento, y controlará toda la cadena de suministro; permitirá una estrecha coordinación en materia de seguridad de la IA, seguridad nacional y retos militares; y proporcionará útiles mecanismos de control y equilibrio sobre el ejercicio del poder de la superinteligencia.
- Esta última podría asemejarse a Átomos para la Paz, el OIEA y el TNP. Deberíamos proponer compartir los beneficios pacíficos de la superinteligencia con un grupo más amplio de países (incluidas las no democracias) y comprometernos a no utilizar la superinteligencia de manera ofensiva contra ellos. A cambio, se abstendrían de llevar a cabo sus propios proyectos de superinteligencia, asumirían compromisos de seguridad sobre el despliegue de sistemas de IA y aceptarían restricciones a las aplicaciones de doble uso. La esperanza es que esta oferta reduzca los incentivos para las carreras armamentísticas y la proliferación, y reúna a una amplia coalición bajo un paraguas liderado por Estados Unidos para el orden mundial posterior a la superinteligencia.
Quizá la variable libre más importante sea simplemente si el inevitable proyecto gubernamental será competente. ¿Cómo se organizará? ¿Cómo podremos llevarlo a cabo? ¿Cómo funcionarán los controles y contrapesos, y cómo sería una cadena de mando sensata? Apenas se ha prestado atención a resolver esto.7 Casi todas las demás maniobras políticas en torno a los laboratorios y a la gobernanza de la IA son un espectáculo secundario. Esto es lo que realmente importa.
La fase final
Y así, para 27/28, la fase final habrá comenzado. Para 28/29, la explosión de inteligencia estará en marcha; para 2030, habremos invocado a la superinteligencia, con todo su poder y su fuerza.
Quienquiera que pongan al frente del Proyecto va a tener una tarea titánica: construir una IAG y hacerlo rápido; poner la economía estadounidense en pie de guerra para fabricar cientos de millones de GPU; asegurar todo, eliminar a los espías y repeler los ataques a gran escala del PCCh; gestionar de alguna manera cien millones de IAG automatizando frenéticamente la investigación en IA, logrando en un año avances de una década y produciendo pronto sistemas de IA mucho más inteligentes que los humanos más inteligentes; mantener de alguna manera las cosas bajo control para que esto no se descarrile y genere una superinteligencia rebelde que intente arrebatar el control a sus supervisores humanos; utilizar esas superinteligencias para desarrollar las nuevas tecnologías necesarias para estabilizar la situación y mantenerse por delante de los adversarios, reestructurando rápidamente las fuerzas estadounidenses para integrarlas; todo ello mientras navegan por la que probablemente será la situación internacional más tensa jamás vista. Solo diré que más les vale ser buenos.
Para aquellos de nosotros a los que llamen para formar parte de este viaje, será… estresante. Pero será nuestro deber servir al mundo libre —y a toda la humanidad. Si logramos salir adelante y llegamos a echar la vista atrás a esos años, será lo más importante que hayamos hecho jamás. Y aunque es probable que cualquier instalación segura que encuentren no cuente con las comodidades del actual estilo de vida del investigador de IA ridículamente bien remunerado, no estará tan mal. San Francisco ya parece una peculiar ciudad universitaria de investigadores de IA; probablemente esto no sea tan diferente. Será el mismo círculo extrañamente pequeño que se devana los sesos con las curvas de escalado durante el día y se reúne el fin de semana, charlando sobre la IAG y las intrigas de laboratorio del momento.
Excepto que, bueno… lo que está en juego será demasiado real.
Nos vemos en el desierto, amigos.
