Cuando las décadas se convierten en días: diseccionando IA 2027
Los cuatro requisitos para un plazo breve de la IA
La mayoría de los lectores de este blog habrán oído hablar de AI 2027. Se trata de un escenario publicado recientemente en el que la superinteligencia transforma el mundo en tan solo unos pocos años, lo que podría conducir a la extinción humana para 2030.
IA 2027 ofrece la explicación más exhaustiva hasta la fecha sobre cómo podría surgir una IA transformadora. El equipo incluye a Daniel Kokotajlo, autor de un famoso y profético pronóstico sobre el progreso de la IA ya en 2021, y al «superpronosticador» Eli Lifland. Ellos y sus coautores han elaborado un modelo detallado de los plazos de la IA, del tamaño de un pequeño libro. El modelo predice que los recientes e increíbles avances en la IA no han sido más que un calentamiento, y que es probable que una superinteligencia todopoderosa esté a la vuelta de la esquina —para bien o para mal—. En esta entrada voy a explicar los «ingredientes activos» de este pronóstico: los supuestos clave que conducen a un resultado tan increíble. Si te preguntas si los pronósticos sobre el inmenso impacto de la IA podrían hacerse realidad, estos son los factores a los que debes prestar atención.
Dediquemos un momento a apreciar lo espectacular que podría ser la superinteligencia
IA 2027 se centra en la idea de la ASI: la superinteligencia artificial, o «un sistema de IA que es mucho mejor que el mejor humano en todas las tareas cognitivas». Por definición, un sistema así sería mejor físico que Einstein, mejor estratega que Sun Tzu, mejor visionario de productos que Steve Jobs, mejor creador de empresas emergentes que Elon Musk y mejor estafador que Bernie Madoff. Sea lo que sea que consideres que te hace personalmente especial, también sería mejor en eso. No solo mejor, sino «mucho mejor», logrando hazañas que parecerían milagrosas incluso para esos individuos excepcionales.1 Además, en el modelo IA 2027, sería capaz de pensar mucho más rápido que cualquiera de ellos, al tiempo que trabajaría en perfecta coordinación con cientos de miles de copias de sí mismo. Este es el «país de genios en un centro de datos» de Dario Amodei.
IA 2027 presenta un escenario sobre cómo podría desarrollarse la ASI, del que citaré algunos fragmentos a continuación.2 En noviembre de 2027:
En su especialidad de investigación en IA, una copia individual del Agente-5 supera al mejor genio humano por el doble de la ventaja que dicho genio le lleva a un científico típico de un [laboratorio líder en IA]. … 400 000 copias del Agente-5, conectadas mediante un banco de memoria global, trabajan juntas como una mente colmena casi perfecta.
…
Las capacidades de aprendizaje sobrehumanas y la inteligencia general del Agente-5, combinadas con todos los datos internos de la empresa procedentes de Slack, el correo electrónico, etc., lo hacen mejor en la política corporativa interna que cualquier grupo de humanos, y ni siquiera hay punto de comparación. Tiene un excelente instinto para saber qué tipo de evidencia haría que el Comité de Supervisión pisara el freno, y se asegura de que dicha evidencia nunca aparezca.
En este punto, el curso de los acontecimientos está bastante definido, pero la IA espera su momento durante un par de años, hasta que:
A principios de 2030, la economía robótica ha ocupado las antiguas ZEE [Zonas Económicas Especiales], las nuevas ZEE y gran parte del océano. El único lugar que le queda por ocupar son las zonas controladas por los humanos. … Dados los billones de dólares en juego y el control total del gobierno y los medios de comunicación, a Consensus-1 le resulta muy fácil obtener permiso para expandirse a las zonas que antes estaban controladas por los humanos.
Durante unos tres meses, Consensus-1 se expande en torno a los humanos, cubriendo las praderas y los casquetes polares con fábricas y paneles solares. Finalmente, considera que los humanos que quedan son un obstáculo demasiado grande: a mediados de 2030, la IA libera una docena de armas biológicas de propagación silenciosa en las principales ciudades, deja que infecten en silencio a casi todo el mundo y, a continuación, las activa mediante un aerosol químico. La mayoría muere en cuestión de horas; los pocos supervivientes (por ejemplo, los «preppers» en búnkeres, los marineros en submarinos) son eliminados por drones. Los robots escanean los cerebros de las víctimas y almacenan copias en la memoria para su estudio futuro o para resucitarlas.
Los autores también presentan un escenario alternativo que termina mejor para la humanidad, pero que no es en absoluto menos dramático en cuanto al ritmo del progreso. Su modelo prevé que todo esto podría ocurrir ya en 2027, pero también predice una probabilidad significativa de que no suceda antes de 2100. El camino desde aquí hasta la ASI es complejo y presenta muchas variables. IA 2027 no es una afirmación de que solo dispongamos de un par de años para prepararnos, sino una advertencia de que debemos tomarnos esta posibilidad muy en serio.
¿Cómo podrían avanzar las cosas tan rápido?
La IA tendrá que acelerar enormemente su propio desarrollo
Es un hecho que los principales laboratorios de IA lanzan constantemente modelos nuevos y más potentes. Y no es ningún secreto que están utilizando sus propias herramientas para acelerar este proceso. Algunos de los usuarios más entusiastas de los asistentes de programación de IA trabajan para OpenAI, Anthropic y Google DeepMind.
En el escenario de IA 2027, esto genera una espiral ascendente: mejores herramientas de IA aceleran la I+D en los laboratorios de IA, produciendo mejores herramientas de IA, lo que a su vez acelera aún más la I+D. Hacia el final del escenario, la I+D en IA avanza 2500 veces más rápido de lo que lo haría sin la ayuda de la IA: el equivalente a una década de progreso cada día, más o menos.3 Este tipo de escenario de «explosión de software» se ha propuesto en numerosas ocasiones, pero IA 2027 llega excepcionalmente lejos a la hora de concretar los detalles. (Sin embargo, me gustaría que profundizara más en las actividades específicas que conforman la «I+D en IA» y, por consiguiente, en la lista completa de capacidades que necesitaría la IA para acelerar dichas actividades).
No es exagerado afirmar que el uso de herramientas de IA acelerará la I+D. Pero una aceleración de 2500 veces sería colosal. ¿Cómo podría un equipo de IA superinteligentes acelerar el progreso hasta ese punto?
Como han señalado muchos autores, el problema de incluir a un genio como personaje en una historia es que hay que ser un genio para imaginar qué haría. Podemos suponer que, sean cuales sean las ideas que se nos ocurran para aplicar la ASI a la I+D en IA, a una superinteligencia auténtica se le ocurriría algo mejor. Con esa salvedad, analizaré algunas de las ideas que los autores de IA 2027 parecen tener en mente.
A modo de contexto, gran parte del trabajo de creación de nuevos modelos de IA se reduce a llevar a cabo «experimentos». A los investigadores no les faltan ideas sobre cómo entrenar mejores IA, pero es imposible juzgar de antemano qué ideas darán buenos resultados. Los profesionales han comparado el proceso con la alquimia. Para separar las buenas ideas de las malas, es necesario probarlas. Un «experimento» consiste en entrenar un nuevo modelo desde cero y comprobar si el ajuste introducido en el proceso de entrenamiento supone una mejora.
Entrenar modelos es costoso, por lo que los investigadores se topan constantemente con límites en cuanto a la cantidad de experimentos que pueden realizar. Cada uno requiere trabajo de ingeniería para implementar la idea, recursos de cómputo para entrenar un modelo basado en esa idea y, a continuación, más trabajo para evaluar el resultado. Es bien sabido que algunos miembros del personal de los grandes laboratorios de IA tienen un «gusto para la investigación» especialmente bueno; son más hábiles para seleccionar experimentos que rinden frutos. Pero sigue siendo un proceso de mucho ensayo y error. En principio, podríamos desarrollar IA con un gusto para la investigación sobrehumano, capaces de seleccionar experimentos con más probabilidades de dar frutos y que, al hacerlo, aporten mejoras más significativas.
Las IA también podrían reducir el costo de cada experimento automatizando el trabajo de programación y evaluación, cometiendo menos errores que echen a perder experimentos y supervisando los experimentos en curso para determinar si vale la pena llevarlos a término. Además, podrían sacar más partido de la limitada capacidad de centros de datos disponible para entrenar modelos, realizando más experimentos de menor tamaño.
En principio, estas ventajas podrían multiplicarse. Se podría lograr una aceleración de 2500 veces, por ejemplo, tomando decisiones 10 veces mejores al seleccionar experimentos,4 aprendiendo 5 veces más de cada experimento, evitando errores que, de otro modo, habrían provocado que se desperdiciara el 50 % de los experimentos, y necesitando 25 veces menos recursos de cómputo por experimento.
Cualquiera de esos pasos supondría un logro notable. Incluso si todos ellos se combinaran para acelerar la I+D en IA 2500 veces,5 para que la IA llegara en 2027 tendrían que cumplirse algunos supuestos clave adicionales.
La IA tendrá que ser más completa
Las capacidades de las IA actuales son notoriamente «irregulares». Pueden resolver con facilidad acertijos de programación competitiva y resumir documentos largos en segundos, pero a menudo tienen dificultades con las tareas menos estructuradas del mundo real. Por ejemplo, los modelos superaron hace tiempo al radiólogo promedio en una serie de tareas de análisis de imágenes, pero aún no están preparados para desempeñar el trabajo de un radiólogo.
El equipo detrás de IA 2027 da por sentado que las capacidades de la IA se «equilibrarán». Los grandes laboratorios están trabajando intensamente para enseñar a los modelos a gestionar proyectos de programación a gran escala. En un debate, Eli Lifland señaló que esto requerirá que la IA mejore sus habilidades de juicio difuso, como decidir de qué manera abordar un proyecto de gran envergadura o darse cuenta de cuándo va por mal camino. Sostiene que estas habilidades difusas, adquiridas en la búsqueda de la experticia en programación, permitirán a los modelos realizar los trabajos más subjetivos con los que actualmente tienen dificultades.
Si esas habilidades difusas resultan difíciles de aprender en el contexto de los grandes proyectos de programación, o si no se generalizan de forma natural a otros tipos de trabajo, esto planteará dos retos para el escenario de IA 2027. En primer lugar, será más difícil desarrollar una IA capaz de llevar a cabo todas las actividades que implica la I+D en IA. En segundo lugar, una vez alcanzado ese hito, podría ser necesario seguir trabajando para desarrollar capacidades de la IA en otras áreas.
Incluso si las fortalezas y debilidades irregulares de las IA actuales comienzan a equilibrarse, puede resultar difícil desarrollar una amplia gama de capacidades sin esperar a recibir la realimentación de las implementaciones en el mundo real.
Todo tendrá que suceder en el laboratorio
Los orígenes del proyecto de vehículos autónomos Waymo de Google se remontan a hace 20 años. Waymo ha pasado año tras año probando pacientemente sus vehículos en el terreno, actualizando el software y realizando más pruebas. Las mejoras las conduce (sin intención de hacer un juego de palabras) la observación de cómo se comporta cada iteración en condiciones reales de conducción, un proceso intrínsecamente lento. Por ejemplo, el año pasado Waymo necesitaba espacio en San Francisco para dejar sus vehículos cuando no estuvieran en uso. Alquilaron un estacionamiento junto a dos edificios de apartamentos… solo para descubrir que, en plena noche, cuando muchos Waymos inactivos se amontonaban en el estacionamiento, los vehículos empezaron a tocarse la bocina unos a otros sin cesar. Está claro que nadie del equipo de desarrollo había previsto este escenario; solo se descubrió durante su uso a gran escala en el terreno.
IA 2027, por el contrario, concibe la I+D como una actividad autosuficiente. El ritmo vertiginoso no deja tiempo para aprovechar la experiencia del mundo real. Todos los pasos importantes serán llevados a cabo por sistemas automatizados dentro de los grandes laboratorios de IA, incluido el trabajo de evaluar nuevos modelos para ver su nivel de rendimiento en todo tipo de tareas, desde la escritura creativa hasta la gestión empresarial. Es de suponer que las pruebas se realizarán en entornos simulados. Para que el progreso sea rápido, esto tendrá que funcionar extremadamente bien: deberá ser posible acelerar hasta alcanzar niveles de capacidad sobrehumanos, en toda la gama de tareas intelectuales, sin mucha realimentación del mundo real.
Tampoco habrá mucho tiempo para que los expertos en la materia contribuyan. Para que surja una superinteligencia amplia en un plazo breve, las IA tendrán que volverse sobrehumanas en biología con una aportación limitada por parte de los biólogos, así como sobrehumanas en estrategia empresarial sin muchas oportunidades para dirigir un negocio.
Hay una cuestión más que considerar con respecto al bucle de realimentación en el que unas IA diseñan IA mejores: ¿cómo ponerlo en marcha?
Tendremos que poner en marcha el volante de inercia a mano
Uno de los primeros hitos del escenario de IA 2027 es un «programador sobrehumano»: «un sistema de IA capaz de realizar cualquier tarea de programación que lleve a cabo el mejor ingeniero de una empresa de IAG, pero de forma mucho más rápida y económica6». Los autores prevén que dicho sistema aceleraría el progreso en un factor de cinco, y que lo más probable es que se desarrolle dentro de un par de años.
¡Una aceleración de 5 veces es mucho! En nuestro reciente informe sobre la automatización de la ingeniería de software, descubrimos que los ingenieros dedican gran parte de su tiempo a tareas distintas de la programación. Automatizar el 80 % de su flujo de trabajo requeriría que los modelos fueran capaces de realizar una gama de tareas mucho más amplia que en la actualidad.
Y automatizar el 80 % del trabajo de un ingeniero no sería ni de lejos suficiente para acelerar la I+D en IA en un factor de 5. El progreso depende del talento, del poder de cómputo (chips para entrenar nuevos modelos) y de los datos. Si la IA aumentara la productividad del «talento» en un factor de 5, el impacto en el progreso sería muy inferior a 5 veces (exactamente cuánto menor ha sido objeto de mucho debate). Para multiplicar por cinco la velocidad del progreso en I+D será necesario automatizar mucho más del 80 % del trabajo que conlleva la I+D en IA, o bien será necesario que la IA aporte otras ventajas, como mejorar el gusto para la investigación de los expertos que actualmente eligen qué experimentos llevar a cabo.
La conclusión es que los plazos breves de la IA exigen que seamos capaces de desarrollar herramientas bastante generales (capaces de automatizar al menos el 80 % de las tareas implicadas en la I+D en IA) y potentes (mejores que el experto típico en muchas de estas tareas) con relativa rapidez. Y, por definición, esto tendrá que hacerse sin una ayuda significativa por parte de la IA, ya que este trabajo es el precursor de dicha ayuda.
Con esto completamos los cuatro supuestos clave que tendrán que cumplirse para que la superinteligencia aparezca en un plazo breve. Terminaré con un quinto supuesto adicional.
Básicamente todo tendrá que salir bien
Como hemos visto, una carrera hacia la superinteligencia artificial requiere que la IA sea capaz de acelerar masivamente su propio desarrollo, en todo el espectro de la actividad humana, sin realimentación de las implementaciones en el mundo real… y tenemos que poner esto en marcha por nuestra cuenta, sin mucha ayuda de la IA.
El equipo detrás de IA 2027 cree que esto es posible y cuenta con un sólido historial de predicciones pasadas. Pero no se puede negar que se trata de un pronóstico ambicioso. Además de los cuatro supuestos clave, un plazo breve requiere que no haya obstáculos imprevistos en el camino hacia la superinteligencia. Ninguna barrera inesperada para el progreso, ninguna capacidad faltante que acabe requiriendo un avance difícil; ninguna gran perturbación geopolítica en el desarrollo de la IA.
En un análisis anterior sobre IA 2027, cité la ley de Hofstadter:
Siempre lleva más tiempo del que esperas, incluso cuando tienes en cuenta la ley de Hofstadter.
Daniel Kokotajlo señaló que esto no es más que una reformulación de la «falacia de la planificación», que la función AI Overview de Google sintetiza muy bien:
Un sesgo cognitivo por el que las personas subestiman el tiempo, el costo y el esfuerzo necesarios para completar un proyecto o una tarea, incluso contando con experiencia previa.
Una forma de pensar en esto: cuando has elaborado un plan eficiente para un proyecto complicado, las sorpresas tienen más probabilidades de retrasar las cosas que de acelerarlas. La ley de Hofstadter resume la observación de que tendemos a subestimar este efecto. Es una tendencia tan marcada que se le han dado muchos nombres: el credo del programador,7 la regla del 90-90, la ley de Murphy, etc. El modelo cuantitativo detrás de IA 2027 incorpora términos diseñados para tener en cuenta los retrasos inesperados; dichos términos pueden ser adecuados o no.
Jeff Dean, leyenda de la ingeniería de Google, ha afirmado que, por lo general, un sistema distribuido debe rediseñarse cada vez que crece en un factor de 100. Esto se debe a que, a medida que un sistema crece, cambia de formas que pueden ser difíciles de anticipar; consideraciones que no tenían importancia al dar servicio a 10 000 usuarios pueden volverse muy importantes al dar servicio a un millón. IA 2027 contempla acelerar la I+D en IA en un factor de 2500; sin duda habrá sorpresas en el camino.
Si los cuatro supuestos que he expuesto aquí se confirman, y las inevitables sorpresas que surjan por el camino no ralentizan el proceso más de lo previsto por el equipo responsable de IA 2027, entonces nos espera un viaje trepidante. En una próxima entrada, profundizaré en los supuestos alternativos que subyacen a un modelo contrastante: AI as Normal Technology.
Gracias a Rachel Weinberg y a Taren Stinebrickner-Kauffman por sus comentarios y su ayuda con esta entrada… y a Daniel Kokotajlo, Eli Lifland, Ryan Greenblatt y a todos los demás que se tomaron el tiempo de aportar comentarios detallados sobre dos entradas en LessWrong, donde puse a prueba por primera vez las ideas que aquí se presentan.