¿Cómo será la IA en 2030?
Si la ampliación de la escala continúa hasta 2030, las inversiones en IA alcanzarán los cientos de miles de millones de dólares y requerirán gigavatios de energía. Los benchmarks sugieren que la IA podría mejorar la productividad en áreas valiosas como la I+D científica.
Este informe se elaboró por encargo de Google DeepMind. Todos los puntos de vista y conclusiones expresados son de los autores y no reflejan necesariamente la postura ni el respaldo de Google DeepMind.
Introducción
¿Qué sucederá si la ampliación de la escala de la IA continúa hasta 2030? Publicamos un informe que analiza lo que implicaría ampliar la escala de la IA en términos de poder de cómputo, inversión, datos, hardware y energía. Además, examinamos las futuras capacidades de la IA a las que dará lugar esta ampliación de la escala, especialmente en la I+D científica, que es un ámbito prioritario para los principales desarrolladores de IA. Sostenemos que es probable que la ampliación de la escala de la IA continúe hasta 2030, a pesar de requerir una infraestructura sin precedentes, y que aportará capacidades transformadoras en el ámbito científico y más allá.
Es probable que la ampliación de la escala continúe hasta 2030: Según las tendencias actuales, los modelos de IA de vanguardia en 2030 requerirán inversiones de cientos de miles de millones de dólares y gigavatios de energía eléctrica. Aunque se trata de retos significativos, se pueden superar. Dichas inversiones se justificarán si la IA puede generar los correspondientes beneficios económicos mediante el aumento de la productividad. Si los ingresos de los laboratorios de IA siguen creciendo al ritmo actual, generarían beneficios que justificarían inversiones de cientos de miles de millones de dólares en la ampliación de la escala.
La ampliación de la escala dará lugar a valiosas capacidades de IA: Para 2030, la IA será capaz de implementar software científico complejo a partir del lenguaje natural, ayudar a los matemáticos a formalizar bosquejos de demostraciones y responder a preguntas abiertas sobre protocolos biológicos. Todos estos ejemplos se han extraído de benchmarks de IA existentes que muestran avances, y una simple extrapolación sugiere que se resolverán para 2030. Prevemos que las capacidades de la IA serán transformadoras en varios campos científicos, aunque puede que su pleno despliegue se demore más allá de 2030.
A continuación comentamos algunas de las conclusiones del informe.
Es probable que la ampliación de la escala continúe hasta 2030
Según las tendencias actuales, los clústeres utilizados para el entrenamiento de la IA de vanguardia costarían más de 100 000 millones de dólares para 2030. Dichos clústeres podrían soportar ejecuciones de entrenamiento de unos 10^29 FLOP, una cantidad de poder de cómputo que habría requerido mantener en funcionamiento el mayor clúster de IA de 2020 de forma continua durante más de 3000 años. Los modelos de IA entrenados en dichos clústeres utilizarían miles de veces más poder de cómputo que GPT-4 y requerirían gigavatios de energía eléctrica.
Esto ejemplifica un patrón recurrente en nuestros hallazgos: si las tendencias actuales continúan, conducirán a resultados extremos. Pero ¿debemos creer que continuarán? Durante la última década, la extrapolación ha sido una referencia sólida, y cuando analizamos los argumentos a favor de una posible desaceleración, a menudo no resultan convincentes.
A continuación resumimos algunos de estos argumentos y nuestras conclusiones del informe:
-
La ampliación de la escala podría «toparse con un muro», es decir, los sistemas de IA podrían dejar de mejorar al seguir ampliando su escala. Sin embargo, los modelos recientes de IA han experimentado importantes mejoras en benchmarks y en ingresos. Esto podría suceder, pero aún no hay evidencia clara de ello.
-
Las reservas de datos para el entrenamiento podrían agotarse. No obstante, hay suficiente texto público generado por humanos para ampliar la escala al menos hasta 2027; además, pueden generarse datos sintéticos en grandes cantidades, y su utilidad está mejor consolidada tras la invención de los modelos de razonamiento. Es difícil descartar por completo un cuello de botella en los datos, pero parece que puede superarse.
-
La ampliación de la escala podría verse limitada por la energía eléctrica. Si esta ampliación de la escala continúa, las ejecuciones de entrenamiento de vanguardia requerirán gigavatios para 2030. Esto sería difícil de suministrar, pero existen formas de ampliar rápidamente la escala del suministro de energía, como la energía solar y las baterías, o la generación de gas fuera de la red. Además, las ejecuciones de entrenamiento de IA de vanguardia ya están empezando a distribuirse geográficamente entre múltiples centros de datos, lo que mitigaría los retos. Es poco probable que la energía eléctrica suponga un cuello de botella antes de 2028, y parece un problema solucionable incluso después de esa fecha.
-
Ampliar la escala podría resultar demasiado costoso y los desarrolladores de IA podrían dejar de invertir. Esto es sin duda posible, pero hasta ahora hay pocos indicios de ello. Si los ingresos de los desarrolladores de IA siguen creciendo según las tendencias recientes, igualarían las inversiones de más de 100 000 millones de dólares que extrapolamos para el entrenamiento de vanguardia en 2030. Que los ingresos de la IA alcancen cientos de miles de millones puede parecer exagerado, pero si la IA pudiera mejorar la productividad en una parte significativa de las tareas laborales, podría tener un valor de billones de dólares.
-
El desarrollo de la IA podría reorientarse hacia algoritmos más eficientes. Pero la eficiencia algorítmica ya ha ido mejorando a la par del crecimiento del poder de cómputo existente. No hay ninguna razón concreta para esperar que el progreso algorítmico se acelere y, aunque lo hiciera, es probable que fomente el uso de más poder de cómputo.
-
Las empresas de IA podrían reasignar el poder de cómputo a la inferencia, por ejemplo, para ejecutar modelos de razonamiento y otros productos. Pero, en la actualidad, el entrenamiento y la inferencia reciben un poder de cómputo comparable, y hay razones para esperar que el entrenamiento y la inferencia amplíen la escala conjuntamente. Ampliar la escala del entrenamiento genera mejores modelos de IA, que serán capaces de realizar tareas de inferencia más valiosas de forma más asequible. Podría producirse un cambio hacia la inferencia, pero parece poco probable que ampliar la escala de la inferencia ralentice la ampliación de la escala del entrenamiento.
A la luz de lo anterior, creemos que extrapolar las tendencias actuales hasta 2030 constituye una sólida predicción de referencia. Y si estas continúan, ello nos permite extrapolar las capacidades de la IA, algo que analizamos a continuación.
La IA acelerará la I+D científica en varios ámbitos
En el informe, también examinamos ejemplos concretos de las maneras en que la IA podría mejorar la productividad. Nos centramos en la I+D científica, que es un objetivo declarado de varios desarrolladores líderes de IA.1 Las tendencias de las capacidades sugieren que habrá un tremendo progreso de la IA aplicada a la I+D científica, especialmente en áreas como la ingeniería de software y las matemáticas, donde el entrenamiento con tareas realistas puede realizarse íntegramente in silico. Para 2030, el avance en los benchmarks existentes sugiere que la IA será capaz de implementar software científico complejo a partir del lenguaje natural, ayudar a los matemáticos a formalizar bosquejos de demostraciones y responder preguntas complejas sobre protocolos biológicos.
Para 2030, prevemos que muchos ámbitos científicos contarán con asistentes de IA comparables a los actuales asistentes de programación para los ingenieros de software. Aunque habrá diferencias en comparación con la ingeniería de software: por ejemplo, un mayor enfoque en revisar y sintetizar bibliografía extensa y heterogénea, mientras que las actuales herramientas de programación de IA se limitan principalmente al contexto de un único proyecto. No obstante, existen similitudes importantes: ofrecer sugerencias en respuesta al contexto, encontrar información relevante y completar en su totalidad tareas cerradas más pequeñas.
Prevemos que esto llevaría a una mejora de la productividad del 10-20 % en las tareas, basándonos en el ejemplo de la ingeniería de software.2 Aunque las tareas de un matemático o un biólogo teórico sean menos susceptibles de automatización que las de un ingeniero de software, ya tenemos evidencia de que los benchmarks pertinentes están mejorando, y anticipamos que aún quedan muchos años de progreso por delante. Esperamos que las capacidades de la IA sean transformadoras en diversos campos científicos, aunque puede que su pleno despliegue se demore más allá de 2030.
A continuación presentamos cuatro ejemplos del informe: ingeniería de software, matemáticas, biología molecular y predicción meteorológica. Aunque los benchmarks seleccionados no pueden abarcar toda la magnitud de los retos en cada campo, ofrecen una perspectiva de las crecientes capacidades de la IA y de las tareas que pronto podrían automatizarse. Las puntuaciones se recopilan a partir de tablas de clasificación y fichas de modelos, y los ajustes se limitan a los modelos de mejor rendimiento.
Ingeniería de software: La IA ya está transformando la ingeniería de software a través de asistentes de programación y sistemas de preguntas y respuestas. Para 2030, de mantenerse las tendencias actuales, la IA será capaz de corregir problemas de forma autónoma, implementar funcionalidades y resolver problemas difíciles (pero bien definidos) de programación científica.
Matemáticas: Es posible que la IA actúe pronto como asistente de investigación y desarrolle bosquejos de demostraciones o intuiciones. Ya existen testimonios iniciales que documentan la utilidad de la IA en el trabajo de los matemáticos. Matemáticos destacados difieren enormemente en cuanto a la relevancia que tienen los benchmarks matemáticos actuales de IA para su trabajo, así como en sus predicciones sobre qué tan pronto será capaz la IA de desarrollar resultados matemáticos de forma autónoma, en lugar de como asistente.
Biología molecular: Los benchmarks públicos sobre interacciones proteína-ligando, como PoseBusters, están en vías de resolverse en los próximos años, aunque el plazo es más largo (e incierto) para la predicción de interacciones proteína-proteína arbitrarias. Mientras tanto, los asistentes de investigación documental de IA para la I+D en biología están en camino. Los benchmarks actuales de preguntas y respuestas sobre protocolos de biología deberían estar resueltos para 2030. Aunque estos benchmarks no representan todo el espectro de desafíos en la biología molecular, sus tendencias ofrecen una perspectiva concreta de las crecientes capacidades de la IA en este campo.
Predicción meteorológica: La predicción meteorológica con IA ya supera a los métodos tradicionales en plazos de horas a semanas. Además, los métodos de IA tienen un bajo costo de ejecución y podrían mejorar aún más con más datos. Los próximos desafíos residen en mejorar las predicciones existentes, en especial para fenómenos poco frecuentes, y en aprovechar estas predicciones mejoradas para obtener beneficios en el mundo en general.
Un tema recurrente en este trabajo es que la implementación y el impacto social pueden ir muy por detrás de las capacidades. Por ejemplo, en comparación con la I+D farmacéutica, la ingeniería de software tiene ciclos de iteración más cortos, no requiere experimentos de laboratorio ni ensayos clínicos, rara vez involucra sistemas críticos para la seguridad, suele ser fácil comprobar si funciona razonablemente bien y cuenta con abundantes datos de entrenamiento. Por estas razones, prevemos que de los medicamentos aprobados para su comercialización en 2030, sean pocos (o ninguno) los que se hayan beneficiado de las herramientas de IA actuales, y mucho menos de las de 2030. Sin embargo, es probable que para entonces el desarrollo en fases iniciales ya esté experimentando efectos significativos de la IA. En comparación, prevemos que la ingeniería de software haya cambiado drásticamente y que se produzca un auge del software para la I+D científica y en otros ámbitos.3
Conclusión
Para 2030, es probable que la IA se convierta en una tecnología clave en toda la economía, presente en todas las facetas de la interacción de las personas con las computadoras y los dispositivos móviles. Si estas predicciones se cumplen, será de vital importancia que los principales responsables de la toma de decisiones den prioridad a las cuestiones relacionadas con la IA durante los próximos cinco años y más allá.
Para obtener más información, lee el informe completo aquí.