Una carta personal sobre la IA transformadora
George Rosenfeld es subdirector del fondo Global Catastrophic Risks en Coefficient Giving, que comprende los fondos Navigating Transformative AI y Biosecurity. En abril, escribió una carta a sus amigos y familiares explicándoles por qué cree que la IA podría transformar el mundo en los próximos años y por qué le preocupa la trayectoria actual.
Se trata de una carta personal, escrita para personas que se encuentran con estos argumentos por primera vez. La compartimos porque creemos que más gente debería tener este tipo de conversaciones.
Nota: esta carta se publicó a principios de abril. En las seis semanas transcurridas desde entonces, los ingresos anualizados de Anthropic aparentemente han aumentado hasta los 45 000 millones de dólares (frente a la cifra de 9000 millones de diciembre de 2025 que se cita más abajo) y se anunció el desarrollo de Mythos, un nuevo y potente modelo de IA que, según se afirma, fue capaz de encontrar vulnerabilidades de seguridad en los principales sistemas operativos y navegadores cuando se le solicitó. La carta no incorpora estos avances, pero el progreso de la IA continúa a un ritmo vertiginoso.
————————————————————————
Queridos familiares y amigos:
Durante los últimos dos años, he trabajado en Coefficient Giving como parte del programa Navigating Transformative AI. Principalmente, nuestro trabajo consiste en reflexionar sobre lo que podría ocurrir con la IA en los próximos años, intentar hacernos una idea de lo poderosa y transformadora que podría llegar a ser y hacer todo lo que esté a nuestro alcance para ayudar a que el mundo esté mejor preparado.
Los tipos de escenarios en los que piensa mi equipo suenan bastante extremos y propios de la ciencia ficción. Pensamos en mundos en los que los sistemas de IA son capaces de hacer prácticamente todo lo que los humanos pueden hacer, solo que más rápido y mejor; en los que décadas de progreso científico comienzan a producirse en meses o años; y en los que nos preguntamos no solo qué pueden hacer las IA, sino si la humanidad podrá seguir llevando las riendas.
Es difícil exagerar lo extremadamente asombrosas que son estas posibilidades. Si estos resultados son siquiera mínimamente plausibles, entonces podríamos estar viviendo uno de los puntos de inflexión más importantes de la historia de la humanidad.
No sé con certeza si alguna de estas cosas va a suceder. Tampoco sé si serían muy buenas (piensa en un florecimiento humano sin precedentes), muy malas (piensa en todos los humanos muertos o privados de poder) o algo intermedio.
También debo aclarar de entrada que estas opiniones no son mayoritarias.a La idea de que la IA podría automatizar casi todo y transformar la civilización en unos pocos años es una postura minoritaria, que la mayoría de los economistas, los responsables de políticas y la gente en general aún no se toma en serio. Desde luego, no parece que el mundo sea consciente de estas posibilidades.
Personalmente, yo también fui escéptico durante mucho tiempo. Cuando me encontré por primera vez con estos argumentos, sonaban a ciencia ficción y a un futuro muy lejano, por lo que tardé un tiempo en convencerme. Pero en los últimos dos años, mis predicciones más conservadoras han subestimado sistemáticamente el progreso realizado por la IA y cada vez estoy más convencido de que estos escenarios son plausibles y de que podrían no estar muy lejos.
No estaba seguro de si compartir esto, ni siquiera de si sería bueno que la gente lo leyera. Aunque tengo dudas, mi mejor estimación es que el mundo está a punto de cambiar radicalmente: que recordaremos esta época tal como recordamos febrero de 2020,b antes de que la pandemia de COVID-19 lo cambiara todo, salvo que esta vez la transformación será mucho más drástica y es posible que el mundo nunca vuelva a ser como antes.
Estas son ideas reales con las que convivo y que, cada vez más, guían mis emociones y decisiones, mis esperanzas y temores. Me resulta extraño y solitario guardármelas y no compartirlas con las personas que me importan.
A continuación, escribiré sobre estas cuestiones: (1) por qué una IA potente podría ser algo tan trascendental, (2) con qué rapidez podríamos llegar a ese punto y (3) qué riesgos —y beneficios— sin precedentes podría acarrear una IA transformadora. También incluyo enlaces a recursos adicionales donde podrás aprender de personas mucho más expertas que yo.
¿Por qué es tan importante la IA?
La mayoría de nosotros interactuamos con la IA a través de un chatbot, una interfaz en línea que responde a nuestras preguntas, planifica nuestras vacaciones y, de vez en cuando, hace nuestras tareas.c Unas veces resulta útil y otras inútil. De cualquier manera, no parece necesariamente tan revolucionaria ni tan diferente a otras tecnologías que los humanos hemos inventado.
Una consideración clave es que, a diferencia de las tecnologías anteriores, la IA podría automatizar todo lo que los humanos pueden hacer. Las tecnologías anteriores siempre han sido, de alguna manera, un complemento para nosotros. La imprenta nos permitió difundir ideas más rápido, pero alguien aún tenía que tenerlas. Las computadoras pueden calcular más rápido de lo que nosotros jamás podríamos, pero solo hacen aquello para lo que las programamos.
La IA, por el contrario, bien podría hacer todo lo que los humanos pueden, incluido el pensamiento abierto, que solía ser exclusivamente nuestro. No podemos estar seguros de que la IA llegue a este punto, pero si lo hace, probablemente sería algo trascendental.
Para empezar, podemos despedirnos de nuestros empleos. Esto no debe entenderse en el sentido histórico de la IA automatiza una parte concreta del trabajo humano, de modo que los humanos se reciclan y pasan a desempeñar otros empleos, como ha ocurrido muchas veces en el pasado.d El sentido es más bien la IA hace ahora prácticamente cualquier trabajo mejor que incluso los mejores humanos, de modo que no queda ningún otro trabajo al que pasar.e En la actualidad, quizá esto sea más fácil de imaginar con el trabajo cognitivo, aunque el trabajo físico podría seguirle los pasos. En ese mundo, no está claro cómo se ganarían la vida la mayoría de las personas, ni cómo sería la economía.
Pero la pérdida de empleos, por muy dramática y transformadora que sea, podría incluso no ser lo más importante. Hasta ahora, el trabajo humano ha sido un cuello de botella fundamental tanto para el progreso científico como para el económico. Sin embargo, con una IA lo suficientemente potente, podríamos disponer del equivalente a miles de millones más de científicos, emprendedores y otros expertos de primer nivel que se podrían dedicar simultáneamente a los diferentes problemas.f
Es difícil saber exactamente a qué ritmo podrían avanzar las cosas. Incluso con una IA sobrehumana, seguiría habiendo cuellos de botella: los experimentos físicos requieren tiempo, muchos problemas del mundo real son intrínsecamente desordenados y complejos, y las instituciones humanas, las regulaciones y los procesos de adopción podrían quedarse rezagados.g
Pero es plausible que un mundo así se vuelva rápidamente irreconocible en comparación con el actual, con cientos de años de progreso comprimidos en meses o años.
Piensa en lo diferente que se ve el mundo ahora en comparación con el año 1500: la medicina moderna, la electricidad, internet, las armas nucleares, los viajes espaciales. Ahora imagina que esa escala de cambio no ocurriera a lo largo de cinco siglos, sino en cinco años. Y, a diferencia de las generaciones que vivieron la transformación original, no tendríamos siglos para adaptarnos.h
¿Dónde estamos ahora y hacia dónde se dirigen las cosas?
A marzo de 2026, la IA no ha transformado el mundo ni ha automatizado tantos puestos de trabajo. Todavía no la encuentro muy útil para mi propio trabajo.
Pero lo que importa es la tendencia.
Los sistemas de IA ya han mejorado espectacularmente en los últimos años. En 2022, el primer chatbot ampliamente disponible (ChatGPT) podía mantener una conversación aceptable, pero a menudo inventaba cosas. Para 2024, los mejores sistemas de IA aprobaban el examen para ejercer de abogado y obtenían medallas de plata en la Olimpiada Internacional de Matemáticas (el oro llegó en 2025). A principios de 2026, los agentes de IA a menudo pueden gestionar proyectos de software importantes que a humanos cualificados les llevan varias horas.i Y ahora se están utilizando para acelerar el propio proceso de desarrollo de la IA.j
Para comprender qué está impulsando estas mejoras, resulta útil hacerse una idea de cómo se desarrollan los modelos de IA. Cuando construimos el motor de un coche, un puente o un sitio web, sabemos qué aspecto queremos que tenga y entendemos exactamente cómo y por qué funciona el producto final. Pero la IA es diferente: las empresas de IA configuran una red neuronal (algo así como un cerebro artificial), la entrenan con enormes cantidades de datos y dejan que la inteligencia “emerja” del modelo. Los ingenieros dan forma a este proceso de aprendizaje, pero no elaboran los resultados a mano.k
En los últimos años, uno de los principales motores del progreso de la IA ha sido la escala: a medida que las empresas de IA aumentan la escala de los insumos (más datos, más poder de cómputo, modelos más grandes),l observan, junto con el resto de nosotros, cómo siguen surgiendo nuevas capacidades y una inteligencia más avanzada. Muchas veces la gente ha apostado en contra de la IA, afirmando que nunca podría hacer algo en particular, solo para que la siguiente ronda de ampliación de escala les demostrara que se equivocaban. Este patrón se ha mantenido repetidamente a medida que los modelos se han vuelto más grandes y nadie sabe a qué ritmo continuará ni si se detendrá.
Hay un gráfico que no dejo de mirar y que refleja esta tendencia, procedente de METR, una organización que evalúa las capacidades de la IA. METR mide el “horizonte temporal” de los sistemas de IA: la dificultad de las tareas de software que una IA puede completar de forma autónoma, medida en función del tiempo que les toma a los expertos humanos.m Entre 2019 y 2025, los investigadores descubrieron que los horizontes temporales se duplicaban aproximadamente cada siete meses. Datos más recientes sugieren que ahora podrían estar duplicándose cada cuatro meses.
Como aprendimos durante la pandemia de COVID, las progresiones exponenciales pueden cambiar las cosas rápidamente: las duplicaciones se producen a gran velocidad y puede que solo hagan falta unas pocas para transformar el mundo.n
Otra forma de evaluar la trayectoria de la IA consiste en analizar las cifras de ingresos de las empresas, lo que, en cierto modo, constituye un indicador más fiable del impacto en el mundo real. Anthropic (la empresa creadora de Claude) pasó de 100 millones de dólares en ingresos anualizados a finales de 2023, a 1000 millones a finales de 2024 y a 9000 millones a finales de 2025: un crecimiento anual de aproximadamente 10 veces. Según algunas métricas, esto la convierte en una de las empresas tecnológicas de más rápido crecimiento de la historia.
Y la inversión eclipsa incluso los ingresos. Las cinco mayores empresas tecnológicas van camino de gastar más de 600 000 millones de dólares en infraestructura de IA solo en 2026, principalmente en centros de datos y chips. Para ponerlo en perspectiva: el programa Apolo para llevar al ser humano a la Luna costó unos 250 000 millones de dólares (ajustados a la inflación) a lo largo de sus 13 años de duración. Las empresas de IA gastarán más del doble de esa cantidad en un solo año. Esta ya es una de las mayores inversiones privadas en una sola tecnología de la historia moderna.
Estas cifras por sí solas no demuestran que la IA esté a punto de transformar la economía; muchas tecnologías han tenido una adopción inicial explosiva sin cambiar la civilización y es posible que la enorme inversión sea una burbuja. Pero, combinadas con las tendencias de capacidad mencionadas anteriormente, ofrecen un panorama coherente: o bien el progreso de la IA empieza a toparse con un muro muy pronto, o bien se convierte en la fuerza motriz de la economía mundial. Cada vez resulta más difícil apostar por el muro.
Dando un paso atrás: está muy bien compartir gráficos y tendencias, pero cuando alguien te dice que hay algo nuevo e importante en el horizonte, es muy razonable mostrarse escéptico. Esa fue mi reacción inicial: tardé mucho en convencerme realmente de que escenarios como estos eran plausibles. Pero con el tiempo, las personas que extrapolan las tendencias y se toman en serio estas posibilidades parecen tener cada vez más razón, y mis predicciones más conservadoras siguen demostrando ser erróneas.o
Ahora, cuando veo lo que predicen esas personas, me doy cuenta de que están dando la voz de alarma. En enero, Ajeya Cotra (una antigua compañera mía que recientemente ocupó el tercer puesto entre 413 personas que pronostican la evolución de la IA) predijo que la IA sería capaz de completar tareas de ingeniería de software de 24 horas para finales de 2026.p A los pocos meses, cambió de opinión: ahora cree que superará las 100 horas y que podría no tener límite. A principios de marzo, escribió: “Por primera vez, no veo ninguna evidencia sólida que podamos extrapolar para afirmar que [la automatización total de la I+D en IA]q no ocurrirá pronto. La I+D en IA realmente podría automatizarse este año”.r Según la opinión de Ajeya,s podríamos esperar que la IA supere a los mejores expertos humanos del mundo en cualquier tarea informática a principios de la década de 2030 y que la automatización del trabajo físico le siga potencialmente en un par de años. Por desgracia, que ocurra sustancialmente antes de eso también parece plausible.
Estas afirmaciones suenan descabelladas y ciertamente podrían estar equivocadas. Las tendencias podrían estabilizarse. Los cuellos de botella de capacidad restantes podrían resultar más fundamentales y/o más difíciles de resolver de lo que parecen actualmente. El mundo podría despertar rápidamente y coordinarse para desacelerar.t
Pero nada de esto está ocurriendo todavía y el tiempo apremia.
¿Y qué hay de los riesgos?
Antes de abordar los riesgos específicos, un recordatorio de la situación general.
Puede que estemos a punto de crear una segunda especie inteligenteu que sea más inteligente que nosotros, capaz de superarnos en cualquier ámbito concebible y de copiarse con facilidad miles de millones de veces. Cabría esperar que esto desencadene una explosión sin precedentes de progreso tecnológico que podría transformar el mundo mucho más rápido de lo que somos capaces de asimilar. Y, por si fuera poco, todo esto está ocurriendo sin que comprendamos del todo cómo funcionan los modelos de IA, cómo podrían comportarse o si seremos capaces de mantenerlos bajo nuestro control.v Todo ello me parece bastante preocupante.
Y, de hecho, muchos pensadores destacados en el campo están preocupados. Dos de los tres “padrinos de la IA” que fueron pioneros en el campo moderno sostienen ahora que el tipo de IA que podríamos ver en los próximos años podría suponer una amenaza existencial para la humanidad.w Los propios directores generales de las principales empresas de IA afirman que existe una posibilidad real de que esta tecnología pueda causar daños catastróficos. Dario Amodei, director general de Anthropic, ha dicho que cree que hay un 25 % de probabilidades de que las cosas salgan “muy, muy mal”. Sam Altman, director general de OpenAI, ha descrito el peor de los casos como “el fin para todos nosotros”.x
Y, sin embargo, siguen compitiendo.y
En mi equipo, nos centramos principalmente en reducir los riesgos que podrían matar a miles de millones de personas o ser igual de graves (o peores) de otras formas. Estos incluyen:
-
Uso impropio catastrófico de la IA: Los seres humanos podrían utilizar deliberadamente potentes sistemas de IA para causar daños catastróficos, por ejemplo, diseñando y liberando pandemias artificiales de formas que serían mucho más difíciles o imposibles sin una IA potente. Más información al respecto aquí.
-
Concentración extrema de poder: La IA podría permitir que un pequeño número de actores —empresas, gobiernos o incluso individuos— acumule un nivel de poder sin precedentes en la historia de la humanidad, al obtener acceso exclusivo a capacidades sobrehumanas sin depender del apoyo de personas que, de otro modo, podrían resistirse. En el caso extremo, esto podría incluir golpes de Estado en toda regla por parte de directores generales de empresas de IA,z una consolidación autoritaria por parte de jefes de Estado y otros escenarios que podrían conducir a una pérdida duradera de poder político para casi todo el mundo. Más información al respecto aquí.
-
Toma de poder por parte de la IA: Es el riesgo que más suena a ciencia ficción de todos. A muchos investigadores les preocupa que las propias IA persigan objetivos distintos a los nuestros una vez que sean lo bastante inteligentes como para escapar de nuestro control, lo que podría llevar a que la humanidad pierda su poder o incluso sea aniquilada por completo. Por desgracia, garantizar que una IA más inteligente que nosotros siga nuestros objetivos se considera actualmente un problema técnico sin resolver; es posible que los investigadores lo resuelvan con el tiempo, pero no hay garantía alguna. Este tipo de riesgo es menos intuitivo que los demás y requiere una explicación más profunda; puedes leer más aquí.
También hay muchas otras cosas menos apocalípticas de las que preocuparse: el desplazamiento masivo de empleos a un ritmo mayor al que la sociedad puede adaptarse, la pérdida de sentido a medida que desaparecen las formas tradicionales de aportar valor, una inestabilidad política y social extrema, y la desarticulación de las instituciones que no pueden seguir el ritmo.
Afortunadamente, no creo que ninguno de estos resultados esté garantizado. Y, al menos en el caso de los riesgos más catastróficos que enumeré antes, creo que lo más probable es que logremos evitarlos. Dicho esto, los riesgos siguen pareciendo peligrosamente altos, probablemente mayores que cualquier otro problema al que nos enfrentemos.
En mi opinión, un mundo sensato se estaría movilizando intensamente y coordinando para reducir drásticamente el ritmo. En cambio, estamos dormidos al volante.
No todo es malo
Este énfasis en los riesgos da la impresión de que la IA es del todo mala. No creo que sea así. Al contrario, si no provoca algún tipo de catástrofe,aa creo que una IA superinteligente podría ser una de las mayores fuerzas para el bien de nuestra historia.
El ritmo vertiginoso del progreso científico y económico que describí antes podría significar resolver problemas científicos que, de otro modo, estarían fuera de nuestro alcance, curar enfermedades,ab reducir la pobreza, generar una abundancia material superior a todo lo que hemos conocido y expandir el florecimiento humano de formas que hoy resultan difíciles de imaginar.ac El potencial positivo es asombroso.
Soy consciente de que acabo de decir que el mundo debería reducir el ritmo y ahora estoy describiendo los enormes beneficios de continuar al ritmo actual. Estas disyuntivas son reales.ae Cada año que nos demoremos podría ser un año en el que mueran personas por enfermedades que la IA podría haber curado; sin embargo, cada año que nos apresuremos podría ser un año en el que construyamos algo que no podamos controlar. Lo que está en juego difícilmente podría ser mayor.
¿Qué puedes hacer?
Si has llegado hasta aquí y te sientes abrumado, créeme, lo entiendo. Llevo varios años conviviendo con estas preguntas, pensando en ellas casi a diario, y sigo experimentando estrés, sensación de urgencia y, a veces, incluso incredulidad de que esto realmente pueda estar sucediendo.
Si todo esto resulta ser cierto, los próximos años pueden traer consigo algunas de las decisiones más trascendentales en la historia de la humanidad: cómo desarrollar esta tecnología, quién la controla y a qué ritmo permitimos su difusión. Es realmente extraordinario que estemos vivos justo en el momento adecuado para influir en el rumbo de los acontecimientos.
Si te sientes persuadido (o incluso intrigado) por algunos de estos argumentos, te animo a que te informes más, te formes tu propia opinión y reflexiones sobre qué tipo de acciones podrían tener sentido si llegas a convencerte de que estas cosas realmente podrían suceder. Prepárate para hacer oír tu voz, ya sea hablando con gente que conoces, poniéndote en contacto con un representante político,af trabajando más directamente en estos temas o de alguna otra manera.
Y si te preguntas si tienes algo más que aportar: muchas personas sin ningún tipo de formación técnica (¡yo incluido!) han podido reorientarse rápidamente para colaborar en el ámbito de la IA y el abanico de trabajo útil es más amplio de lo que esperaba.
Como punto de partida para profundizar, incluyo a continuación una lista de los recursos que me han resultado más útiles.
Empecé esta carta diciendo que me resultaba extraño y solitario tener estas opiniones sin compartirlas. Escribirla me ha ayudado con ello y espero que leerla haya valido la pena. No sé qué depararán los próximos años y es posible que, al echar la vista atrás, me avergüence de lo equivocado que estaba. Pero si esto es siquiera vagamente acertado, creo que desearemos haber empezado a prestar atención lo antes posible.
George
Enlaces para aprender más
Estos son algunos recursos excelentes para aprender de personas que saben mucho más que yo.
Principales recomendaciones:
- El canal de YouTube “AI in Context”: vídeos de gran calidad, centrados principalmente en los riesgos.
- Los perfiles de problemas de 80 000 Horas sobre la IA que busca acumular poder, sobre la concentración de poder y sobre el uso impropio catastrófico de la IA: están entre los mejores recursos para comprender los riesgos.
- La misma página web también cuenta con este excelente recurso para cualquiera que esté interesado en dedicar su carrera profesional a trabajar en estos problemas.
- The AI Doc, or: How I Became an Apocaloptimist: una nueva película que acaba de estrenarse, una buena y muy amena introducción general a las posibles trayectorias de la IA.
- El episodio del pódcast de Ajeya Cotra: episodio reciente de Ajeya (a quien he mencionado un par de veces más arriba) sobre en qué punto nos encontramos a principios de 2026.
- En general, creo que el pódcast de 80 000 Horas es la mejor serie de pódcasts sobre estos temas.
- BlueDot Impact: un excelente conjunto de cursos introductorios gratuitos y otros recursos para quienes quieran empezar a aprender sobre estos temas y a colaborar.
Más información:
- Cómo no perder tu trabajo por culpa de la IA: ¡un artículo que cumple con lo que promete el título!
- The Most Important Century: un excelente blog sobre la IA transformadora y por qué este podría ser el periodo más importante de la historia de la humanidad.
- AI 2027 del AI Futures Project: escenario detallado de un posible despegue de la IA en 2027 (esto es antes de lo que espero y antes de la estimación mediana de los autores, pero sigue siendo una representación útil de cómo podrían darse las cosas).
- Planned Obsolescence: excelente Substack de Ajeya Cotra y Kelsey Piper sobre la IA transformadora, que incluye The costs of caution (sobre los beneficios de la IA) y la reciente actualización de Ajeya hacia plazos más cortos.
- Si alguien la crea, todos moriremos: libro reciente de Eliezer Yudkowsky y Nate Soares, centrado en el riesgo de toma de poder por parte de la IA, creo que muestra un exceso de confianza en su conclusión (es decir, no creo que una superinteligencia mataría definitivamente a todo el mundo), pero sigue siendo una descripción útil de algunos riesgos potenciales.
- Machines of Loving Grace y The Adolescence of Technology: ensayos escritos por Dario Amodei (director general de Anthropic) sobre los posibles beneficios y riesgos de una IA poderosa.
Si quieres hacer más
La carta anterior se escribió para compartir la perspectiva de George con personas que se acercan por primera vez a estos temas. Si ya estás familiarizado con el riesgo asociado a la IA y buscas tomar medidas más contundentes:
- Piensa en dar un giro a tu carrera profesional a través de la página sobre carreras en IA de 80 000 Horas, el mejor punto de partida si estás pensando en trabajar directamente en estos temas.
- Haz una donación al Emerging Challenges Fund de Longview Philanthropy, que apoya a organizaciones que trabajan en la seguridad y gobernanza de la IA.
- Solicita financiamiento para desarrollar o cambiar tu carrera a través de Coefficient Giving, que financia a personas que quieran reorientar sus carreras para trabajar en el riesgo asociado a la IA.