Los plazos “largos” para llegar a una IA avanzada se han acortado muchísimo
La perspectiva de alcanzar una IA de nivel humano en la década de 2030 debería resultar inquietante
Argumentar que podríamos ver algo parecido a una IA de nivel humano en la primera mitad del siglo XXI solía ser una afirmación audaz que requería evidencia sólida. Este artículo de 2016, por ejemplo, dedica 8500 palabras a justificar la afirmación de que hay más de un 10 % de probabilidades de que se desarrolle una IA avanzada para 2036.
(Los argumentos sobre los plazos suelen referirse a los “plazos de la IAG”, pero a lo largo de esta entrada me referiré principalmente a la “IA avanzada” o a la “IA de nivel humano” en lugar de a la “IAG”. En mi opinión, el término técnico “IAG” tiende a confundir más de lo que aclara, ya que los distintos expertos lo utilizan de formas muy diferentes.1 Así pues, el hecho de que “IA de nivel humano” suene más vago que “IAG” es una ventaja, no un inconveniente: invita naturalmente a reacciones del tipo “¿a nivel humano en qué?”, “¿cómo medimos eso?” y “¿es siquiera una vara significativa?”, etc., que considero preguntas totalmente pertinentes siempre que no se utilicen para negar la tendencia general hacia sistemas más inteligentes y capaces.)
En los oscuros días anteriores a ChatGPT, los defensores de los “plazos cortos” argumentaban que existía una posibilidad real de que se desarrollaran sistemas de IA extremadamente avanzados en el transcurso de nuestras vidas, quizá en tan solo 10 o 20 años. De ser así, continuaba el argumento, obviamente deberíamos empezar a prepararnos: invertir en investigación sobre la seguridad de la IA, forjar un consenso internacional en torno a qué tipos de sistemas de IA es demasiado peligroso construir o desplegar, reforzar la seguridad de las empresas que desarrollan los sistemas más avanzados para evitar que los adversarios los roben, etcétera. Estos preparativos podrían llevar años o décadas, según el argumento, por lo que debíamos ponernos manos a la obra de inmediato.
Los detractores con “plazos largos” replicaban que, de hecho, no había evidencia de que la IA fuera a alcanzar un nivel muy avanzado en un futuro próximo (digamos, en los próximos 30 años).2 Por lo tanto, deberíamos ignorar cualquier preocupación relacionada con la IA avanzada y centrarnos, en cambio, en los problemas actuales asociados a sistemas mucho menos sofisticados, como los sesgos, la vigilancia y las malas condiciones laborales. Dependiendo de la postura de quien hablara, los problemas derivados de la IAG podían descartarse para siempre como “ciencia ficción” o simplemente dejarse para después.
Independientemente de quién creas que tenía razón, a efectos de esta publicación quiero señalar que este debate tenía sentido. “Esta tecnología de enormes consecuencias podría desarrollarse en un par de décadas, más vale que nos preparemos” frente a “No, no será así, por lo que sería una pérdida de tiempo” constituye un par de posturas opuestas perfectamente sensato.
Hoy en día, en esta era de leyes de escalamiento, modelos de razonamiento y agentes, los debates son diferentes.
Lo que ahora se considera un plazo “corto” es asombrosamente rápido: entre uno y cinco años hasta llegar a los sistemas de nivel humano. Para quienes pertenecen al bando de los “plazos cortos”, la “IAG para 2027” ya se había convertido en un tema de conversación habitual antes de que un manifiesto en línea en particular causara sensación con ese pronóstico el año pasado. Ahora, los líderes de las tres principales empresas de IA han expresado públicamente opiniones similares: que entre 2026 y 2027 es cuando resulta “más probable” que construyamos “una IA más inteligente que casi todos los humanos en casi todo” (director general de Anthropic); que la IAG probablemente se habrá desarrollado para enero de 2029 (director general de OpenAI), y que estamos “probablemente a entre tres y cinco años” de la IAG (director general de Google DeepMind). El ambiente en gran parte de la comunidad de seguridad de la IA es, en consecuencia, frenético, con personas que intentan averiguar desesperadamente qué tipo de mitigaciones técnicas o normativas podrían ayudar en ese plazo.
Es obvio que, como sociedad, no estamos preparados para hacer frente a una IA de nivel humano y a todas sus implicaciones tan pronto. Afortunadamente, la mayoría de la gente cree que disponemos de más tiempo.
Pero… ¿cuánto tiempo más?
A continuación se incluyen algunas citas recientes de expertos en IA conocidos por tener opiniones más conservadoras sobre la rapidez con la que avanza la IA:
Yann LeCun:
“Alcanzar una IA de nivel humano llevará varios años, si no una década”. (fuente)
“Los sistemas de IA igualarán y superarán las capacidades intelectuales humanas… probablemente en las próximas una o dos décadas” (vídeo, transcripción)
Gary Marcus:
[La IAG llegará] “quizá dentro de 10 o 20 años” (fuente)
Arvind Narayanan:
Al principio tenía esta cita de Arvind:
“Creo que la IAG está a muchos, muchos años de distancia, posiblemente a décadas” (fuente)
Interpreté que esto significaba que considera que cinco años es un plazo demasiado corto, pero que veinte años es más bien largo. Cuando le comenté esta interpretación a Arvind, añadió un contexto interesante: eligió sus palabras en esa entrevista en vista de lo que considera una dilución de la definición de IAG, por lo que su plazo real es más largo. Pero para aclarar lo que eso significaba, dijo:
“Creo que los efectos transformadores reales (por ejemplo, que la IA realice la mayoría de las tareas cognitivas) están a décadas de distancia (hay un 80 % de probabilidades de que falten más de 20 años)”. (fuente: correspondencia privada)
En otras palabras, un 20 % de probabilidades de que la IA realice la mayoría de las tareas cognitivas para 2045.
¡Estos plazos “largos” se parecen mucho a lo que solíamos llamar “cortos”!
En otras palabras: sí, sigue siendo cierto que algunos expertos en IA creen que pronto construiremos una IA de nivel humano, mientras que otros piensan que tenemos más tiempo. Pero los recientes avances en IA han acercado mucho más al presente los significados de “pronto” y “más tiempo”, tan cerca del presente que incluso la visión escéptica implica que nos esperan una o dos décadas trepidantes.
Para que quede claro, esto no significa:
- Definitivamente tendremos una IA de nivel humano en 20 años.
- Definitivamente no tendremos una IA de nivel humano en los próximos 5 años.
- La IA de nivel humano se construirá sin duda con técnicas populares hoy en día (transformadores generativos preentrenados, modelos de razonamiento, andamiaje de agentes, etc.).
- Toda conversación sobre IA debería centrarse en problemas relacionados con sistemas de IA extremadamente avanzados, sin dedicar tiempo ni atención a los problemas que ya están causando los sistemas de IA que se utilizan hoy en día.
Pero esto sí significa:
- Desestimar el debate sobre la IAG, la IA de nivel humano, la IA transformadora, la superinteligencia, etc., tachándolo de “ciencia ficción”, debería considerarse una señal de absoluta falta de seriedad. Los viajes en el tiempo son ciencia ficción. Los marcianos son ciencia ficción. “Incluso muchos expertos escépticos piensan que bien podríamos construirla en las próximas una o dos décadas” no es ciencia ficción.
- Si quieres argumentar que la IA de nivel humano es extremadamente improbable en los próximos 20 años, por supuesto que puedes hacerlo, pero deberías considerarlo una postura minoritaria en la que la carga de la prueba recae sobre ti.
- Tenemos que ponernos manos a la obra con muchas de las mismas cosas que podrían ser de ayuda si resulta que solo nos quedan unos pocos años. Es probable que, en cualquier caso, estas medidas tarden años y años en dar frutos, así que, si disponemos de una o dos décadas, debemos aprovechar ese tiempo. Entre ellas se incluyen:
- Impulsar la ciencia de la evaluación de la IA, de modo que, en lugar del enfoque rudimentario actual, dispongamos de métodos realmente eficaces para determinar qué puede y qué no puede hacer un modelo determinado, cómo se comparan los distintos modelos entre sí (y con los humanos) y a qué ritmo avanza la frontera.
- Impulsar la ciencia de la interpretabilidad, para que podamos entender cómo demonios funcionan los sistemas de IA, cuándo es probable que fallen y cuándo debemos (o no) confiar en ellos.
- Impulsar la ciencia de alinear, orientar y controlar los sistemas de IA, especialmente aquellos lo suficientemente avanzados como para darse cuenta de cuándo están siendo evaluados.
- Fomentar un ecosistema de organizaciones independientes que puedan verificar las afirmaciones cruciales que hacen los desarrolladores de IA sobre sus sistemas, de modo que los gobiernos y el público no dependan de que aquellos decidan ser honestos y transparentes.
- Trabajar para alcanzar algún tipo de consenso internacional sobre qué tipo de sistemas de IA sería inaceptablemente arriesgado desarrollar y qué tipo de evidencia nos ayudaría a determinar si estamos en vías de crear dichos sistemas. (¿Quizás alguien debería organizar una serie de cumbres internacionales sobre este tema?)
- Desarrollar la capacidad gubernamental en materia de IA, de modo que exista una verdadera experticia en el Congreso y en el poder ejecutivo para abordar las cuestiones de política de IA a medida que surjan.
Es totalmente razonable mostrarse escéptico ante quienes proclaman “¡IAG para 2027!”. Pero incluso si coincides con los expertos que piensan que estos se equivocan, aun así llegas a la conclusión de que bien podría desarrollarse una tecnología radicalmente transformadora —y potencialmente muy peligrosa— antes de que los niños que nacen hoy terminen la escuela secundaria. Es una locura.