José Jaime Villalobos sobre la mitigación de riesgos existenciales y la protección de generaciones futuras a través del derecho

Introducción al Legal Priorities Project

[00:00:27] Laura: Hola, estás escuchando La Bisagra de la Historia, un pódcast en el que conversamos a fondo con invitados que están trabajando en algunos de los problemas más importantes de nuestro tiempo. Soy Laura González, y hoy tengo conmigo a José Jaime Villalobos, doctor en Derecho Internacional e investigador del Legal Priorities Project.

En este episodio hablaremos sobre riesgos existenciales, la importancia de proteger los intereses de las generaciones futuras y cómo el derecho puede ayudarnos a enfrentar estos desafíos. José, bienvenido.

José: No, encantado de estar acá y hablar un poco sobre el trabajo que estamos haciendo.

Laura: Bueno, y coméntanos. ¿Qué es esto de Legal Priorities? En español, “prioridades legales”, ¿no? O jurídicas…

José: Legal Priorities es una organización que nació alrededor del año 2020. Un grupo de estudiantes de Harvard la empezó. Históricamente, hemos trabajado en dos cuestiones principalmente. Una es la protección de generaciones futuras desde una perspectiva legal. Y la otra, que está bastante ligada a ese primer tema, es la mitigación de riesgos existenciales, es decir, riesgos que implican o que podrían implicar que la humanidad se extinga o que la humanidad llegue a un punto de deterioro del que no se pueda recuperar.

Laura: ¿Y cuál es el proceso que seguís para decidir qué priorizar, cuál es la metodología? Porque me imagino que muchas personas estarán pensando que las prioridades legales a lo mejor dependen bastante del contexto legal, que dependerá del país o de la región. ¿Cuál es el proceso por el cual se hacen las preguntas que luego respondéis?

José: Para empezar, el modelo tradicional de altruismo eficaz aplica también a soluciones legales. Con esos tres criterios de importancia, tratabilidad y negligencia. Tratabilidad no sé si se traduce así, o sea, ¿“tractability” en inglés?

Laura: sí, hablamos de problemas tratables o solucionables, que tienen solución. Y luego “neglected” lo podemos traducir como desatendidos, ¿no? Más que negligencia, que suena un poco fuerte.

José: Sí, sí. Buena traducción. Esos mismos criterios aplican a las cuestiones legales de igual forma que aplican a cualquier otra intervención o cualquier otra disciplina. En derecho cambia un poco en que, al contrario, por ejemplo, que en políticas públicas o ciencias naturales, cuesta un poco más medir el impacto porque hay tantas variables sociales. El derecho no se presta a, por ejemplo, una prueba de control aleatoria o algún otro mecanismo más cuantitativo para medir el impacto. Pero aun así es importante pasar por estos criterios como un filtro para decidir qué priorizar.

Y después nosotros en Legal Priorities también nos hemos enfocado especialmente en nuestra ventaja comparativa. Es decir, nosotros somos de los únicos especialistas en derecho que trabajan en temas de riesgos existenciales y en protección de generaciones futuras. El segundo, menos, porque sí hay más gente trabajando en esto.

Laura: ¿puedes poner ejemplos concretos de preguntas que habéis estado investigando y cómo estas han evolucionado con el tiempo?

José: Inicialmente, Legal Priorities se enfocó en mitigar los riesgos de la inteligencia artificial, riesgos biológicos (especialmente de biología sintética), en el diseño institucional (de cómo proteger a generaciones futuras principalmente) y en lo que nosotros llamamos, meta research o investigación más general sobre cuáles son las formas en las que el derecho puede tener un mayor impacto. Dentro del derecho, cuáles son los ramas de derecho que pueden tener más influencia que otras. ¿Nos enfocamos más en derecho nacional, o en derecho comparativo, o en derecho internacional…? Los últimos tres meses, o tal vez un poco más, nos hemos enfocado mucho más en el primero de esos temas, que es la investigación de los riesgos de la inteligencia artificial, por todo el progreso que ha tenido la tecnología de inteligencia artificial recientemente, y la ahora aparente urgencia (no sé si es aparente o no, probablemente no) que existe alrededor del tema.

Influencia global del derecho

[00:05:13] Laura: Me da la sensación entonces de que la mayor parte de las prioridades ahora son prioridades globales, por las cosas que comentas: riesgos existenciales que ponen en riesgo a toda la humanidad o a las generaciones futuras. Estamos hablando de todas las generaciones futuras, de la humanidad en su conjunto. ¿Cómo podemos promover a través del derecho cambio a una escala tan grande? ¿Cómo podemos usarlo para afrontar estos retos que son globales? ¿Es principalmente a través del derecho internacional, es a través de otras vías…?

José: o sea, existe el derecho internacional formal, que es lo que nosotros normalmente entendemos como, pues, los tratados internacionales, las cumbres de Naciones Unidas, ese tipo de cosas. Pero también hay mucho pasando detrás del telón. Hay muchas conversaciones que suceden todos los días entre funcionarios de diferentes países, entre universidades, en diferentes jurisdicciones, en redes sociales, entre las personas que están interesadas en estos temas. Y todo eso influye, no son solo las personas que se sientan alrededor de una mesa para negociar un tratado, sino que son todas las conversaciones que pasan detrás y toda la influencia que pueden tener las personas o los políticos en estos procesos.

Y eso es lo que algunos juristas han llamado el proceso transnacional legal o proceso legal transnacional, que son todas esas conversaciones, todos esos procesos complejos que pasan detrás de la formación del derecho internacional. Entonces, pues sí, el derecho internacional es importante y es lo que al final de cuentas vamos a ver y es lo que va a obligar a los estados y a los gobiernos a llevar a cabo ciertas conductas o acciones, pero todo lo demás es igualmente importante.

Laura: ¿Hay mecanismos de influencia entre el derecho nacional y el derecho internacional? Por ejemplo, hablabas de la importancia de la legislación en torno a la inteligencia artificial recientemente. ¿Eso viene sobre todo por parte de Estados Unidos, que es donde están los grandes líderes investigando en este tema? ¿O estamos hablando de una legislación en un nivel más amplio? ¿Y cómo se hace eso?

José: Hay muchos ejemplos de derecho internacional que se forma a partir de lo que llamamos la práctica generalizada de los Estados.

Es decir, lo que algunos estados o muchos estados comienzan a hacer, domésticamente, nacionalmente, que después se comienza a unir para eventualmente llegar a formar una norma internacional. Es un poco más complicado que eso, pero en términos simples así es como funciona más o menos.

También hay ejemplos de legislación nacional que luego sirve como inspiración para un tratado internacional, por ejemplo. Y al revés: existen cientos de tratados internacionales y de normas internacionales que tienen influencia en la legislación nacional o interna porque, por principio, el derecho internacional impone una obligación a los estados de ajustar su derecho interno a las obligaciones que establecen un tratado internacional.

La legislación en países en los que se está desarrollando la inteligencia artificial más avanzada, como Estados Unidos, tiene un impacto mucho mayor en los resultados, o en la mitigación de los riesgos existenciales de la inteligencia artificial. Pero eso no quiere decir que la legislación o los esfuerzos que se realicen en otros estados o países no sea importante. La comunidad de esfuerzos y de legislación en varios estados o naciones puede llevar eventualmente a, uno, presión internacional, por ejemplo, en este caso, hacia Estados Unidos. Y dos, puede llevar a la formación de una norma internacional que ahí sí pueda ser aplicada a Estados Unidos o el país que queramos influenciar.

Entonces pues sí. En término de inteligencia artificial, la mayoría de los esfuerzos probablemente deberían concentrarse en Estados Unidos. En este momento, no te puedo decir en un año, dos años, tres años… Pero también, como han dicho muchísimas personas, incluyendo los directores de laboratorios que trabajan en inteligencia artificial o personas que han trabajado en inteligencia artificial mucho tiempo, y líderes de muchos estados también, se requiere un mecanismo de gobernanza global para la inteligencia artificial. Y eso pasa, por supuesto, por un acuerdo, un tratado internacional sobre inteligencia artificial que probablemente está a la vuelta de la esquina.

Laura: Qué interesante. Y antes comentabas estos mecanismos que a veces son un poco invisibles, están pasando detrás del telón. Está el derecho que se pone por escrito y las leyes que la gente conoce y luego está todo lo demás. Es un mundo mucho más amplio. Entiendo que aquí es donde entra también vuestro papel como Legal Priorities, la investigación que hacéis. ¿Cómo tiene un impacto en el mundo?

José: nuestra teoría de cambio es que la investigación que nosotros realizamos sea una herramienta, o uno de los pilares para que las personas que toman decisiones sobre estos temas estén informada sobre sus opciones legales. Entonces nosotros nos vemos como… Todos tenemos formación legal, jurídica, pero nos vemos más como un puente entre el derecho y la política pública, o entre el derecho y la toma de decisiones que pueda afectar a la mitigación de riesgos existenciales.

La protección de las generaciones futuras

[00:05:13] Laura: y antes has hecho el comentario de que os centráis tanto en la protección de los derechos de las generaciones futuras como en los riesgos existenciales, que son dos cosas que obviamente están relacionadas. Pero parece que últimamente un poco más la cuestión de los riesgos existenciales, porque otros organismos, has dicho, u otras personas, parece que sí que están trabajando un poco más en la protección de las generaciones futuras, si lo he entendido bien. ¿Quiénes son estas personas que están interesadas en los derechos de las generaciones futuras? Parece que, históricamente, nuestras prioridades son siempre muy a corto plazo, y preocuparnos de nosotros y de nuestros problemas, y los problemas de los que vengan dentro de 100 años. pues ya que se los apañen ellos. ¿Esto está cambiando, por lo que comentas?

José: sí, bastante. Primero, nosotros estamos trabajando menos en protección de generación futuras en este momento, no solo porque hay muchas más personas trabajando en eso, sino también por la importancia que han tomado los riesgos existenciales en este momento. Probablemente en algún momento, retomemos la protección de generaciones futuras, ya que están los dos atados. Es un tema que nos apasiona y esperamos poder continuar en algún momento. Pero sí, la protección de generación futuras no es algo nuevo. Para ir muchísimo más atrás (y me estoy enfocando solo en lo legal, no en lo filosófico u otras disciplinas), en lo legal, por ejemplo, después de la Segunda Guerra Mundial, nacen las Naciones Unidas. Y una de las primeras cosas que dice la Carta de las Naciones Unidas es que, como comunidad de naciones, debemos proteger a las generaciones futuras de los daños o la catástrofe de la guerra. Ahí ya se asienta una primera señal de que la protección de generaciones futuras es una prioridad para la comunidad internacional. Y después, en los años setenta principalmente, surge el derecho internacional ambiental, la declaración de Estocolmo y muchísimos tratados y declaraciones que surgieron a partir de ahí que establecen muy claramente que las generaciones presentes tienen un deber de conservar el medioambiente para que las generaciones futuras puedan disfrutarlo también. Luego, en los años 90 se da una renovación de esa idea, por ejemplo, con la comisión de diversidad biológica, con la convención de Naciones Unidas sobre el cambio climático, y un par de tratados más donde nace esa esa urgencia por conservar el medioambiente para las generaciones futuras.

Y a la par, y eso es un estudio que desarrollaron Renan Araújo y Leonie Koessler en Legal Priorities, en los años noventa vemos cómo también se incrementa la protección de generaciones futuras en las constituciones domésticas. En las constituciones nacionales hay una explosión de constituciones que comenzaba a proteger a las generaciones futuras, más que todo en términos de protección ambiental, pero también más ampliamente. Y eso es algo que sigue progresando. Por ejemplo, recientemente, estuve trabajando en los principios de Maastricht para la protección de los derechos humanos de las generaciones futuras. Entonces ya va pasando más de temas ambientales a temas de desarrollo humano, de derechos humanos, justicia intergeneracional. Y sí, como comentaba hay muchas organizaciones trabajando en esto, desde Naciones Unidas, con el reporte del año pasado o hace dos años, si me equivoco, Nuestra Agenda Común (Our Common Agenda) que invita a Naciones Unidas a comenzar a pensar más en la representación de generaciones futuras, a elaborar una declaración sobre generaciones futuras, enviados especiales. También toca sobre el tema de los riesgos existenciales. Entonces tenemos ya organizaciones internacionales de ese nivel pensando en estas cosas, pero también, por ejemplo, ONGs por todo el mundo, pensando en estos temas, instituciones gubernamentales que por ley tienen el mandato de representar a generaciones futuras. El caso de Gales, por ejemplo, es muy interesante

Laura: ¿Qué pasa en Gales?

José: en Gales, existe un comisionado para la protección de generaciones futuras, creado por ley en Gales. Ellos se encargan de filtrar todas leyes que está considerando la legislatura para asegurarse de que las leyes y los reglamentos en Gales no vayan a dañar o a tener influencia negativa sobre las generaciones futuras. Instituciones como ésta existen en al menos otros seis países y todos, pues con funciones un poco distintas, pero ya existen bastantes instituciones de ese tipo en varios países.

Laura: Vale, tengo un montón de preguntas sobre el derecho que tiene la intención de proteger a las generaciones futuras. Luego volvemos a hablar de riesgos existenciales y, en concreto, del tema de la inteligencia artificial, y tal vez bioseguridad que creo que han sido temas muy candentes ahora y en los últimos años. Pero hablando de generaciones futuras, ¿no es un poco arrogante pensar que conocemos las necesidades de las generaciones futuras? Yo pienso en la constitución estadounidense o la constitución española, que realmente no es tan antigua y, sin embargo, ya hay muchas personas que, pues, quieren cambiarla y es muy difícil cambiarla, porque el derecho tiende a ser muy persistente. Parece que hay mucha responsabilidad a la hora de aprobar legislación con la idea de tener un impacto positivo en el futuro, pensando que a lo mejor, las generaciones del futuro están en desacuerdo. ¿Cómo podemos conseguir la información necesaria para realmente tomar las mejores decisiones para nuestros descendientes?

José: Claro. Sí, esa es una muy buena pregunta. Lo primero es que no sabemos lo que las generaciones futuras quieren y estoy de acuerdo con vos en qué sería un poco arrogante asumir lo que las generaciones futuras van a querer, especialmente con los cambios que probablemente se de en el en futuro próximo y en la vida tan diferente que van a tener las siguientes dos generaciones. Y ni que hablar de las siguientes 40 generaciones o más. Entonces, estoy de acuerdo en que no podemos saber qué es lo que las generaciones futuras quieren. Lo que sí podemos más o menos entender es qué es lo que podría afectar negativamente a las generaciones futuras. Es decir, no sólo una cuestión de proteger sus intereses positivos, digamos, sino también proteger sus intereses negativos. Es decir, ¿qué es lo que las generaciones futuras muy probablemente no van a querer? Probablemente no van a querer, para empezar, no existir. Probablemente no van a querer vivir en un medioambiente completamente dañado o agotado, reducido en muchos sentidos.

Laura: se puede plantear como opcionalidad, ¿no? A lo mejor ellos en el futuro pueden decidir tomar un rumbo diferente al nuestro. Pero preservar el medioambiente, por ejemplo, pues les da esa opcionalidad. Luego ellos pueden hacer con el medioambiente lo que quieran y nosotros esperamos que compartan nuestros valores y lo sigan respetando. Pero no hacer eso implicaría tomar una decisión por ellos.

José: Exactamente, exactamente. Y existe un término bastante interesante que desarrolló la corte federal alemana hace un par de años en el caso Neubauer, que es la libertad intergeneracional. ¿Y qué significa esto? Digamos que tenemos un pastel de libertad como humanidad y cada generación tiene una parte de ese pastel. Si nosotros tomamos más de lo que nos corresponde de ese pastel, las generaciones futuras van a tener menos libertad. Entonces, en este caso sobre el cambio climático. El argumento ahí es que nosotros, al emitir más gases de efecto invernadero, podemos desarrollarnos mucho más en el presente, pero reducimos muchísimo más la libertad de la generación futuras. Les cortamos la posibilidad de hacer lo que ellos quieran hacer, esa libertad de escoger ellos mismos qué es lo que les gustaría hacer con el medioambiente. Entonces, sí podemos pensarlo desde esa forma. Y esto es algo que filósofos han discutido antes, como Isaiah Berlin, por ejemplo, que hablaba, por ejemplo, de libertad positiva, libertad negativa. Entonces, no podemos nosotros decirles a las generaciones futuras qué hacer o cómo pensar, pero sí podemos ayudarlos a que tengan ese espacio para decidir a ellos qué es lo que les gustaría hacer. Con un ambiente y con las posibilidades para hacerlo.

Laura: Y no sé si esta pregunta sea muy filosófica, pero según estabas hablando del pastel, me he imaginado un pastel, que es una cosa finita. La imagen que yo tengo en mi cabeza es casi que con cada generación hay más responsabilidad porque les estás dejando menos decisiones a las próximas generaciones para tomar, o sea, parece como que hay una cantidad limitada de libertad y a lo mejor, ¿no implica eso, que dentro de mil años o dos mil años les va a quedar una parte muy, muy, muy pequeñita de libertad, porque todas las decisiones importantes ya han sido tomadas por las generaciones previas? ¿Implica eso que con cada generación, el nivel de responsabilidad aumenta porque digamos que en términos marginales estás dejando cada vez menos opciones, menos opciones, menos opciones a las próximas generaciones? Y por tanto, tienes más responsabilidad de que, al menos tú, las decisiones que estés tomando sean buenas decisiones. ¿Tiene sentido esto?

José: Creo que sí. Creo que en ciertos temas tiene mucho sentido. Pues yo me paso pensando en riesgos existenciales todo el día, y tiene muchísimo sentido ahí. Hay muchas personas que hablan sobre este siglo siendo el siglo potencialmente más importante para la humanidad, de que hay muchas decisiones que vamos a tomar en los próximos años que pueden impactar a generaciones futuras por siempre.

Pero pensando un poco más lejos, también tendría sentido con recursos limitados o recursos finitos. Porque cada vez hay menos recursos que quedan para generaciones futuras, entonces, con temas ambientales, tienen mucho sentido. Donde no sé si casa tan bien es con recursos infinitos, como la libertad de expresión. La libertad de expresión hoy, dentro de 50 años, dentro de mil años probablemente no se vaya a agotar. Entonces, pues sí tenemos que tener mucho cuidado de no, por ejemplo, no crear un sistema dictatorial donde dentro de 1000 años, las personas no puedan pensar libremente. Pero si todo sigue más o menos igual el pastel debería ser infinito.

Laura: Sí, sí, creo que tiene mucho sentido y que ahí depende de cada caso. Pero también (y esta es la última pregunta sobre generaciones futuras y ya podemos pasar a hablar de tu especialidad, que son los riesgos existenciales)… mi impresión es que el derecho a veces es muy general y también un poco abstracto, de manera que da lugar a bastante libertad de interpretación. ¿No sugiere esto que las generaciones futuras al final van a interpretar el derecho que les dejemos nosotros como a ellos les parezca y van a decir “ah, sí, pues tenemos que hacer esto, pero lo vamos a hacer a nuestra manera”. Incluso ahora, pensando en la legislación que tú me estás comentando, que cada vez se está implantando más en términos de reconocer el derecho de las generaciones futuras… Yo pienso: una cosa es reconocer el derecho en abstracto, y otra cosa es pensar en cómo aplicas eso en el día a día y cómo realmente proteges a las generaciones futuras. Entonces, en tu experiencia, ¿hasta qué punto es efectivo el derecho como herramienta para conseguir lo que queremos cuando es una cosa tan abierta?

José: Claro, sí. Bueno, esto lo vinculo con una pregunta que me hiciste antes, que no respondí. El derecho no es solo, pues constituciones o leyes. El derecho tiene muchas capas. Y la mejor forma de pensarlo es como lo pensó Hans Kelsen: entender que es una pirámide. Arriba de la pirámide están las normas básicas, que en algunas jurisdicciones aplican, en otras no. Luego vienen las constituciones políticas, las leyes, los reglamentos. Y después, tal vez normas un poco más de municipalidades o normas internas de algunas compañías o instituciones públicas, etcétera.

Entre más arriba estés en esa pirámide, más inflexible es el derecho. Ahí es donde hay que tener mucho cuidado con no tener mucha especificidad en lo que el derecho o lo que la ley dice. Una constitución es muy difícil de cambiar, pero también si vos mirás las diferentes constituciones (que cambian mucho por supuesto, hay diferentes rangos de especificidad) pero la mayoría son bastante amplias. Son bastante vagas o ambiguas en el lenguaje que usan, porque quieren asegurarse de que lo que la constitución dice hoy aplique dentro de 100 o 500 años. Entonces normalmente las constituciones tienen normas muy básicas. Las leyes son más específicas, pero también son más fáciles de cambiar, de reformar a través de los sistemas que tenga cada parlamento en cada país. Y así va bajando, un reglamento es todavía más fácil de cambiar. Y cada norma más específica va a ser más fácil de cambiar.

¿Eso es bueno o malo para la protección de generaciones futuras? Ambas. Yo diría que ambos. Si tenemos una norma constitucional que diga algo tan básico como que esa constitución aplica tanto para generaciones presentes como para generaciones futuras, es una norma bastante básica que no te va a cementar una trayectoria específica legal. Después podés tal vez desarrollar esa norma amplia a través de legislación, por ejemplo, derechos que actualmente queramos asignar a las generaciones futuras, o que queramos establecer mecanismos de representación específicos para generaciones futuras, o que queramos resguardar cierto recurso para las generaciones futuras, que tal vez dentro de cien años, no van a querer tener ese recurso. Esas leyes van a ser más fáciles de reformar. Y hay algo muy importante, y es que tanto las normas constitucionales como las legales, como todas las demás, están sujetas a la interpretación que le den las cortes. Y esa interpretación puede evolucionar con el tiempo. Las cortes no son estáticas. Algunas más que otras en su interpretación. Y pueden ir desarrollando lo que llamamos jurisprudencia, que es básicamente la aplicación de las leyes a casos específicos, casos concretos de la vida real, para interpretar esas normas. Y hay muchos mecanismos de interpretación, entre ellos la interpretación evolutiva de las normas, que básicamente dice que si una norma tenía sentido hace 100 años, pero ahora no, porque existe un contexto muy diferente, pues la aplicamos al contexto actual, no según la lógica de hace 100 años.

Laura: Tienes sentido. Vale, te voy a pedir dos ejemplos. Si me los puedes dar, y si no, pues está bien. Un ejemplo de derecho que gracias a nuestros antepasados haya tenido un impacto positivo en nosotros, un ejemplo de generaciones pasadas, haciendo lo que nosotros ahora queremos hacer con las generaciones futuras. Y también, un ejemplo de lo contrario, algo que nuestros antepasados pensamos que deberían haber hecho y, porque no lo han hecho, nosotros estamos sufriendo las consecuencias, y tal vez nos pueda servir de motivación para pensar “esto es exactamente lo que no queremos que les pase a nuestros descendientes. Nosotros queremos ser mejores que nuestros antepasados y pensar más en sus necesidades.” ¿Hay un ejemplo positivo y uno negativo?

José: El positivo yo creo que tal vez estoy un poco previciado porque mi especialidad son los derechos humanos, pero la Declaración Universal de Derechos Humanos. Hay ciertas normas dentro de la declaración que tal vez no apliquen tanto a largo plazo, pero lo que nos dio es una serie de derechos muy, muy básicos que aplican para cualquier persona en cualquier momento, en cualquier lugar y que aplican a cuestiones que siempre van a ser fundamentales del ser humano: nuestra libertad para expresarnos, nuestra libertad de no ser víctimas de tratos inhumanos o de tortura, el derecho a la vida, que es algo que, pues, obviamente nosotros queremos, y es bastante probable que generaciones futuras van a querer también. Entonces, yo te daría ese ejemplo como un ejemplo de una pieza de legislación de derecho que influyó positivamente en nosotros, y que probablemente vaya a influir positivamente en muchas personas más en el futuro.

Y un ejemplo negativo de algo que tal vez debió haberse implementado mucho antes es todo el marco jurídico alrededor del cambio climático. A nosotros nos hubiera gustado mucho que cuando se comenzó a descubrir que los gases de efecto invernadero podrían tener efectos de destrozos en nuestra vida y en, no solo la vida de los seres humanos, sino la vida de los seres en general, pues hubiera sido genial que en ese momento se hubieran plantado, hubieran dicho “Esto, no. No podemos seguir agotando los combustibles fósiles y tenemos que ponerle un alto a esto”. Entonces, ese es el tipo de intervención que nos hubiera gustado a nosotros que hubieran hecho hace 50 años, que podría ser un buen ejemplo para el tipo de cosas que nosotros podemos hacer hoy en día pensando en lo que personas en el futuro cercano o lejano puedan estar sufriendo.

Laura: Me ha gustado particularmente el ejemplo que has puesto de la declaración de los derechos humanos, porque es bastante obvio, pero no lo había pensado, y creo que eso se presta también a otra pregunta, porque cuando yo pienso en los derechos humanos, creo que ahí hay un cambio jurídico, pero también parece un cambio a nivel social o político, porque creo que muchos de esos derechos hace siglos es que no estaban reconocidos como derechos con minúscula, en el sentido informal de la palabra como algo a lo que realmente las personas tuvieran derecho, valga la redundancia. Entonces, en estos casos, ¿es el derecho el que de alguna manera impulsa ciertos cambios sociales, o ayuda a consolidarlos, o es algo que siempre va siguiendo estos cambios? En primer lugar, ¿se da al cambio a nivel social y luego el derecho sigue y recoge eso de manera más formalizada?

José: Casi, casi siempre, el derecho recoge lo que la sociedad ya ha avanzado, al menos un poco. Con la declaración universal de derecho humanos fue ese entendimiento después de la segunda guerra mundial de que todos tenemos más o menos los mismo intereses, que todos queremos más o menos no ser víctimas de los posibles malos tratos, de parte de estados o de personas crueles. Ese entendimiento que, por supuesto, sucedió en un momento trágico para la humanidad, pero que también nos unió como especie, pues eso fue lo que después se vio reflejado en la declaración. En general, sí, el derecho casi siempre consolida lo que ya ha pasado en una sociedad. Otro ejemplo podría ser la abolición de la esclavitud, donde tal vez no era la sociedad inglesa en su totalidad la que estaba a favor de abolir la esclavitud, pero hubo movimiento social que llevó a eso. Pero sí, en general, el derecho sigue a la sociedad. Y es que el derecho es solo un instrumento, el derecho nada más es un instrumento para que otras disciplinas consoliden prácticas o normas que ya han sido probadas o que ya han sido aprobadas por un grupo pequeño, o un grupo más amplio de la sociedad. Idealmente, un grupo amplio, por representación democrática, pero también existen ejemplos de captura de representación política o, pues, obviamente dictaduras, donde el derecho sigue lo que en ese momento está pasando, que es un régimen eh dictatorial. Entonces, sí, casi siempre el derecho va a seguir a la sociedad.

Laura: Bueno, pero una interpretación no muy caritativa de esto es que entonces el derecho tiene poco impacto porque simplemente está consolidando lo que ya ha pasado. ¿Cuáles son los mecanismos a través de los cuales tiene un impacto de manera contrafáctica? Es decir, ¿es porque cuando hay una suficiente masa crítica, se consolida esto en el derecho e incluso las personas que no están de acuerdo ahora tienen que aceptarlo porque está en el derecho? ¿Qué es lo que hace que el derecho vaya más allá y no sea simplemente reconocer algo que ya ha pasado, y entonces, pues qué importancia tiene?

José: primero, por lo que vos decís. Es decir, no sólo porque haya un movimiento social o un patrón social que reconoce una norma quiere decir que esa norma vaya a ser implementada por todos, incluyendo el estado o el gobierno, o que vaya a ser implementada consistentemente a través del tiempo. Es importante que el derecho establezca los límites o los procedimientos a través de los cuales una norma va a tener un impacto en la sociedad.

Luego, el derecho también tiene una función expresiva o una función de guía. Es decir, si hay un movimiento social hacia una norma determinada, el que el derecho le ponga su sello, le indica a la sociedad como un todo que hemos llegado a un acuerdo común y que esta norma ahora no es de acatamiento solo voluntario, sino también de acatamiento obligatorio. Entonces, fija los límites en los que la sociedad se comporta y también crea lo que lo que en derecho algunas veces se llama estabilidad jurídica, que es un ambiente en que las personas y las compañías y los estados se pueden comportar sabiendo más o menos cuáles son las consecuencias y cuáles son las reacciones que pueden tener los demás con respecto a cierto comportamiento.

Y esto lleva a la armonía social e incentiva la innovación y el desarrollo económico. Todo eso suma que el derecho sea sumamente importante para cualquier cambio o para cualquier impacto positivo que queramos obtener en la sociedad.

Mitigación de riesgos existenciales

[00:38:17] Laura: Y hablando de impactos positivos que queremos tener, creo que por fin podemos pasar a centrarnos un poco más en los riesgos existenciales, ya que es en lo que en lo que estás trabajando, y que son los riesgos que amenazan a la humanidad con la extinción, básicamente. Dentro del abanico de riesgos existenciales a los que nos enfrentamos, ¿hay alguno que realmente esté más reconocido, contra el que estemos más protegidos a través del derecho?

José: Claro, hay uno que ya casi que logramos resolver a través del derecho: te hablo del deterioro de la capa de ozono. Si no hubiera sido por, primero, la convención de Viena, después el protocolo de Montreal, es muy poco probable que los estados hayan prohibido los CFCs. Y ahora, está pronosticado que para los años 40 ya tengamos la capa de ozono al cien por ciento. Sin la capa de ozono no puede haber vida en nuestro planeta. Así que, pues ya hay un ejemplo de un instrumento legal que salvó a la humanidad y el resto de la vida del planeta. Existen, por supuesto, argumentos de que, como hablábamos antes, el derecho sigue un patrón social. Ya se estaban dando los cambios económicos y sociales que llevaron a la convención de Viena y al protocolo de Montreal. Pero sin haber llegado a esos acuerdos, sin haber fijado esos límites, ese impacto no se hubiera dado. Así que creo que es un ejemplo bastante claro.

Laura: Viendo que hay antecedentes de la humanidad coordinándose por el bien común ¿por qué ahora tenemos tantos riesgos que están tan desatendidos? ¿Puedes un poco a lo mejor explicar cuáles son en tu opinión esos riesgos y por qué no les estamos prestando la atención que requieren?

José: Yo creo que hay varios riesgos existenciales para los cuales deberíamos coordinarnos internacionalmente para mitigarlos. Pero hay dos en particular que están más desatendidos. Uno, los riesgos de la inteligencia artificial. Y el segundo, los riesgos de la biología sintética en particular. El primero está desatendido, entre otras razones, porque usualmente el derecho sigue el cambio tecnológico y lo sigue a un paso mucho más lento de lo que se da el cambio tecnológico. Tenemos un cambio bastante rápido en los últimos dos años y, todavía menos que eso, en los últimos meses, que los gobiernos apenas están comenzando a darse cuenta de lo importantes que son, de lo importante que es mitigarlos. Y después va a haber meses, si no años, de negociaciones para establecer cuáles son las obligaciones internacionales para mitigar el riesgo de la inteligencia artificial. Es el desfase entre el avance tecnológico y los mecanismos sociales para desarrollar normas jurídicas, lo que lleva a la desatención de las tecnologías emergentes como la inteligencia artificial, entre otras razones.

Eso también está vinculado a la biología sintética, que es básicamente la habilidad de desarrollar cadenas de ADN en laboratorios, por ejemplo, puede llevar al desarrollo de unas tecnologías biológicas peligrosas, sin entrar en mucho detalle ahí. Otra vez está ese desfase entre una tecnología que es bastante nueva, que no conocemos muy a fondo, que también además,tiene usos beneficiosos para la sociedad. El derecho todavía está reaccionando a esos desarrollos que se van dando cada vez más rápido.

Laura: ¿Y cómo podemos superar este obstáculo? Porque parece inevitable que el derecho es muy lento y trabaja con las cosas que ya han pasado, mientras que lo que necesitamos es pensar en lo que puede pasar, pensar a futuro. Se me está viviendo a la cabeza la Unión Europea y el AI Act, el reglamento sobre inteligencia artificial, en el que llevan trabajando, bastante visionariamente diría yo, ya pues hace un par de años, o los que sean. Y ahora, de repente, llega OpenAI y hay una explosión de un montón de cosas que no estaban previstas. Y parece que hay que replantearlo todo. ¿Cuál es la solución a este problema? Si el derecho siempre se mueve muy despacio y la tecnología se mueve muy rápido, ¿tiene el derecho que moverse más deprisa también? ¿Tiene que aprender a predecir el futuro un poco mejor? ¿Cuál es una posible respuesta?

José: Una es establecer estándares legales para cualquier evento, tecnología, riesgo que pueda representar el tipo de catástrofe que representan estas tecnologías. O sea, ya existen algunas reglas alrededor de esto. Por ejemplo, el principio precautorio en derecho internacional establece que si hay incertidumbre sobre los efectos que pueda tener una actividad humana sobre el medioambiente, sobre la salud humana, sobre el desarrollo humano, no llevar a cabo esa actividad a menos que se logre mitigar el riesgo que conlleva. Entonces, hasta que se desarrolle el mecanismo de mitigación, no se puede llevar a cabo la actividad. Este tipo de mecanismos o de procedimientos aplica tanto a inteligencia artificial como biología sintética, como cualquier tecnología futura que todavía no nos hemos inventado, como cualquier otra actividad que pueda causar daño importante. Ese tipo de principios y de estándares o mecanismos es sumamente importante para que no exista ese desfase.

Y esos principios se implementan, no a través de procesos parlamentarios o internacionales que duran muchísimos años, sino en el día a día por los gobiernos que estén en el momento y por las cortes, asegurándose de que el poder ejecutivo en cada gobierno está implementando esos principios o estándares de forma efectiva.

Laura: También entiendo que una dificultad aquí está muchas veces en que no se percibe o no se reconoce este riesgo, ¿verdad? Es un juicio bastante subjetivo y, de hecho, muchas personas no están de acuerdo con que la inteligencia artificial, por ejemplo, suponga un riesgo existencial que tengamos que tomarnos en serio y el caso del cambio climático es muy similar: personas diciendo, “bueno, es que esto realmente yo no lo veo como un problema”. Y también me pregunto si esto tiene que ver con mi impresión de que el derecho tiene muy buenas herramientas para gestionar un daño o cosas que son bastante evidentes o que ya han pasado. Pero cuando hablamos de riesgo, es una cuestión probabilística. No estamos diciendo que necesariamente algo malo vaya a pasar. Estamos diciendo que podría pasar y hay que tener cuidado. No sé muy bien cuál es la pregunta, pero ¿cómo puede el derecho (si es que puede de alguna manera, a lo mejor es una cuestión meramente social) ayudarnos? ¿O cómo tenemos que reformar nuestras instituciones para que puedan pensar un poco más en estos términos? No pensar en lo que ha pasado, en que algo ya ha ido mal, sino en lo que podría ir mal a futuro y tener esas precauciones que hablabas tú que tenemos que tomar por defecto.

José: Hay iniciativas muy interesantes en este sentido. Una es, por ejemplo, algo en lo que el Simon Institute ha estado trabajando, el concepto de future proofing. ¿En español cómo lo podría traducir?

Laura: ¿Hacer algo a prueba del futuro?

José: Sí, exacto. Sí, hacer algo a prueba…

Laura: ¿Protegerlo de cara al futuro?

José: Sí, de varios futuros. Que es básicamente filtrar cualquier actividad, política pública, legislación, por criterios para asegurarse de que, según nuestros conocimientos actuales, esa actividad no vaya a tener una incidencia negativa en el futuro. Están por supuesto las reacciones más legales, como lo que te comentaba de principio precautorio o el principio preventivo, que también se desarrolló a partir del derecho internacional ambiental, pero que ahora se ha estado implementando en otras ramas jurídicas.

Existen también herramientas muy interesantes en la evaluación económica de una política pública o de una ley, por ejemplo, el cost-benefit analysis, o análisis de costo-beneficio, que se aplica muy bien en Estados Unidos, por ejemplo, donde las políticas públicas tienen que pasar por un análisis de cuál podría ser el costo para las generaciones presentes en relación con el beneficio que podamos obtener.

En otros países, en otras jurisdicciones, aplica más lo que llamamos el principio de proporcionalidad, que es básicamente un test en qué analizamos qué tanto va a beneficiar una cierta actividad a la población en general o a un grupo específico. Y dependiendo de esa respuesta, cuánto estamos dispuestos a limitar ciertos derechos o ciertas prerrogativas que tenemos en la actualidad.

Entonces, sí, existen herramientas para no solo reaccionar al daño que ya existe, sino también mitigar riesgos o pensar sobre ese balance entre riesgos y beneficios.

Laura: Y estaba pensando en cuáles pueden ser los cambios, cambios institucionales, cambios a nivel más meta, que puedan ayudarnos a lidiar con este tipo de riesgos. ¿Así que se te ocurran, cuáles serían como el top una o dos cosas que cambiarías de cómo funcionan las instituciones políticas o legislativas, que en su propio funcionamiento podrían hacer que mejorara cómo afrontamos estos estos riesgos?

José: Así sin pensarlo mucho, porque eso es un tema que debería ser estudiado muchísimo más a fondo. Uno es comisiones legislativas que se enfoquen en la protección de generaciones futuras y/o la mitigación de riesgos existenciales. Esas comisiones legislativas analizarían cualquier ley que quiera pasar el Parlamento o el congreso para asegurarse de que no conlleve o un riesgo existencial o un daño a generaciones futuras. Otra es tener una agencia dentro de cada poder ejecutivo que se encargue específicamente de hacer forecasting, de implementar planes de riesgo en torno a riesgos existenciales. No solo ver cuáles pueden ser los riesgos existenciales de los que el gobierno debería preocuparse, sino pensar cuáles son las probabilidades de que esto pase, cuáles son los caminos por los que nuestro país se podría ir para evitar ese tipo de riesgo. Y si estamos en un momento en que estamos muy cerca de que ese riesgo se materialice, ¿cuál es el plan de acción? ¿Cómo reaccionamos para evitar que se materialice? Así como tenemos planes de emergencia en casos de terremotos o de inundaciones, deberíamos tener planes de emergencia para cuestiones que podrían ser inclusive más dañinas. Entonces esas dos instituciones tal vez tengan sentido: una, comisión legislativas, y agencias especializadas dentro del ejecutivo.

Laura: Pasando a hablar de temas más concretos, los dos que has mencionado, los riesgos de la biología sintética y los riesgos de la inteligencia artificial. ¿Cuáles son algunas medidas que te parecen obvias, si es que en esta vida hay algo obvio, que se deberían implementar ya? Cuáles son los principales riesgos y cuáles son los mecanismos legales para mitigarlos?

José: Yo creo que en ambos casos puedes aplicar el principio precautorio que te comentaba antes. Es decir, ponerle una pausa al desarrollo de estas tecnologías y el uso de estas tecnologías hasta que no se logre identificar un plan de mitigación del riesgo existencial. No te digo que tiene que cerrar OpenAI y ponerle una pausa completa a ChatGPT. Pero lo que sí te diría es que los laboratorios o los gobiernos no deberían seguir desarrollando la inteligencia artificial o la biología sintética hasta que se logre comprobar que los mecanismos que se utilizan sean seguros, y que se logre mitigar, si fuera posible al cien por ciento, cualquier riesgo existencial que exista en el desarrollo de esas tecnologías.

Con biología sintética, algo que se ha propuesto, por ejemplo, es el screening, el escaneo de cualquier orden de ADN para asegurarse de que ese ADN no se puede utilizar para, por ejemplo, desarrollar un patógeno. Y en el caso de la inteligencia artificial algo que muchos expertos han propuesto es poner una pausa al desarrollo de los sistemas de inteligencia artificial, especialmente los modelos avanzados de lenguaje, Large Language Models. O sea, más allá de lo que ya existe, que en este momento tal vez no conlleva un riesgo existencial, pero que está posiblemente cerca de llegar ese punto.

Laura: En el caso de la biología sintética, ¿dirías que la legislación está un poco más avanzada? Porque parece más sencillo lo que comentas: asegurarnos de que todas las órdenes de material genético, ADN, ARN, no están creando un patógeno o un virus o algo equivalente. ¿Eso se está implantando ya, hay planes para implantarlo? ¿O sigue siendo una idea bastante extraña?

José: En este momento, sí sigue siendo una idea bastante extraña. Creo que porque en este momento no existen muchos laboratorios o muchas empresas que puedan llevar a cabo este tipo de actividades. Entonces los gobiernos todavía confían un poco en la autorregulación de esas empresas. Pero con el paso del tiempo, y conforme sea muchísimo más fácil para casi que cualquier persona llevar cabo ese tipo de actividades, probablemente comencemos a ver mecanismos específicos que comiencen a implementar a través de la ley para escanear órdenes, para reducir la cantidad de dual-use research que llevan a cabo los laboratorios… Conforme los riesgos aumenten probablemente veamos más reacción de parte de los estados. Idealmente ya reaccionarían, y ya se prepararían este tipo de mecanismos, pero ahí como te comentaba antes, existe todavía ese desfase.

Laura: ¿Ha afectado de alguna manera la pandemia de coronavirus? Porque en su día yo pensé “Ahora nos vamos a tomar la bioseguridad un poco más en serio, porque hemos visto cuáles pueden ser las consecuencias, bastante dramáticas, de no hacerlo”. Pero ahora casi que me da la sensación de que el efecto ha sido el contrario, y que ya nadie quiere oír hablar de más virus ni de pandemias Acabamos un poco saturados a lo mejor también con la explosión mediática, y un poco traumatizados. Y no sé si la tendencia ahora es a tomarse estos riesgos de bioseguridad, en un sentido un poco más amplio, más en serio, o si al contrario, parece que hubo un pico y ahora ya mejor no hablar de eso. ¿Ha habido algún tipo de evolución para bien o para mal que tú hayas percibido?

José: Yo creo que, y te hablo de la parte legal, nada más, en la parte social, creo que estoy de acuerdo con vos en que ahora preferimos no hablar mucho sobre el tema. Pero de la parte legal, la reacción no fue la que esperábamos. La reacción fue mucho “bueno, ¿cómo nos preparamos para la próxima pandemia?” Ahora se están negociando un tratado para la preparación contra las pandemias, el tratado se llama “Tratado sobre la prevención y preparación para pandemias”, pero en realidad es solo preparación, de prevención no tiene mucho. En muchos estados, incluyendo Estados Unidos o la Unión Europea, hemos visto legislación o iniciativas legislativas para aumentar la cantidad de recursos para planificar en caso de que exista otra pandemia: cómo desarrollar vacunas más rápido, cómo hacer que los hospitales puedan reaccionar mejor a ese tipo de peligros. En lugar de pensar cómo hacemos para que no exista, para que la siguiente pandemia no se dé del todo. Ahorita existen algunas iniciativas nuevas para investigar un poco más sobre prevención, sobre el tipo de caminos que sigue un patógeno para pasar de teoría a una pandemia, por ejemplo. Pero en general, lo que por lo menos yo he visto y hemos visto en Legal Priorities es que existe mucho menos énfasis en la prevención y mucho más enfoque en la preparación para la siguiente ocasión en que esto pase.

Laura: ¿Qué deprimente, no? Damos por hecho que va a ocurrir. Y la prioridad es mitigar los efectos, ¿no?

José: Sí, exacto.

Laura: Y en el caso de la inteligencia artificial, como comentabas, la idea tal vez sería detener este desarrollo hasta que nos aclaremos todos las ideas y tengamos unos mecanismos acordados para, por ejemplo, evaluar los distintos modelos y asegurarnos de que son seguros. Creo que alguien podría preguntar, ¿bueno, y cómo vamos a saber que hemos paliado estos riesgos? Antes hablabas de manera muy contundente que ojalá pudiéramos reducir esos riesgos al 100 %. ¿Cómo sabes si estás reduciendo el riesgo al 100 %? Mientras no nos extingamos, pues algo estamos haciendo bien, pero quién sabe. Creo que la pregunta es ¿cómo podemos evaluar la efectividad de nuestras medidas en general y las medidas del derecho en particular? ¿Cómo podemos saber que lo que estamos haciendo realmente está funcionando?

José: En diferentes ramas del derecho se han desarrollado formas de medir la efectividad. No con el alcance que tienen herramientas más cuantitativas en las ciencias o en la medicina, por ejemplo, pero que ayudan. Por ejemplo, la herramienta que usa Naciones Unidas para medir el progreso en la implementación de los Derechos Humanos. Naciones Unidas desarrolló este modelo de indicadores que son indicadores estructurales, indicadores de progreso e indicadores de resultados. Los indicadores estructurales son aquellos que ponen las bases legales para que se pueda llevar a cabo un impacto positivo. Pueden ser indicadores estructurales con inteligencia artificial, por ejemplo, si existen los mecanismos legales para que los laboratorios deban como obligación hacer escaneados de seguridad en la forma en la que entrenan a la inteligencia artificial. O que la constitución política de un país proteja a las generaciones presentes y futuras de los riesgos existenciales, por ejemplo. Esos son indicadores estructurales.

Después, los indicadores de progreso es qué está haciendo el gobierno para implementar estas leyes. Cuántos supervisores ha contratado el poder ejecutivo de un país X para supervisar los laboratorios de inteligencia artificial. Qué porcentaje del presupuesto público está asignado a reducir los riesgos existenciales o a reducir especialmente el riesgo de inteligencia artificial.

Y, por último, los indicadores de resultados. Esta ley específica ¿logró que los laboratorios le pusieran una pausa completa al desarrollo de nuevas tecnologías de inteligencia artificial? ¿Podríamos decir que a raíz de una ley X todas las órdenes de ADN que se hacen en un país son escaneadas para asegurarse de que sean seguras?

Este tipo de herramientas, solo para darte un ejemplo, permiten hasta cierto punto medir la eficacia de las leyes.

Por supuesto que existen muchas variables, y solo porque existe una pausa en el desarrollo de modelos de inteligencia artificial, no quiere decir que haya sido porque existía la ley.

Hay muchos otros factores que llevan a esa decisión. El nexo de causalidad entre la ley y lo que pasa en la realidad no siempre es claro, pero hay ciertas herramientas que nos ayudan por lo menos a establecer algunos vínculos un poco flojos, pero vínculos, que nos ayudan a medir impacto.

Laura: Especulando, ¿cuáles crees que son los cambios legislativos que sí que vamos a ver en el próximo año o los próximos dos años a medida que estas cuestiones se toman más en serio? ¿Y cuáles son tus frustraciones o las cosas que ves que todavía no se están considerando y que van a tardar más tiempo, pero que si pudieras, te gustaría que se implementaran también ya?

José: Claro, yo creo que en el futuro cercano, probablemente veamos agencias dentro del poder ejecutivo de algunos estados que se enfocan específicamente en inteligencia artificial u ojalá en riesgos existenciales más ampliamente. Probablemente veamos un tratado internacional sobre inteligencia artificial con la creación de un organismo internacional parecido a la agencia de energía nuclear.

Probablemente veamos un proceso legal para obtener licencias para no sólo vender un modelo de inteligencia artificial, pero también para poder entrenar un modelo de cierta forma. Todo eso, probablemente lo veamos en los próximos años. ¿Qué es lo que a mí me frustra un poco algunas veces? Que siempre reaccionamos al riesgo inminente o popular que está de moda. Entonces, hace dos años eran las pandemias, hoy es la inteligencia artificial. Y el cambio climático por supuesto que está en la agenda de muchos gobiernos. Pero lo que a mí me gustaría muchísimo más es ver la implementación de un modelo legislativo para la protección de generaciones presentes y futuras contra los riesgos existenciales en general, que pensemos en cuál son los mecanismos que podemos implementar para que ni siquiera pensemos en llevar cabo cierto tipo de actividades, o ponerle freno en las etapas iniciales a ciertas conductas que puedan llevar a efectos catastróficos. Ese es el tipo de herramientas, de modelos, que a mí me encantaría ver. Pero como el derecho reacciona a lo que la sociedad quiere en un momento determinado, es un poco difícil. Tal vez entre más se sumen alertas como el COVID o como los desarrollos recientes de la inteligencia artificial… tal vez cuanto más se sumen, más nos demos cuenta de que no es una cuestión de tratarlos casuísticamente. Debemos cambiar la forma en que pensamos

¿Cómo puede contribuir el ciudadano de a pie?

[01:04:24] Laura: Hablando entonces de cómo cambiar nuestro pensamiento como sociedad y a lo mejor un poco, pasar a la acción. Si hay una persona que está escuchando esto y está de acuerdo contigo en que sí, tenemos que hacer algo, ¿qué es lo que podemos hacer? Sobre todo el ciudadano de a pie que no tiene formación en derecho Creo que muchas veces tenemos mucha frustración porque lo que el público quiere que se haga no se corresponde siempre con lo que los políticos, por ejemplo, hacen y el único mecanismo de feedback que tienes son las votaciones que a lo mejor son una vez cada cuatro años y hay un montón de cosas que convergen ahí. ¿Cuáles son los mecanismos de influencia que pueden tener las personas para mejorar la situación?

José: Honestamente no he pensado muchísimo en esto y creo que hay personas que realmente te podrían dar una mejor respuesta. Pero una es simplemente, y es lo que ya está pasando con inteligencia artificial por ejemplo, es hacer que esto se vuelva un tema común, que lo llevamos al mainstream, que si vos sabés que esa tecnología podría llevar a la extinción de la humanidad, que le comentés a tus amigos, a tu familia, que es algo peligroso y podría tener consecuencias catastróficas. Y la suma de esas voces, pues eventualmente, a través de elecciones, o a través de otros mecanismos más informales, llega a presionar a las personas que toman las decisiones, tanto en el gobierno como en el sector privado. Pues eso para empezar, yo diría que sería una medida que podemos implementar todas las personas que nos sentimos preocupados por esos temas.

Y sí, como vos comentabas, votar por representantes que tengan esto en su agenda, que estén preocupados al respecto, y no descartar, por supuesto, ser esa persona uno mismo. Es decir, si las personas que están lanzándose a una elección no toman esos riesgos en serio, por qué no lanzarse uno. Si es un buen fit para uno, pues considerarlo.

Laura: Me gusta este mensaje motivacional. Y en concreto, ya que es a lo que tú te dedicas, las personas que tienen formación en derecho, ¿cuáles dirías que son las mejores oportunidades para influir como jurista en los grandes problemas a los que nos enfrentamos, como estos riesgos existenciales? Aparte de que vayan a trabajar a Legal Priorities, ¿qué otras oportunidades hay ahí fuera?

José: Aparte de Legal Priorities, yo diría que una función que los abogados desarrollamos bastante bien es debatir. Yo creo que es algo que tal vez las personas que estudiamos derecho algunas veces no valoramos lo suficiente. Usar nuestras capacidades de argumentación para convencer a los demás de que estos riesgos son importantes. Eso es como lo básico.

Luego existe, por supuesto, aplicar a puestos donde uno pueda tener muchísima influencia, especialmente en cargos públicos, asesorando a legisladores o miembros de congreso, parlamento, en el poder ejecutivo, trabajar para el ministerio de tecnología o el ministerio dentro de cada país que se encargue de ver esos temas. En algunos países como Costa Rica, de donde vengo yo, es la comisión nacional de emergencias, por ejemplo.

También podemos pensar en instituciones y organismos internacionales que trabajan en esos temas. Nacidos Unidos, por ejemplo. Pero también existen organismos específicos que se encargan de la gobernanza de armas nucleares, armas biológicas… Sí, asesorar a las personas que toman decisiones, ya sea en el gobierno o en el sector privado. Y otra vez, por alguna razón, hay una cantidad desproporcionada de abogados que terminan siendo electos a cargos de representación popular. No sé si es algo bueno o malo, pero ya que la sociedad ve a los abogados como potenciales representantes políticos, por qué no también pensar en ser uno de esos representantes.

Temas candentes en el derecho internacional

[01:08:51] Laura: Bueno, y en qué estáis trabajando ahora en Legal Priorities qué proyectos en concreto os mantienen ocupados?

José: Sí, recientemente hemos estado trabajando mucho en asesorar a otras organizaciones sobre la regulación de la inteligencia artificial, diferentes caminos que pueden tomar tanto los legisladores, pero especialmente el poder ejecutivo, para mitigar los riesgos de la inteligencia artificial. Por ejemplo, hemos estado pensando mucho y hemos estado escribiendo un poco sobre cuáles son los caminos que el poder ejecutivo en Estados Unidos puede tomar para reducir los riesgos de la inteligencia artificial en ese país.

Yo he estado trabajando un poco más en la parte internacional, por ser esa mi especialización. Recientemente estuve trabajando en asesorar al grupo que está trabajando en los principios de Maastricht sobre los derechos humanos de las generaciones futuras, que son principios internacionales para que los estados adopten, e incluyendo en esos principios, cuáles son los derechos humanos o los mecanismos relacionados con derechos de las generaciones futuras para la mitigación de riesgos existenciales. Como parte de ese proyecto, hice una investigación de todas las normas internacionales que aplican a la investigación de riesgos existenciales. Y estamos a punto de publicar un artículo con todas esas normas y con pasos que pueden dar los gobiernos para implementar esas normas nacionalmente. Y por último, he estado trabajando recientemente también en escanear cuáles son las propuestas para tratados internacionales relacionados con inteligencia artificial, cuáles son las diferentes propuestas, qué tienen en común, cómo pueden mejorarse. Cuáles son los caminos para que una propuesta tenga efectos positivos y pueda ser llevada a cabo de la forma más exitosa posible.

Laura: Espera, lo segundo que has dicho… ¿A nivel internacional, qué patrones hay en torno a los principios y regulación sobre riesgos existenciales?

José: En ese momento, los patrones son:

Uno, crear una agencia internacional que se encargue de la gobernanza de la inteligencia artificial.

Dos, prohibir el desarrollo de la inteligencia artificial a partir de cierta capacidad para mitigar riesgos existenciales.

Tres, la posible colaboración entre estados para desarrollar modelos de inteligencia artificial que tengan un beneficio muy amplio para para la sociedad en general, mientras que se mitigan los posibles riesgos de estas tecnologías

Laura: Y cuando tenéis estos principios a nivel internacional, por ejemplo, lo que comentabas de los principios de Maastrich, ¿cuán fácil es realmente conseguir este acuerdo y ejecución real a nivel internacional? ¿Todos los países realmente se espera que digan “ah, sí, estamos de acuerdo”? ¿O hay países que puede que digan “pues no, nosotros vamos a hacer lo que nosotros queramos”? ¿Realmente cuán efectivos son los mecanismos de coordinación internacional? ¿Todo el mundo se pone de acuerdo, o unos pocos se ponen de acuerdo y luego confían en que los demás sigan más o menos?

José: en derecho internacional existen dos tipos de normas. Lo que llamamos el hard law, que son instrumentos que especifican obligaciones que los estados tienen que implementar. Y existe el soft law, que es básicamente declaraciones o acuerdos que no establecen obligaciones específicas, pero que establecen más como principios generales o ambiciones que tienen algunos países en general. El soft law es un poco menos efectivo en generar cambio porque no establece caminos específicos u obligaciones, pero las normas que se establecen en esas declaraciones tienden a socializarse lo suficiente dentro de cada país como para que eventualmente, el gobierno tome en cuenta las normas que ahí se establecen, ya sea implementándolas a nivel doméstico o codificándolas en un tratado internacional que se convierte en hard law.

El hard law depende de muchas cosas. En los tratados internacionales, por ejemplo, dependen de muchas cosas para su implementación. Hay un artículo reciente que realiza una investigación empírica bastante buena de tratados internacionales, y determina que los tratados más efectivos son aquellos que, están relacionados con cuestiones económicas, como financiación o como comercio internacional, y aquellos que tienen mecanismos de verificación, donde se especifica una agencia o un organismo internacional que va a implementar, en coordinación con agencias domésticas o nacionales, la implementación del tratado. Si ese mecanismo de verificación e implementación no existe, y si el tratado no es sobre cuestiones económicas, la conclusión del artículo es que tienden a no ser tan efectivos. Muchas excepciones, por supuesto, pero esa es la conclusión general.

Laura: tú eres de Costa Rica originalmente y ahora vives en Buenos Aires. Yo todavía encuentro el argumento de que los países ricos o incluso dentro de los países ricos, pues Elon Musk y las personas que tienen mucho recursos y mucho tiempo libre son los que pueden preocuparse de los riesgos de la inteligencia artificial o de la biología sintética, pero otros países que tienen menos recursos, tienen otras preocupaciones más urgentes. Entonces, hasta qué punto puedes decirles “no, tenemos que hacer sacrificios para pensar en las generaciones futuras” cuando las propias generaciones presentes no lo están pasando muy bien. ¿Cuál es tu respuesta a este problema?

José: yo creo que para empezar, tal vez eso es en parte un mito –que los países del Sur Global o en vías de desarrollo, que las personas en esos países se preocupan menos por las generaciones futuras. Hay un estudio empírico que realizamos nosotros, en concreto Eric Martínez y Christoph Winter, donde se hicieron encuestas en varios países para determinar hasta qué punto las personas de pie apoyan la protección legal de generación futuras. Y vimos que no existe diferencia entre países del norte global y del sur global en ese apoyo. Y los segundo es más una intuición personal, donde yo creo que muchos países en vías de desarrollo tienen sociedades más comunitarias, más enfocadas a la familia, a la sociedad, y menos hacia el individuo o hacia las ganancias personales. Y parte de ese sentimiento comunitario es pensar en los beneficios, no sólo para nuestra familia específica, sino para la comunidad en general, y no sólo para los miembros de nuestra familia que viven ahora, sino para los sobrinos o los nietos o los bisnietos y tataranietos que vengan a futuro, que van a ser parte de esa familia amplia que para nosotros, por lo menos en Latinoamérica (y mi intuición es que en otras culturas del Sur Global es bastante parecido), son parte de la familia amplia, y que merecen tanta protección como nosotros.

Entonces, yo creo que para nosotros es más intuitiva la protección de generaciones futuras que para los Elon Musk y para los graduados de Oxford. Que sienten mucha empatía por las generaciones futuras también, por supuesto, pero que requieren tal vez un modelo teórico o filosófico para tener ese sentimiento de empatía. Que yo creo, intuitivamente, que tal vez nosotros no necesitamos.

Laura: Totalmente. Comparto esa intuición. Gracias por expresarla tan bien. Siendo ese el caso, ¿cómo podemos incluir a estos países en la conversación global? Porque precisamente por este tipo de mitos, tengo la sensación de que cuando hablamos de eso, de regulación de inteligencia artificial, de biología sintética, de cualquier cosa que son riesgos existenciales que afectan a todo el mundo… al final realmente son sólo unos pocos países los que están invitados a esa conversación. ¿Compartes esta impresión? Y si es así, ¿está bien, porque al fin y al cabo, no tiene que contribuir Argentina nada a la conversación sobre inteligencia artificial o realmente es un problema? ¿Y cómo podemos luchar contra este problema?

José: No estoy seguro de si es un problema o no en este momento porque todavía no se han comenzado las negociaciones fuertes sobre inteligencia artificial.

Lo primero es que por supuesto que esos problemas son globales y nos incumben a todos. Por supuesto, cada país tiene sus problemas nacionales, y por supuesto, cada gobierno tiene el deber de velar por los intereses y los derechos de sus ciudadanos y las personas bajo su jurisdicción. Pero hay problemas que son más grandes que un país, o que una región, o que un gobierno en particular, y este es uno de esos. La reducción de riesgos existenciales es algo que nos conviene a todos. Si hay una pandemia que nos puede matar a todos, mata tanto a los de Estados Unidos, Canadá y el Reino Unido como a los de Zimbabue, Costa Rica y Argentina. Son problemas que nos incumben a todos.

¿Cómo hacemos para que países en vías de desarrollo se involucren más en esos temas y presionen más a otros países? Uno es entender que esos problemas nos afectan a todos. Pero además que nos afectan todavía más desproporcionadamente a nosotros, y a generaciones futuras en países del Sur Global, que a generaciones futuras del Norte Global. Porque en el futuro van a existir más personas que van a vivir en lo que actualmente son países en vías de desarrollo que personas que van a vivir en el Norte Global. Así que nos incumbe especialmente a nosotros participar en esos temas.

Y dos, es que los cambios más importantes en riesgos existenciales o riesgos catastróficos se han dado por la presión del Sur Global. Por ejemplo, en cambio climático, si no hubiera sido por la participación enfática de países en vías de desarrollo, probablemente Estados Unidos u otros países que emiten muchísimo más no se hubieran sentido tan presionados para llegar al acuerdo de París, por ejemplo. Esa presión es sumamente importante en círculos internacionales. No hay que restar importancia al rol que pueden tener países pequeños como Costa Rica del que vengo yo, donde fue (y aquí, tal vez voy a ser un poco más patriótico de lo que en realidad soy), fue una costarricense la que llevó a cabo la negociación del tratado de prohibición de las armas nucleares. Fue una costarricense la que lideró la negociación sobre el acuerdo de París. Fue un costarricense el que lideró las negociaciones sobre la prohibición de armas convencionales. Yo conozco estos ejemplos más porque es el país del que soy, pero así hay muchos ejemplos más de otras personas en países “pequeños”, entre comillas, que han tenido un aporte gigante a la investigación de riesgos existenciales. Entonces nos incumbe a todos, y todos podemos hacer algo al respecto.

Laura: Sí. Además, aquí está el argumento global de que tenemos que incluir a los países en la conversación y el argumento personal de que hay tantísimo talento y tantísimas personas con valores increíbles y con talento increíble que pueden estar contribuyendo a estos problemas. Y se trata de que todos trabajemos juntos y nos involucremos para resolver estos problemas. Al final, si decides que solamente cuentan los estadounidenses y los europeos, pues hay muchísimos puntos de vista y muchísimas posibles soluciones que estás ignorando completamente.

José: Por supuesto, estos son problemas globales que deben hablarse en todos los idiomas, no solo en inglés.

Laura: Exacto y ¿eres optimista respecto a este tema? ¿Que esto esté cambiando? Porque yo todavía, incluso en España, la cobertura que se da de la inteligencia artificial no tiene ni punto de comparación con la que se da en Estados Unidos o en Reino Unido. Parece que casi se asume este sentimiento de indefensión o de humildad de “bueno, este problema, nosotros no tenemos nada que contribuir”. Y es muy triste. Pero no sé si tú también estás viendo esto, si estás viendo algún cambio. ¿Cómo podemos hacer (supongo que a través de este tipo de conversaciones) para empoderar a las personas y que vean que ellos también tienen que hablar, porque también les corresponde a ellos tener opiniones?

José: Sí, yo tal vez el patrón que he visto es que la gente está más consciente de los riesgos que siguen siendo importantes, pero de menos impacto, como los deep fakes, o que los estudiantes van a hacer trampa en las tareas. Eso me parece que ya es mainstream, ya todo el mundo lo sabe, ya todo el mundo lo habla desde el político hasta la persona de a pie. Todo el mundo está más o menos consciente de que se viene algo grande y de que la sociedad está cambiando. Pero sí hace falta que se dé ese salto a que esto va un poquito más allá y puede representar un problema muchísimo más grande.

Yo soy optimista porque, aunque la iniciativa no sea de personas del Sur Global, yo creo que existe un momento muy importante para la regulación de estos temas. Y yo creo que se va a dar, en los próximos meses o años, se va a dar.

Laura: es muy motivante escuchar lo que decías antes de que muchas veces el cambio ha venido por la presión de los países en vías de desarrollo que sufren la mayor parte de las consecuencias y tienen la menor parte del poder para realmente hacer algo al respecto. Pero creo que es bueno saber que sí que tienen ese poder y que el poder es mecanismos de influencia para que Estados Unidos o países más desarrollados reaccionen y tomen medidas.

Y con esta nota un poco más positiva creo que es un buen momento para dar por terminado el episodio de hoy. Muchísimas gracias por tu tiempo José, y enhorabuena por el trabajo que haces y hacéis en Legal Priorities. Hasta la próxima.

José: Muchísimas gracias, Laura.