Llamamiento a un tratado internacional sobre la IA: una carta abierta

Hacemos un llamamiento a los gobiernos de todo el mundo para que respondan de forma activa a los riesgos potencialmente catastróficos que plantean para la humanidad los sistemas avanzados de inteligencia artificial (IA), entre los que se incluyen las amenazas derivadas del uso indebido, los riesgos sistémicos y la pérdida de control. Abogamos por el desarrollo y la ratificación de un tratado internacional sobre la IA para reducir estos riesgos y garantizar que todos puedan beneficiarse de la IA.

Destacados expertos, entre ellos Geoffrey Hinton, Yoshua Bengio y los directores generales de OpenAI y Google DeepMind, han manifestado públicamente su preocupación por los riesgos catastróficos que plantea la IA y han pedido que la reducción de este riesgo se considere una prioridad global. Del mismo modo, expertos en IA han pedido una pausa en el avance de las capacidades de la IA. En los últimos meses, los líderes mundiales han llamado cada vez más la atención sobre la necesidad de garantizar que la IA se desarrolle de forma segura.⁠⁠1 La mitad de los investigadores en IA estiman que hay más de un 10 % de probabilidades de que la IA pueda provocar la extinción humana o una limitación igualmente catastrófica del potencial de la humanidad. Consideramos que la gravedad de estos riesgos merece una atención inmediata y seria.

Creemos que el objetivo central de un tratado internacional sobre la IA debería ser evitar la escalada descontrolada de las capacidades de los sistemas de IA, al tiempo que se preservan sus beneficios. Para dicho tratado, sugerimos los siguientes componentes fundamentales:

• Umbrales globales de poder de cómputo: Umbrales respetados internacionalmente sobre la cantidad de poder de cómputo utilizada para entrenar cualquier modelo de IA, con un procedimiento para reducirlos con el tiempo a fin de tener en cuenta las mejoras algorítmicas.
• CERN para la seguridad de la IA: Un laboratorio colaborativo de seguridad de la IA similar al CERN para aunar recursos, pericia y conocimientos al servicio de la seguridad de la IA, y que actúe como plataforma cooperativa para el desarrollo seguro de la IA y la investigación en seguridad.
• API seguras: Permitir el acceso a las API de modelos de IA seguros, manteniendo sus capacidades dentro de los límites de seguridad estimados, con el fin de reducir los incentivos para una carrera peligrosa en el desarrollo de la IA.
• Comisión de Cumplimiento: Una comisión internacional encargada de supervisar el cumplimiento del tratado.

Es fundamental destacar que la eficacia y el impacto de dicho tratado dependen de un amplio consenso en toda la comunidad internacional. En su conjunto, estas medidas promueven una exploración más segura del inmenso potencial de la IA al fomentar un enfoque cooperativo y centrado en la seguridad en la investigación y el desarrollo de la IA.

Un tratado de esta naturaleza sobre la IA tiene el potencial de desempeñar un papel similar al del Organismo Internacional de Energía Atómica (OIEA), que se creó para gestionar los riesgos nucleares y promover los usos pacíficos de la energía nuclear. Del mismo modo, un tratado sobre la IA no solo podría reducir estos riesgos, sino también garantizar que sus beneficios sean accesibles para todos. El potencial de la IA va mucho más allá de nuestra comprensión actual y debe considerarse un bien común. Es esencial que este recurso extraordinario beneficie a toda la humanidad.

La humanidad ha demostrado una notable unidad frente a las amenazas globales, como lo evidencia la cooperación internacional en materia de no proliferación nuclear. Creemos que los riesgos que plantean los sistemas de IA merecen, como mínimo, la misma precaución y coordinación.

Instamos a los miembros de la comunidad internacional a participar activamente en los debates en torno a un tratado sobre la IA y a esforzarse por implementar un conjunto sólido de normativas internacionales. Abogamos por la formación de un grupo de trabajo, con amplio respaldo internacional, para elaborar el anteproyecto de dicho tratado. Esta responsabilidad no recae únicamente sobre los hombros de unos pocos, sino sobre la fuerza colectiva de la comunidad global. Nuestro futuro pende de un hilo. Debemos actuar ahora para garantizar que la IA se desarrolle de forma segura, responsable y en beneficio de toda la humanidad.

Más información citada en la carta

• Andrea Miotti (2023) We can prevent AI disaster like we prevented nuclear catastrophe, TIME, 22 de septiembre (Más detalles.)
• Lewis Ho et al. (2023) International institutions for advanced AI, 10 de julio
• Matthijs M. Maas & José Jaime Villalobos (2023) International AI institutions: a literature review of models, examples, and proposals, 1, Institute for Law & AI
• Gary Marcus (2017) Artificial intelligence is stuck. Here’s how to move it forward, The New York Times, 29 de julio
• Andrea Miotti & Akash Wasil (2023) An international treaty to implement a global compute cap for advanced artificial intelligence, 30 de octubre
• Tolga Bilge & others (2023) Treaty on artificial intelligence safety and cooperation (TAISC),

Firmantes

La carta registra 430 firmantes confirmados según la captura archivada utilizada para esta importación. A continuación se presenta la lista completa, en el orden mostrado en la página original.

• Yoshua Bengio — Catedrático / Director científico, Universidad de Montreal / Mila, Premio Turing.
• Bart Selman — Catedrático, Universidad de Cornell; expresidente de la Asociación para el Avance de la Inteligencia Artificial (AAAI).
• Max Tegmark — Catedrático, Future of Life Institute; Centro para Cerebros, Mentes y Máquinas del MIT.
• Gary Marcus — Director general, Centro para el Avance de la Inteligencia Artificial Fiable.
• Yi Zeng — Catedrático de la Academia China de Ciencias; director fundador del Centro de IA a largo plazo; miembro de la Junta del Comité Nacional de Gobernanza de la IA de Próxima Generación en China; miembro del Grupo Ad Hoc de Expertos de la UNESCO sobre ética de la IA; miembro del Grupo de Expertos de la OMS sobre ética y gobernanza de la IA para la Salud; director fundador de la Red de Cooperación sobre IA para los Objetivos de Desarrollo Sostenible; director fundador de la Red de IA para la Defensa y el Control de Armas; recientemente informó al Consejo de Seguridad de la ONU sobre los riesgos asociados a la IA.
• Victoria Krakovna — Investigadora científica sénior en Google DeepMind; cofundadora del Future of Life Institute.
• Nell Watson — Presidenta de la Oficina Europea de IA Responsable; miembro colegiado del BCS, el Instituto Colegiado de Tecnologías de la Información (FBCS); miembro de la Institución de Analistas y Programadores (FIAP); miembro del Instituto para la Innovación y el Intercambio de Conocimientos (FIKE); miembro de la Real Sociedad de las Artes (FRSA). Miembro de la Real Sociedad Estadística (FRSS), miembro del Instituto Colegiado de Gestión (FCMI), miembro de la Sociedad Linneana (FLS). Tecnólogo Ético Certificado en Tecnologías Emergentes (CEET). Miembro sénior del Atlantic Council. Miembro sénior del IEEE (SMIEEE).
• Geoffrey Odlum — Presidente de Odlum Global Strategies; diplomático sénior estadounidense jubilado; director del Consejo de Seguridad Nacional de la Casa Blanca (Asuntos del G-8, 1998); director de la Oficina de Asuntos de Irak del Departamento de Estado de EE. UU. (2016); director de la Oficina de Terrorismo con Armas de Destrucción Masiva del Departamento de Estado de EE. UU. (2013-2016); asesor sénior de la Oficina de Diplomacia Energética del Departamento de Estado de EE. UU. (2017).
• Jaan Tallinn — Cofundador de Skype, Centre for the Study of Existential Risk, Future of Life Institute.
• Claire Boucher — Artista.
• Huw Price — Profesor emérito distinguido de la Universidad de Bonn, catedrático emérito Bertrand Russell y miembro emérito del Trinity College de Cambridge. Cofundador del Centre for the Study of Existential Risk. Director académico del Leverhulme Center for the Future of Intelligence (2016–21).
• Luke Muehlhauser — Responsable sénior de programas de Open Philanthropy; miembro del consejo de administración de Anthropic.
• Daniel Dennett — Catedrático emérito de la Universidad de Tufts, ganador del Premio Erasmus (Países Bajos) y miembro de la Academia Americana de las Artes y las Ciencias.
• Priyamvada Natarajan — Catedrática Joseph S. y Sofia S. Fruton de Astronomía y Física, Universidad de Yale; miembro de la Academia Americana de las Artes y las Ciencias; de la Sociedad Americana de Física; becaria Guggenheim.
• Holger Hoos — Catedrático Alexander von Humboldt de Inteligencia Artificial, Universidad RWTH de Aquisgrán; miembro de la Universidad de Leiden, CLAIRE, ACM, AAAI y EurAI; presidente del Consejo de CLAIRE; vicepresidente de EurAI.
• Felicity Reddel — Analista de gobernanza de la IA, The Future Society.
• Toby Ord — Investigador sénior, Universidad de Oxford.
• Anthony Aguirre — Director ejecutivo del Future of Life Institute; catedrático Faggin de Física de la Información, Universidad de California en Santa Cruz; cofundador de Metaculus.
• Andrew Critch — Director general e investigador científico de Encultured AI y la Universidad de California en Berkeley.
• Daniel Ziegler — Investigador en aprendizaje automático en el Alignment Research Center, evaluaciones; antiguo ingeniero de investigación en OpenAI.
• Ramana Kumar — Independiente, antiguo investigador científico sénior en DeepMind.
• Mary-Anne Williams — Directora del Laboratorio de IA Empresarial de la UNSW, de la UNSW y de la Universidad de Stanford; miembro de la AAAI, la ATSE y la ACS.
• The Anh Han — Catedrático de ciencias de la computación y director del Centro de Innovación Digital de la Universidad de Teesside.
• Steve Newman — Cofundador de Writely (Google Docs), fundador de Scalyr, independiente.
• Jeffrey Ladish — Director ejecutivo de Palisade Research.
• Paul Nemitz — Catedrático y asesor principal del Colegio de Europa y de la Comisión Europea.
• Balkan Devlen — Director del Programa Transatlántico del Instituto Macdonald-Laurier.
• Connor Leahy — Director general de Conjecture.
• Tristan Harris — Director ejecutivo, Center for Humane Technology.
• Matthijs Maas — Investigador sénior, IA y Derecho, Legal Priorities Project | CSER, Universidad de Cambridge.
• Alexis Wellwood — Profesor asociado de Filosofía, Lingüística y Psicología, Universidad del Sur de California.
• Robert Braun — Investigador sénior, Instituto de Estudios Avanzados de Viena.
• Marius Hobbhahn — Director general, Apollo Research.
• Katja Grace — Líder de investigación, AI Impacts.
• Paul Salmon — Catedrático de Factores Humanos, Centro de Factores Humanos y Sistemas Sociotécnicos.
• Cornelius Hacking — Diplomático (jubilado).
• Malo Bourgon — Director general, Machine Intelligence Research Institute.
• Mark Brakel — Director de Políticas, Future of Life Institute (FLI).
• Marta Krzeminska — Jefa de Operaciones, Arkose.
• Raúl Monroy Borja — Catedrático de Informática en el Tecnológico de Monterrey, expresidente de la Sociedad Mexicana de Inteligencia Artificial; exsecretario electo de la Academia Mexicana de Informática.
• Alfonso Hing Wan Ngan — Catedrático de Ciencia e Ingeniería de Materiales, Universidad de Hong Kong; miembro internacional de la Real Academia de Ingeniería.
• David Manheim — Director de Investigación y Políticas, Association for Long Term Existence and Resilience; profesor visitante en el Technion - Instituto Tecnológico de Israel.
• Giuseppe De Giacomo — Catedrático de ciencias de la computación, Universidad de Oxford; miembro de la AAAI, miembro de la ACM, miembro de la EurAI, miembro de la ERA AdG Pi.
• Yves Moreau — Catedrático de la Universidad de Lovaina, miembro de la Sociedad Internacional de Biología Computacional.
• Denis Poussart — Laboratorio de Visión Artificial y Sistemas, científico emérito (jubilado), Universidad Laval, Canadá, miembro de la Academia Canadiense de Ingeniería.
• Tim Holmes — Artista, Body Psalms; defensor del cuerpo humano, primer artista estadounidense en exponer en el Museo del Hermitage.
• Ryan Kidd — Codirector, ML Alignment & Theory Scholars (MATS).
• Joseph Miller — Ingeniero de investigación, FAR AI.
• Sören Mindermann — Investigador posdoctoral, Mila, Universidad de Oxford.
• Robi Rahman — Científico de datos, Epoch AI y Universidad de Stanford.
• Fredrik Allenmark — Investigador, Universidad Ludwig Maximilian de Múnich.
• Xiaohu Zhu — Fundador, Centro para una IA Segura.
• Azizi Ab Aziz — Profesor asociado (Inteligencia Artificial Social), Universiti Utara Malaysia.
• Ethne Swartz — Catedrática, Universidad Estatal de Montclair.
• Helena Matute — Catedrática, Universidad de Deusto, España.
• Max Reddel — Investigador | IA Avanzada, Centro Internacional para las Generaciones Futuras.
• Jaak Tepandi — Catedrático emérito de Sistemas Basados en el Conocimiento, Universidad Tecnológica de Tallin.
• Lyantoniette Chua — Fundadora y coordinadora global de The Ambit.
• Kevin Esvelt — Profesor asociado, MIT; cofundador de SecureBio y de la Fundación SecureDNA.
• Mario Gibney — Cofundador y asesor, AIGS Canadá.
• Molly Hickman — Instituto de Pronosticación.
• Richard Guy Compton — Catedrático emérito de Química, Universidad de Oxford, MAE.
• Richard Dazeley — Catedrático de Inteligencia Artificial y Aprendizaje Automático, Universidad de Deakin; cofundador del Colectivo Australiano de Agentes Autónomos Responsables y miembro sénior de la Comunidad de Seguridad de la IA.
• Robert Brandenberger — Catedrático, Universidad McGill, miembro de la Real Sociedad Canadiense de Ciencias (FRSC), catedrático de investigación de Canadá y miembro de la Sociedad Americana de Física (APS).
• Moshe Vardi — Catedrático de la Universidad Rice y miembro de la Academia Nacional de Ciencias.
• Richard Middleton — Catedrático emérito de la Universidad de Newcastle (Australia), miembro del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) y de la Federación Internacional de Automoción (FIFAC).
• Linda Linsefors — Coordinadora de investigación, AI Safety Camp, doctora.
• Albert R. Efimov — Vicepresidente de Investigación y director de Ingeniería Cibernética, Sberbank/MISIS, doctor en Filosofía de la seguridad de la IA.
• William Gunn — Director de Comunicación, no alineada, cofundador del Reproducibility Project: Cancer Biology.
• Mike Brooks — Psicólogo, autor de: Tech Generation: Raising Balanced Kids in a Hyper-Connected World.
• Jonathan D. Moreno — Catedrático David y Lyn Silfen, Universidad de Pensilvania, Academia Nacional de Medicina.
• Geoffrey Miller — Profesor asociado de Psicología, Universidad de Nuevo México; miembro de la Asociación para la Ciencia Psicológica (APS).
• Paul Sas — Fundador de Motivation Engineers y BayCHI; doctor en Psicología Experimental por la Universidad de Stanford.
• Sra. Shirley — Consultora de derechos humanos y asesora política, Agency for Humanity; defensora de la IA.
• David Wood — Presidente de London Futurists; pionero de los sectores de la informática móvil y los teléfonos inteligentes.
• Zhou Xin — Redactor jefe ejecutivo de The Yuan, the-yuan.com, Mr.
• Daniel Hulme — Director de IA, WPP; doctor en Inteligencia Artificial.
• Olle Häggström — Catedrático de Estadística Matemática, Universidad Tecnológica de Chalmers; miembro de la Real Academia Sueca de Ciencias.
• Osinakachi Akuma Kalu — Fundador y presidente del consejo de administración de TAFFD’s; autor galardonado con el Fearism Award y conferenciante.
• Kim Solez — Catedrático de Patología de la Universidad de Alberta; fundador de la Clasificación de Banff para la patología de trasplantes. https://en.m.wikipedia.org/wiki/Kim_Solez.
• James Norris — Fundador y director general de Upgradable, cofundador de Altruismo Eficaz Global.
• Christopher DiCarlo — Investigador sénior y especialista en ética de Convergence Analysis, Humanista del Año de Canadá, Mejor conferenciante de Ontario y autor de éxitos de ventas.
• Sebastián Villasante — Catedrático e investigador, Universidad de Santiago de Compostela; investigador distinguido: «Transformaciones, naturaleza y personas».
• Prabhakara Choudary — Catedrático emérito, Universidad de California; miembro de la Real Sociedad de Química, de la AAAS, de la Academia de Ciencias de Washington y de la Fundación Rockefeller.
• Dušan D. Nešić — Director de Operaciones, PIBBSS / Profesor de Economía y Finanzas, PIBBSS/Rotary/EA/AI Safety Serbia, imparte clases en la Universidad de Finanzas y Economía de Shanghái y en la EmLyon Business School, presidente de un club rotario en Serbia, representante distrital de Rotaract en la República Popular China, fundador de AI Safety Serbia.
• José Manuel Muñoz Vela — Abogado, profesor e investigador, España; doctor en Derecho (Derecho de la inteligencia artificial).
• Ian Watson — Catedrático de la Universidad de Auckland, artículo destacado en la IJCAI.
• David Haussler — Catedrático, director científico del Instituto de Genómica de la Universidad de California en Santa Cruz, miembro de la NAS y la NAE de EE. UU., y de la Academia Americana de las Artes y las Ciencias. Premios: Allen Newell, Curt Stern, Dan David.
• Luigia Carlucci Aiello — Jubilada, profesora de la Universidad «La Sapienza» de Roma, miembro de la AAAI y la EURAI, miembro de la EASA.
• Jesús A. Mármol — Director de Roboética Consultoria; Doctor en Filosofía por la Universidad Internacional de Cambridge.
• Paul Sas — Fundador de Motivation Engineers; doctor en Economía Conductual por la Universidad de Stanford.
• Rufo Guerreschi — Presidente de la Trustless Computing Association.
• Vitezslav Kala — Profesor asociado de Matemáticas, Universidad Carolina, Praga.
• Manuel Sánchez Miranda — Investigador postdoctoral del CTEI, Instituto Universitario de Altos Estudios Internacionales y de Desarrollo de Ginebra.
• Michael Symonds — Catedrático emérito, Facultad de Medicina, Universidad de Nottingham.
• Marco Landi — Presidente del Institut Europia.
• Stephen Majercik — Catedrático emérito del Bowdoin College.
• Joshua Reeves — Profesor asociado de la Universidad Estatal de Oregón.
• John Wettlaufer — Catedrático, Universidad de Yale y NORDITA.
• João Emílio de Almeida — Catedrático, ISTEC Oporto / CITECA / LIACC.
• Arul Shankar — Profesor asociado, Universidad de Toronto.
• Simon Goldstein — Profesor asociado de Filosofía, Universidad Católica de Australia.
• Joe Collman — Responsable técnico, ML Alignment & Theory Scholars (MATS).
• Kayleen Manwaring — Investigadora sénior, UNSW.
• David Rein — Investigador, NYU.
• Ryan Greenblatt — Miembro del personal técnico, Redwood Research.
• Ernest Davis — Catedrático de ciencias de la computación, Universidad de Nueva York.
• Dwight Smith — Analista financiero sénior.
• Andreas Stuhlmüller — Director general, Elicit.
• James P. Crutchfield — Catedrático distinguido de Física, Universidad de California, Davis.
• Benjamin Rosman — Catedrático de ciencias de la computación (aprendizaje automático y robótica), Universidad de Witwatersrand.
• Shumiao Ouyang — Profesor asociado de Finanzas, Saïd Business School, Universidad de Oxford.
• Paul Henman — Catedrático de Sociología Digital y Política Social, Universidad de Queensland.
• Odd Erik Gundersen — Director de Inteligencia Artificial y profesor asociado, Aneo AS/NTNU.
• Nicole Nohemi Mauthe — Coordinadora de Investigación y Comunidad, centro de estudios estadounidense.
• Noor Awad — Investigadora posdoctoral, Universidad de Friburgo.
• Kristian Rönn — Director general y cofundador, Normative.
• Enrikko Sibayan — Estudiante, Universidad Ateneo de Manila.
• Maira Elahi — Investigadora, Oxford Biosecurity Group.
• Jelle Donders — Fundador del Eindhoven AI Safety Team.
• Rick Vitale — Catedrático emérito, Universidad de Connecticut.
• Lucy Farnik — Investigadora, Universidad de Bristol.
• Risto Uuk — Líder de investigación de la UE, Future of Life Institute.
• Engelbert Mephu Nguifo — Catedrático, Universidad de Clermont Auvergne.
• Charles Anderson — Catedrático y consultor, Universidad Estatal de Colorado / Pattern Exploration LLC.
• Tara Behrend — Catedrática John R. Butler II, Universidad Estatal de Míchigan.
• Scott Eastman — Analista profesional de riesgos catastróficos y existenciales, Global Artificial Intelligence Alliance (GAIA).
• Victoria Ustimenko — Directora general y fundadora, PRETO BUSINESS Corp.
• Christian Omlin — Catedrático de inteligencia artificial, Universidad de Agder, Noruega.
• Lydia Shelly — Presidenta, Consejo de Libertades Civiles de Nueva Gales del Sur.
• Lyse Langlois — Catedrática y directora ejecutiva del Observatorio de Impacto Social de la IA y la Tecnología Digital (OBVIA), Universidad Laval.
• Joachim Diederich — Catedrático honorario de la Universidad de Queensland.
• Simon Steshin — Investigador en aprendizaje automático.
• Steve Omohundro — Director general de Beneficial AI Research.
• Juan Carlos Miguel — Catedrático de la Universidad del País Vasco.
• Ansgar Koene — Responsable global de ética de la IA y regulación en EY.
• Esperanza Roman Mendoza — Catedrática de la Universidad George Mason.
• Robert — Presidente del Movimiento Federalista Mundial / Instituto de Política Gubernamental: Grupo de Trabajo Transnacional sobre IA; One World Trust.
• Cyrus Hodes — Copresidente del proyecto SAFE, Alianza Global sobre IA; cofundador de AIGC Chain; cofundador de AI Initiative; cofundador de Stability AI; Experto en OECD.aui y GPAI;.
• Vahid Nikoofard — Catedrático, UERJ.
• Pablo Garaizar — Profesor asociado, Universidad de Deusto.
• Adam Gleave — Fundador y director general, FAR AI.
• Adam Marblestone — Director general de Convergent Research.
• Courtney M. Peterson — Profesora adjunta, Universidad de Alabama en Birmingham.
• Otto Barten — Director, Observatorio de Riesgos Existenciales.
• Christopher DiCarlo — Investigador sénior y especialista en ética, Convergence Analysis; Humanista Canadiense del Año (2008), Mejor conferenciante de Ontario, autor de éxitos de ventas, defensor del pensamiento crítico.
• Paul Mikov — Director general, Bonsai Pax Corporation.
• Emily Dardaman — Embajadora, Inteligencia Colectiva Aumentada, BCG.
• Ozlem Bishop — Directora de Información, RPC; distinciones presidenciales de la HPU; invitada al CERN; becaria del Instituto Laszlo «New Paradigm»; distinciones extraacadémicas en artes y deportes.
• James Gealy — Director de Operaciones y director de la gobernanza de la IA en EE. UU., SaferAI.
• Michael Jelly — Director general de Magicflow, director general de Omnipilot.
• Charbel-Raphael.
• Eddie Smolyansky — Cofundador de Connected Papers; anteriormente, director de investigación en IA en Alibaba Israel.
• Simon Longstaff — Director ejecutivo de The Ethics Centre; miembro de la Real Sociedad de Nueva Gales del Sur; miembro del Instituto Australiano de Política de Riesgos, miembro de CPA Australia, profesor adjunto de la AGSM de la UNSW, oficial de la Orden de Australia (AO).
• Andrea Miotti — Director de Estrategia y Gobernanza de Conjecture.
• Joep Meindertsma — Director general de Ontola.io, fundador de PauseAI.
• Ruben Dieleman — Activista del Observatorio de Riesgos Existenciales.
• Chad Goldthwaite — Fundador, director general, «soñador y hacedor» en American Inventions; apasionado y autodidacta incansable.
• Roman Yampolskiy — Catedrático de la Universidad de Louisville, catedrático distinguido.
• Arthur Breitman — Creador de Tezos.
• Lukas Finnveden — Analista de investigación, Open Philanthropy.
• Connor Axiotes — Responsable de comunicaciones estratégicas, Conjecture.
• Shota Arimichi — Ingeniero, Conexio.
• Manuel Bimich — Miembro del consejo de administración de EffiSciences.
• Félix Pharand-Deschênes — Director de Globaïa.
• Arianna Marchionne — Derecho e IA | Asistente de investigación en Future of Free Speech.
• Ton Veldhuis — Consultor de estrategia de la IA.
• Caroline Jeanmaire — Doctoranda en Políticas Públicas, Universidad de Oxford; incluida en la lista «Brilliant Women in AI Ethics».
• Nate Soares — Presidente, Machine Intelligence Research Institute.
• Lexley Maree Villasis — Estudiante e investigadora independiente en seguridad de la IA y gobernanza de la IA, Universidad de Filipinas.
• Fin Moorhouse — Investigador, Longview Philanthropy.
• Marek Oziewicz — Catedrático Henry de Literatura Infantil y Juvenil, Universidad de Minnesota.
• Greg Taylor — Profesor adjunto, Universidad de Nueva Gales del Sur, Oficial de la Orden de Australia (AO).
• Jonathan Cefalu — Cofundador de Preamble, Inc., primer descubridor de la vulnerabilidad de «Prompt Injection» en los modelos de lenguaje grandes (LLM).
• Wyatt Tessari L’Allié — Fundador y director ejecutivo, AI Governance & Safety Canada.
• Peter S. Park — Director de StakeOut.AI; becario posdoctoral en seguridad existencial de la IA en el MIT.
• Thomas Larsen — Director ejecutivo, Center for AI Policy.
• Aidan O’Gara — Investigador, Center for AI Safety.
• Jonathan Symons — Profesor titular de Política y Relaciones Internacionales, Universidad de Macquarie.
• Justin Bullock — Investigador sénior; profesor asociado afiliado, Análisis de Convergencia; Universidad de Washington.
• Jacob Tsimerman — Catedrático de Matemáticas, Universidad de Toronto.
• Gregory Randall — Profesor, Universidad de la República, Uruguay.
• Cédric Pradalier — Profesor asociado de robótica, visión artificial y aprendizaje automático, Instituto Tecnológico de Georgia.
• Domenico Talia — Catedrático de Ingeniería Informática, Universidad de Calabria.
• Simon Friederich — Profesor asociado de Filosofía de la Ciencia, Universidad de Groninga.
• Siméon Campos — Emprendedor investigador, cofundador de SaferAI y EffiSciences.
• Florian Mai — Investigador postdoctoral, KU Leuven.
• Charbel-Raphael Segerie — Responsable de IA, profesor de la ENS de París-Saclay, EffiSciences.
• Esben Kran — Codirector, Apart Research.
• Anette Molvik Nilsen — Coordinadora de proyectos, AI Safety North.
• Norman K Swazo — Catedrático de Filosofía; director de la Oficina de Investigación, North South University.
• Benjamin Avanzi — Catedrático de Estudios Actuariales, Universidad de Melbourne; doctor; miembro del CERA; actuario de la SAA; miembro del GAICD.
• Roman Hauksson — Investigador de grado, bajo la supervisión de Kellin Pelrine de la Universidad McGill; becario del National Merit Scholar.
• Ulises Cortés — Catedrático de la Universidad Politécnica de Cataluña; Doctor Honoris Causa por la Universidad de Girona.
• Pieter Louw — Contable en prácticas en Moore Pretoria; sin datos.
• Justyna Przeworek — Ciudadana comprometida; máster en Neurociencia Integrativa por la Universidad de Edimburgo.
• Emerson Spartz — Fundador de Nonlinear, autor de éxitos de ventas del New York Times, incluido en la lista «30 Under 30» de Forbes.
• Eugenio García — Diplomático tecnológico, Consulado de Brasil en San Francisco (California), doctor en Relaciones Internacionales, experto en gobernanza de la IA.
• Briar Prestidge — Director general y fundador de Prestidge Group, asesor de la Interpol.
• Nicky Dries — Catedrático de Comportamiento Organizacional en la KU Leuven (Bélgica), fundador de Future of Work K.
• Cornelis Dirk Haupt — Desarrolladora full-stack, máster en Neurociencia, licenciada en Sistemas Cognitivos.
• Emma Jonson — Científica en CarbonCloud, doctora.
• Sawyer Bernath — Director ejecutivo de la Berkeley Existential Risk Initiative, miembro del consejo de administración de FAR AI y de SecureBio.
• Nathan Helm-Burger — Investigador en alineación de la IA, máster.
• Soroush Pour — Investigador en seguridad de la IA y director general de Harmony Intelligence, becario Robertson.
• Peter Hase — Doctorando en la UNC Chapel Hill, becario de doctorado de Google.
• Kay Tarrant — Gerente, máster en Educación, Licenciada en Ciencias Aplicadas.
• Paul Bouchard — director general y empresario en el sector de los productos de madera, liberal clásico al 60 % y liberal social al 40 %, me he labrado mi propio camino, pago mis impuestos, la luz sobre las tinieblas.
• Jeffrey Scott — consultor, MA.
• Pieterjan Muller — Emprendedor de software e IA, ponente principal.
• Tony Carden — Investigador en seguridad de la IA, doctor.
• Joaquín Alejandro Gamarra Nieto — Profesor de inglés, sin afiliación, ha solicitado un puesto de trabajo en IA.
• Joaquín Alejandro Gamarra Nieto — Profesor de inglés, Universidad César Vallejo, ha solicitado un puesto de trabajo en IA.
• Akash Wasil — Gobernanza de la IA y políticas, investigador independiente.
• Tolga Bilge — Superpronosticación, Good Judgment Inc.
• Eli Lifland — Cofundador, Samotsvety Forecasting.
• Jonathan Mann — Arquitecto de ciberseguridad; superpronosticación, Samotsvety Forecasting.
• Visa Siekkinen — Profesor, Universidad de Ciencias Aplicadas de Vaasa.
• Alexander Lyzhov — Doctorando en ciencias de la computación, Universidad de Nueva York.
• Brendan McCane — Catedrático, Universidad de Otago.
• Mikhail Samin — Director general, audd.io; fundador de moratorium.ai.
• Canyu Chen — Doctorando, Instituto Tecnológico de Illinois.
• Liron Shapira — Ciudadano comprometido.
• Paloma McClain — Artista.
• Michaël Trazzi — Ciudadano comprometido.
• Yanni Kyriacos — Promotor del movimiento por la seguridad de la IA, AI Safety - Australia y Nueva Zelanda.
• Johannes C. Mayer — Ciudadano comprometido.
• Wes Gurnee — Estudiante de doctorado, MIT.
• Kanad Chakrabarti — Doctorando, Goldsmiths College, Universidad de Londres.
• Isaac Liao — Estudiante de máster, MIT.
• Gabriel Mukobi — Candidato a máster en Informática, Universidad de Stanford.
• Greg Colbourn — Fundador, CEEALAR.
• Jason Hausenloy — Investigador independiente en políticas de IA (Singapur), antiguo investigador visitante en la Universidad de las Naciones Unidas.
• Dr. Barry Devlin — Fundador.
• Chloe Li — Estudiante, Universidad de Cambridge.
• Kursad Karatas — Artista, desarrollador y activista por una IA bien hecha.
• Scott Emmons — Doctorando, Universidad de California, Berkeley.
• Henning Duwe — Doctorando, Universidad RWTH de Aquisgrán.
• Severin Field — Ingeniero de software.
• Pablo Baglivo — Científico de datos, UBA - Universidad de Buenos Aires.
• Charlotte Siegmann — Doctoranda, MIT.
• Kabir Kumar — Fundador y director general, AI-Plans.com.
• Tim Bakker — Doctorando en aprendizaje automático, Universidad de Ámsterdam.
• Arun Jose — Investigador en alineación, independiente.
• Alex Khurgin — Fundador de Good for Humans.
• Onur Malay — Emprendedor.
• Nick Talati — Desarrollador de software.
• Brett Cooper — Redactor publicitario y consultor especializado en recaudación de fondos.
• Chris Gerrby — Director general y fundador, AI Safety Sweden.
• Dylan Hadfield-Menell — Profesor adjunto, MIT.
• Aidan Homewood — Director técnico, Kumo Study.
• Arran McCutcheon — Investigador independiente en estrategia de la IA y gobernanza de la IA.
• Jonas Kgomo — Fundador, Equiano Institute.
• Harry Luk — Cofundador y director de operaciones, StakeOut.AI.
• Edgar Lapins — Profesor y formador de pensamiento crítico y argumentación, Escuela de Economía de Estocolmo en Riga.
• Tim Vossen — Desarrollador de software sénior.
• Matthew Farrugia-Roberts — Ayudante de investigación, Universidad de Cambridge.
• Jan Michalovic — Seguridad informática.
• William Baird — Organizador, PauseAI.
• Samuel Broomfield — Científico de datos.
• Ori Nagel — Director ejecutivo.
• Ainar Miyata — Doctorando, Centro para el Estudio de las Profesiones.
• Nathan Metzger — Ingeniero de pruebas de software (SDET).
• George Lee — Estudiante de máster en Matemáticas, Universidad de Aberystwyth.
• Nikola Jurkovic — Estudiante, Universidad de Harvard.
• Jakub Bugała — Analista de datos de RR. HH.
• Niki Drozdowski — Cineasta y ciudadano comprometido.
• Anthony Bailey — Desarrollador de software.
• Danny Lewis — Jubilado/escritor, In Medias Res.
• Leo Mckee-Reid — Presidente | UVic AI, Universidad de Victoria.
• Ben Norman — Estudiante.
• Jeroen Willems — Creador de contenidos, A Happier World.
• Karl Berzins — Director de operaciones, FAR AI.
• Stacey Edmonds — Fundador.
• Oliver Chamberlain — Estudiante de máster, Pauseai - altruismo eficaz.
• Max Pixel — Arquitecto de sistemas, Degrowth Ally.
• Antoine de Scorraille — Ingeniero.
• Eunhak Kim — Estudiante de ciencias de la computación, Western University.
• Yawen Duan — Titulado, Universidad de Cambridge.
• Konrad Friedrich Seifert — Codirector general, Simon Institute for Longterm Governance.
• Daniel Popp — Estudiante de la Universidad Case Western Reserve.
• Alvin Dunås — Estudiante del grado en Matemáticas de la Universidad de Uppsala.
• George Mastorakos — Ingeniero de IA, Cortechs.ai.
• Stephen Casper — Estudiante de doctorado en ciencias de la computación, MIT.
• Michael Chen — Ingeniero de software.
• Mihai Truta — Estudiante, Universidad Técnica de Viena.
• Karl von Wendt — Escritor (seudónimo «Karl Olsberg»).
• Erik Byberg — Estudiante de Filosofía, Universidad de Bergen, AI Safety North.
• Nadia Ashrafi — Asesora política.
• Satoshi Kurihara — Profesor, Universidad de Keio / Centro de Investigación Avanzada para una Sociedad de Simbiosis entre Humanos e IA.
• Jan Mircea Truta — Médico.
• Briar Prestidge — Director general de Prestidge Grojp.
• Olli Oikarinen — Estudiante de ciencias de la computación, Universidad de Jyväskylä.
• Siebe Rozendal — Paciente de COVID prolongado e investigador.
• Martin Insulander — Desarrollador sénior.
• Callum Hinchcliffe — Investigador.
• Ciprian Florea — Estudiante de la Universidad de Oxford.
• Olli Järviniemi — Investigador independiente en alineación de la IA, doctor.
• Helder S Ribeiro — Investigador en IA e Interacción Persona-Ordenador (HCI).
• Agustín Covarrubias — Presidente de la Iniciativa Estudiantil para la seguridad de la IA en la UC de Chile.
• Mathias Ljungberg — Responsable de productos de IA, Ahlsell.
• Pierre Chaminade — Ingeniero de aprendizaje automático.
• Glen Webster — Vicepresidente ejecutivo de Operaciones Globales, Klick Health.
• Miguelito de Guzmán — Investigador independiente, miembro del Comité de IA Responsable, Filipinas.
• Vedang Lad — Estudiante de máster, MIT.
• Josh Clancy — Director general, Midflip.io.
• Lorena Fernández Álvarez — Directora de comunicación digital, Universidad de Deusto.
• Xavier Roberts-Gaal — Doctorando, Universidad de Harvard.
• Sunhee Kim — Analista de investigación.
• Simon Andersen — Investigador en aprendizaje automático, independiente.
• Dane Wheaton — Diseñador de videojuegos, Netflix.
• Simon Mendelsohn — Ingeniero de software, Broad Institute del MIT y Harvard.
• Olivia Jiménez — Jefa de Gabinete, Center for AI Policy.
• Samuel Hammond — Economista sénior, Fundación para la Innovación Americana.
• Kanad Chakrabarti — Doctorando en Goldsmiths (UoL).
• Michael Einhorn — Ingeniero de investigación, AA Alineación & Teoría (MATS).
• Alvin Ånestrand — Cofundador de AI Safety Gothenburg.
• Lukas Jasiunas — Director general, ecorbio.
• Pablo Stafforini — Director, Tlön.
• Claire Laurance — Estudiante.
• Margaret E. Moore — Jubilada, Concerned Citizens.
• Xerxes Dotiwalla — Director de producto, Google.
• David Kristoffersson — Director general, Convergence Analysis.
• Peter Slattery — Investigador, MIT.
• Matthias Georg Mayer — Estudiante, Universidad de Bonn.
• Rodric Jenkin — Geriatra consultor, NHS.
• Max Winga — Investigador de grado, Universidad de Illinois en Urbana-Champaign.
• Jobst Heitzig — Jefe de laboratorio, Departamento de Climatología, Instituto de Potsdam para la Investigación del Impacto Climático.
• Robert Elton Johnson, III — Director.
• Eva Strautmann — Artista / Autor.
• Thomas Allen — Ingeniero de pruebas.
• Mati Roy — Gestor de proyectos de datos humanos, OpenAI.
• Xander Morgan — Productor de videojuegos.
• Robert J. Tarrant — Jubilado.
• Marina Manger — Ciudadana comprometida, médica de salud pública.
• Milton Ponson — Presidente de la Fundación Caribeña de Investigación en Ingeniería y Ciencias Aplicadas.
• Robert de Neufville — Superpronosticador, Good Judgment.
• Jacek Komorek — Especialista en TI.
• Nadia Molek — Ayudante de doctorado, Facultad de Estudios Organizativos.
• Khlyntsov Alexander Sergeevich — Geólogo, Kazajistán.
• Shafali Anand — Artista y escritora.
• John-Clark Levin — Doctorando, Universidad de Cambridge.
• Jeffrey Perrone — Director, JPPD.
• Michael Thunder Moore — Camarero, Bloomin Brands.
• Tekla Emborg — Estudiante.
• Libor Behounek — Investigador en lógica formal, Universidad de Ostrava.
• William Baird — Director, PauseAI UK.
• Stijn Bruers — Investigador, KU Leuven.
• Abhishek Deokar — Desarrollador de software, Cummins Inc.
• Anneke de Lange — Consultora de gestión del conocimiento.
• David Sérgio da Silva Duarte Mendes — Diseñador principal.
• Nader Chehab — Ingeniero de software.
• Duncan Thomas — Diseñador gráfico.
• Emma Ward — Creativa de redes sociales.
• Zachary Shively — Dependiente, Universidad de Idaho.
• Zachary Shively — Dependiente, Universidad de Idaho.
• Inkeri Pääkkö — Diseñadora.
• Piotr Zaborszczyk — Estudiante, Universidad Católica de Lublin.
• Denys Sheremet — Máster en Inteligencia Artificial, Universidad de Ámsterdam.
• Joaquín Alejandro Gamarra Nieto — Profesor de inglés, sin afiliación.
• Peter Dietzsch — Ingeniero de diseño digital.
• Bryce Robertson — Director de proyectos, Ecosistema de alineación.
• Ben Smyth — Estudiante de Ciencias, Universidad de Melbourne.
• Claire Ackland — Educadora.
• Bojan Kahlau — Estudiante de máster.
• Mathieu Bourrier — Líder de innovación, Constellation.
• Mathieu Bourrier — Líder de innovación, Constellation.
• Joseph Butler — Desarrollador de videojuegos.
• Shantanu Sontakke — Cofundador y director general, AI Apocalypto.
• Ryan Mizzen — Autor y escritor autónomo.
• Rachael T — Responsable de marketing en IDaaS.
• Anish Mudide — MIT.
• Tristan Plumb — Adaptable Research Cooperative.
• Andrea La Mantia — Universidad de Helsinki.
• Stephen Fowler.
• Michael Huang.
• Johan de Kock.
• Kayode AdeKoya.
• Kerry Vaughan.
• Thomas David Burden.
• Shona jeanette bates.
• Tamas Vizmathy.
• Bendik Bendiksen.
• Patrick Staples.
• Ruben Guazzelli.
• Dale Edward Provencher.
• Patricio Vercesi.
• Kevin Carr.
• Kim Holder.
• Alicia Pollard.
• Daniel Drehmer.
• Karina Mendoza.
• Leilani Vinegas.
• Matthew C. Smith.
• L Dearden Jones.
• Manuela Maria Schauer.
• Lena-Luisa Schwab.
• Agustín Covarrubias.
• Noah Coletti.
• Rob Ruana.
• Jodi Holder.
• Tomás Aguirre.
• Leo Major.
• Audrey Liu.
• Filip Molnár.
• Sarah Hastings-Woodhouse.
• Oliver Graves.
• Ankit Avinash.
• Olivier Hacking.
• David Tarrant.
• Karol Gabanowicz.
• Rodrigo Lopez-Pablos.
• Bert Schollaert.
• alice Mijlhoff.
• Madeleine van Strijp.
• Bak Zsolt.
• Violette Sacre.
• Christopher Hutchins.
• Hannah Roesch.
• Anne Beccaris.
• Alain Beccaris.
• Myriam Carratu.
• Aleksi Maunu.
• Kenneth M Myers.
• Ryan Bunge.
• Mateusz Baginski.
• William Freire.
• Bridgett Specht.
• Heather Meston.
• Mikko Merikivi.

---

Publicación original: Tolga Bilge (2023) Urging an international AI treaty: an open letter, AI Treaty, octubre.