Lista larga de intervenciones

BioseguridadGobernanza de la IASeguridad de la informaciónSeguridad de la IA

Esta lista no pretende ser exhaustiva: incluye ejemplos de intervenciones para orientarte, en lugar de describir la totalidad del trabajo necesario para que el desarrollo de la IA salga bien.

Evitar el entrenamiento de sistemas de IA peligrosos

Agilizar los métodos de verificación y aumentar la voluntad política para un tratado global sobre IA. Enlaces: uno, dos, tres
Gobernanza de la computación: Controlar la fabricación y distribución de chips avanzados y exigir licencias para grandes ejecuciones de entrenamiento (por ejemplo, por encima de 10^27 FLOPs), de forma similar a las licencias de materiales nucleares.
Supervisión internacional: Establecer inspecciones al estilo del OIEA para los laboratorios de IA de vanguardia.
Secreto algorítmico: Clasificar los avances clave de entrenamiento como secretos de Estado
IA científica: Desarrollar una IA superinteligente no agéntica

Limitar las capacidades peligrosas de la IA

Filtrado de datos de entrada (también): Implementar clasificadores de seguridad automatizados para detectar y eliminar contenido perjudicial, sesgado o envenenado de los conjuntos de datos de entrenamiento antes de entrenar el modelo (como filtros de políticas de contenido para violencia, discurso de odio e información de identificación personal)
Alineación de la IA: Implementar una IA constitucional con especificaciones explícitas de valores y RLHF para garantizar que los modelos sigan los principios definidos de utilidad, inocuidad y honestidad
Interpretabilidad: Comprender el proceso de razonamiento interno de los sistemas de IA y utilizarlo para detectar comportamientos indebidos u objetivos indeseables.
Control de la IA: Mantener la supervisión humana sobre la IA potencialmente peligrosa utilizando modelos confiables para monitorear modelos no confiables, exigiendo la aprobación humana para las decisiones de gran trascendencia, entre otras medidas.
Robustez: Realizar ejercicios antagónicos de uso de equipos rojos para probar la resiliencia de los modelos frente a jailbreaks, inyecciones de prompts y ataques de evasión antes de su despliegue.
Seguridad de los pesos del modelo: Proteger los parámetros del modelo mediante cifrado, computación confidencial y sistemas de almacenamiento con control de acceso para evitar el robo por parte de adversarios (siguiendo el marco de los cinco niveles de seguridad de RAND).

Resistir las acciones peligrosas de la IA

Bioseguridad

Prevenir el paciente 0: Establecer normas contra la investigación virológica peligrosa. Mejorar la bioseguridad en los laboratorios de nivel de bioseguridad 4. Reducir el contacto entre humanos y animales, así como las zoonosis, mediante la disminución de la cría de animales.
Detectar y contener las infecciones tempranas: Establecer una vigilancia ambiental de patógenos en todos los países. Crear equipos de contención rápida (p. ej., equipos GERM) para evitar una mayor propagación.
Minimizar los daños a nivel poblacional: Desarrollar vacunas candidatas para todas las familias virales que infectan a los humanos. Construir capacidad de fabricación de vacunas. Establecer procedimientos de prueba para todos los medicamentos conocidos contra nuevas infecciones. Crear reservas a gran escala de EPI para los trabajadores esenciales.

Ciberseguridad

Seguridad de la memoria: Reducir el 70 % de las vulnerabilidades de software causadas por errores de memoria, por ejemplo, mediante la refactorización de las bibliotecas de código abierto de C y C++ a un lenguaje seguro para la memoria como Rust.
Uso de equipos rojos en infraestructuras nacionales críticas (CNI): Conseguir que los servicios de inteligencia del gobierno utilicen los modelos de IA más avanzados para el uso de equipos rojos en las infraestructuras nacionales críticas, comuniquen las vulnerabilidades de forma privada a los proveedores de estas infraestructuras y les concedan 90 días para corregirlas antes de que se hagan públicas.

Meta

Educación pública: Crear conciencia a gran escala sobre el impacto de la IA en la sociedad y sobre lo que se necesita para garantizar el desarrollo de una IA beneficiosa y evitar daños masivos.
Movilizar a los ciudadanos: Aprovechar la preocupación pública como palanca democrática para la regulación.
Formar a los responsables de la toma de decisiones: Dotar a los líderes políticos y a los políticos de carrera (presentes y futuros) de la experticia necesaria para gobernar la IA de forma segura y construir defensas sociales.

Publicación original: BlueDot Impact (2025) Long list of interventions, BlueDot Impact, 8 de septiembre.

Evitar el entrenamiento de sistemas de IA peligrosos

Agilizar los métodos de verificación y aumentar la voluntad política para un tratado global sobre IA. Enlaces: uno, dos, tres

Gobernanza de la computación: Controlar la fabricación y distribución de chips avanzados y exigir licencias para grandes ejecuciones de entrenamiento (por ejemplo, por encima de 10^27 FLOPs), de forma similar a las licencias de materiales nucleares.

Supervisión internacional: Establecer inspecciones al estilo del OIEA para los laboratorios de IA de vanguardia.

Secreto algorítmico: Clasificar los avances clave de entrenamiento como secretos de Estado

IA científica: Desarrollar una IA superinteligente no agéntica

Limitar las capacidades peligrosas de la IA

Filtrado de datos de entrada (también): Implementar clasificadores de seguridad automatizados para detectar y eliminar contenido perjudicial, sesgado o envenenado de los conjuntos de datos de entrenamiento antes de entrenar el modelo (como filtros de políticas de contenido para violencia, discurso de odio e información de identificación personal)

Alineación de la IA: Implementar una IA constitucional con especificaciones explícitas de valores y RLHF para garantizar que los modelos sigan los principios definidos de utilidad, inocuidad y honestidad

Interpretabilidad: Comprender el proceso de razonamiento interno de los sistemas de IA y utilizarlo para detectar comportamientos indebidos u objetivos indeseables.

Control de la IA: Mantener la supervisión humana sobre la IA potencialmente peligrosa utilizando modelos confiables para monitorear modelos no confiables, exigiendo la aprobación humana para las decisiones de gran trascendencia, entre otras medidas.

Robustez: Realizar ejercicios antagónicos de uso de equipos rojos para probar la resiliencia de los modelos frente a jailbreaks, inyecciones de prompts y ataques de evasión antes de su despliegue.

Seguridad de los pesos del modelo: Proteger los parámetros del modelo mediante cifrado, computación confidencial y sistemas de almacenamiento con control de acceso para evitar el robo por parte de adversarios (siguiendo el marco de los cinco niveles de seguridad de RAND).

Resistir las acciones peligrosas de la IA

Bioseguridad

Prevenir el paciente 0: Establecer normas contra la investigación virológica peligrosa. Mejorar la bioseguridad en los laboratorios de nivel de bioseguridad 4. Reducir el contacto entre humanos y animales, así como las zoonosis, mediante la disminución de la cría de animales.

Detectar y contener las infecciones tempranas: Establecer una vigilancia ambiental de patógenos en todos los países. Crear equipos de contención rápida (p. ej., equipos GERM) para evitar una mayor propagación.

Minimizar los daños a nivel poblacional: Desarrollar vacunas candidatas para todas las familias virales que infectan a los humanos. Construir capacidad de fabricación de vacunas. Establecer procedimientos de prueba para todos los medicamentos conocidos contra nuevas infecciones. Crear reservas a gran escala de EPI para los trabajadores esenciales.

Ciberseguridad

Seguridad de la memoria: Reducir el 70 % de las vulnerabilidades de software causadas por errores de memoria, por ejemplo, mediante la refactorización de las bibliotecas de código abierto de C y C++ a un lenguaje seguro para la memoria como Rust.

Uso de equipos rojos en infraestructuras nacionales críticas (CNI): Conseguir que los servicios de inteligencia del gobierno utilicen los modelos de IA más avanzados para el uso de equipos rojos en las infraestructuras nacionales críticas, comuniquen las vulnerabilidades de forma privada a los proveedores de estas infraestructuras y les concedan 90 días para corregirlas antes de que se hagan públicas.