Más información sobre “Riesgos derivados de la inteligencia artificial”

El desarrollo de la inteligencia artificial

• AlphaGo — Un documental que explora lo que la inteligencia artificial puede revelar sobre el go, un juego de 3 000 años de antigüedad, y lo que esto puede enseñarnos sobre el potencial futuro de la inteligencia artificial. (Video — 1 hora y 30 minutos)
• The artificial intelligence revolution — Una exploración amena e interesante sobre la inteligencia artificial por Tim Urban, un conocido bloguero. (45 minutos)

Otros recursos sobre alineación de la inteligencia artificial

• Curso AGI Safety Fundamentals
• My personal cruxes for working on AI safety (65 minutos)
• Resources I send to AI researchers about AI safety (13 minutos)
• Stuart Russell on the flaws that make today’s AI architecture unsafe and a new approach that could fix it (Pódcast — 2 horas y 15 minutos)
• Some background on our views regarding advanced artificial intelligence — Una explicación de por qué existe una posibilidad firme de que el progreso en inteligencia artificial precipite una transición comparable a la Revolución Neolítica y a la Revolución Industrial. (1 hora)
• How might we align transformative AI if it’s developed very soon? (53 minutos)
• The Precipice — Capítulo 5 (25 minutos)
• What failure looks like (12 minutos) — Dos historias concretas sobre cómo podría darse un fallo muy grave de alineación de la IA en toda la sociedad, que difieren considerablemente de la clásica historia de la “explosión de inteligencia”.
• AGI safety from first principles (1 hora y 15 minutos) — La opinión de un investigador de la IA sobre los factores específicos del problema de la alineación de la IA general.
• Human Compatible (Libro)
• The Alignment Problem (Libro)

Gobernanza de la inteligencia artificial

• The new 30-Person research group in DC investigating how emerging technologies could affect national security — ¿Cómo podría alterarse la seguridad internacional si el impacto del aprendizaje automático tiene un alcance similar al de la electricidad? (Pódcast — 2 horas)
• Technology Roulette — Un argumento sobre cómo los avances en tecnología militar (incluyendo otras tecnologías además de la IA) pueden impedir que se tomen decisiones relevantes y crear riesgos, exigiendo así una mayor atención por parte de los organismos de seguridad nacional. (60 minutos)

Alineación de la IA técnica

• Current work in AI alignment (Video — 30 minutos)
• AI safety starter pack (7 minutos)
• Cómo formarse profesionalmente en alineación técnica de la inteligencia artificial (59 minutos)
• Plan de estudios de alineación técnica (lecturas para un curso de 7 semanas)
• El Alignment Forum, especialmente sus secuencias básicas

Críticas a las preocupaciones sobre el riesgo asociado a la IA

• ‘¿Hasta qué punto estamos seguros de todo este asunto de la inteligencia artificial?’ (26 minutos)
• A tale of 2.5 orthogonality theses (20 minutos)
• Counterarguments to the basic AI x-risk case (41 minutos)
• My highly personal skepticism braindump on existential risk from artificial intelligence. (17 minutos)
• New article from Oren Etzioni (resumen, 2 minutos)
• The AI messiah (y el primer comentario) (5 minutos)
• How good is humanity at coordination? (4 minutos)