Disparo de advertencia
Un disparo de advertencia (en inglés, warning shot) es una catástrofe global que reduce indirectamente el riesgo existencial como resultado de aumentar la preocupación social por futuras catástrofes.
La expresión señal de advertencia (en inglés, warning sign) se utiliza a veces para describir cualquier acontecimiento que aumente la preocupación social por una categoría particular de riesgo existencial, independientemente de si el acontecimiento en sí constituye una catástrofe global. En este sentido, los candidatos plausibles para una señal de advertencia de la IA, por ejemplo, incluyen no solo un fallo catastrófico de un sistema de IA, sino también campañas de concientización pública o la publicación de un libro excepcionalmente persuasivo sobre la seguridad de la inteligencia artificial.1
Una idea relacionada es la de alarma de incendio (en inglés, fire alarm), una señal de advertencia que genera el conocimiento común de que alguna tecnología —típicamente la inteligencia artificial avanzada— plantea realmente un riesgo existencial.2
Nótese, sin embargo, que tanto “disparo de advertencia” como “alarma de incendio” se utilizan a veces como sinónimos de “señal de advertencia”.3
Nick Beckstead (2015) The long-term significance of reducing global catastrophic risks, Open Philanthropy, 13 de agosto.
Joseph Carlsmith (2023) ‘¿Es la inteligencia artificial que busca poder un riesgo existencial?’, Altruismo Eficaz, sec. 6.2.