Progreso diferencial
El progreso diferencial es la aceleración del progreso que reduce los riesgos y el retraso del progreso que los aumenta.
El progreso diferencial puede considerarse una generalización de la propuesta, formulada por primera vez por Nick Bostrom, de acelerar el progreso tecnológico que reduce el riesgo y retrasar el progreso tecnológico que lo aumenta.1 Esta propuesta, que Bostrom denomina desarrollo tecnológico diferencial, se presentó inicialmente como alternativa a la postura de que el progreso tecnológico en su conjunto debería ralentizarse para hacer frente el riesgo existencial. Según argumentaba Bostrom, dado que la tecnología tiene el potencial tanto de aumentar como de disminuir el riesgo, la respuesta adecuada es tratar de forma diferente las tecnologías con distintos efectos sobre tal riesgo, en lugar de tener una política general de ralentización tecnológica. En publicaciones más recientes, Bostrom entiende “tecnología” en un sentido amplio, que incluye “no solo aparatos, sino también métodos, técnicas y principios de diseño institucional”2 e “ideas científicas, diseños institucionales, técnicas organizativas, ideologías, conceptos y memes”.3 Cuando la noción de desarrollo tecnológico diferencial se combina con esta concepción amplia de la tecnología, se vuelve más o menos equivalente a la de progreso diferencial, en lugar de ser un caso especial de ella.
El término “progreso intelectual diferencial” se utiliza a veces como sinónimo de “progreso diferencial”, aunque también puede emplearse de forma más restrictiva para excluir formas no intelectuales de progreso.4
Michael Aird (2020) Collection of everything I know of that explicitly uses the terms differential progress / intellectual progress / technological development, except Forum posts), Effective Altruism Forum, 24 de febrero.
Lista de recursos adicionales sobre este tema.
Nick Beckstead (2015) Differential technological development: some early thinking, The GiveWell Blog, 30 de septiembre.
Aplica el concepto de progreso diferencial a la investigación en inteligencia artificial.
Paul Christiano (2014) On progress and prosperity, Effective Altruism Forum, 15 de octubre.
Sostiene que el progreso diferencial es extremadamente importante desde una perspectiva altruista.
crecimiento económico • daño accidental • hipótesis del mundo vulnerable • retraso cultural • riesgo existencial antropogénico