• Ingresar con


  • Preferencias de usuario


  • ¿Está seguro de que desea eliminar su cuenta?

  • Se perderán todas sus preferencias almacenadas. Esta acción es irreversible.

Llamamiento a la vigilancia

por Holden Karnofsky
Bisagra de la historia
La imagen muestra un diagrama de flujo que comienza con 'El mundo actual' y fluye hacia 'IA transformadora', que luego se bifurca en tres escenarios distintos: 'Un mundo de Personas digitales', 'Un mundo gobernado por IA desalineada', y 'Alguna otra cosa', antes de llegar al resultado final de 'Civilización estable a escala galáctica'.

Esta es la última entrada de la serie “el siglo más importante”, en la que he argumentado que existe una alta probabilidad⁠a de que en las próximas décadas se produzca:

  • El desarrollo de una tecnología como PAACT (proceso de automatización del avance científico y tecnológico).
  • Una consiguiente explosión de la productividad que conduzca al desarrollo de nuevas tecnologías transformadoras.
  • El germen de una civilización galáctica estable, que posiblemente incluya personas digitales o esté dirigida por sistemas de inteligencia artificial desalineados.

Cuando se trata de llamar la atención sobre un problema poco valorado, lo normal es terminar con un “llamamiento a la acción”: una acción tangible y concreta que los lectores puedan llevar a cabo para contribuir.

Pero esto es un desafío, porque, como he argumentado anteriormente, hay muchas cuestiones sin resolver sobre cuáles son las acciones útiles y cuáles las perjudiciales. (Aunque podemos identificar algunas acciones que hoy parecen claramente útiles.)

Esto crea una situación un tanto incómoda. Al enfrentarme a la hipótesis del “siglo más importante”, mi actitud no coincide con las conocidas de “entusiasmo y movimiento” o “miedo y evasión”. Antes bien, siento una mezcla difusa de intensidad, urgencia, confusión y vacilación. Nunca esperé enfrentarme a algo tan grande como lo que estoy empezando a ver y me siento poco capacitado y vacilante sobre qué hacer a continuación. Es un estado de ánimo difícil de compartir y difundir, pero lo estoy intentando.

SituaciónReacción apropiada (en mi opinión)
¡Esta podría ser una empresa milmillonaria!¡Oh! ¡Pongamos manos a la obra!
¡Este podría ser el siglo más importante!Caramba, no sé qué decir. Creo que voy a vomitar… Tengo que sentarme a reflexionar sobre esto.

Así que, en lugar de un llamamiento a la acción, quiero hacer un llamamiento a la vigilancia. Si te convencen los argumentos de este artículo, no te apresures a “hacer algo” y pasar página. En lugar de eso, emprende hoy las acciones claramente buenas que estén a tu alcance y, si no, ponte en mejores condiciones para emprender acciones importantes cuando llegue el momento.

Esto podría implicar lo siguiente:

  • Encontrar formas de interactuar más con temas/campos/industrias clave como la IA (por razones obvias), la ciencia y la tecnología en general (ya que gran parte de la hipótesis del “siglo más importante” involucra una explosión en el avance científico y tecnológico), y áreas relevantes de la política y la seguridad nacional, así como aprender más sobre todas estas cuestiones.
  • Aprovechar las oportunidades (cuando las veas) para orientar tu carrera profesional en una dirección que tenga más probabilidades de ser relevante (algunas de mis ideas al respecto están aquí; véase también 80 000 Horas).
  • Ponerse en contacto con otras personas interesadas en estos temas (creo que este ha sido uno de los factores que más ha impulsado a la gente a emprender actividades de gran impacto en el pasado). Actualmente, creo que la comunidad del altruismo eficaz es el mejor lugar para ello, y puedes aprender cómo conectarte con otras personas a través del Centre for Effective Altruism (consulta el menú desplegable “Get Involved”). Si en el futuro surgen nuevas formas de establecer contactos, es probable que las publique en Cold Takes.
  • Y, por supuesto, aprovecha cualquier oportunidad que veas para realizar acciones que sean claramente útiles.

Botones que puedes apretar

Aquí tienes algo que puedes hacer ahora mismo y que sería realmente útil, aunque quizá no tan visceralmente satisfactorio como firmar una petición o realizar una donación.

En mi trabajo diario, ocurre a menudo que yo, o alguien con quien trabajo, buscamos a un tipo concreto de persona (quizá para cubrir una vacante en una organización que apoyamos, o para que aporte su experiencia en algún tema, o para alguna otra cosa). Con el tiempo, espero que haya cada vez más oportunidades para que personas con aptitudes, intereses, conocimientos y otras habilidades específicas lleven adelante acciones que contribuyan a que el siglo más importante vaya lo mejor posible. Y creo que uno de los principales desafíos será tan solo saber quién está ahí fuera: quién está interesado en esta causa y quiere ayudar, y qué habilidades e intereses tiene.

Si eres una persona a la que nos gustaría encontrar en el futuro, puedes ayudarnos ahora enviando información sobre ti a través de este formulario simple. Garantizo que tus datos no se venderán ni se utilizarán para ganar dinero, que se respetarán tus preferencias de comunicación (que se detallan en el formulario) y que siempre podrás optar por no recibir ninguna comunicación.

Compartir un espacio conceptual

En Esto no puede seguir así, tracé una analogía entre nuestro mundo y la situación de algunas personas que viajaran en un avión a punto de despegar y que ignoraran por qué se mueven tan rápido y qué les espera:

La imagen es un GIF que muestra desde adentro la ventana de un avión a punto de despegar con vista a la pista.

Como alguien sentado en este avión, me encantaría poder decirte que he averiguado exactamente qué está pasando y qué futuro debemos planificar. Pero no es así.

A falta de respuestas, he intentado al menos mostrarte lo que veo:

  • Esbozos tenues de los acontecimientos más importantes del pasado o del futuro de la humanidad.
  • Un argumento en favor de que se están acercando más rápido de lo que parece, estemos o no preparados.
  • La sensación de que no podemos confiar en el mundo ni en las reglas a las que estamos acostumbrados, y de que tenemos que elevar nuestra mirada por encima del torrente diario de noticias tangibles y afines, y tratar de entender asuntos más extraños y descabellados que tienen más probabilidades de convertirse en titulares sobre esta era dentro de miles de millones de años.

Hay muchas cosas que no sé. Pero si este es el siglo más importante, tengo la certeza de que, como civilización, aún no estamos a la altura de los desafíos que plantea.

Para que esto cambie, es necesario que más gente vea la situación tal y como es, que se la tome en serio, que actúe cuando pueda… y, si no puede, que mantenga la vigilancia.


Esta es una traducción directa del artículo original, publicado bajo licencia CC BY 4.0.