Por qué continúo defendiendo el altruismo eficaz

“Todo lo que haces es generar drama en las juntas de directivos, y tal vez algunas otras cosas que no recuerdo…”

I

Si buscamos “altruismo eficaz” en las redes sociales ahora mismo, es bastante desalentador.

Los socialistas piensan que somos unos sociópatas fanáticos de Ayn Rand, unos capitalistas extremos de Silicon Valley, consagrados al culto del dinero.

Pero Silicon Valley piensa que somos todos unos comunistas autoritarios, unos burócratas amantes de la hiperregulación.

Para la derecha solo somos unos extremistas obsesionados con la justicia social.

Pero para la izquierda solo somos unos supremacistas blancos de cuño fascista.

Quienes se oponen a la inteligencia artificial (IA) creen que somos el brazo encargado de las relaciones públicas de las empresas de IA y que les ayudamos a promocionar sus productos proclamando que son superinteligentes en este preciso momento.

Quienes están a favor de la IA piensan que queremos prohibir toda la investigación sobre la IA para siempre y nacionalizar todas las empresas tecnológicas.

Los hippies piensan que nos sometemos a una ideología totalizadora tan extremadamente obsesionada con la ética que nunca nos divertimos ni vivimos vidas humanas normales.

Los fanáticos piensan que somos unos estafadores que solo fingen preocuparse por la beneficencia, pero que en realidad nos pasamos todo el tiempo dándonos banquetes en castillos.

Los poderosos piensan que somos niños ingenuos que se deshacen al primer contacto con la política del mundo real.

Pero los periodistas piensan que somos una siniestra conspiración que se ha “apoderado de Washington” y que tenemos a todo el Partido Demócrata en el bolsillo.

Lo único en lo que todo el mundo parece estar de acuerdo es que el altruismo eficaz solo ha hecho dos cosas: “respaldar al SBF” y “fracasar en el reciente golpe corporativo de OpenAI”.

En otras palabras, ¡nunca ha habido un mejor momento para adoptar el altruismo eficaz! ¡Participa ahora y benefíciate de su impopularidad! Los tiempos en los que todo el mundo nos adulaba eran aburridos e indignos. Solo cuando luchamos contra el mundo entero nos sentimos verdaderamente vivos.

Y creo que vale la pena luchar por el movimiento. He aquí una lista breve y muy incompleta de las cosas que el altruismo eficaz ha conseguido en poco más de 10 años de existencia. Cuento como un logro tanto los casos en los que el altruismo eficaz proporcionó el financiamiento como los casos en los que realizó el trabajo (más explicaciones en las notas a pie de página). También fusiono ligeramente el altruismo eficaz, el racionalismo y el catastrofismo de la IA en lugar de hacer el arduo trabajo de separarlos.

Salud y desarrollo globales

• Ha salvado unas 200 000 vidas en total, la mayoría de la malaria.⁠a

• Ha tratado 25 millones de casos de infección parasitaria crónica.⁠b

• Ha proporcionado acceso a agua potable limpia a 5 millones de personas.⁠c

• Ha financiado los ensayos clínicos de la vacuna contra la malaria RTS,S (¡actualmente aprobada!) y de la vacuna contra la malaria R21/Matrix (en vías de aprobación).⁠d

• Ha financiado investigaciones adicionales sobre vacunas contra la sífilis, la malaria, los helmintos y las hepatitis C y E.⁠e

• Ha financiado equipos de asesoramiento sobre economía del desarrollo en Etiopía, India, Ruanda y en todo el mundo.⁠f

Bienestar animal

• Ha convencido a varias granjas de prescindir de las jaulas, lo que ha beneficiado a 400 millones de pollos.⁠g

• Ha librado a 500 000 cerdos de pequeñas jaulas en las que no podían moverse.⁠h

• Ha logrado que 3 000 empresas, entre ellas Pepsi, Kelloggs, CVS y Whole Foods, se comprometan a vender carne libre de crueldad.

Inteligencia artificial

• Desarrolló el aprendizaje por refuerzo a partir de realimentación humana, una técnica para controlar los datos de salida de la IA ampliamente considerada como el avance clave detrás de ChatGPT.⁠i

• Ha hecho otros avances importantes en la seguridad de la IA, como el aprendizaje por refuerzo a partir de realimentación artificial y los fundamentos de la interpretabilidad de la IA.⁠j

• Fundó el campo de la seguridad de la IA y lo incubó desde la nada hasta el punto en que Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Bill Gates y cientos de personas más lo han respaldado y han instado a los responsables de políticas a tomárselo en serio.⁠2

• Ayudó a convencer a OpenAI para que dedicara el 20 % de los recursos de la empresa a un equipo que trabaja en la alineación de superinteligencias futuras.

• Consiguió que las principales empresas de IA, OpenAI incluida, trabajaran con ARC Evals y evaluaran sus modelos en busca de comportamientos peligrosos antes de lanzarlos al mercado.

• Consiguió dos puestos en el consejo de OpenAI, tuvo el control mayoritario de OpenAI durante un fin de semana salvaje y, al parecer, todavía podría tener algunos puestos en el consejo de OpenAI, de algún modo…⁠l

• Ayudó a fundar la empresa emergente de IA Anthropic, que compite con OpenAI. Aún hoy tiene el control mayoritario de esta empresa, que está valorada en 30 000 millones de dólares y es considerada ampliamente como el único grupo con una tecnología comparable a la de OpenAI.⁠m

• Se ha vuelto tan influyente en el ámbito de la legislación relacionada con la IA que Politico acusa a los altruistas eficaces de haber “[tomado] Washington” y de “dominar en gran medida los esfuerzos del Reino Unido para regular la IA avanzada”.

• Ayudó (probablemente, ya que no tengo ningún conocimiento secreto) a la administración Biden a aprobar lo que ellos llamaron “el conjunto de acciones más enérgicas que ningún gobierno del mundo haya emprendido jamás en materia de protección, fiabilidad y seguridad de la IA.”

• Ayudó al gobierno británico a crear su Frontier AI Taskforce.

• Ganó la guerra de las relaciones públicas: una encuesta reciente muestra que el 70 % de los votantes estadounidenses cree que mitigar el riesgo de extinción de la IA debería ser una “prioridad global”.

Otros:

• Ayudó a organizar el consorcio SecureDNA, que asiste a las empresas de síntesis de ADN a determinar lo que solicitan sus clientes y evitar la venta accidental de armas biológicas a terroristas.⁠o

• Ha proporcionado una fracción significativa del financiamiento total de los grupos de Washington que intentan disminuir el riesgo de una guerra nuclear.⁠p

• Ha donado algunos centenares de riñones.⁠q

• Inició un renacimiento de la pronosticación, desempeñando un papel importante en la creación, financiamiento y/o dotación del personal de Metaculus, Manifold Markets y el Forecasting Research Institute.

• Ha donado decenas de millones de dólares a causas vinculadas a la preparación para las pandemias años antes de la pandemia de COVID, y ha influido positivamente en las políticas de COVID de algunos países.

• Desempeñó un papel importante en la creación del movimiento YIMBY (esto también es una sorpresa para mí, pero véase la nota al margen para comprobarlo).⁠r

Probablemente otras personas piensen que esto es normal: todo esto parece el tipo de cosas que un gran movimiento debería ser capaz de hacer. Pero yo todavía me acuerdo de la época en la que el altruismo eficaz se reducía a tres filósofos y unos pocos nerds raros de la bahía de San Francisco que tenían un blog. Se fue abriendo camino hasta convertirse en el tipo de movimiento que puede hacer este tipo de cosas por tener todas las virtudes que dice tener: dedicación, racionalidad y (creo) un deseo genuino de hacer del mundo un lugar mejor.

II

¿Todo esto no es suficiente? Estos son algunos de los logros de los altruistas eficaces, solo en EE.UU.:

• Han acabado con toda la violencia relacionada con las armas, incluidos los tiroteos masivos y los tiroteos policiales.

• Han erradicado el sida y el melanoma

• Han evitado un atentado terrorista similar en escala al atentado del 11S.

De acuerdo. De acuerdo. Técnicamente, el altruismo eficaz no ha hecho ninguna de estas cosas.

Pero ha salvado el mismo número de vidas que habría salvado haciendo todas esas cosas.

Alrededor de 20 000 estadounidenses mueren anualmente a causa de la violencia armada, 8 000 de melanoma, 13 000 de sida y 3 000 personas han muerto en el 11S. Así que hacer todas esas cosas salvaría 44 000 vidas al año. Eso coincide con las 50 000 vidas, aproximadamente, que las organizaciones benéficas del altruismo eficaz salvan anualmente.⁠s

Nadie parece tener en cuenta que los logros del altruismo eficaz equivalen a haber acabado con la violencia armada, haber erradicado el sida y todas las demás cosas. Probablemente, el hecho se deba a que estas son causas populares emocionantes que aparecen en las noticias, mientras que salvar a personas en países en vías de desarrollo no lo es. A la mayoría de la gente le importa tan poco salvar vidas en los países en vías de desarrollo que los altruistas eficaces pueden salvar 200 000 vidas y la gente simplemente no se dará cuenta. “Oh, todo lo que hace tu movimiento es generar drama en las juntas de directivos, y tal vez algunas otras cosas que no recuerdo en este momento”.

En un mundo en el que la gente pensara que salvar 200 000 vidas importa tanto como el hecho de haber generado un drama en alguna junta de directivos, no necesitaríamos altruismo eficaz. Estas prioridades sesgadas son precisamente el tipo de problemas que el altruismo eficaz trata de resolver, o el tipo de ineficiencia que el altruismo eficaz trata de explotar, si así lo prefiere. A nadie le importa prevenir las pandemias, pero a todo el mundo le importa si Sam Bankman-Fried tenía o no una relación poliamorosa. Los altruistas eficaces solo nos cruzaremos con las partes del mundo que les importan a otras personas cuando nos equivocamos; por lo tanto, todos nos verán como “esos tipos que se equivocan constantemente y que tal vez hacen otras cosas que no recuerdo en este momento”.

Yo creo que estas equivocaciones son comparativamente pequeñas: aliarnos con un criptomillonario que resultó ser un estafador, formar parte de un consejo que despidió a un consejero delegado y luego dio marcha atrás ante su amenaza de destruir la empresa… Estas cosas son malas, pero no estoy seguro de que anulen el efecto de salvar una vida, y mucho menos 200 000.⁠t

(Alguien me va a acusar aquí de restar importancia al desastre de FTX. Estoy de acuerdo en que lo de FTX fue realmente malo y me siento mal por la gente que perdió dinero. Pero creo que esto demuestra mi punto de vista: en un año de comentarios ininterrumpidos según los cuales el altruismo eficaz es un desastre, nunca ha logrado nada y debería juzgarse exclusivamente por el escándalo de FTX, nadie acusó en ningún momento a esas personas de restar importancia a las 200 000 vidas salvadas. Sin duda, el discurso tiene sus prioridades).

Hacer cosas es difícil. Cuantas más cosas hagas, más posibilidades habrá de que uno de tus agentes se vuelva corrupto y tengas un escándalo. El Partido Demócrata, el Partido Republicano, todas las grandes empresas, todas las grandes religiones, algunos dirían que incluso Sam Altman: todos son responsables de actos pasados de los que no están orgullosos o de planes que fracasaron. Creo que el balance histórico de logros y escándalos del altruismo eficaz es tan bueno como el de cualquiera de ellos, y quizá mejor. Lo que ocurre es que, en nuestro caso, los logros son cosas de las que nadie, excepto nosotros, se da cuenta o se preocupa: como salvar 200 000 vidas, acabar con la tortura de cientos de millones de animales, prevenir futuras pandemias o prepararnos para una IA superinteligente.

Pero si alguna de estas cosas te importa, no puedes evitar pensar que todas esas personas que dicen en Twitter que el altruismo eficaz nunca ha hecho nada excepto ir de escándalo en escándalo están moralmente trastornadas. En ese punto me encuentro ahora mismo. El altruismo eficaz se siente como un pequeño y precioso grupo de personas a las que realmente les importa si otros viven o mueren, independientemente de qué titulares de prensa se hagan virales o no. Mi prioridad primera, segunda, y así hasta la centésima, es proteger a este pequeño grupo y ayudarlo a crecer. Después de eso admitiré a regañadientes que se equivoca —aunque estas equivocaciones distan muchísimo de anular la importancia de acabar con la violencia armada y acabar con el sida, etc.— e intentaré encontrar la forma de que se equivoque menos. Pero no lo haré si hay algún riesgo de matar a la gallina de los huevos de oro, o si interfiere con mis prioridades 1–100.

III

¿Estoy haciendo trampas al mencionar demasiadas veces las 200 000 vidas?

A la gente le gusta decir cosas como “el altruismo eficaz es solo un montón de ideas especulativas sobre los derechos de los animales y el futuro lejano, lo de la salud global no es más que una distracción”.

Si realmente creen eso, ¡deberían estar doblemente asombrados! Conseguimos acabar con el sida y prevenir el 11S y todo lo demás como distracción, ¡cuando ni siquiera era lo principal que queríamos hacer! Nos dijimos “mientras avanzamos hacia las otras cosas que realmente nos importan, paremos un segundo para erradicar el sida y prevenir el 11S: no quitará demasiado tiempo ni recursos a las cosas importantes”. ¿Por qué ninguno de ustedes, gente sin distracciones, ha conseguido eso?

No creo que nada de esto sea una distracción. El Partido Demócrata es antiarmas y proabortista. El control de armas no es una artimaña para convencer a los provida de que se unan al partido, y el derecho al aborto no es una cortina de humo para mitigar la oposición de los propietarios de armas. Los movimientos son coaliciones. A veces eso significa que diferentes personas con diferentes prioridades deciden trabajar juntas. Pero otras veces significa que las mismas personas tienden a compartir ambas prioridades. Las personas que están a favor del aborto suelen estar también en contra de las armas, y viceversa.

Y he notado que el pequeño grupo de gente capaz de preocuparse por 200 000 personas que mueren de enfermedades tropicales desatendidas es el mismo pequeño grupo de gente capaz de preocuparse por la próxima pandemia o por la superinteligencia o por la extinción humana. Creo que la habilidad común es tratar de analizar qué causas son importantes desde el punto de vista lógico. Sorprendentemente, ¡esto arroja resultados diferentes a la estrategia habitual de preocuparse por lo que sea tendencia hoy en Twitter! Algunos de esos resultados son ampliamente populares, como salvar 200 000 vidas. Otros resultados son ampliamente impopulares, como preocuparse por el riesgo asociado a la IA. Pero ambos conjuntos de resultados proceden del mismo proceso, y las personas que los obtienen son aliados naturales en un mundo en el que la mayoría de la gente no se atreve a preocuparse por nada que no sea la última noticia de primera plana.

No quiero que este artículo se interprete en este sentido: “No hay problema, puedes odiar el altruismo eficaz porque se ocupa mucho de la inteligencia artificial, pero ¡ten en cuenta que también se ocupa mucho de la salud y la pobreza globales!” Estoy orgulloso de todo ello. Creo —como Geoff Hinton, Bill Gates, Sam Altman, Daniel Dennett, etc.— que existe un riesgo bastante serio de extinción humana en las próximas décadas a causa de la IA. No puedo imaginarme creyendo esto y pensando que no es importante prepararse para ello. El altruismo eficaz ha hecho un gran trabajo al respecto (véase la lista de logros más arriba), y creo que la gente que prioriza la inteligencia artificial y el riesgo existencial tiene tanto de lo que enorgullecerse como la gente que prioriza la salud global y el bienestar animal.

Así que mi recomendación es que investigues detenidamente qué causas pueden beneficiar más al mundo —a corto plazo, a largo plazo, lo que te parezca más importante al cabo de un estudio honesto— e intentes idear alguna forma de contribuir a ellas. Si lo deseas, asume el compromiso de Giving What We Can de donar el 10 % de tus ingresos, o consulta el sitio web de 80 000 Horas para ver cómo puedes emprender una carrera profesional altruista.

Y hagas lo que hagas, hazlo rápido, antes de que la balanza vuelva a inclinarse a nuestro favor y todo esto se popularice de nuevo.