La costo-eficacia de la beneficencia en un mundo incierto
Enseñar a vivir sin certezas, pero sin por ello dejarse paralizar por la duda, es acaso lo más importante que en nuestra época la filosofía todavía puede hacer por quienes la estudian. Bertrand Russell, A History of Western Philosophy, p. 11.
Si algo suena demasiado bueno para ser cierto, probablemente lo sea. Proverbio.
En otoño de 2005, estaba conversando con un amigo sobre el utilitarismo:
Amigo: Entiendo a qué te refieres, pero el utilitarismo no funciona.
Yo_2005: ¿Por qué no?
Amigo: No tienes manera de evaluar todos los efectos de tus acciones. Todo lo que haces tiene un millón de consecuencias.
Yo_2005: Hacemos lo mejor que podemos para estimarlas.
Amigo: Las barras de error son infinitas en ambas direcciones.
Yo_2005: Hmm, sí, las barras de error son infinitas, pero podemos asumir que las incógnitas se cancelan. Por ejemplo, piensa en la posibilidad de fabricar cinturones de seguridad más seguros. Sabemos que a corto plazo los cinturones evitan los accidentes, lo cual es bueno. Puede haber efectos indirectos a largo plazo, pero estos podrían ser buenos o malos, por lo que se anulan en el cálculo general. Por lo tanto, el valor esperado continúa siendo positivo.
Si tuviera esa conversación en la actualidad, este sería mi diálogo con mi yo pasado:
Yo_2013: Bien, consideremos el ejemplo de los cinturones de seguridad. Un efecto es que ayudan a evitar accidentes y muertes trágicas, lo cual es bueno, pero otro efecto sería el incremento de la población humana, lo que significa un mayor consumo de carne. Considerando que las personas comen a lo largo de sus vidas, el resultado parece negativo en términos netos.
Yo_2005: Hmm, ok. Entonces tal vez los cinturones de seguridad son negativos después de todo… Esos dos factores que enumeraste son bastante concretos, y todo lo demás es difuso, por lo que podemos asumir que todo lo demás se cancela. Por lo tanto, el balance final es malo.
Yo_2013: Bueno, los cinturones de seguridad podrían tener otros efectos secundarios buenos. Si los automóviles fueran más seguros, conducirían más personas, lo que se traduce en un mayor número de estacionamientos. Los estacionamientos son una forma muy clara de evitar grandes cantidades de sufrimiento a los animales salvajes. Si la tierra no hubiera sido pavimentada, esos animales habrían tenido vidas cortas y muertes dolorosas. Quizás el número de insectos que se salvan de muertes dolorosas gracias a los estacionamientos es mayor al número de pollos y peces que mueren a causa de los conductores que permanecen vivos.
Yo_2005: Buen punto. Los estacionamientos son bastante beneficiosos, por lo que, en términos generales, puede ser que a fin de cuentas los cinturones de seguridad sean positivos.
Yo_2013: Por otro lado, más automóviles producirán más emisiones de gases de efecto invernadero, es decir, acelerarán el cambio climático, lo que significa más inestabilidad política global. Esta situación podría empeorar las perspectivas de compromiso en el futuro lejano. Lo que está en juego aquí podría eclipsar todo lo demás”.
Yo_2005: Ah… Sí, tienes razón. Entonces, los cinturones de seguridad pueden considerarse malos en términos netos.
Yo_2013: Por otro lado, menos muertes prematuras pueden hacer que las personas se sientan menos amenazadas y sean más previsoras en sus acciones…
[… etcétera]
Nick Bostrom ofrece más ejemplos de este tipo en su charla de 2014, Consideraciones cruciales y filantropía sabia.
Es tentadora la idea de centrarse en los efectos que se pueden ver e ignorar los que no se ven, esperando que estos se anulen de algún modo. Es una manera de sentir que “realmente estamos logrando una diferencia” cuando realizamos una determinada acción, en lugar de quedar paralizados por la incertidumbre, lo que a veces puede ser deprimente.
Algunos miembros del movimiento del altruismo eficaz adoptan este tipo de enfoque. Básicamente, “cualquier causa que sea incierta, lejana y especulativa no es ‘rigurosa’, por lo que debemos ignorarla. En cambio, debemos centrarnos en intervenciones claramente comprobadas y con sólida evidencia científica que las respalde; por ejemplo, la prevención de la malaria o la promoción del veganismo. Al menos en esos casos sabemos que estamos haciendo algo bueno en lugar de andar a la deriva”.
Creo que esta perspectiva tiene valor, en especial en la medida en que profundizar en los detalles científicos puede enseñarte lecciones importantes sobre el mundo, que son transferibles a otras áreas. Sin embargo, se derrumba como postura filosófica con esta pregunta: ¿Cómo sabes que la prevención de la malaria o la promoción del veganismo son buenos en términos generales? ¿Cómo puedes saber el signo de la actividad (y mucho menos su efectividad) sin considerar las implicaciones especulativas y de mayor alcance? Podrías tratar de asumir que todo lo que no puedes ver “simplemente se cancela”. Sin embargo, como vimos en el diálogo introductorio, este enfoque puede dar como resultado conclusiones cambiantes según cuál sea el lugar arbitrario del límite entre los “hechos conocidos” y “todo lo demás que desestimamos”. En última instancia, no tenemos más remedio que considerar el panorama completo y lidiar con él lo mejor que podamos.
Otra forma de elegir una causa a la que dedicarse es buscar acciones que tengan efectos ampliamente positivos en una amplia gama de escenarios. Por ejemplo:
Es mejor si hay más cooperación, democracia e instituciones eficaces para compromisos de suma positiva.
Es mejor si hay más reflexión y discurso filosófico.
Las actividades que fomentan indirectamente los dos puntos anteriores (como el movimiento del altruismo eficaz, el asesoramiento a las personas sobre la elección de carrera para que puedan lograr un cambio, etc.) son probablemente buenas.
Adviértase que no incluí en esta lista la tecnología, el crecimiento económico y otros avances que por lo general se consideran positivos, porque los utilitaristas de tendencia tanto negativa como positiva se cuestionan si una tecnología más veloz es buena o mala en términos generales. Por supuesto, ciertos tipos de tecnologías, como las que hacen avanzar la sabiduría más rápido, son más seguras y, a menudo, claramente beneficiosas.
Centrarse en los proyectos muy sólidos a menudo equivale a dejar las cuestiones difíciles a las generaciones futuras que estarán mejor equipadas para resolverlas. En general, no tenemos otra opción. Hay enigmas conocidos y descubrimientos futuros desconocidos en física, neurociencia, antrópica, el infinito, epistemología general, valores humanos (y no humanos) y muchas otras áreas de la vida que probablemente transformarán radicalmente nuestra opinión sobre la ética y sobre el modo en que debemos actuar. Tomar acciones directas de nivel objeto basadas únicamente en lo que sabemos ahora es algo así como si Sócrates tratara de determinar si existe el bosón de Higgs. Sócrates no habría podido resolver este problema directamente, pero sí podría haber alentado una mayor reflexión sobre temas intelectuales en general, con un beneficio posterior en el futuro.
En Felicifia, Gaverick propuso la idea básica de “volvernos más inteligentes” antes de tratar de abordar los problemas de nivel objeto. Me gustaría agregar que hace falta cierta cautela: no solo necesitamos conocimiento per se, sino también (y más específicamente) conocimiento éticamente reflexivo para poder decidir cómo avanzar de manera lenta, cuidadosa y prudente. No queremos una explosión del conocimiento rápido, donde una de las partes, con actitud avasallante, pisotea casi todo aquello que importa a la mayoría de las instituciones. Es decir que si bien la inteligencia artificial general (IAG) sería, en última instancia, necesaria para resolver estos temas que van más allá de la comprensión humana, necesitamos desarrollar la IAG sabiamente. A corto plazo, es posible que tenga sentido promover mejores condiciones sociales dentro de las cuales ese desarrollo pueda lograrse con mayor prudencia.
Uno de los aspectos de preparar el terreno para que las generaciones futuras hagan cosas buenas es asegurar que se transfieran nuestros valores, al menos en líneas generales. El mayor peligro de la estrategia de “diferir hacia el futuro” no es que el futuro no sea inteligente (la presión de selección hace probable que lo sea), sino que a ese futuro pudiera no importarle lo que nos importa a nosotros hoy. Aunque no queremos fijar permanentemente valores morales que podrían parecer ingenuos si se pudiera tener una mejor comprensión del universo, tampoco queremos que los valores del futuro queden a la deriva. El espacio de valores posibles es enorme, pero aquellos que podrían llegar a interesarnos —incluso después de dedicarle más reflexión— son un subconjunto minúsculo del total. Es por eso que nuestro lema no debería ser solo “más inteligencia”, sino algo así como “más sabiduría”.
(No puedo dejar de mencionar que desde una perspectiva centrada en el sufrimiento probablemente sería mejor si los humanos no desarrollaran la IAG debido a los riesgos extremos de sufrimiento futuro que ello provocaría. Pero dado que la humanidad desarrollará la IAG de cualquier manera, la mejor forma de lograr un cambio, en mi opinión, sería orientando la IAG en direcciones más humanas y de suma positiva. Debo reconocer también que otras personas se preocupan mucho por lo que la IAG podría ofrecernos, y también a eso le doy cierta importancia moral).
Parece que la forma principal en que nuestras acciones marcan una diferencia es preparando el terreno para que quienes nos sucedan sean más cuidadosos al pensar las cuestiones esenciales del altruismo y, sobre la base de este análisis, tomen buenas decisiones. Sin embargo, esto no significa que la única forma de tener un efecto sobre el futuro lejano sea trabajar directamente en actividades del metanivel, como el desarrollo del movimiento, el asesoramiento para la elección de carreras profesionales o la construcción de una IAG amigable. Por el contrario, todas las causas sobre las que podríamos trabajar tienen efectos indirectos de largo alcance en otras áreas. Por ejemplo, estudiar el modo de reducir el sufrimiento animal a corto plazo puede alentar a las personas a reconocer la importancia del problema desde una mirada más amplia, lo que también podría hacerlas pensar con más cautela antes de propagar la fauna a otros planetas o a escenarios simulados. Estudiar consideraciones cruciales de nivel objeto en filosofía puede motivar a más personas a hacer lo mismo, y quizá de modo más efectivo que limitándose a predicar la importancia general de la reflexión filosófica sin dar el ejemplo. En general, dar pasos pequeños y concretos junto con una visión más amplia pueden ser más inspiradores que limitarse a hablar de esa mirada, aunque cómo lograr el equilibrio entre ambas sea materia de debate.
Un último ejemplo para que se entienda bien la idea: imagina un altruista eficaz que en el año 1800 tratara de optimizar su impacto positivo. Esta persona carecería de buena parte de nuestros conocimientos actuales en materias como la economía, la ciencia política, la teoría de juegos, la física, la cosmología, la biología, la ciencia cognitiva, la psicología, los negocios, la filosofía, la teoría de la probabilidad, la teoría de la computación y tantas otras que habrían sido cruciales para su análisis. Si tratara de apostar por la cuestión de nivel objeto futura más importante, probablemente se equivocaría. No creo que hoy tendríamos más suerte para detectar un área específica de acción, más allá de unas pocas décadas. (Por supuesto, si pudiéramos adivinar tal área con cierta precisión, podríamos obtener grandes beneficios, como señala Nick Beckstead en la presentación que se discute al final de este ensayo.)
Este altruista eficaz del 1800 podría haber acertado si hubiera apuntado a la importancia de la paz mundial, de la reflexión filosófica, de instituciones sociales de suma positiva y de la sabiduría. Promover estas ideas habría sido probablemente lo mejor que esta persona podría haber hecho. Esto sugiere la posibilidad de que todavía sigan siendo las mejores opciones que tenemos en la actualidad. Por supuesto, también deberíamos estar atentos a opciones más específicas y capaces de producir mayores beneficios, pero también deberíamos ser humildes con respecto al alcance de nuestras habilidades si tenemos en cuenta las innumerables posibilidades del desconocimiento desconocido, es decir, de aquello que no sabemos que ignoramos con respecto a los errores en nuestras creencias actuales y a nuevas áreas de conocimiento de cuya existencia no tenemos la menor idea.
Nick Beckstead analiza una analogía similar en la sección 6.4.3 de su tesis doctoral On the Overwhelming Importance of Shaping the Far Future, donde propone el ejemplo de una persona del año 1500 que quería contribuir a que la humanidad construyera teléfonos siglos más tarde.
A veces, los defensores de una causa se obsesionan con una métrica o con una forma determinada de analizar la situación, por ejemplo, una cifra en dólares por año de vida ajustado por calidad (AVAC) aplicada a intervenciones en las áreas de salud y desarrollo globales o de bienestar animal. Este número seductor finalmente parece decirnos qué causas son mejores que otras. Y el resultado es que, incluso después de tener en cuenta las diferentes calidades de evidencia entre las organizaciones y la maldición del optimizador, las diferencias entre las distintas organizaciones pueden ser grandes —e incluso extremadamente grandes— según esta métrica.
Este tipo de cuantificación es ciertamente útil y ofrece una perspectiva importante desde la que considerar la situación, pero no debemos confundirnos y creer que es la solución definitiva. El mundo es complejo, y hay muchos ángulos distintos desde los que podemos considerar las actividades de una organización de beneficencia. Es posible que desde diferentes perspectivas se destaquen diferentes organizaciones.
Además, los efectos secundarios a largo plazo pueden marcar una gran diferencia incluso cuando se optimiza una sola métrica. Un ejemplo simple: Supongamos que el Papa estuviera considerando dar su apoyo para que se flexibilice la prohibición de la Iglesia católica respecto del control de la natalidad. Esto ayudaría a prevenir la propagación del VIH en África y, en general, parece una victoria para la salud pública, es decir, más AVAC. Sin embargo, el control de la natalidad implicaría menos embarazos, es decir, nacerían menos personas, lo que probablemente equivale a menos AVAC incluso si consideramos los efectos de la prevención del VIH. Entonces, de acuerdo con la métrica de los AVAC, permitir el control de la natalidad sería malo. Consideremos ahora el efecto sobre los animales de granja: una población humana más pequeña, conformada principalmente por católicos del mundo desarrollado, implica menos consumo de carne y menos AVAC negativos en las granjas industriales, por lo que el impacto general podría ser, una vez más, positivo en términos de AVAC. ¿Y los animales salvajes? Los seres humanos se apropian de enormes cantidades de tierra y de biomasa que, de otro modo, serviría a una gran cantidad de pequeños animales salvajes que sufren, por lo que una población humana más grande podría implicar menos sufrimiento para los animales salvajes y, por lo tanto, más AVAC, lo cual podríamos decir que se impone a las otras consideraciones. De modo que volvemos a la posición que se opone al control de la natalidad. Por otro lado, hay que tener en cuenta que un mejor acceso al control de la natalidad podría empoderar a las mujeres, mejorar la estabilidad social y, en términos generales, construir un futuro más pacífico y cooperativo, lo que podría mejorar la calidad de vida de personas futuras por cada siglo durante miles de millones de años. Nuevamente, el control de la natalidad parece positivo, etcétera.
Tal como vimos en el diálogo inicial, no es posible hacer un corte en un lugar determinado del análisis. Los efectos indirectos de largo alcance que tienen estas acciones no son totalmente impredecibles y pueden marcar una gran diferencia.
Cuando dejamos de obsesionarnos con los efectos secundarios particulares de una intervención y tratamos de ver el escenario completo, nos damos cuenta de que el panorama de la beneficencia está mucho menos desnivelado de lo que parece. Todo afecta a todo, y estos efectos secundarios sirven para atenuar la presunta urgencia de causas que parecieran ser muchísimo más importantes y, a la vez, para fortalecer aquellas que en principio no parece que lo sean. Por ejemplo, en la medida en que una organización fomenta la cooperación, la reflexión filosófica y el metapensamiento sobre la mejor manera de reducir el sufrimiento en el futuro, tendrá valiosos efectos indirectos de largo alcance (aunque solo sea por accidente), y es poco probable que alguna otra opción los supere por muchos órdenes de magnitud.
En 2008, hablé con algunas personas del Singularity Institute for Artificial Intelligence, ahora llamado MIRI (Machine Intelligence Research Institute), y les pregunté en qué tipo de proyectos extremadamente importantes estaban trabajando en comparación con otros grupos. Lo que escuché no me impresionó demasiado: básicamente se trataba de más investigación en matemáticas, filosofía, ciencia cognitiva y campos similares. No encontré nada que pareciera veces mejor (ni incluso 10 veces mejor) comparado con lo que otros filósofos de orientación científica estaban explorando en el mundo académico. En ese momento mi conclusión fue: “Bueno, tal vez este trabajo no sea tan importante”. Ahora tengo una opinión diferente. En lugar de creer que el trabajo del MIRI no es importante, creo que el trabajo de los otros académicos y pensadores es más importante de lo que yo pensaba. Las ideas intelectuales que yo había dado por sentadas no suceden milagrosamente. Tanto el MIRI como otros filósofos contribuyen al progreso general de la humanidad hacia una mayor sabiduría y proporcionan bases más sólidas sobre las que podrán apoyarse las generaciones futuras.
Me gustaría subrayar que sí considero que el trabajo de MIRI es uno de los mejores de la actualidad y en principio aliento las donaciones al MIRI, pero no considero que su trabajo sea astronómicamente más valioso, en sentido contrafáctico, que otras causas que también contribuyen a la misión general.
También me gustaría señalar que no todo el trabajo en IA o ciencia cognitiva tiene necesariamente valor neto positivo. Yo impulsaría un progreso intelectual diferencial en el que nos centremos en las cuestiones éticas y sociales a un ritmo más rápido que en las cuestiones puramente técnicas, porque, de lo contrario, corremos el riesgo de tener un gran poder sin estructuras adecuadas para restringir su uso.
Esta perspectiva del metanivel, en la que reconocemos los efectos secundarios de las acciones en el futuro, también calma al fanatismo más extremo: las recompensas infinitas. Algunos escenarios especulativos en física u otros campos ofrecen la posibilidad de que nuestros esfuerzos tengan un impacto infinito. Si así fuera, ¿acaso trabajar para influir en esos resultados no predomina por sobre todo lo demás? La respuesta es “no”, porque de hecho todo lo que hacemos tiene implicaciones para esos escenarios infinitos. Fomentar la sabiduría, promover la cooperación, etc., tendrán todos algún tipo de incidencia en la probabilidad de que obtengamos beneficios infinitos, si es que existen, y de hecho solo una mayor sabiduría podrá revelarnos las elecciones correctas con respecto a esas decisiones con potencial infinito. Al igual que con los ejemplos más mundanos de evaluación de organizaciones, centrarnos en un escenario en particular puede ser menos valioso que fomentar condiciones sociales útiles que puedan tener en cuenta un amplio espectro de escenarios posibles (algunos de los cuales ni siquiera podemos imaginar). Desde luego, trabajar en un caso específico puede ser una manera de fomentar la exploración de casos más generales, pero el aparente valor directo de centrarse en una idea específica puede verse superado por el valor indirecto de fomentar una visión más profunda de todo el conjunto de ideas de ese tipo.
Es por eso que incluso los maximizadores puros de utilidad esperada, cuya función de utilidad no tiene límite, tenderán a actuar con bastante normalidad. Incluso en este caso, es probable que la mejor estrategia general sea preparar el escenario para que otros aborden el problema con más sabiduría, y no alguna otra que nos lleve a hacer algo arriesgado de forma unilateral. (Ver también “Supuestos estabilizadores empíricos” en Infinite ethics.
Si bien esta discusión apuntaba a expresar una especie de reconocimiento por lo que Holden Karnofsky llama “eficiencia del mercado amplio”, no pretende establecer que todas las organizaciones de beneficencia sean iguales. De hecho, muchas acciones que podríamos tomar tendrían consecuencias negativas a corto y largo plazo, y lo mismo ocurre con las organizaciones: es probable que haya algunas que ocasionen más daño que beneficios. Los efectos indirectos de largo alcance son notoriamente complejos, por lo que incluso una actividad bien intencionada podría resultar dañina a la larga. Dicho esto, así como no espero que algunas organizaciones sean muchísimo mejores que otras, tampoco espero que muchas sean en extremo negativas.
Los efectos indirectos de largo alcance tampoco nos impiden hacer juicios sobre la eficacia relativa. Probablemente estudiar maneras de reducir el sufrimiento en el futuro sea mucho más importante que estudiar los escarabajos peloteros, para usar un ejemplo del filósofo Nick Bostrom. No obstante, no es claro que estudiar directamente el sufrimiento futuro sea muchísimo más importante. Las herramientas y los conocimientos desarrollados en una ciencia tienden a transferirse a otras. En general, es importante dedicarse a una variedad de proyectos y descubrir cosas que uno no sabía que no sabía. Si me dieran a elegir entre 1 000 artículos sobre sufrimiento futuro y 1 000 sobre algún escarabajo, o 1 001 artículos sobre sufrimiento futuro y 0 sobre ese escarabajo, elegiría la primera opción.
Mejorar la sabiduría futura es bueno si esperamos que las personas del futuro actúen de maneras similares a las que aprobaríamos, es decir, haciendo cosas que generalmente concuerden con lo que nos importa, con posibles diferencias basadas en el conocimiento que tienen ellos y que nosotros no tenemos. La situación es más complicada para los utilitaristas negativos, cuyos valores se diferencian muchísimo de los valores de la mayoría (y es probable que esta diferencia persista indefinidamente). Si la mayoría de las personas con mayor sabiduría decidieran esparcir la vida (y, por lo tanto, el sufrimiento) por todo el cosmos, ¿no es malo hacer que el futuro sea más sabio según los valores de los utilitaristas negativos?
Puede ser, pero es probable que un futuro más sabio sea bueno incluso para los futuros utilitaristas negativos. Por un lado, si las personas son más sofisticadas, es probable que sientan empatía por nuestra postura moral, ya que comprenderían que un cerebro como el nuestro, que es muy similar al de ellos, siente que el sufrimiento es algo muy malo. Como resultado, ellos podrían preocuparse un poco más por el sufrimiento, aunque no lo hicieran al mismo nivel que los utilitaristas negativos. Además, aun en caso de que las personas futuras no cambien sus perspectivas morales, al menos deberían reconocer que, estratégicamente, los compromisos con los que todas las partes salen ganando son mejores para sus valores, de modo que parece que una población más sabia debería ser más propensa a cooperar y a hacer concesiones a una minoría de utilitaristas negativos. Análogamente, la democracia suele ser mejor que una dictadura cualquiera, no solo para la mayoría, sino para todos los miembros de la democracia.
Si una persona tiene valores extraños, es probable que tenga muchas oportunidades fáciles de aprovechar y que el mercado de la beneficencia no sea tan eficiente para ella como para otras personas. Dicho esto, siempre que el impacto de una persona dependa, en última instancia, de sus efectos en el futuro, incluso los valores extraños podrían, según las circunstancias, ser fomentados de manera más ventajosa por proyectos que promuevan la sabiduría y la paz como los que promovería la mayoría, aunque esta conclusión será más débil en este caso.
Promover intervenciones sólidamente positivas parecería una suerte de aversión al riesgo. Un escéptico podría alegar: “Quieres asegurarte de no causar daño, pero no consideras los posibles aspectos positivos de los enfoques más riesgosos”. Sin embargo, como creo que se desprende de los ejemplos de este artículo, la solidez de la causa no consiste realmente en reducir el riesgo, sino que es nuestra mayor esperanza de hacer algo cuyo valor esperado no sea de aproximadamente cero. En muchas cuestiones concretas, una acción dada tiene casi la misma probabilidad de dañar que de beneficiar, y hay tantas variables que se deben tener en cuenta, que dar un paso hacia atrás para explorar más a fondo es la manera más eficaz de mejorar nuestras perspectivas. A la larga, invertir en conocimiento altruista e instituciones sociales para abordar los problemas dará más frutos que destinar nuestros recursos a alguna apuesta concreta que vemos en este momento.
Por supuesto esto no quiere decir que siempre debamos optar por la acción más segura desde una perspectiva de no causar daño relativa a un statu quo de inacción. (Para minimizar el daño esperado relativo al statu quo, la mejor opción sería mantener el statu quo.) A veces se puede ser demasiado “meta”. A veces siento que debemos impulsar ideas poco convencionales, en lugar de esperar que la sociedad en su conjunto las acepte, por ejemplo, difundiendo la preocupación por el sufrimiento de los animales salvajes o considerando las posibilidades de las subrutinas de sufrimiento. Sin embargo, también debemos evitar acciones descabelladas cuya plausibilidad solo se base en el hecho de que algún cálculo de valor esperado de alta variabilidad sugiere que podrían dar mayores beneficios a corto plazo. Impulsar la cooperación y la sabiduría futuras no solo es una forma más segura de hacer el bien, sino que probablemente también tenga un mayor valor esperado.
En última instancia, elegir en qué centrarnos se reduce a un cálculo de valor esperado. Si solo estuviéramos tratando de encontrar la forma de tener un impacto positivo, podríamos, por ejemplo, visitar un hogar de ancianos y jugar al ajedrez con las personas que viven allí con el fin de hacerles compañía. Es una acción admirable y tiene un riesgo muy bajo de efectos secundarios negativos, pero no tiene el valor máximo esperado (excepto, quizás, con moderación, como una forma de mejorar tu bienestar espiritual). Por otro lado, arriesgar todos tus recursos en una apuesta a largo plazo para mejorar el futuro lejano basándote en una especulación sumamente específica de cómo se desarrollarán los eventos tampoco tiene el máximo valor esperado. Fuera de la frontera eficiente, más riesgo no significa necesariamente más rendimiento esperado. Un enfoque que mejore en términos generales los resultados futuros tenderá a mostrar una probabilidad razonablemente alta de tener un impacto razonablemente significativo, por lo que el valor esperado tenderá a ser competitivamente grande.
Dado que la discusión comprendida en esta sección se extendió demasiado, decidí trasladarla a un nuevo ensayo.
Los grupos a menudo se consideran diferentes y especiales. A la gente le gusta sentir que está descubriendo cosas nuevas y que es pionera en un terreno inexplorado. He visto que muchas ideas viejas se reciclan bajo una etiqueta nueva y atractiva, a pesar de que las personas terminan haciendo casi lo mismo que antes. Esta tendencia es similar a la moda. A veces lo observo en el ámbito académico: los viejos métodos estadísticos pasan a tener nuevos nombres como “inteligencia artificial”, o las técnicas habituales en un campo reaparecen como “la gran novedad”.
Creo que el movimiento del altruismo eficaz tiene algunas características en común con la moda. Está conformado por jóvenes idealistas que piensan que han descubierto nuevos principios para mejorar al mundo. He tomado el siguiente ejemplo de A critique of effective altruism:
Los altruistas eficaces a menudo se sorprenden de que el altruismo eficaz haya surgido tan recientemente. Por ejemplo, hace un tiempo Elie Hassenfeld dio una charla a mi grupo de estudio y se refirió justamente a este tema. Además, he escuchado comentarios similares de otras personas que trabajan para organizaciones de altruismo eficaz.
Es cierto que el altruismo eficaz tiene algunas ideas y metodologías nuevas, pero la mayoría de los principios del movimiento son muy antiguos:
El altruismo existe desde antes de que existieran los humanos (en mamíferos, aves, etc.). Formas más modernas tienen por lo menos algunos siglos de antigüedad. A lo largo de la historia, muchos idealistas han querido “tener el mayor impacto en el mundo”.
La cuantificación y el pensamiento racional también son antiguos, pero incluso en sus formas modernas, durante muchas décadas, se han extendido en campos como la economía, las finanzas y la ingeniería, entre otros. Los principios de cómo ser “eficaz” son habituales para cualquier persona del mundo de los negocios y, francamente, para muchos que pertenecen al mundo de la beneficencia, especialmente en organizaciones más elitistas.
Las raíces filosóficas del altruismo eficaz también se discuten desde hace décadas. Los principales aspectos que son nuevos tienden a referirse a las tecnologías emergentes y a los escenarios del futuro lejano que no estaban disponibles para generaciones pasadas.
Cuando consideramos los efectos indirectos de largo alcance, nos damos cuenta de que, en rigor de verdad, nuestras acciones no son muchísimo más importantes que las acciones de otros altruistas. No tenemos una receta secreta para ser muchísimo más eficientes.
Creo que es útil aprender más sobre muchos campos. La literatura académica y de las organizaciones sin ánimo de lucro ya cuenta con una gran cantidad de material sobre los movimientos sociales, sobre lo que funciona y lo que no funciona para tener impacto, sobre cómo recaudar fondos y cómo administrar una organización, etc., así como sobre casi cualquier causa de nivel objeto en la que uno pueda desear trabajar, desde el bienestar animal hasta la cooperación internacional. Las principales fundaciones tienen personas inteligentes que ya han reflexionado mucho sobre estos temas. Incluso el hombre de la calle tiene toda una vida de sabiduría acumulada de la que puedes aprender. Cuando pensamos en cuánto conocimiento hay en el mundo, y lo poco que podemos aprender en nuestras vidas, recibimos una lección de humildad. Es bueno reconocer nuestro lugar en este gran escenario en lugar de asumir que tenemos las respuestas (especialmente a una edad tan temprana, en muchos casos).
Una razón por la que los defensores del altruismo eficaz pueden percibirse como seres especiales es que aprendieron del movimiento una gran cantidad de ideas poderosas que de hecho son mucho más antiguas y generales, como conceptos de economía, sociología, negocios y filosofía. Carl Shulman analizó este fenómeno en Don’t revere the bearer of good info, que se refiere a los escritos de Eliezer Yudkowsky. Carl subraya lo importante que es salir de nuestro propio círculo para lograr ver una imagen del mundo mucho más grande que aquella que suele ser el tema de conversación de nuestra comunidad. El paso del tiempo me ha dado una lección de humildad, al mostrarme cuántas personas ya sabían lo que yo estaba aprendiendo y cuán grande es la dificultad de encontrar las mejores oportunidades para lograr los mayores cambios.
En muchos sentidos, el altruismo eficaz puede verse como una extensión de los principios del mundo de los negocios al mundo de la beneficencia: cuantificación y métricas, enfoque en el rendimiento más que en los gastos generales, énfasis en la costo-eficacia y en el retorno de la inversión, etc. En términos generales, esta mentalidad empresarial es positiva, pero tiene al menos dos características que podrían llegar a ser perjudiciales para las organizaciones, tanto dentro del altruismo eficaz como en otros ámbitos.
En los negocios, lo único que importa a los accionistas es el rendimiento financiero de una empresa, medido en dólares. El valor de las acciones de una empresa puede decir mucho, incluidas las proyecciones a largo plazo para la industria y las ganancias a corto plazo, pero también omite mucho, como la mayoría de las externalidades de la empresa, a menos que afecten su balance final, por ejemplo, a través de impuestos y regulaciones gubernamentales.
Del mismo modo, en el altruismo, si introducimos una mentalidad de “balance final”, puede darse el caso de sobreoptimizar según esta métrica e ignorar otras características importantes del trabajo de beneficencia. Un ejemplo de esto podría ser centrarse excesivamente en la relación AVAC/$ o animales salvados/$, ignorando otros aspectos que suelen ser más importantes: los efectos indirectos de largo alcance (externalidades) y las consecuencias para el futuro lejano que el trabajo podría implicar. GiveWell ha ayudado a desalentar el énfasis excesivo en las métricas visibles, y la mayoría de los altruistas eficaces también reconocen este problema. Sin embargo, creo que es fácil caer en una optimización métrica ingenua cuando uno empieza a familiarizarse con el altruismo eficaz. La optimización en ingeniería o en finanzas es un proceso mucho más preciso que la optimización en la beneficencia o en la formulación de políticas, y a veces las herramientas que funcionan extraordinariamente bien en las primeras fallan en las segundas en comparación con las llamadas habilidades de las “ciencias blandas”.
En el mundo de los negocios, una compañía que realiza un servicio similar a clientes como los tuyos es un competidor, y tu objetivo es robarle a ese competidor tanta cuota de mercado como te sea posible. El único costo de marketing es el dinero que gastas en él, y si atrae a suficientes clientes de la competencia, vale la pena.
Las organizaciones de beneficencia, tanto las relacionadas con el altruismo eficaz como otras, pueden adoptar una mentalidad similar: quieren más donantes para sus causas, sin prestar demasiada atención a las organizaciones a las que quitan donantes. Los altruistas eficaces se preocupan por los problemas de la reemplazabilidad y reconocen que alejar a los donantes de otras causas puede ser importante, pero normalmente consideran que la organización que ellos promueven es mucho más eficaz que aquella a la que le están quitando donantes, de modo que es poco lo que se pierde. Es posible que esto sea cierto en algunos casos —por ejemplo, animar a los donantes a financiar la prevención del VIH en lugar de los tratamientos contra el sida, o captar donantes que tenían planes de financiar galerías de arte—, pero en otros casos la situación no es tan clara. En el ámbito del análisis y la defensa de las políticas (donde posiblemente los rendimientos sean más altos), por lo general es más difícil decir que una organización es mucho más importante que otra, porque los problemas son complejos y pluridimensionales.
De modo que para los altruistas, el costo de marketing y la recaudación de fondos es más que el tiempo y el dinero necesarios para llevarlos a cabo. La caridad no es una competencia.
Después de escribir este artículo, encontré una presentación que Nick Beckstead dio en julio de 2013. Nick explica varios puntos de vista similares a los expresados en este ensayo. Por ejemplo, hacia el final (p. 39) dice:
Hay una pregunta interesante sobre qué punto debe uno ocupar en el espectro que va desde los enfoques más focalizados a los más amplios, y no me parece que esta pregunta tenga una respuesta clara.
Mucho de lo que hacen quienes no piensan en el futuro lejano puede ser valioso según estándares del futuro lejano.
Los enfoques amplios (incluso el progreso tecnológico general) parecen más sólidos, pero algunos enfoques focalizados pueden dar como resultado rendimientos enormes si se implementan correctamente.
Hay muchas cuestiones complejas. Para resolverlas hay que tener una visión de conjunto. El estudio de los enfoques focalizados destaca en cierto modo porque tiene el potencial de generar beneficios extraordinarios.
Nick propone estos objetivos como muy positivos (p. 5):
Coordinación: El grado de coordinación de las personas
Capacidad: La capacidad de las personas para lograr sus objetivos
Motivación: El grado de motivación de las personas
Información: En qué medida las personas tienen acceso a la información
Estoy de acuerdo con respecto a la coordinación y la motivación. No estoy tan seguro en lo que se refiere a la información, porque acelera el desarrollo de riesgos junto con el desarrollo de medidas de seguridad. Esto es aún más evidente en el caso de la capacidad. Por lo tanto, yo estaría a favor de impulsar de manera diferencial la sabiduría y el compromiso más que el crecimiento económico y tecnológico. En cierto modo, Nick lo reconoce en la p. 30:
Los enfoques amplios tienen más probabilidades de potenciar tanto las cosas malas como las buenas.
Aumentar las capacidades o la información generales de las personas hace que éstas sean más capaces de hacer cosas que serían peligrosas, anulando algunos de los beneficios del aumento de las capacidades o la información.
Mejorar la coordinación o los motivos posiblemente tenga este efecto en menor medida
El propio Nick argumenta que es muy probable que un crecimiento económico más rápido sea positivo porque mejora la cooperación y la tolerancia, y cita Las consecuencias morales del crecimiento económico de Benjamin Friedman: “El crecimiento económico —es decir, un aumento en el nivel de vida de la mayoría de los ciudadanos—, generalmente fomenta las oportunidades, la tolerancia de la diversidad, la movilidad social, el compromiso con la justicia y la dedicación a la democracia”. Estoy de acuerdo con esto, pero la cuestión no es si el crecimiento económico tiene buenos efectos de este tipo, sino si estos efectos pueden ser mayores que los riesgos que también acelera. Creo que este problema todavía no se ha resuelto.
En las páginas 18–19, Nick despacha el argumento de que una tecnología más rápida es mala en términos netos señalando que también significa contramedidas más rápidas, junto con algunas otras consideraciones que me parecen menores. Este punto es relevante, pero considero que no queda claro cuál es el balance neto. En mi opinión, es demasiado pronto para afirmar que una tecnología más rápida sea buena en términos netos, y mucho menos que sea lo suficientemente buena como para que debamos darle preferencia frente a otras opciones.
En la página 24, Nick se hace eco de mi opinión sobre la necesidad de diferir al futuro ciertas cuestiones:
En algún sentido, tratar de ayudar a las personas futuras a afrontar mejor los desafíos específicos es como tratar de ayudar a las personas de un país diferente a resolver sus desafíos específicos, y hacerlo sin un conocimiento íntimo de la situación, y sin la posibilidad de viajar a su país o de hablar con alguien que haya estado allí recientemente.
A veces, solo nosotros podemos trabajar en el problema (esto es cierto con respecto al cambio climático y a las personas que vivirán dentro de 100 años)
La situación es menos clara con respecto a los riesgos derivados de la tecnología futura.
Nick concluye con algunas importantes preguntas de investigación sobre ejemplos históricos de qué intervenciones fueron las más importantes y sobre cómo son las oportunidades actuales y las lagunas de financiación o talento.
Carl Shulman tiene un artículo, What proxies to use for flow-through effects?, en el que sugiere muchas métricas posibles para los efectos sobre el futuro lejano, aunque explica que no todas tienen un signo positivo evidente. De la lista de Carl, estas son algunas que considero bastante positivas:
La educación para aumentar la “sabiduría”
La paz y la cooperación internacionales, incluidos todos los puntos subordinados que agrega Carl.
Métricas de calidad institucional
El signo de la mayoría de las otras métricas me queda menos claro, incluyendo el crecimiento económico, la población, la educación en general y, en especial, la tecnología. Carl cita la World Values Survey (Encuesta Mundial de Valores) como una demostración importante del impacto de la riqueza per cápita en la racionalidad y en la perspectiva cosmopolita.
Dentro de la categoría “sabiduría”, incluiría las métricas que Carl menciona para las ciencias naturales aplicadas a las ciencias sociales y a la filosofía. Por ejemplo, número de publicaciones, número de páginas web que discuten esos temas, número y longitud de artículos de Wikipedia sobre esos temas, etc. Por supuesto, el valor de algunos de estos campos está en el resultado, es decir, en la medida en que mejoren la democracia, la transparencia, la cooperación global, etc.
En los comentarios, Nick Beckstead sugirió la desigualdad como otra posible métrica. No he estudiado exhaustivamente la bibliografía, pero he oído argumentos sobre cómo erosiona muchas otras métricas relevantes, como la confianza, la cooperación, la salud mental y la bondad interpersonal. Por ejemplo, según Richard Wilkinson: “Donde hay más igualdad usamos estrategias sociales más cooperativas, pero donde hay más desigualdad, las personas sienten que tienen que valerse por sí mismas y la competencia por el estatus adquiere más importancia”.
Puede parecer que somos incapaces de dar respuesta a consideraciones cruciales aún no descubiertas sobre cómo debemos actuar. ¿Es nuestra única opción seguir investigando para encontrar consideraciones más cruciales y, mientras tanto, llevar a la sociedad hacia un estado más cooperativo y sabio? No necesariamente. Quizás otra posibilidad sea modelar las consideraciones cruciales desconocidas.
Consideremos la siguiente historia. Andrés es un joven que observa que la gente va a una campaña de donación de sangre. No sabe qué están haciendo, pero ve que les están clavando agujas. Su conclusión es que no le gustaría participar en una campaña de donación de sangre. Llamemos a esto su “evaluación inicial” (EI) y representémosla con un número para indicar si está a favor o en contra de la acción. En este caso, Andrés asume que no le gustaría participar en la campaña de donación de sangre, así que digamos , donde el número negativo significa “oponerse”.
Unos años más tarde, Andrés se entera de que las campañas de donación de sangre tienen por objeto salvar vidas, lo cual es positivo. Esta consideración crucial no es algo que podía prever antes, lo que la convierte en un desconocimiento desconocido. Dado que es el primer desconocimiento desconocido de Andrés, llamémoslo . Como esta consideración favorece la donación de sangre, y lo hace con más fuerza que la evaluación inicial de Andrés de oponerse a donar sangre, digamos entonces que . Como , Andrés ahora es donante de sangre.
Sin embargo, un año después, Andrés se convierte en un ecologista profundo. Está convencido de que los seres humanos están arruinando la Tierra y de que la preservación de la naturaleza tiene más importancia que las vidas humanas. Donar sangre permite a una persona de un país rico vivir quizá algunos años más, durante los cuales viajará en coche, comerá alimentos cultivados, utilizará electricidad, etc. Andrés juzga que estos impactos ambientales son lo suficientemente malos como para que no valga la pena el beneficio de salvar la vida de la persona. Digamos que , de modo que ahora . Como consecuencia, Andrés deja de donar sangre.
Pasados unos meses, Andrés lee a Peter Singer y se da cuenta de que los animales también son importantes. Dado que actividades humanas como conducir vehículos y cultivar alimentos dañan y matan a muchos animales salvajes, Andrés llega a la conclusión de que esta idea adicional es un nuevo argumento en contra de la donación de sangre. Digamos que .
Sin embargo, no mucho tiempo después, Andrés toma conocimiento del sufrimiento de los animales salvajes y se da cuenta de que los animales sufren inmensamente incluso cuando no son los humanos los que los están dañando. Como la actividad humana parece haber reducido en general las poblaciones de animales salvajes, Andrés llega a la conclusión de que es mejor que haya más humanos, porque cree que esta reducción compensa el daño que los humanos causan a los animales salvajes y al planeta. Digamos que . Ahora . Andrés vuelve a donar sangre.
Finalmente, Andrés se da cuenta de que donar sangre insume determinado tiempo que de otro modo podría dedicar a actividades útiles. Esta consideración es relevante, pero no dominante. .
¿Qué pasa con las futuras consideraciones cruciales que Andrés aún no ha descubierto? ¿Puede hacer alguna afirmación al respecto? Una forma de hacerlo sería modelar los desconocimientos desconocidos (DD), como si fueran muestras de una distribución de probabilidad P: para todo . La distribución de DD hasta ahora era 3, -5, -2, 10, -1. La media de la muestra es 1 y el error estándar es 2,6. El error estándar es lo suficientemente grande como para que Andrés no pueda tener mucha confianza en los futuros DD, aunque la media de la muestra sugiere de manera muy débil que los futuros DD tienen más probabilidades de ser positivos que negativos en promedio.
Si Andrés tuviera 100 puntos de datos sobre DD, el error estándar sería mucho menor, lo que acrecentaría la confianza. A la hora de trabajar con DD, esto constituye una lección: cuantas más consideraciones hayas tenido en cuenta, más seguro estarás de que la distribución de los DD restantes también tiene una media positiva.
Que podamos anticipar algo sobre los DD a pesar de no saber cuáles serán se puede ver más claramente en un caso en los que los DD actuales están más desequilibrados. Por ejemplo, supongamos que la acción considerada es “iniciar peleas con cualquier persona que pasa por la calle”. Aunque esto probablemente tenga algunas consideraciones a su favor, casi todas las consideraciones cruciales en las que uno podría pensar están en contra de la idea, lo que sugiere que la mayoría de los nuevos DD también estarán en su contra.
En la práctica, modelar los DD puede ser más complicado que lo que he hecho aquí, porque no es claro cuántos DD quedan (aunque se podría aplicar una distribución de probabilidad previa sobre el número restante), ni es claro que todos provengan de una distribución de probabilidad fija. Tal vez los futuros DD tiendan a dominar a los anteriores en tamaño, lo que lleva a estimaciones cada vez más inestables. Por ejemplo, si los DD anteriores tienden a cambiar el signo de muchas consideraciones previas a la vez, entonces el último DD tendría una magnitud cada vez mayor a medida que pasara el tiempo, ya que necesitaría “deshacer” cada vez más DD pasados. Tampoco es claro cómo encasillar la información en diversos DD. Por ejemplo, la idea de que donar sangre ayuda a los animales salvajes podría expresarse simplemente como un solo DD de magnitud 10, o podría dividirse en “donar sangre ayuda a los vertebrados salvajes” (magnitud 2) y “donar sangre ayuda a los invertebrados salvajes” (magnitud 8). Diferentes formas de dividir los DD darían como resultado una distribución de probabilidad estimada diferente, aunque el signo de la media de la muestra siempre sería el mismo.
El enfoque que describí presenta algunos problemas. Según Magnus Vinding:
En el caso de los DD, un problema importante es que casi todo nuestro sistema de valores y nuestra visión del mundo parecen estar sujetos a revisión y, además, que los diferentes DD probablemente tendrán una interdependencia profunda y compleja, por lo que modelarlos sería muy difícil. Modelar las interrelaciones de los DD en nuestra muestra y el modo en que se modifican mutuamente también parecería un elemento necesario para incluir en este análisis.
Mis opiniones sobre estos temas han recibido la influencia de muchos pensadores del altruismo eficaz, como Holden Karnofsky, Jonah Sinick y Nick Beckstead. Véase también Beware brittle arguments de Paul Christiano.
La discusión de este ensayo en el foro de Facebook “Effective Altruists” incluye un debate que analiza si los efectos indirectos de largo alcance son realmente significativos en relación con los efectos de primer orden y cuán inevitable es el futuro.