La IA y el Leviatán: parte I—la economía institucional de una explosión de inteligencia
Imagina que se produce un avance revolucionario y, de pronto, todo el mundo tiene acceso a unas gafas baratas con visión de rayos X. Las gafas parecen comunes y corrientes, pero cuentan con un dial que te permite ver a través de las paredes, la ropa de la gente, etc. De alguna manera, también funcionan con fotos antiguas y grabaciones de vídeo.
En cierto sentido, esto sería increíble. Podrías notar, por ejemplo, un bulto misterioso en la tiroides de un amigo, detectar su cáncer a tiempo y ahorrarle incalculables costos médicos. Pero en lo inmediato, el acceso universal y prácticamente indetectable a estas gafas (o lentes de contacto, si lo prefieres) supondría un desastre para la seguridad y la privacidad. No es que la seguridad de los hogares o de los dispositivos se viera comprometida per se. Más bien, sería como si una sociedad diseñada en torno al espectro de luz visible quedara, de la noche a la mañana, mal adaptada a su entorno.
Hay tres formas canónicas en las que la sociedad podría responder:
-
Evolución cultural: adoptamos el nudismo y toda una nueva gama de normas posprivacidad;
-
Mitigación y adaptación: empezamos a usar ropa interior de plomo y nos apresuramos a reformar nuestros hogares, oficinas y vestuarios con paredes impenetrables;
-
Regulación y aplicación de la ley: prohibimos o regulamos estrictamente la tecnología y construimos un Leviatán de rayos X para inspeccionar las gafas de la gente, castigar a los infractores, etc.
La opción de que todos se coordinen espontáneamente para no usar nunca las gafas, o para usarlas solo con fines prosociales, es inestable. Incluso si eres un voyeur y el acceso a las gafas te beneficia personalmente, hay un dilema del prisionero subyacente, por lo que rápidamente pasamos a un equilibrio en el que todo el mundo tiene las gafas, aunque todos prefiriéramos un mundo sin ellas.
Las gafas son una metáfora de la inteligencia artificial.
Apenas es una metáfora. La IA ya permite una especie de visión de rayos X a través del desplazamiento de las señales WiFi en una habitación, y con unos pocos sensores infrarrojos podrás, con el tiempo, interpolar con precisión cuerpos desnudos sobre cada peatón de Times Square. El filtro nudista de RA no estará permitido en la tienda de aplicaciones del Apple VisionPro, pero la tecnología básica será lo suficientemente barata y de código abierto como para que eso sea irrelevante.
Extracción de señales
La IA es un microscopio. Aumenta la resolución de la información del universo. Esto tiene muchas implicaciones asombrosas, pero también muchas aterradoras.
La IA nos permite refactorizar código heredado, restaurar pergaminos antiguos y detectar nuevas galaxias en antiguos estudios astronómicos. Al mismo tiempo, la IA convierte tu manera de caminar en una huella dactilar, un micrófono en un registrador de teclas y una instantánea de tu rostro en una prueba de polígrafo con una precisión superior al 93 %.
Aunque los deepfakes son una preocupación cada vez mayor, la IA, en general, está haciendo que el mundo sea radicalmente más transparente. Pero la transparencia perfecta tiene sus propios costos. El conocimiento se expandirá y las barreras para manipular el mundo disminuirán. Literalmente escucharemos los gritos de las flores estresadas y tendremos conversaciones con las ballenas. Entonces, un día, un modelo de IA diseñado para completar tus oraciones aprenderá a terminar tus pensamientos, rompiendo así la barrera subjetiva que gran parte de la filosofía occidental daba por impenetrable.
Muchos de estos casos de uso no son nuevos, pero solo ahora se están volviendo fiables gracias al escalamiento. Si hay una señal entre el ruido, una red neuronal lo bastante grande la extraerá, y de una forma que con el tiempo se está volviendo exponencialmente más barata y accesible. ¡Ni siquiera tendrás que instalar nada! Tu asistente de IA, al estilo de Jarvis, simplemente recurrirá a modelos especializados de HuggingFace o GitHub cuando los necesite. Para quienes juegan D&D, será como un amuleto que le garantiza a su portador sacar un 20 natural en cada prueba de Arcanos.
Esto suena liberador y, en muchos sentidos, lo será. Pero la historia también sugiere que las mejoras a nuestra libertad natural pueden resultar paradójicamente opresivas, al menos en el corto plazo.
Para que quede claro, lo que sigue no es un argumento a favor de detener el desarrollo de la IA, aunque pudiéramos hacerlo. Si bien creo que necesitaremos nuevos mecanismos de supervisión para implementar modelos de vanguardia de forma segura a medida que su escala y potencia aumenten, nuestro objetivo no debería ser detener la IA, sino más bien, en cierto sentido, dominarla.
En todo caso, acelerar el desarrollo de las diferentes modalidades de IA defensiva puede la mejor manera de hacer que la opción de «mitigación y adaptación» sea el camino de menor resistencia. No obstante, es importante tener claras las numerosas formas en las que nuestro futuro con la IA implica el paquete completo, y extraer sin prejuicios las implicaciones para la probable evolución de nuestro orden social.
El estado de naturaleza
Thomas Hobbes describió de manera célebre la vida en el «estado de naturaleza» como una «guerra de todos contra todos». A veces esto se confunde con una afirmación sobre las sociedades cazadoras-recolectoras, pero Hobbes aludía a las catastróficas condiciones de la guerra civil inglesa, de la cual huyó por su seguridad personal. Leviathan, or the Matter, Forme, & Power of a Common-Wealth Ecclesiasticall and Civill se publicó por primera vez en 1651, cerca del inicio del interregno. Tras percibir que los orígenes de la guerra radicaban en la creciente fragmentación y radicalización de la sociedad inglesa bajo el débil gobierno personal del rey Carlos I, Leviathan, or the Matter, Forme, & Power of a Common-Wealth Ecclesiasticall and Civill ofreció un argumento teórico sobre por qué la monarquía absoluta era la única forma de restablecer la paz y el orden. La noción hobbesiana de «pacto» social no era la de un contrato literal que firmaran los individuos, sino más bien una descripción abstracta del proceso mediante el cual las facciones beligerantes alcanzan un acuerdo político al ceder a una autoridad superior su «libertad natural» para interferir en los asuntos de los demás.
Las causas inmediatas de la guerra civil inglesa son complejas y variadas, pero el panorama general es el de un cambio tecnológico disruptivo. Aunque la imprenta se inventó dos siglos antes, la guerra se produjo en el punto de inflexión de la revolución de la imprenta —el momento crítico que desencadenó el crecimiento vertiginoso de la producción impresa—. La primera publicación de la Biblia del rey Jacobo tuvo lugar en 1611, por ejemplo, apenas 30 años antes de la guerra, pero solo 55 años antes del nacimiento del periodismo con el primer periódico inglés publicado de forma regular, The Oxford Gazette.
El acceso generalizado a la imprenta permitió una disidencia igualmente generalizada, lo que impulsó una «revuelta del público» que reflejaba la dinámica que Martin Gurri atribuye a la era de internet. Desde la Reforma inglesa en adelante, el creciente acceso a la información no solo abrió las mentes de las personas a lealtades políticas alternativas, sino que las hizo cada vez más conscientes de que tenían vecinos con opiniones diferentes. Cuando los controles legales del Parlamento sobre la prensa prácticamente se derrumbaron en 1643, su régimen episcopal de licencias y censura quedó en manos de un mercado no regulado, lo que facilitó aún más que los separatistas puritanos, los independientes y otros inconformistas radicales encontraran a personas afines y se coordinaran contra la Iglesia. El Parlamento, por su parte, cuestionaba la autoridad de la Corona, creando así lo que el historiador Robert Zaller denominó un nuevo «discurso de legitimidad». En unos cuantos años vertiginosamente cortos, la escalada ideológica en múltiples frentes alcanzó por fin su desenlace en el regicidio y la violencia masiva.
A menudo se compara a la IA con la imprenta, pero los paralelismos entre la Inglaterra de la Edad Moderna y los Estados Unidos contemporáneos van más allá de lo tecnológico. Nuestras divisiones culturales e ideológicas se están intensificando; los nuevos puritanos se han topado de frente con una contrarreacción conservadora; y nuestros debates parlamentarios giran en torno a cuestiones de censura, mientras que los controles mediáticos del siglo anterior sucumben ante la internet abierta. Incluso el poder de la presidencia de los Estados Unidos ha alcanzado su punto más bajo, como si estuviera esperando a un «rey originalista» que reivindicara el ejecutivo unitario y desencadenara una crisis.
¿Acelerar hacia qué?
Estas divisiones se reflejan en los distintos bandos de la IA. Algunos están a favor de regular el desarrollo de la IA hasta que podamos garantizar una seguridad perfecta, quizás mediante un régimen de licencias. Otros desean seguir adelante, acelerando el acceso a través del código abierto.
El reformador e «informador» inglés, Samuel Hartlib, fue el «aceleracionista eficaz» de su época. Su objetivo declarado era «recopilar todo el conocimiento humano y lograr que estuviera universalmente disponible para la educación de toda la humanidad», y a menudo imprimía textos técnicos para distribuirlos a sus expensas —lo más parecido a publicar en código abierto en aquellos tiempos—. Los evangelistas de la IA de hoy en día tienen objetivos igualmente ambiciosos, desde la misión de Emad Mostaque de utilizar la IA para educar a los niños del mundo, hasta la visión de Marc Andreesen de la IA como herramienta para potenciar a la humanidad en prácticamente todos los ámbitos.
Los aceleracionistas tienen a su favor la visión a largo plazo de la historia, y yo apoyo en líneas generales la visión de futuro de Andreesen. No obstante, siempre resulta más fácil imaginar el punto final de una tecnología que prever las concesiones y las bifurcaciones que surgen inevitablemente durante la transición.
El instinto «Caótico Bueno» de George Hotz de publicar en código abierto modelos que podrían tener un doble uso lo antes posible tiene un potencial particularmente alto de provocar un efecto contraproducente. La ética del aceleracionismo efectivo consiste en considerar que el código abierto impulsa el avance de la libertad humana, al tiempo que valida una mentalidad de seguridad al estilo DEF CON. A medida que una parte cada vez mayor de la economía dependa de modelos cerrados, las alternativas de código abierto también serán un contrapeso esencial para evitar que la IA termine monopolizada por el Estado o por un puñado de gigantes tecnológicos.
Afortunadamente, existe un amplio terreno intermedio entre la «FDA para modelos de IA» de los defensores de la seguridad y el impulso entusiasta de democratizar nuevas y poderosas capacidades en cuanto finaliza el proceso de entrenamiento. Si las capacidades ofensivas se democratizan rápidamente y la adaptación y la tecnología defensiva no logran seguirles el ritmo, el maximalismo del código abierto podría incluso poner en peligro la propia causa de la libertad, acelerando las condiciones para que surja el Leviatán de la IA que Hotz y compañía tanto temen.
La regla de la minoría
Antes de 2001, la seguridad aeroportuaria era casi invisible. Incluso se podía viajar en coche entre Canadá y EE. UU. sin pasaporte. Pero una fatídica mañana de septiembre, 19 terroristas asesinaron a casi 3000 personas en cuestión de horas. Una semana después, comenzaron a aparecer cartas que contenían esporas de ántrax en los buzones de personajes importantes, lo que provocó la muerte de cinco personas. Ocho semanas después, Richard Reid fue detenido en pleno vuelo cuando intentaba detonar una bomba oculta en su zapato. En medio de esta rápida sucesión de acontecimientos, nuestros líderes se dieron cuenta de repente de que la tecnología y la globalización estaban introduciendo una serie de riesgos asimétricos. Desde las armas biológicas hasta los secuestros aéreos, ahora solo hacía falta un pequeño grupo de extremistas o un radical solitario para sembrar el caos en toda la sociedad.
La sociedad respondió de las tres maneras canónicas enumeradas anteriormente. Mitigamos los riesgos al reforzar la seguridad en las fronteras y los aeropuertos. Mejoramos la aplicación de la ley con la aprobación de la Ley Patriota y el financiamiento de nuevas formas de vigilancia de alta tecnología. Y nuestra cultura se adaptó rápidamente al creciente teatro de la seguridad, respaldada por el miedo al radicalismo islámico y por un estallido de solidaridad nacional.
En retrospectiva, reaccionamos de forma exagerada. Aunque el terrorismo se cernía como una gran amenaza psicológica, los riesgos eran cuantificablemente pequeños en comparación con las cosas cotidianas que matan a las personas todos los días. En los 12 meses posteriores al 11-S, por ejemplo, el aumento del miedo a volar provocó un estimado de 1600 muertes adicionales por accidentes de tráfico. Desde entonces, el miedo al terrorismo islámico se ha atenuado, pero estos protocolos de seguridad reforzados no solo siguen vigentes, sino que continúan ampliándose e incluso reorientándose hacia amenazas internas.
El uso impropio y peligroso de la IA probablemente será igual de infrecuente, por el simple hecho de que la mayoría de las personas no son sociópatas. No obstante, muchos ámbitos de la vida siguen la lógica de la regla de la minoría de Nassim Taleb, según la cual una minoría pequeña, pero intolerable, acaba dictando las normas para todos. Por ejemplo, a pesar de que menos del 2 % de los estadounidenses son alérgicos al maní, en muchos espacios compartidos se prohíben los alimentos con maní por mera precaución.
Dependiendo de cómo se resuelva el equilibrio entre ofensiva y defensiva, la IA tiene el potencial de devolvernos a un mundo en el que la seguridad vuelva a ser invisible. No tendrás que quitarte los zapatos ni rebajarte ante un agente de la TSA. En su lugar, una cámara analizará tu rostro al entrar en la terminal, comparándolo con una base de datos de delincuentes conocidos, al tiempo que extrae cualquier señal predictiva oculta en tus expresiones faciales, tu lenguaje corporal, tu perfil demográfico y tus publicaciones en redes sociales.
Sin embargo, los aeropuertos son un caso un tanto especial. Al ser «jardines amurallados», los aeropuertos pueden aprovechar los beneficios de la integración vertical. Y, dado que son puertas de entrada a destinos lejanos, obligan a los viajeros a renunciar a ciertos derechos o a tomar el autobús. La mayoría de los espacios compartidos no son así. Desde las pequeñas empresas hasta los parques públicos, nuestra seguridad diaria depende en gran medida de la buena voluntad y discreción de otras personas. Por lo tanto, en la medida en que la IA genere riesgos de seguridad y privacidad en todas partes, es posible que cada vez más espacios compartidos acaben funcionando como un aeropuerto, es decir, como un estado de vigilancia en miniatura.
A su vez, la inminente explosión de inteligencia pone a la democracia liberal en el filo de la navaja. Por un lado está un Leviatán de la IA; un singleton global que restablece el orden mediante un panóptico al estilo chino y un sistema de crédito social. Por el otro, el colapso del Estado y la fragmentación política, a medida que nuestras instituciones tradicionales no logran adaptarse y dan paso a nuevas organizaciones basadas en IA desde su origen que resuelven el problema del agente-principal y desatan una acción colectiva localizada a velocidades vertiginosas. Esto incluye el refuerzo de la privacidad y la seguridad, logrado en parte mediante un pacto de adhesión voluntaria para dejar las armas biológicas y las gafas de rayos X en la proverbial puerta.
Al asomarnos a través del horizonte de sucesos de este último camino, comienzan a perfilarse los contornos de un nuevo orden social cuasimedieval. Pero estoy por alcanzar el límite de caracteres de Substack, así que eso tendrá que esperar a la Parte II.