Gaceta Crítica

En este ensayo de la serie Legados de la eugenesia, Ruha Benjamin explora cómo los evangelistas de la IA envuelven sus intereses personales en un manto de preocupación humanística.

Por Ruha Benjamin  21 de octubre de 2024 (L.A. Review of books y Syllabus) Originalmente publicado en inglés.

Esta es la cuarta entrega de la serie Legacies of Eugenics , que incluye ensayos de pensadores destacados dedicados a explorar la historia de la eugenesia y las formas en que moldea nuestro presente. La serie está organizada por Osagie K. Obasogie en colaboración con Los Angeles Review of Books y cuenta con el apoyo del Center for Genetics and Society , el Othering & Belonging Institute y Berkeley Public Health .

¤

En otoño de 2016 di una charla en el Instituto de Estudios Avanzados de Princeton titulada “¿Son racistas los robots?”. Titulares como “¿Pueden ser racistas las computadoras? El sesgo similar al humano de los algoritmos”, “El problema del hombre blanco en la inteligencia artificial” y “¿Es un algoritmo menos racista que un humano?” habían captado mi atención en los meses anteriores. ¿Qué mejor lugar para discutir las crecientes preocupaciones sobre las tecnologías emergentes, pensé, que una institución establecida durante el ascenso temprano del fascismo en Europa, que alguna vez albergó a gigantes intelectuales como J. Robert Oppenheimer y Albert Einstein, y se enorgullece de “proteger y promover la investigación independiente”.

Mis observaciones iniciales se centraron en cómo las tecnologías emergentes reflejan y reproducen las desigualdades sociales, utilizando ejemplos específicos de lo que algunos denominaron “discriminación algorítmica” y “sesgo de las máquinas”. Se produjo una animada discusión. El intercambio más memorable fue con un matemático que reconoció cortésmente la importancia de las cuestiones que planteé, pero luego me aseguró que “a medida que la IA avance, eventualmente nos mostrará cómo abordar estos problemas”. Impresionado por su sincera fe en la tecnología como una fuerza para el bien, quise balbucear: “Pero ¿qué pasa con aquellos que ya están siendo perjudicados por el despliegue de la IA experimental en la atención médica , la educación , la justicia penal y más? ¿Se espera que esperen un futuro mítico en el que los sistemas sensibles actúen como sabios administradores de la humanidad?”

Casi 10 años después, vivimos en la imaginación de los evangelistas de la IA que compiten por construir una inteligencia artificial general (IAG), aunque advierten de su potencial para destruirnos. Este evangelio de amor y miedo insiste en “alinear” la IA con los valores humanos para controlar a estas deidades digitales. OpenAI, la empresa detrás de ChatGPT, se hizo eco del sentimiento de mi colega del IAS: “Estamos mejorando la capacidad de nuestros sistemas de IA para aprender de la retroalimentación humana y ayudar a los humanos a evaluar la IA. Nuestro objetivo es construir un sistema de IA suficientemente alineado que pueda ayudarnos a resolver todos los demás problemas de alineación”. Imaginan un momento en el que, eventualmente, “nuestros sistemas de IA puedan hacerse cargo de cada vez más nuestro trabajo de alineación y, en última instancia, concebir, implementar, estudiar y desarrollar mejores técnicas de alineación que las que tenemos ahora. Trabajarán junto con los humanos para garantizar que sus propios sucesores estén más alineados con los humanos”. Para muchos, esto no es tranquilizador.

En marzo de 2023, el Future of Life Institute publicó una carta abierta, firmada por más de 33.000 investigadores, responsables de políticas, directores ejecutivos y profesores, en la que se pedía una moratoria de seis meses sobre el entrenamiento de sistemas de IA hasta que “estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”. El divulgador de la IA Eliezer Yudkowsky argumentó que una pausa tan breve no se corresponde con el riesgo existencial que plantea el continuo desarrollo de la IA, y advirtió que “el resultado más probable de construir una IA sobrehumanamente inteligente, en circunstancias remotamente parecidas a las actuales, es que literalmente todos los habitantes de la Tierra morirán”. Al final, no hubo pausa y la carrera por crear una IA general siguió adelante. Muchos de los que dieron la voz de alarma sobre un evento de extinción de la superinteligencia de la IA en un futuro cercano se pusieron a recaudar miles de millones de dólares en capital para superar a sus competidores. Esto no es tanto paradójico como rentable. Elon Musk, por ejemplo, inicialmente pidió una moratoria sobre el desarrollo de la IA general, solo para fundar una nueva empresa que se dedica a ello. El fundador de OpenAI, Sam Altman, abogó por una mayor regulación gubernamental de la IAG, pero luego presionó a los legisladores europeos para que minimizaran las protecciones a la IA. Jano, la deidad romana de dos caras, parece ser su dios preferido.

Detrás de esta duplicidad se esconde un cálculo conocido: si los evangelistas de la IA pueden convencernos de que la IAG es posible, inminente y peligrosa, tal vez nos veamos obligados a confiarles nuestro destino. En otras palabras, la exageración y la fatalidad son dos caras de la misma moneda (bit). Los principios, equipos e iniciativas de “seguridad de la IA” están proliferando en parte para acaparar poder y recursos y, en última instancia, para diseñar el futuro a su propia imagen. El objetivo: hacernos aceptar para que ellos puedan seguir con sus actividades como siempre.

En otras ocasiones he analizado los efectos nocivos de la IA. En el resto de este ensayo me centro en los insidiosos aportes de la IA: los valores y la lógica eugenésicos de quienes crean estos sistemas, que los encubren con la retórica de la salvación. Palabras de moda como “eficiencia”, “novedad” y “productividad” ocultan una visión interesada: el futuro imaginado por los evangelistas de la IA está destinado sólo a una pequeña parte de la humanidad. El resto de nosotros nos quedaremos clamando por sobrevivir en un planeta en ebullición. Tomemos como ejemplo los sistemas de armas autónomas que están haciendo llover el infierno sobre los palestinos: ¿por qué, si no, darles nombres empalagosos como Lavanda y Evangelio si no es para que estos inventos mortales parezcan benévolos? Si escuchamos atentamente las buenas palabras de los evangelistas de la tecnología, podemos oír los gemidos de quienes están enterrados bajo los escombros del progreso.

Muchas de las mismas personas que están detrás de las tecnologías que hoy causan estragos (algoritmos en el lugar de trabajo que intensifican el ritmo de trabajo , software de reconocimiento facial que conduce a arrestos falsos , sistemas de triaje automatizados que racionan la atención médica de calidad y armas «inteligentes» que desgarran la carne con un clic) también se promocionan como los salvadores de la humanidad. El fundador de Amazon, Jeff Bezos, declaró que «es una edad de oro. […] Ahora estamos resolviendo problemas con aprendizaje automático e inteligencia artificial que estuvieron… en el ámbito de la ciencia ficción durante las últimas décadas». En un ensayo de 2015 para una revista interreligiosa, el cofundador de PayPal y la empresa de tecnología de vigilancia Palantir Technologies, Peter Thiel, argumentó:

La ciencia y la tecnología son aliados naturales de este optimismo judeo-occidental, especialmente si permanecemos abiertos a un marco escatológico en el que Dios trabaja a través de nosotros en la construcción del reino de los cielos hoy, aquí en la Tierra, en el que el reino de los cielos es a la vez una realidad futura y algo parcialmente alcanzable en el presente.

De la misma manera, la página de inicio de Singularity University, una empresa fundada por Ray Kurzweil y Peter Diamandis, afirma la creencia de la organización de que “la tecnología y el espíritu emprendedor pueden resolver los mayores desafíos del mundo”. Como grupo, la inteligencia artificial promete guiarnos hacia el Futuro™, posicionándose como Guardianes de la Galaxia, al mismo tiempo que diseñan las crisis contra las que debemos protegernos.

¤

En el otoño de 2019, asistí a una conferencia organizada por estudiantes en Princeton llamada Envision. El invitado de honor fue el mencionado Diamandis, que apareció en la pantalla gigante dirigiéndose a un auditorio repleto de estudiantes universitarios ansiosos por participar. Su charla se tituló “Abundancia en la era digital” y comenzó enumerando una lista de “transformaciones” inminentes en varias industrias (salud, educación, finanzas, bienes raíces, entretenimiento) que permitirían “convergencias” tecnológicas sin precedentes. Su entusiasmo era contagioso.

Pero cuando se abrió la sesión de preguntas y respuestas, quedó claro que no todos habían pillado el gusanillo. Un estudiante preguntó sobre los riesgos que implicaba incorporar tecnologías emergentes en todas estas industrias a un ritmo tan rápido. Diamandis respondió: “En primer lugar, creo que es importante darnos cuenta de que no es una opción que tengamos. […] Estas tecnologías se van a incorporar”. Sin embargo, inmediatamente después de esto, celebró el hecho de que “siempre estamos buscando digitalizar, desmaterializar, desmonetizar y democratizar productos y servicios”. Aparentemente, no tenemos otra opción que optar por esta democracia digital. He aprendido que un principio clave del evangelio de la intelectualidad artificial es la inevitabilidad, su propia versión de la predestinación. Como observa el filósofo Émile P. Torres , una forma de entender el culto a la IA es como una religión para ateos: “[D]ado que Dios no existe, ¿por qué no simplemente crearlo?” Cuando Diamandis finalmente abordó la pregunta del estudiante, identificó los “riesgos” de que una empresa adopte una tecnología demasiado pronto o demasiado tarde, y “eso es dejando de lado todos los elementos sociales del empleo tecnológico y cualquier cuestión moral y ética que pueda surgir”. Una vez más, los “elementos sociales” son una idea de último momento, esos molestos problemas que “aparecen” de vez en cuando para causar estragos en la vida de las personas.

Como cuando, en 2013, el capitalista de riesgo convertido en gobernador de Michigan, Rick Snyder, adoptó un programa de 46 millones de dólares llamado MiDAS (Sistema Automatizado de Datos Integrados de Michigan) para identificar de manera eficiente a los residentes que cometían fraude de seguros. Después de que su administración despidiera a la mayoría de los empleados estatales que normalmente revisarían las reclamaciones de seguros, el nuevo sistema automatizado del estado acusó erróneamente a más de 20.000 personas de fraude. No solo las personas perdieron el acceso a los pagos de desempleo; después de que se les aplicaran fuertes multas de hasta 100.000 dólares, también se embargaron los reembolsos de impuestos y los salarios de las personas. Alrededor de 11.000 personas se declararon en quiebra, algunas perdieron sus hogares y otras se divorciaron desproporcionadamente o murieron por suicidio. Estos son solo algunos de los «elementos sociales» que surgen cuando las tecnologías automatizadas se integran apresuradamente en cada faceta de la vida.

Aunque la intelectualidad artificial quisiera que minimicemos estos riesgos, debemos hacer lo contrario: entender con seriedad cómo las tecnologías emergentes crean nuevas disyuntivas sociales y existenciales. Como reflexionó Jennifer Lord, abogada de derechos civiles y empleo que luchó con éxito “durante siete años para recuperar ese dinero para aquellos residentes de Michigan acusados ​​injustamente” :

Me ha sorprendido lo poco que esto preocupa a la mayoría de la gente. No sé si es el hecho de que en Michigan esta historia se conoció al mismo tiempo que la crisis del agua de Flint, así que si se analizan dos debacles, la del vaso de agua marrón es muy inquietante. MiDAS simplemente no pareció despertar la imaginación como pensé que lo haría. ¡El estado de Michigan estaba básicamente robando decenas de millones de dólares a sus ciudadanos!

¿Cómo solucionarlo en el futuro? Una idea es contar con un grupo independiente, experto e interdisciplinario que examine la tecnología antes de realizar cualquier compra. Solo puedo imaginarme a un vendedor hábil convenciendo a la agencia [estatal de desempleo] de que ofrecerá eficiencia, reducción de costos y aumento de ganancias.

Un vendedor hábil como Peter Diamandis, tal vez, o cualquiera de los otros evangelistas de la tecnología, que predican la inevitabilidad a la próxima generación: «Estas tecnologías se van a incorporar», pero de una manera democrática, así que no se preocupen.

Lo primero que dije cuando subí al podio de Envision después de que Diamandis cerrara la sesión fue recordarles a los asistentes (y a mí mismo) que tenemos una opción. Desde entonces, artistas , escritores y músicos se han enfrentado y, en algunos casos, han demandado a las empresas de inteligencia artificial por robar trabajo creativo para entrenar a sus modelos. Como explica una carta abierta del Centro de Investigación y Reportaje Artístico, publicada el 2 de mayo de 2023:

Los generadores de arte basados ​​en inteligencia artificial están entrenados con enormes conjuntos de datos que contienen millones y millones de imágenes protegidas por derechos de autor, extraídas sin el conocimiento de sus creadores, y mucho menos sin compensación o consentimiento. Se trata, en efecto, del mayor robo de arte de la historia, perpetrado por entidades corporativas de apariencia respetable respaldadas por capital de riesgo de Silicon Valley. Es un robo a plena luz del día.

Las protestas que sacudieron Hollywood en 2023, lideradas por SAG-AFTRA, también nos recuerdan que tenemos una opción. Los miembros del sindicato lanzaron una exitosa huelga de cinco meses, en contra de la incursión de la IA en su industria, sus carteles de piquete expresaban un creciente desafío y enojo: “La IA no es ARTE”, “Escribió ChatGPT esto”, “La IA no está tomando tus notas tontas”. Mientras que los ejecutivos de los estudios se han convertido en seguidores del nuevo evangelio tecnológico, buscando que la IA genere guiones, automatice la actuación, reduzca costos y reduzca los salarios, los escritores y actores dijeron efectivamente: “¡Diablos, no! Nos negamos a que nos borren ”. Como escribió Brian Merchant en Los Angeles Times , “En un momento en el que la perspectiva de que ejecutivos y gerentes usen la automatización del software para socavar el trabajo en profesiones en todas partes se vislumbraba, la huelga se convirtió en una especie de batalla indirecta de humanos contra IA”. Para muchos, esta es la verdadera cuestión existencial (no un apocalipsis generado por la IA) que afecta directamente a los medios de vida de las personas y a las historias que nos contamos sobre nuestras vidas: “Había un miedo palpable de que los productos tecnológicos, creados por emprendedores ricos y en su mayoría blancos de Silicon Valley, produjeran contenido que reflejara exactamente eso”, escribió Merchant. Y, sin embargo, cuando los evangelistas tecnológicos enumeran las transformaciones de la IA en toda la industria, no parecen tener en cuenta seriamente los riesgos del aquí y ahora que llevan a la gente a protestar.

La misma arrogancia que lleva a titanes tecnológicos como Mark Zuckerberg, Sam Altman y Bill Gates a suponer que un alto coeficiente intelectual les otorga la licencia para construir sistemas universales para toda la humanidad explica por qué los supuestos genios creen que pueden sacarnos del desierto virtual. Altman declaró en 2019: “Las personas más exitosas que conozco creen en sí mismas casi hasta el punto de la ilusión”. Maria Klawe, miembro del consejo de administración de Microsoft de 2009 a 2015, dice que Gates actuó como si “las reglas habituales de comportamiento no se aplicaran a él” y que era la “persona más inteligente de la sala”. Las personalidades dominantes de los “nerds” arrogantes en la industria sugieren que ser poco cool en la juventud (estar alejado de un sentido de comunidad, tal vez) alimenta el deseo de predecir, vigilar y controlar la sociedad. Como dice Altman , “Un gran secreto es que puedes doblar el mundo a tu voluntad un porcentaje sorprendente del tiempo”. La adoración de la propia inteligencia, al parecer, conduce a un peligroso deseo de poner al resto de la humanidad de rodillas.

La cuestión es que la inteligencia artificial nos está arrastrando a un futuro arcaico en el que la inteligencia se cuantifica, se fija y se clasifica, y la inteligencia se fetichiza. Haríamos bien en recordar que el cociente intelectual es, sobre todo, un concepto eugenésico , inventado para distinguir a los ganadores de los perdedores y para justificar las reglas del juego. ¿Eugenesia… en el siglo XXI… entre quienes se consideran futuristas?

¤

No lo olvidemos: la eugenesia fue originalmente una filosofía y un movimiento popularizado por progresistas sociales. Muchos eugenistas destacados se consideraban los guardianes de la humanidad, que trabajaban para asegurar el florecimiento humano cultivando buenos genes (por ejemplo, los concursos Better Baby ) y erradicando los malos (por ejemplo, la esterilización ). Entre ellos se encontraban inventores como Alexander Graham Bell, científicos como el premio Nobel Francis Crick, políticos como Teddy Roosevelt, escritores tan queridos como Helen Keller y HG Wells, y demasiados presidentes y profesores universitarios para nombrarlos. De hecho, Harry Chandler, editor del Los Angeles Times de 1917 a 1944, ayudó a popularizar la eugenesia y a defender la esterilización para abordar los problemas sociales. Su principal grupo de expertos, la Human Betterment Foundation , tenía su sede en el sur de California, no en Alabama o Mississippi. En el lenguaje actual, la fundación era un “influenciador” de políticas que ayudaba a difundir el evangelio de la eugenesia, forjando “vínculos entre los principales actores del sector privado y los funcionarios estatales que llevaban a cabo el trabajo”.

Tomemos como ejemplo al gran dramaturgo, activista y premio Nobel de Literatura irlandés George Bernard Shaw, que describió a los judíos como “el verdadero enemigo, el invasor de Oriente, el rufián, el parásito oriental”, argumentando que “el único socialismo fundamental y posible es la socialización de la crianza selectiva del hombre”, y que reflexionó que “el derrocamiento del aristócrata ha creado la necesidad del superhombre”. O pensemos en la abierta defensora de los derechos reproductivos de las mujeres (y amante de HG Wells) Margaret Sanger, quien afirmó en 1921 que “el problema más urgente hoy es cómo limitar y desalentar la hiperfertilidad de los deficientes mentales y físicos”. Si los eugenistas del pasado entendían su trabajo como progresista, entonces los autoproclamados futuristas que nos venden fantasías de inteligencia artificial son los precursores de una nueva eugenesia.

Al igual que en el pasado, la eugenesia 2.0 de los evangelistas de la tecnología está envuelta en el lenguaje de la superación, pero buscan algo más que la superación humana . De hecho, su visión del mundo tal vez se entienda mejor como pro-extincionismo en el sentido de que, como sostiene Torres , estos futuristas lejanos están entusiasmados con la idea de que los “humanos heredados” dejen paso a una especie de posthumanos más inteligentes, más fuertes y más mejorados. La intelectualidad artificial promete guiarnos hacia ese futuro en el que nos despojaremos de nuestros trajes de carne mortales, flotando en una realidad digital dichosa, fusionándonos con la tecnología (la “singularidad”) y/o trascendiéndola (transhumanismo). Abogan por confiar en la ciencia y la razón, un racionalismo a menudo interpretado de manera estrecha como razonamiento cuantitativo, si hemos de crear un bien duradero y significativo en el mundo ( altruismo eficaz ).

Mientras que los partidarios de la línea dura priorizan la supervivencia en el futuro lejano ( longtermismo ) por encima de las molestas preocupaciones a corto plazo como la pobreza, las pandemias y los genocidios, William MacAskill, cofundador del altruismo eficaz y filósofo del Instituto de Prioridades Globales de la Universidad de Oxford, sugiere, en su libro de 2022 What We Owe the Future , que «podemos dirigir positivamente el futuro y, al mismo tiempo, mejorar el presente». Dicho esto, en su libro de 2020 The Precipice: Existential Risk and the Future of Humanity , el filósofo de Oxford Toby Ord, compañero de MacAskill en la creación del movimiento del altruismo eficaz, sostiene que:

porque […] casi toda la vida de la humanidad está en el futuro, casi todo lo que tiene valor está también en el futuro […] Arriesgarse a destruir ese futuro, en aras de alguna ventaja limitada sólo al presente, me parece profundamente provinciano y peligrosamente miope. […] [E]sto privilegia a una pequeña minoría de humanos sobre la abrumadora mayoría que aún está por nacer; privilegia este siglo en particular sobre los millones, o tal vez miles de millones, que aún están por venir.

Pero, hablando de pequeñas minorías, aquellos representados por “nosotros” en estos textos fundacionales están construyendo un movimiento definido por una mezcla familiar de arrogancia y salvacionismo. Si bien alentar a más personas a considerar cómo nuestras acciones actuales impactan el futuro es una búsqueda valiosa que tiene raíces en muchas tradiciones indígenas, los evangelistas tecnológicos están recurriendo a estas filosofías para envolver su interés personal en el manto de la preocupación humanista.

¿Qué es exactamente lo que hace que este conjunto de creencias —transhumanismo, extropianismo (expansión y evolución ilimitadas), singularitarismo, cosmismo moderno (transhumanismo centrado en la colonización de otros planetas), racionalismo, altruismo eficaz y longtermismo— sea específicamente eugenésico? Según Torres y su coautor, el informático Timnit Gebru (que acuñó el acrónimo TESCREAL para describir este conjunto de ideologías), “están inspiradas en ideales utópicos similares a las visiones de los eugenistas de la primera ola […] y ven la IAG como parte integral de la realización de estas visiones. Mientras tanto, la carrera por construir IAG está proliferando productos que dañan a los mismos grupos que fueron dañados por los eugenistas de la primera ola”. Gebru y Torres explican que las actitudes discriminatorias de los eugenistas del pasado (racismo, xenofobia, clasismo, capacitismo y sexismo) siguen estando muy extendidas dentro del movimiento IAG, lo que da como resultado sistemas que dañan a los grupos marginados y centralizan el poder bajo el disfraz de la “seguridad” y el “beneficio de la humanidad”.

Fotograma del artículo “Superinteligencia: ¿ciencia o ficción? | Elon Musk y otras grandes mentes”, Future of Life Institute.

En una declaración que muchos reconocerán como racialmente cargada y clasista, Nick Bostrom, exdirector del Future of Humanity Institute de Oxford y autor del bestseller del New York Times Superintelligence: Paths, Dangers, Strategies (2014), vincula la alta fertilidad con un bajo coeficiente intelectual, afirmando que existe «una correlación negativa en algunos lugares entre el logro intelectual y la fertilidad. Si esa selección operara durante un largo período de tiempo, podríamos evolucionar hacia una especie menos inteligente pero más fértil». En enero de 2023, abordó los comentarios racistas que hizo en un LISTSERV en la década de 1990. Una vez más, la controversia pone de relieve un problema más amplio dentro de la intelectualidad artificial: un enfoque en los innovadores ricos, predominantemente blancos y masculinos como fideicomisarios del futuro. Independientemente de si uno cree o no en la defensa de Bostrom o si le importan sus juicios pasados, la realidad sigue siendo que quienes dan forma al «futuro de la humanidad» provienen de un segmento estrecho de la sociedad. Sus opiniones, ya sean racistas, utópicas o ambas, están actualmente sobredeterminando nuestra trayectoria compartida. Como describió el escritor Leighton Woodhouse el altruismo eficaz:

En última instancia, se basa en el salvacionismo. Se trata de una visión del cambio social desde arriba hacia abajo, apropiada para quienes están acostumbrados a recrear el mundo a su propia imagen desde la posición de sus profesiones de alto estatus. Alienta a las personas con un alto patrimonio a utilizar su riqueza para imponer sus convicciones morales al mundo, le guste o no al mundo.

Recuerde, no es una elección que tengamos.

Lo que más me sorprende de la visión eugenésica actual es el cálculo perverso que valora a la inteligencia artificial de “alto coeficiente intelectual y alto rendimiento” por encima de los más afectados por las multicrisis actuales, porque se considera a los primeros como los portadores de la redención digital de la humanidad. El longtermista Nick Beckstead sostuvo, en su tesis doctoral de 2013 , que la supervivencia de los que son “más innovadores” debería tener prioridad:

Salvar vidas en los países pobres puede tener efectos de propagación significativamente menores que salvar y mejorar vidas en los países ricos. ¿Por qué? Los países ricos tienen sustancialmente más innovación y sus trabajadores son mucho más productivos económicamente. Según los estándares ordinarios —al menos según los estándares humanitarios ilustrados ordinarios— salvar y mejorar vidas en los países ricos es casi tan importante como salvar y mejorar vidas en los países pobres, siempre que las vidas mejoren en cantidades aproximadamente comparables. Pero ahora me parece más plausible que salvar una vida en un país rico sea sustancialmente más importante que salvar una vida en un país pobre, en igualdad de condiciones.

En cada giro de la retórica de la intelligentsia artificial escuchamos ecos de un cálculo eugenésico: los débiles deben ser sacrificados para que los fuertes sobrevivan.

La fetichización de la inteligencia es otro principio clave de esta narrativa redencionista. Eliezer Yudkowsky dijo en voz alta la parte silenciosa en una entrada de blog de 2008 titulada “Élites competentes”: “Una de las mayores sorpresas que recibí cuando salí de la infancia al mundo real fue el grado en que el mundo está estratificado por la competencia genuina ”. Continúa contando una experiencia en “una reunión de la élite de poder de nivel medio” en la que su autoimaginado estatus elevado no era tan notable: “Este fue el punto en el que me di cuenta de que mi licencia de niño prodigio había expirado oficialmente por completo”. Describe su sorpresa al ver que los capitalistas de riesgo y los “directores ejecutivos de algo” con los que se relacionaba no eran simplemente “tontos con trajes de negocios”. En cambio, “estas personas de la élite del poder eran visiblemente mucho más inteligentes que los mortales promedio. En la conversación hablaban rápido, sensatamente y, en general, inteligentemente. Cuando la conversación se centró en temas profundos y difíciles, comprendieron más rápido, cometieron menos errores, estaban más dispuestos a adoptar las sugerencias de los demás”. Llega a una conclusión similar después de asistir a una reunión en la Singularity Summit: “Los grandes nombres en un campo académico, al menos aquellos con los que me topo, a menudo parecen mucho más inteligentes que el científico promedio”. A lo largo de todo el texto, encontramos a Yudkowsky evaluando las “auras” de las personas como más o menos formidables, desde “mortales promedio” hasta “inteligentes de clase mundial” y aquellos que “brillan con una fuerza vital adicional”. Es una oda a la meritocracia: la estatura refleja una capacidad inherente. Reconoce la probable incomodidad de sus lectores con tales evaluaciones, y al final vuelve a la IA como la solución: “Es más fácil para mí hablar de estas cosas, porque, con razón o sin ella, imagino que puedo imaginar tecnologías de un orden que podrían salvar incluso esa brecha”. Ah, ahí está. ¡El propósito de la IA es permitir que los mortales promedio brillen de verdad!

¤

Los evangelistas de la IA también perpetúan una visión eugenésica del mundo de maneras más insidiosas, en particular al restar importancia a los costos del “progreso” económico y tecnológico para el planeta y su gente. En esta nueva era, la supervivencia está vinculada a la superinteligencia , el dominio de aquellos que “usan tecnologías avanzadas para mejorarse radicalmente, creando así una raza superior de ‘posthumanos’”. Para aquellos como Bostrom, la humanidad tal como la conocemos ahora ( el Homo sapiens de carne y hueso ) es de la vieja escuela. En Superinteligencia , Bostrom imagina la selección genética de rasgos como “inteligencia, salud, resistencia y apariencia” normalizándose de tal manera que “las naciones se enfrentarían a la perspectiva de convertirse en remansos cognitivos y perder en competencias económicas, científicas, militares y de prestigio con competidores que adopten las nuevas tecnologías de mejora humana”. Estos evangelistas también imaginan descendientes digitales en el futuro profundo a quienes se les concederá (o se les debería conceder) la misma posición moral que a usted y a mí. “Si las máquinas tienen mentes conscientes”, sugiere Bostrom, entonces “el bienestar de las mentes de las máquinas trabajadoras podría incluso parecer el aspecto más importante del resultado, ya que pueden ser numéricamente dominantes”.

Desde esta perspectiva, los seres digitales similares a los humanos podrían, en principio, vivir vidas mucho más ricas y variadas que los humanos biológicos. Según Bostrom,

Lo que está en juego son al menos 10.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000.000 de vidas humanas (aunque el número real probablemente sea mayor). Si representáramos toda la felicidad experimentada durante una vida entera de ese tipo con una sola lágrima de alegría, entonces la felicidad de estas almas podría llenar y volver a llenar los océanos de la Tierra cada segundo, y seguir haciéndolo durante cien billones de billones de milenios. Es realmente importante que nos aseguremos de que estas sean realmente lágrimas de alegría.

Lamentablemente, desde el punto de vista de la intelectualidad artificial, el potencial a largo plazo de estos seres futuros imaginarios tiene prioridad sobre el alivio del sufrimiento humano actual: “proyectos para sentirse bien” como eliminar la pobreza, abordar el cambio climático y prevenir las guerras.

Es imperativo que refutemos las fantasías de los proselitistas posthumanistas como Bostrom y de las élites de Silicon Valley que comparten sus puntos de vista. Muchos de ellos coinciden con Sam Bankman-Fried en que lo mejor que pueden hacer por la sociedad es «hacerse asquerosamente ricos, por el bien de la caridad». Bankman-Fried comenzó promocionando objetivos nobles, firmando el Compromiso de donación de Bill Gates para donar la mayor parte de la riqueza de uno a la filantropía. Poco después de graduarse con una licenciatura en física del MIT en 2014, comenzó a trabajar en Jane Street Capital, una empresa de comercio por cuenta propia, y luego en el Centro para el Altruismo Eficaz antes de entrar en el mundo de las criptomonedas. Tres años después, fundó Alameda Research, una empresa de comercio de criptomonedas, y en 2019 lanzó otra bolsa de criptomonedas, FTX, que rápidamente se convirtió en una de las empresas de criptomonedas más grandes del mundo. Pero en 2022, FTX se declaró en quiebra; la empresa colapsó después de perder miles de millones de dólares a los inversores. Al final, Bankman-Fried fue arrestado y extraditado desde las Bahamas, declarado culpable de fraude y conspiración y sentenciado a 25 años de prisión. A pesar de todo lo que decía sobre altruismo y buenas obras, terminó utilizando ilegalmente los fondos de los clientes para cubrir sus propios gastos, entre ellos “la compra de propiedades de lujo en el Caribe, supuestos sobornos a funcionarios chinos y aviones privados”.

Tal vez lo más revelador sea la declaración del abogado defensor del estafador, Marc Mukasey: “Sam no era un asesino serial financiero despiadado que cada mañana se proponía hacer daño a la gente […] Sam Bankman-Fried no toma decisiones con malicia en su corazón. Toma decisiones con matemáticas en su cabeza”. Sí, y ese es el problema. La intelectualidad artificial está tratando de diseñar un mundo basado en la moralidad inherente (o al menos la neutralidad) de las matemáticas. Pero como escribió Aubrey Clayton anteriormente en esta serie, el movimiento eugenésico influyó profundamente en el nacimiento y desarrollo de las estadísticas y las pruebas de significación. Recurrir al razonamiento cuantitativo está plagado de peligros. Torres explica que la EA, el longtermismo y el movimiento TESCREAL en general reducen la ética a una rama de la economía. Se trata de cálculos de valores esperados y de análisis de números. Cuando se incluyen personas digitales hipotéticas futuras en los cálculos de EV, entonces el futuro lejano gana siempre.

Pero ¿qué explica la afinidad entre las élites tecnológicas y la eugenesia? Para empezar, el intenso interés de la inteligencia artificial por la optimización y la mejora se extiende desde la ingeniería de herramientas digitales hasta la ingeniería de la vida misma. Si, históricamente, la eugenesia buscaba “mejorar” la población humana mediante el control reproductivo, quienes tienen recursos ilimitados hoy están desesperados por burlar a la muerte invirtiendo en tecnologías que los ayuden a “evolucionar” más allá de esta estructura mortal. La errónea combinación de humanos con computadoras es parte del problema. Si los cerebros son computadoras, entonces no es de extrañar que quienes son maestros del silicio también se consideren amos de la humanidad. Según MacAskill, “algunos empresarios esperan abandonar por completo los cuerpos basados ​​en la carne y vivir en forma digital mediante la emulación informática de sus cerebros”, incluido Sam Altman, que es cliente de Nectome, una empresa emergente que “preserva cerebros con la esperanza de que las generaciones futuras los escaneen y los suban a la red”. El objetivo declarado de Neuralink, la empresa de biotecnología fundada por Musk, es crear una interfaz cerebro-ordenador “para devolver la autonomía a quienes tienen necesidades médicas no satisfechas”, como lesiones de la médula espinal, pero también para “liberar el potencial humano del mañana”. Como muchos han observado, el objetivo último de la empresa no es la terapia sino la mejora, conexiones cerebro-ordenador que sean “sobrehumanas”. La arrogancia disfrazada de beneficencia, una característica de la vieja eugenesia, resucita en el lenguaje de la mejora, la mejora, la actualización. (Pero, como he argumentado en otro lugar , este deseo celoso de trascender la humanidad ignora el hecho de que no todos hemos tenido la oportunidad de ser plenamente humanos.)

Mientras que la eugenesia suele asociarse con los intentos del gobierno de controlar y coaccionar la reproducción humana, la élite tecnológica actual muestra ansiedades similares sobre la caída de las tasas de natalidad entre las poblaciones de «alto coeficiente intelectual». Los 12 hijos de Elon Musk y contando , y la inversión de Sam Altman en nuevas empresas de tecnología reproductiva centradas en la FIV y el cribado genético, tienen como objetivo poblar el planeta con una descendencia genéticamente superior. En una conferencia de agosto de 2019 sobre inteligencia artificial, Musk dijo : «Suponiendo que haya un futuro benévolo con la IA, creo que el mayor problema al que se enfrentará el mundo en 20 años es el colapso de la población». «El colapso de la población debido a las bajas tasas de natalidad es un riesgo mucho mayor para la civilización que el calentamiento global», tuiteó en 2022. Peter Thiel añade: «Creo que hay algo muy extraño en un mundo en el que la gente no se reproduce. […] Probablemente esté de alguna manera entrelazado con el estancamiento, el declive […] la sensación de pesimismo en torno al futuro». Y aunque dice que no hay “una solución mágica”, entre sus inversiones en fertilidad y salud de la mujer, Thiel proporcionó 3,2 millones de dólares de financiación inicial para una empresa nueva llamada 28, “que rastrea los ciclos menstruales de las usuarias y les da consejos sobre dieta y ejercicio, todo ello al tiempo que las anima a no utilizar métodos anticonceptivos”.

Como Emily R. Klancher Merchant señaló en esta publicación, la simbiosis entre la industria tecnológica y el movimiento pronatalista preocupado por la caída de las tasas de natalidad entre las personas “de alto rendimiento” refleja una mentalidad eugenésica. Comenzó su ensayo con los capitalistas de riesgo convertidos en defensores pronatalistas Malcolm y Simone Collins y su objetivo de “salvar a la humanidad teniendo tantos bebés como sea posible”. A diferencia de sus contrapartes cristianas, los Collins depositaron su fe en los datos y la ciencia y están “centrados en producir el máximo número de herederos, no para heredar activos, sino genes, perspectivas y cosmovisión”. Cuando se le preguntó en qué se diferencia su pronatalismo impulsado por los datos de la eugenesia, Malcolm Collins insistió en que es un enfoque nuevo porque no se trata de una crianza selectiva patrocinada por el estado sino de la elección de los padres. Sin embargo, este enfoque de laissez-faire ignora el valor desigual de las elecciones. Después de todo, la tasa de natalidad no está disminuyendo para todos. La preocupación es que las poblaciones más ricas (y sus codiciados genes y cosmovisiones correspondientes) están de alguna manera en peligro.

Thiel también está poniendo de su parte en la causa al tratar de prolongar su propia vida y financiar una versión de los Juegos Olímpicos llamada los Juegos Mejorados en los que los participantes pueden tomar drogas para mejorar el rendimiento aprobadas por la FDA y utilizar tecnologías protésicas. Los Juegos Olímpicos con esteroides, literalmente. Hasta hace poco, el apoyo público de Thiel a Donald Trump lo hacía destacar en Silicon Valley, pero su biógrafo Max Chafkin advierte que no es un caso atípico y que su visión del mundo raya en el fascismo: “La idea de que las empresas deberían básicamente poder hacer lo que quieran, que la democracia no es el valor más importante, estas cosas se reflejan en las decisiones y acciones que están tomando muchas empresas de Silicon Valley”. En los últimos meses, los partidarios de la presidencia de Trump en Silicon Valley se han vuelto más visibles: en junio, su campaña realizó una recaudación de fondos en la mansión de San Francisco del capitalista de riesgo David Sacks, que recaudó 12 millones de dólares.

¤

En definitiva, no basta con refutar las ideologías eugenésicas. También es necesario desmantelar las infraestructuras eugenésicas (sistemas diseñados para sacrificar las vidas y los hábitats de la mayoría global para garantizar el florecimiento de la minoría oligárquica). Esto incluye abordar el problema de los trabajadores que realizan trabajos fantasma digitales que hacen que la IA parezca mágica (los trabajadores de clic en Kenia y los moderadores de contenido en Filipinas) y reconocer los costos ecológicos y humanos de producir nuevos y elegantes dispositivos. Todos los días, nos despertamos con titulares que anuncian el apetito insaciable de los centros de datos que impulsan grandes modelos de lenguaje y aplicaciones de IA: “Por qué la IA tiene tanta sed: los centros de datos usan cantidades masivas de agua”, “Los estados reconsideran los centros de datos como ‘devoradores de electricidad’ que sobrecargan la red”, “Los centros de datos están agotando los recursos en comunidades con estrés hídrico”. En mayo de 2024, las emisiones de Google aumentaron “casi un 50 por ciento en cinco años a medida que aumentaba el uso de la IA”, aunque el Informe Ambiental anual de la empresa destacó cómo “escalar la IA” es crucial para la acción climática. De manera similar, en el Informe Anual 2023 de Microsoft, el CEO Satya Nadella dijo que cree que “la IA puede ser un poderoso acelerador para abordar la crisis climática”. Bill Gates también ha argumentado que la IA impulsará soluciones climáticas, que eventualmente superarán los enormes costos energéticos de los centros de datos. Hablando ante una audiencia en Londres este año, “instó a los ambientalistas y gobiernos a ‘no exagerar’ con las preocupaciones sobre las enormes cantidades de energía necesarias para hacer funcionar los nuevos sistemas de IA generativa”. Pero un mes antes, “Microsoft admitió que sus emisiones de gases de efecto invernadero habían aumentado casi un tercio desde 2020, en gran parte debido a la construcción de centros de datos”.

Este futurismo basado en la fe emplea un cálculo eugenésico, que nos pide que prioricemos los beneficios hipotéticos sobre los costos actuales para las personas y el planeta. Como señaló la periodista Karen Hao después de visitar un centro de datos de Microsoft en Arizona: “Con más de 8.000 centros de datos zumbando por todo el mundo y emitiendo calor, y muchos más en camino, ese optimismo puede parecer nada más que fe: la tecnología nos ha metido en este aprieto; tal vez la tecnología nos saque de él”. Este es el evangelio de la evangelización de la IA: confíen en nosotros, porque no tienen otra opción.

Pero sí tenemos una opción. No hay motivos para confiar en que las élites tecnológicas tengan sabiduría que ofrecer cuando se trata de altruismo efectivo o de aliviar el sufrimiento humano. Los multimillonarios que construyen búnkeres para sobrevivir a un apocalipsis de IA, que intentan “interrumpir la muerte” mediante la criopreservación y que exploran el planeta en busca de los mejores lugares para crear “ciudades emergentes” y “estados en red” no son administradores fiables del bien colectivo. Los más afectados por los “algoritmos de opresión”, la “desigualdad automatizada”, las “armas de destrucción matemática”, la “falta de inteligencia artificial”, la “colonialidad algorítmica” y las “tecnologías de violencia” tienen una mayor comprensión del florecimiento humano porque sus vidas dependen de ello.

En junio de 2024, me uní a cientos de organizadores, académicos, defensores y trabajadores en Chicago para la conferencia Take Back Tech , organizada por Mijente y Media Justice. Planteamos estrategias sobre cómo recuperar la tecnología para el bien colectivo, abordando cuestiones que iban desde el uso de la IA en el genocidio de los palestinos hasta el desarrollo de infraestructuras tecnológicas autónomas que apoyen a los movimientos de base. El objetivo era cuestionar los legados eugenésicos codificados en nuestro mundo digital y cultivar legados de solidaridad aprendiendo de las generaciones pasadas y preparándonos para las futuras.

Durante mis comentarios del último día, expresé mi exasperación con la IA: cómo incluso al resistirse al status quo tecnológico, la inteligencia artificial domina la conversación (y los recursos). La única IA de la que quiero hablar es la inteligencia ancestral: los conocimientos, las experiencias y la sabiduría que crecen bajo los escombros del progreso. Estoy harta de la concepción estrecha de la inteligencia que da forma a nuestros sistemas y sociedades. Necesitamos más inversión en el conocimiento que proviene de organizaciones e iniciativas como Allied Media Projects , Athena , Data For Black Lives , Our Data Bodies , May First Movement Technology , No Tech For Apartheid , 7amleh , Algorithmic Justice League y Data Workers’ Inquiry . Debemos escuchar y aprender urgentemente de aquellos cuyo trabajo y tierras son indispensables pero tratados como desechables.

Portada del informe “Los congoleños luchan por su propia riqueza” .

A mi regreso de Chicago, comencé a leer un informe innovador , “Los congoleños luchan por su propia riqueza”, publicado en junio de 2024. Nos recuerda que, si bien el cobalto, el litio y el coltán son esenciales para la Cuarta Revolución Industrial, la República Democrática del Congo (RDC) suministra la mayor parte de estos minerales. En 2022, las exportaciones de la RDC ascendieron a 25.000 millones de dólares, con reservas sin explotar por valor de 24 billones de dólares. Sin embargo, los trabajadores congoleños viven con menos de 2,15 dólares al día debido al “saqueo de la tierra y sus recursos para obtener ganancias a cualquier precio” por parte de empresas multinacionales como Glencore, en colaboración con oligarquías corruptas y grupos paramilitares.

Se trata de una infraestructura eugenésica que expone al pueblo congoleño a un trabajo agotador y a las partículas tóxicas que se encuentran en nuestros iPhones y otras tecnologías. El informe señala que en 2014, UNICEF estimó que “cuarenta mil de estos mineros artesanales son niños de apenas ocho años, aunque las cifras del gobierno congoleño y de las empresas mineras sugieren que esto subestima drásticamente la realidad”. La riqueza de la industria tecnológica está subsidiada por los salarios reprimidos de los trabajadores en la República Democrática del Congo. En otras palabras, las fantasías perversas de algunos siguen dependiendo del trabajo de pesadilla de otros.

Como dijo Amos Hochstein, asesor principal de Joe Biden en materia de energía e inversiones , “un vehículo eléctrico es esencialmente una batería, y lo que hay dentro de la batería es África”. Incluso nuestros esfuerzos por crear tecnologías “más verdes” se basan en el saqueo de los recursos africanos y la pauperización de la mano de obra africana. Para contrarrestar esas infraestructuras eugenésicas, debemos atender los llamados de quienes están en primera línea, como los jóvenes congoleños que insisten en que “el Congo no está en venta” y piden “inteligencia colectiva para responder a los desafíos que enfrentamos con ideas claras”: administrar y desmilitarizar la tierra, reinvertir la riqueza en industrias locales, reconstruir el contrato social y exigir un gobierno justo.

Como mínimo, deberíamos reconocer los compromisos éticos vanos de la inteligencia artificial y las maquinaciones engañosas de quienes se consideran los administradores de la humanidad. La elección no es entre un altruismo eficaz o ineficaz, sino entre la solidaridad y la indiferencia hacia aquellos a quienes los planificadores a largo plazo abandonarían.

Para avanzar, tenemos que hacer frente a lo que he llamado topia . Mientras que las utopías son materia de sueños y las distopías materia de pesadillas, nosotros las topias somos lo que creamos juntos cuando estamos completamente despiertos. No basta con refutar los legados de la eugenesia que animan los futuros falsos de la intelectualidad artificial; también debemos asumir la responsabilidad de inaugurar legados de solidaridad que reflejen nuestra interdependencia intrínseca como pueblo y como planeta. Parafraseando a la gran Octavia E. Butler, cuya profética novela de 1993, Parábola del sembrador, comienza en el verano de 2024, puede ser el fin del mundo (de este mundo), pero hay otros mundos posibles.

¤

Ruha Benjamin es profesora de Estudios Afroamericanos Alexander Stewart 1886 en la Universidad de Princeton, directora fundadora del Ida B. Wells Just Data Lab y autora galardonada de  People’s Science: Bodies and Rights on the Stem Cell Frontier  (2013),  Race After Technology: Abolitionist Tools for the New Jim Code  (2019),  Viral Justice: How We Grow the World We Want  (2022)  e  Imagination: A Manifesto  (2024).