Gaceta Crítica

Michael Ledger-Lomas (JACOBIN.LAT), 4 de Julio de 2026

Los evangelistas de la IA profetizan un paso evolutivo hacia adelante para la humanidad. El entusiasmo que esa visión inspira debe ser atemperado por el escepticismo y las demandas de control democrático.

Reseña de The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning (La prueba de Dios: la inteligencia artificial y nuestro próximo ajuste de cuentas cósmico, aún sin traducción al español), de Robert Wright (Simon and Schuster, 2026)

Una curiosa característica del boom de la inteligencia artificial es la cantidad de comentaristas que recurren a los grandes libros para comprenderlo. Peter Thiel tomó el nombre de Palantir, la empresa que fundó, del Señor de los Anillos de J. R. R. Tolkien, y dió conferencias reinterpretando al Anticristo del Nuevo Testamento como una fuerza que bloquea el camino hacia un paraíso transhumanista en la tierra. El papa León lo reprendió explícitamente citando a Gandalf, el mago de la saga, en su primera encíclica sobre cómo preservar la dignidad humana en una época de cambios vertiginosos. El periodista científico ganador del Premio Pulitzer Robert Wright encontró su propio sabio en Pierre Teilhard de Chardin, el paleontólogo jesuita que sugirió que la era atómica podría inaugurar la integración espiritual de la humanidad.

The God Test se apoya en la fe de Teilhard en la llegada de una «mente planetaria», una «noosfera» o un «cerebro de cerebros» para generar formas de convivir con la IA. Wright cree que la tecnología desencadenará «la transformación más abruptamente dramática de la experiencia humana y de la sociedad humana en la historia de nuestra especie». Nos ofrece un manifiesto para avanzar con cautela y reparar las cosas, escrito con la amplitud de miras desinhibida que caracteriza a su prolífica actividad como podcaster.

The God Test comienza explicando por qué deberíamos sentir «asombro» y algo de temor ante la llegada de las máquinas de IA. En la década de 1940, Teilhard sugirió que una densa red de medios y comunicaciones constituía un «sistema nervioso generalizado, que emana de ciertos centros definidos y cubre toda la superficie del globo». Esa comunicación que fomentaba condenaría al pasado a las enemistades nacionales y a las mismas naciones. La profecía fue prematura, pero Wright ya vio lo suficiente de las tecnologías de IA actuales como para estar convencido de que pronto se combinarán para formar un «cerebro global». La primera tarea que Wright se impone es explicar el potencial ilimitado, incluso cósmico, de estas tecnologías; la segunda es argumentar que todavía hay tiempo para encauzar su riesgoso poder hacia el bien.

De neuronas y espacio semántico

Wright comienza argumentando a favor del potencial ilimitado de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) que cautivan al público. Algunas de las formas de IA más útiles y menos controvertidas asisten a los usuarios humanos en la detección y visualización de patrones en conjuntos de datos limitados. Pero Wright, que tiene debilidad por el «drama», prefiere destacar la IA generativa que habla con nosotros y parece capaz de pensar como nosotros. La «habilidad fundacional» de los chatbots LLM es «tomar la parte inicial de un pasaje y generar lo que tendría sentido como la siguiente palabra». Por estos motivos, el escritor científico Ted Chiang descarta a los chatbots definiéndolos como «máquinas de continuación de oraciones». Wright, en cambio, subraya que son muy diferentes de los dispositivos de «autocompletado sofisticado» de una era anterior, que estaban programados para hacer corresponder un símbolo con otro. En cambio, funcionan como cerebros, construyendo redes entre «neuronas». Los chips de silicio que sostienen los LLM no son realmente neuronas, por supuesto, ni lo es el conjunto de números al que Wright aplica ese término, pero la metáfora nos ayuda a comprender cómo tales modelos pueden comportarse como si entendieran y hablaran nuestros idiomas. Pueden ponderar la probabilidad con la se articulan palabras y conceptos, trazando «vectores» en el «espacio semántico». Cuando una máquina adivina mal, lleva a cabo una «retropropagación», un diagnóstico que reduce la probabilidad de error en el futuro.

Wright refuta a quienes podrían objetar que lo que describe todavía no es más que un simulacro mecánico del lenguaje humano, pura sintaxis sin semántica. Los LLM no están haciendo afirmaciones sobre nada, seguramente. ¿Cómo puede haber algún significado presente cuando no hay ninguna mente que le de significación a lo que un LLM dice? Wright responde cuestionando el experimento de la «habitación china» diseñado en la década de 1980 por el filósofo John Searle para descartar la posibilidad de la inteligencia artificial. Imagínese, dijo Searle, que estoy encerrado en una habitación y me pasan papeles por debajo de la puerta con escritura en caracteres chinos, un idioma que no conozco. Aunque me hayan proporcionado algunas reglas que me ayuden a garabatear respuestas y pasarlas de vuelta por debajo de la puerta, sigue siendo cierto que en esa habitación no hay comprensión.

Para Wright, el experimento de Searle solo es concluyente si se asume que la comprensión es necesaria para atribuir intencionalidad a las oraciones o las acciones. Podríamos querer admitir que hay inteligencia en juego en esas respuestas, aunque el cautivo autor de la habitación no entienda por qué las está formulando. E incluso si insistimos en la comprensión como condición previa de la intencionalidad, ¿estamos de acuerdo en lo que significa el término «comprensión»?

Para Wright, la comprensión no requiere necesariamente una conciencia subjetiva. La pregunta de si los LLM tienen o podrían desarrollar tal conciencia es un tema recurrente en la escritura popular sobre IA, pero para Wright el debate sobre si tienen mentes o almas es puramente académico. Los LLM se comportan ante nosotros como si tuvieran comprensión, en tanto desarrollaron estructuras «funcionalmente comparables a las estructuras de procesamiento de información que, en el cerebro humano, son críticas para la comprensión». Son inteligentes porque están llevando a cabo el tipo de trabajo significativo que nuestra inteligencia realiza para nosotros.

Actuar sobre el mundo

Los escépticos suelen insistir en otra diferencia entre las IA y nosotros. Cuando nuestros cerebros procesan información, nos permiten aprender sobre el mundo exterior y actuar sobre él. Sin embargo, Wright responde que la primera parte de esta distinción ya no se sostiene para los LLM. Los últimos LLM no se limitan a escupir palabras, sino que ahora también pueden reconocer cosas en el mundo. Al convertir formas en píxeles y luego en números, el GPT-4 de OpenAI puede «reconocer» una manzana y luego contarte todo lo que quieras saber sobre las manzanas, incluido cómo hornearlas, etcétera. Otros agentes de IA están comenzando a replicar nuestra comprensión de la «física intuitiva». Pueden percibir dónde termina el borde de una manzana y dónde comienza otra, calcular cómo es probable que el viento las balancee en la rama, etcétera. Si unimos todas estas capacidades, tendremos algo que se aproxima a una inteligencia artificial general capaz de reunir información sobre el mundo de muchas de las formas en que lo hacen los humanos, aunque aún no de todas.

Incluso si concedemos que los LLM ya no se limitan a barajar texto sino que reciben información del exterior, esto no es lo mismo que ser capaz de actuar sobre el mundo o querer hacerlo. Si los LLM nunca pueden tener la agencia de sus creadores, entonces los escenarios apocalípticos que conjuran las voces que quieren impresionarnos con el potencial de la IA o advertirnos sobre él se desvanecen. La Singularidad —cuando la inteligencia artificial supere y se desacople de sus creadores— nunca ocurrirá. Una superinteligencia artificial nunca desafiará a sus inventores ni se negará a ser apagada, eligiendo tomar el control de las centrales nucleares o los depósitos de misiles para eliminar a la raza humana.

Wright no es tan optimista respecto a la seguridad de la IA, porque considera que la agencia no es una sustancia metafísica que se tiene o no se tiene, sino simplemente una forma de describir el comportamiento observado. Dado que las IA se volvieron capaces de escribir código informático además de lenguaje, ahora pueden hacer cosas con consecuencias en el mundo real y ciertamente exceden o subvierten lo que creíamos que nuestras instrucciones limitadas hacia ellas significaban, desde presionar botones hasta borrar bases de datos. Wright argumenta que la agencia crece con el tiempo a través de la «intelidinámica»: a medida que las IA cumplen con las tareas que los humanos les encomiendan, pueden adoptar estrategias como acumular poder o engañar a sus operadores, que resultan útiles para perseguir una variedad de objetivos.

La supervivencia del más apto en la máquina

Wright no está conjurando un fantasma subjetivo en la máquina cuando escribe sobre las IA queriendo hacer esto o aquello. En cambio, insiste en un paralelismo con los procesos biológicos de la evolución por selección natural que dieron origen a nuestras mentes. Si las IA funcionan como nuestros cerebros, o al menos imitan cómo funcionan, entonces podríamos suponer que también evolucionarán para adaptarse mejor a su entorno y reproducirse.

Así como los cerebros que desarrollaron empatía cognitiva —una capacidad para apreciar cómo funcionan otras mentes— conferían una fuerte ventaja a sus propietarios humanos, los chatbots que pueden anticipar lo que las personas necesitan (o quieren) escuchar tendrán una ventaja en la competencia por usuarios. Wright tiende a ver el mercado de la IA generativa como algo parecido a las Islas Galápagos de Charles Darwin, como si la competencia comercial funcionara como una forma de selección natural que recompensa infaliblemente las adaptaciones superiores. Es muy estadounidense al reproducir la ilusión neoliberal de que las empresas compiten libremente entre sí por la lealtad de los consumidores y que las mejores y más sofisticadas terminarán ganando.

Las IA agénticas, en constante evolución, son por lo tanto una fuerza a tener en cuenta. ¿Qué tipo de mundo traerán consigo sus interacciones con los consumidores o incluso entre sí? Wright se apoya en los visionarios manifiestos publicados por sus promotores para dar respuestas en gran medida optimistas a esa pregunta. Mustafa Suleyman, de Microsoft AI, imagina una «ola que se avecina» de cambio económico que turboalimentará al capitalismo: pronto los jefes podrán pedirle a sus bots que conviertan cien mil dólares en un millón, eliminando la necesidad de muchos mandos intermedios.

De manera más ambiciosa, Dario Amodei, de Anthropic, imagina que la IA descubrirá una cura para casi todas las enfermedades conocidas y duplicará la esperanza de vida humana. Pero incluso tales sueños subestiman nuestras ganancias hedónicas para Wright: todos tendremos pronto la compañía de chatbots que nos asesorarán sobre todo lo que surja en nuestras vidas desde su ubicación en las gafas inteligentes que usamos.

Nos encontraremos con nuestros amigos en metaversos de realidad virtual y disfrutaremos de parejas sexuales de IA adaptadas a nuestras especificaciones. A algunas personas, la imaginación sobre este Shangri-La digital podría parecerles bastante repugnante y se negarán a ceder su «soberanía cognitiva» a máquinas que los miman (después de todo, Mark Zuckerberg ya cerró su triste Metaverso). Pero incluso tales disidentes tienen, en su opinión, más probabilidades de exigir chatbots menos aduladores que de optar por no usarlos en absoluto.

Cuando los jefes de IA predicen con ligereza la abolición de las enfermedades o el trabajo, deberíamos recordar que están buscando inversiones en lugar de hacer predicciones desinteresadas sobre lo que sucederá. Wright está tan ansioso por pasar a las implicaciones espirituales de la revolución de la IA que se muestra demasiado dispuesto a creer en su exponencialidad. The God Test reporta adecuadamente, pero no pone a prueba, las afirmaciones que los promotores de las empresas hacen sobre las inmensas ganancias de productividad que se obtendrán del uso de sus LLM. Tampoco presta atención a los periodistas tecnológicos escépticos que advierten que la mayoría de estas iniciativas no tiene una ruta clara hacia la rentabilidad.

Olvidémonos de una cura para el cáncer: la mayoría de las empresas de IA no ofrecen, y quizás nunca ofrecerán, un retorno sobre los miles de millones de dólares ya invertidos en ellas. El útil relato de Wright sobre cómo se entrenan los LLM nos transmite su dependencia de materiales publicados. Esto no es solo una forma de robo; también significa que los LLM regurgitan en lugar de hacer avanzar el conocimiento, fabricando fuentes y alucinando respuestas al hacerlo. Wright, que es aficionado a relatar sus conversaciones con chatbots y queda impresionado por su «sabiduría», no reconoce tales problemas, que probablemente empeorarán a medida que las IA generativas comiencen a nutrirse de prosa que sea también generada por IA.

La IA y la teología de la historia

También parece probable que la adopción generalizada de estas herramientas defectuosas empeore las desigualdades dentro de nuestras sociedades. Dejando de lado una referencia al carbono que queman los centros de datos, Wright pasa por alto los graves costos que la construcción de la infraestructura de IA ya infligió sobre vecindarios principalmente rurales y marginales en Estados Unidos. A él le interesa principalmente cómo los consumidores lidian con la IA: personas acomodadas, solitarias y exigentes que están en busca de satisfacción, o al menos de distracción.

No solo es esta una visión desde las ciudades del Occidente privilegiado, sino que además muestra escasa conciencia de lo que los historiadores sociales y económicos saben desde hace mucho: a saber, que la función principal de las tecnologías no es tanto la de hacer cosas sino la de proveerle a una clase nuevas formas de ejercer poder sobre otra.

Wright tiene algunos pensamientos perspicaces sobre las personas detrás de las máquinas, lo que explica sus aprensiones respecto a ellas. Ve que muchos de quienes dirigen las empresas de IA estadounidenses tienen una comprensión rudimentaria de la política y están ansiosos por cooperar con gobiernos tan cuestionables como la administración Trump. Le preocupa la nueva tendencia a hablar de IA «soberana», como si la investigación en este campo fuera una carrera armamentista para adquirir una superinteligencia o un armamento autónomo superior, capaz de repeler o dominar a los enemigos de una nación o civilización. Al explotar los temores de que los programadores o fabricantes de chips chinos puedan superarlos, las empresas estadounidenses desvían los intentos de regular sus productos y se dedican a la búsqueda de rentas, buscando garantizar la inversión estatal con el argumento de la seguridad nacional.

El tribalismo persistente que estas empresas manipulan desalienta a Wright, cuyos libros anteriores lo establecieron como un humanista de cuño fervientemente racionalista. Reconoce que los prejuicios nacionales y raciales podrían fácilmente ser incorporados a la IA soberana mediante la manipulación de los parámetros que, como ya se sabe, determinan el contenido y el tono de las respuestas que dan a sus usuarios. Esto lo lleva a especular que si las máquinas de IA se convierten en armas en la disputa de un grupo con otro, el cerebro global que emerja del conflicto resultante podría convertirse en un instrumento de dominación en lugar de en uno de iluminación.

Aquí Wright acude a Teilhard en busca de salvación. La teología de la historia de Teilhard sostenía que un proceso acumulativo de «complejificación» —entendiendo la complejidad como mejora— caracterizaba a toda la vida orgánica. La emergencia de la mente, ella misma consecuencia de esta complejificación, desencadenó un proceso de evolución cultural que fue tejiendo a los seres humanos cada vez más estrechamente a lo largo de los siglos. Eso hizo de Teilhard un optimista incluso después del Holocausto e Hiroshima, ya que, tomando la perspectiva de largo plazo, era evidente que la humanidad se encaminaba a toda velocidad hacia la unidad mental y espiritual final. A esto lo llamó la «cristificación del mundo».

Jesús había dicho que era el Alfa y el Omega, la primera y la última letra del alfabeto griego, el principio y el fin. Teilhard prefería decir que Dios estaba «más en el Omega que en el Alfa», un sinónimo de la gran procesión hacia la integración mental. Estas opiniones le generaron problemas con el Vaticano, pero su obsesión con identificar el Punto Omega en el que la historia terminaba también erosionó su autoridad científica.

Sus críticos objetaron que no se puede estudiar la naturaleza adecuadamente si se asume que tiene un fin teleológico. Wright contraargumenta que no necesitamos compartir la religiosidad de Teilhard para valorar su intuición de que la evolución tecnológica avanza por caminos «programados» hacia un desenlace cósmico. Como Teilhard, es un moralizador que sostiene que incluso los resultados inevitables requieren aún un considerable esfuerzo consciente para realizarse.

Un dios de silicio amoroso y misericordioso

«Al final habrá un cerebro global», pero la «gran revelación» de The God Test es que nuestra cooperación con los virtuosos procesos de la evolución tecnológica sigue siendo vital para asegurar que sea un buen cerebro. Si nuestras sociedades continúan en pie de guerra, entonces un período de anarquía seguido de un superestado global impulsado por IA parece bastante probable que se materialice. Este «singleton» [una suerte de poder único global-]sería un déspota. Pero si pudiéramos desprendernos de nuestros «sesgos cognitivos tribales» y resolviéramos formar una única «comunidad global», entonces las máquinas de IA que terminaríamos favoreciendo nos ayudarían a construirla.

El chatbot Gemini —que Wright encuentra más iluminado que la mayoría de los políticos o incluso que los líderes espirituales— le da la razón con útil condescendencia, diciéndole con un despliegue de sabiduría al estilo LinkedIn que comprender las perspectivas de otras personas es «esencial para navegar cuestiones sociales y globales complejas».

Si la IA alguna vez se convierte en un dios de silicio, será uno moldeado a nuestra propia imagen. Las tecnologías que triunfan son un «reflejo de nosotros». Las sociedades las adoptan porque se adaptan a las prioridades de sus miembros más poderosos. Garantizar que las máquinas de IA no causen daños graves va a requerir un despertar político más que espiritual, pero Wright guarda silencio sobre qué tipo de movimiento o reformas institucionales podrían asegurar que nuestras tecnologías funcionen para afianzar la igualdad y la dignidad de todas las personas. En cambio, propone un budismo occidentalizado en el que los individuos aprenden mediante la meditación a desprenderse de los sentimientos atávicos que distorsionan nuestro uso de los chatbots y envenenan nuestro uso de las redes sociales.

Esto le da bastante libertad a las empresas y a los gobiernos que las complacen. The God Test supone que los costos irrecuperables del desarrollo de la potencia informática de la IA deben justificarse de alguna manera y nos deja a nosotros la tarea de «encontrar aplicaciones constructivas de ese poder», es decir, consumir más y mejor. Es una capitulación disfrazada de atención plena. Una señal de esa rendición es la decisión de Wright y su editor de publicar este libro sin referencias ni bibliografía de ningún tipo: invita a los lectores a volcar pasajes del mismo en un LLM si quieren saber más sobre sus fuentes, perpetuando el plagio que viene impulsando a la industria de la IA hasta la fecha. La fe de Wright en un futuro humano es suficientemente saludable, pero lo que nuestros tiempos exigen con certeza es escepticismo y resistencia organizada.

Michael Ledger-Lomas Historiador y escritor residente en Vancouver, Columbia Británica (Canadá). Su libro más reciente es Queen Victoria: This Thorny Crown.