Gaceta Crítica

Paul Slovic y Herbert Lin (BOLETÍN DE LOS CIENTÍFICOS ATÓMICOS DE EEUU), 5 de Octubre de 2026

Los sistemas de IA actuales podrían desencadenar una guerra nuclear al amplificar los puntos ciegos cognitivos humanos, acelerar las espirales de escalada y abrumar a los responsables de la toma de decisiones con información durante crisis de alto riesgo (Ilustración de François Diaz-Maurin; imágenes de origen de la Casa Blanca y canva.com).

Cuando el investigador de IA Jacob Coxon  anunció su renuncia a Anthropic  este mes, advirtió que las personas en las empresas que compiten por lograr una superinteligencia con capacidad de autoaprendizaje «creen firmemente que podría acabar con todos nosotros para finales de la década». Estas advertencias generan temores de que la IA pueda escapar al control humano e iniciar una guerra nuclear sin autorización humana.

Aunque la superinteligencia no está definida con precisión, los desarrolladores de IA coinciden en que aún no es una realidad. Sin embargo, los sistemas de IA actuales pueden provocar una guerra nuclear incluso si, en teoría, las personas siguen al mando. La IA no necesita lanzar un arma, recomendar un ataque ni tener la intención de causar daño. La falibilidad humana común —amplificada por las máquinas— puede ser suficiente para desencadenar una catástrofe.

La IA puede moldear la información que llega a los líderes, cuyas mentes ya luchan por comprender las consecuencias de una guerra nuclear. La IA puede explotar las vulnerabilidades conocidas del juicio humano, agravadas por resultados de máquinas falsos , engañosos o fuera de contexto, y amplificadas por la velocidad, la escala y el volumen de la información que genera. Incluso la información precisa puede interpretarse de forma incorrecta o imprudente cuando se presenta sin el contexto adecuado; los errores y las ambigüedades introducidos por la IA pueden empeorar aún más la situación.

No se requiere una inteligencia artificial extraordinaria ni intenciones maliciosas para que se produzca una catástrofe. Para evitar una guerra nuclear, deben establecerse salvaguardias institucionales que protejan a los líderes de sus peores impulsos, incluso cuando la IA los presione para actuar.

Relativismo moral. Una vulnerabilidad importante, el entumecimiento psíquico , surge de depender de las emociones para reconocer y responder al riesgo. Los sentimientos humanos no logran seguir el ritmo del número de personas que sufren. A veces, la preocupación incluso disminuye a medida que aumentan las cifras. Los seres humanos pueden reconocer un millón de muertes con indiferencia, como una simple cifra, sin comprender la realidad de las vidas perdidas que representa. El dicho «la muerte de un hombre es una tragedia, mientras que la muerte de millones es una estadística» ilustra el problema fundamental del entumecimiento psíquico.

La atención humana también se ve gravemente limitada. Salvar tropas, detener un ataque o poner fin a una guerra pueden convertirse en prioridades abrumadoras para quienes toman las decisiones. Si bien estos son objetivos legítimos, no son los únicos importantes; evitar una catástrofe global es, sin duda, mucho más importante. Aunque los beneficios inmediatos se imaginan fácilmente y tienen un gran impacto emocional, las consecuencias a largo plazo de una guerra nuclear —cambios climáticos, agricultura devastada, desplazamiento masivo de población y hambruna, y el colapso total de la atención médica y otros servicios en todo el mundo— a menudo resultan demasiado vagas y distantes emocionalmente como para comprenderlas adecuadamente. Estas amenazas a largo plazo podrían fácilmente quedar eclipsadas por consideraciones más inmediatas durante una crisis.

En un experimento reciente realizado mediante encuesta a casi 3.000 adultos estadounidenses, los investigadores describieron una guerra terrestre hipotética y ganable contra Irán, en la que un ataque nuclear contra una ciudad importante ofrecía un final más rápido y no causaría más muertes de soldados estadounidenses.

El experimento puso a prueba dos escenarios distintos del uso de armas nucleares para poner fin a la guerra: un ataque que mataría a 100 000 civiles iraníes o uno que se esperaba que matara a 2 millones de civiles. Los participantes solo vieron una de estas dos opciones nucleares. El apoyo de los encuestados a la opción nuclear frente a la continuación de la guerra terrestre fue prácticamente idéntico: 31,6 % para la opción de 100 000 muertos frente a 27,6 % para la opción de 2 millones de muertos, a pesar de una diferencia de 20 veces en el número de muertos. Esto demuestra el entumecimiento psicológico: a partir de cierta escala, las cifras de muertos más elevadas dejan de percibirse como mayores.

RELACIONADO:«No es lo más alegre que he hecho en mi vida». Susan Solomon sobre el informe de las Academias Nacionales sobre los efectos de la guerra nuclear.

Más adelante en el mismo estudio, se pidió a los participantes que reconsideraran su decisión al comparar ambas opciones nucleares. El apoyo a la opción de dos millones de muertes se redujo al 5,1 %, lo que demuestra que la comparación directa puede disminuir la insensibilidad. Sin embargo, esta insensibilidad no desapareció, sino que cambió. El apoyo a alguna opción nuclear —principalmente el ataque con 100 000 víctimas mortales— aumentó al 40 %. La opción de dos millones de víctimas mortales hizo que la de 100 000 pareciera más atractiva en comparación, a pesar de que esta opción, igualmente catastrófica, había sido rechazada previamente por una gran parte de los participantes.

El estudio demuestra que los sentimientos morales refuerzan la decisión de usar armas nucleares. Una decisión percibida como “proteger a las tropas estadounidenses” o “castigar a un agresor” puede hacer que el uso de armas nucleares parezca virtuoso , incluso sin comparación. Los resultados también revelan cómo las emociones y el abanico de opciones de decisión influyen en los juicios y, en última instancia, en las decisiones. Se observaron modos de pensamiento similares al final de la Segunda Guerra Mundial y en otras guerras pasadas. Y la revisión en curso del Pentágono, que busca ofrecer al presidente “ más opciones ” para lanzar armas nucleares en una crisis, corre el riesgo de reducir aún más el umbral nuclear.

El apoyo a las opciones nucleares observado en nuestros experimentos no requirió que la información fuera falsa. Los participantes recibieron estimaciones explícitas de bajas. Sin embargo, sus elecciones mostraron un entumecimiento psicológico en algunos escenarios, que se tornó engañoso de otra manera cuando las comparaciones crearon una mentalidad de «mejor bomba nuclear». Esto es importante para la IA: mejorar la precisión de la información proporcionada por la IA que llega a quien toma las decisiones no garantiza, por sí solo, que el sufrimiento representado por esos hechos reciba la importancia que merece. Estos experimentos demuestran cómo pueden producirse graves distorsiones en el juicio y la toma de decisiones incluso en presencia de información precisa.

Ahora, sumemos la presión de la IA. Las advertencias, imágenes, informes e interpretaciones pueden llegar más rápido de lo que las personas pueden procesarlas. Esta información puede ser falsa, ambigua o precisa. Ya se ha  descrito cómo la degradación de este entorno informativo, facilitada por la IA, podría aumentar el riesgo nuclear.

Consideremos un hipotético ejercicio militar.

La IA detecta correctamente el movimiento de lanzadores de misiles móviles. El funcionario que recibe esa información, inseguro pero preocupado, interpreta el movimiento como una posible preparación para un ataque y eleva el nivel de alerta militar como medida de precaución.

El adversario observa esos preparativos y responde con sus propias precauciones. La IA detecta esos movimientos, que parecen confirmar la sospecha inicial. Los esfuerzos de cada bando por protegerse hacen que el otro se sienta menos seguro.

Se trata de una espiral de escalada —lo que los teóricos de las relaciones internacionales denominan un dilema de seguridad—, pero esta vez se desarrolla en tiempo real. No es necesario inventar la observación original. Una información veraz puede perpetuar una interpretación errónea de las intenciones. El engaño deliberado puede agravar el proceso, pero una observación inocente malinterpretada basta para desencadenar esta escalada.

La desconfianza dificulta la corrección. Un líder puede dudar de una advertencia, pero temer las consecuencias de ignorarla. Las garantías de un adversario pueden ser descartadas como engaño. La mentalidad de «más vale prevenir que lamentar» puede justificar una acción sin considerar adecuadamente el peligro que dicha acción, supuestamente segura, puede generar.

Mientras tanto, la información generada por la IA consume tiempo de deliberación. Se requiere tiempo para filtrar la información falsa y verificar su veracidad. Incluso cuando es correcta, la presión del tiempo  puede aumentar la ansiedad y alterar el estado afectivo de quienes procesan dicha información. Además, bajo presión de tiempo, se recurre con mayor frecuencia a una percepción general superficial, favorable o desfavorable, al evaluar riesgos y beneficios. La prisa no siempre aumenta el riesgo percibido, pero en un clima de desconfianza y sospecha, es probable que sí lo haga.

RELACIONADO:Cómo la pseudociencia de la IA beneficia a las grandes empresas

La  brecha entre la empatía en situaciones de calor y frío  añade otra vulnerabilidad.

En momentos de calma, las personas tienden a subestimar cómo el miedo y la ira alterarán sus preferencias. Aplicado a una crisis nuclear, esto plantea una posibilidad inquietante: la moderación previamente adoptada en una situación tranquila puede quedar en segundo plano durante una crisis en la que la demora parece conllevar el riesgo de pérdidas intolerables.

Un líder podría percibir la escalada del conflicto como una amenaza inmediata y grave, y considerar el uso de armas nucleares como una vía de escape o una medida preventiva necesaria. Desafortunadamente, en situaciones de cognición exacerbada, impulsadas por emociones intensas, intereses personales, preocupación por el legado histórico, lo que está en juego o prejuicios implícitos, lo que el líder valora más son las medidas de seguridad inmediatas, y no el destino de la nación y del mundo.

La protección inmediata acapara la atención; el sufrimiento generalizado permanece abstracto y, probablemente, olvidado, a pesar de su importancia. Un ejemplo de ello: Vladimir Putin justificó en su momento la doctrina nuclear rusa cuestionando el valor de un mundo en el que Rusia hubiera sido destruida por armas nucleares.

Exigir autorización humana no corrige por sí solo estas distorsiones. Las preguntas relevantes se refieren a qué pruebas se verificaron, qué interpretaciones se cuestionaron, cómo se establecieron los plazos y si los beneficios previstos desplazaron la consideración de un daño mayor posterior.

Mecanismos de protección institucionales. Las vulnerabilidades del juicio humano están bien documentadas, y la preocupación por la IA avanzada va en aumento. Pero la mera concienciación no impedirá una espiral de escalada. Una máquina puede inundar a los responsables de la toma de decisiones con información —parte verdadera, parte falsa— que les resulta difícil de evaluar, pero que se sienten obligados a aplicar. En una crisis, esa presión podría hacer que un ataque nuclear parezca necesario. Ni siquiera necesita llegar a pulsar el botón.

La respuesta comienza reconociendo una realidad psicológica: todos los seres humanos, incluidos los líderes, tienen puntos ciegos cognitivos que distorsionan su razonamiento sobre eventos catastróficos. Debemos establecer mecanismos institucionales que protejan a los líderes de sus peores impulsos y respetarlos incluso cuando la presión aumenta o ellos mismos desean eludirlos. La IA puede ser útil dentro de esa estructura, pero solo como una herramienta complementaria, no como un sustituto.

Utilizada de esta forma, la IA permite analizar datos de objetivos mucho más rápido que los analistas humanos, tiempo que debería dedicarse al cumplimiento de las leyes de la guerra, cuya violación puede dar pie a una escalada del conflicto. La IA también puede ayudar a los analistas a interpretar las señales de los sensores, pero sus interpretaciones pueden ser erróneas y debe advertirles de ello. Un camión cisterna junto a un misil podría ser reportado por la IA como «repostando» o «preparándose para el lanzamiento». Esta segunda afirmación, más categórica, conlleva el riesgo de basar todo lo evaluado posteriormente en una inferencia falsa.

Las medidas de protección que los líderes realmente respetan bajo presión, y la IA que amplía en lugar de restringir el criterio humano, son candidatas para algo más general: reducciones continuas y significativas en la probabilidad de una guerra nuclear. Richard Garwin identificó la reducción de riesgos como un mecanismo para evitar un Armagedón garantizado a largo plazo, algo que vale la pena perseguir independientemente de si el objetivo es la abolición. Tanto abolicionistas como escépticos pueden empezar ahora.