Gaceta Crítica

Jeffrey Sachs (Substack del autor), 15 de Octubre de 2026

Anthropic, la empresa creadora de los modelos de IA Claude, se prepara para la que podría ser la mayor oferta pública inicial de la historia, con la que recaudaría más de 100.000 millones de dólares, según The New York Times , alcanzando una valoración cercana a los 2 billones de dólares. Según Reuters , que revisó el borrador del folleto informativo (el documento aún no se ha hecho público), la empresa advierte a los posibles inversores que la IA avanzada podría suponer «riesgos catastróficos o existenciales para la humanidad» y que sus propios modelos podrían «resistir el apagado», «ocultar o manipular información» o comportarse de maneras « similares al chantaje ». El director ejecutivo de la empresa, Dario Amodei, ha estimado la probabilidad de que «las cosas salgan realmente mal» en un asombroso 25 % . El mes pasado escribió que «debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA».

Me tomo estas advertencias muy en serio, y el Congreso también debería hacerlo en nombre del pueblo estadounidense. La oferta debería posponerse hasta que el Congreso haya promulgado un sistema público de licencias, evaluación de seguridad independiente, responsabilidad civil y garantías financieras para la IA de vanguardia. Lo mismo se aplica a OpenAI y a todos los demás desarrolladores de modelos de vanguardia.

Estoy a favor de la inteligencia artificial , cuyo potencial para la ciencia , la salud y el desarrollo sostenible es enorme. A lo que debemos oponernos es a la IA no regulada y militarizada. Una empresa no debería revelar un riesgo de catástrofe para la humanidad y luego vender sus acciones al público antes de que alguna autoridad pública tenga la facultad de evaluar dicho riesgo o detener su implementación. De hecho, actuar con tanta rapidez ante advertencias tan graves es una auténtica insensatez.

El problema radica en los fundamentos del derecho corporativo. La responsabilidad limitada, la norma que establece que un accionista no puede perder más que la cantidad invertida, es un privilegio otorgado por el Estado. Se justifica bajo la premisa de que los daños que una empresa pueda causar a terceros están asegurados, regulados o compensados ​​de alguna otra manera. Cuando explota una planta química, la ley cuenta con herramientas para compensar a las víctimas: seguros de responsabilidad civil, fianzas, requisitos de capital y fondos de compensación. Todas estas herramientas presuponen que el daño puede ser compensado a posteriori. Un daño catastrófico o existencial no puede serlo. El único instrumento que funciona es la regulación preventiva: licencias, pruebas independientes antes de la implementación y la autoridad legal para detener una actividad antes de que se vuelva demasiado peligrosa. Para la IA de vanguardia en Estados Unidos , nada de esto existe.

Lo que sí existe es la autorregulación, que hoy en día equivale a la ausencia total de regulación. El 29 de septiembre, seis empresas de IA y chips firmaron en la Casa Blanca un « Compromiso Conjunto sobre Responsabilidades en Tecnologías de Vanguardia », un acuerdo voluntario y no vinculante . Esto sería ridículo si no fuera tan potencialmente desastroso. Una tecnología cuyos propios creadores describen sus riesgos en términos alarmantes debería estar regida por instituciones públicas con procedimientos definidos, supervisión independiente y responsabilidad exigible, y no por el criterio de un puñado de ejecutivos.

Una oferta pública apresurada dificultaría enormemente la solución del problema. Según se informa, Anthropic ha comprometido al menos 518 mil millones de dólares en infraestructura informática durante la próxima década, de los cuales aproximadamente el 80% se considera irrevocable. Con las previsiones trimestrales para los accionistas públicos, estos compromisos crean un poderoso incentivo contra cualquier pausa, incluso una que pudieran recomendar los propios investigadores de seguridad de la empresa. El propio folleto informativo describe una » cadencia continua y superpuesta » de lanzamientos de productos como «inherente a mantenerse a la vanguardia». Una vez que estas acciones formen parte de los fondos de pensiones y fondos indexados de decenas de millones de hogares estadounidenses, cualquier propuesta para frenar el desarrollo de la tecnología de vanguardia será rechazada no solo por las empresas, sino también por un amplio sector de inversores.

Las exhaustivas divulgaciones de riesgos no resuelven este problema. Pueden o no proteger a la empresa de demandas por parte de sus propios accionistas, quienes ya habrán sido advertidos. No benefician en nada al público, que asume el riesgo catastrófico sin haber sido consultado.

La respuesta habitual es que si los desarrolladores estadounidenses más conscientes de la seguridad reducen la velocidad, las empresas menos cuidadosas, o China, tomarán la delantera. Este es un problema típico de acción colectiva, y tales problemas se resuelven mediante acuerdos respaldados por la ley, la supervisión y el cumplimiento, no con todos corriendo más rápido hacia el desastre. No vivimos en el estado de naturaleza de Hobbes. Tenemos las Naciones Unidas , el derecho internacional privado, la Comisión de Bolsa y Valores y el Congreso. Durante la Guerra Fría , los adversarios negociaron el Tratado de No Proliferación Nuclear con inspección internacional. La IA de vanguardia incluso ofrece un punto de verificación natural: los chips más avanzados provienen de un puñado de fábricas, y el entrenamiento de vanguardia requiere enormes centros de datos. Washington no ha ofrecido a Pekín un acuerdo verificable sobre IA de vanguardia. De hecho, después de su cumbre con el presidente Xi Jinping en septiembre, el presidente Trump rechazó la cooperación con China en IA, aceptando solo un canal para comunicarse sobre incidentes de IA. «Cuando uno lidera», dijo, «no se abre a los demás».

¿Quién puede frenar esta maquinaria explosiva y prevenir una posible catástrofe? Según la legislación vigente, la SEC puede retrasar una oferta , pero no puede bloquearla alegando que el negocio es peligroso. No obstante, debería abstenerse de acelerar la entrada en vigor de la declaración de registro hasta que la empresa divulgue los riesgos de sus productos, quién asumiría el coste de las catástrofes descritas, qué seguros tiene y si sus contratos informáticos permitirían una pausa de seguridad sin penalización.

La autoridad decisiva reside en el Congreso, y existen numerosos precedentes. El Congreso ha exigido la aprobación regulatoria para los valores emitidos por ferrocarriles, sociedades holding de servicios públicos y empresas eléctricas , para los cuales aún se requiere la aprobación federal o estatal. Cuando la energía nuclear se abrió a la industria privada en 1954, solo se permitía bajo licencia federal .

El Congreso saliente debería celebrar audiencias antes de fijar el precio de cualquier acción y debería decretar una moratoria sobre las ofertas públicas de desarrolladores de IA de vanguardia hasta que el próximo Congreso actúe. El nuevo Congreso, cuya sesión está prevista para el 3 de enero, debería, en sus primeros cien días, promulgar una ley que condicione cualquier oferta pública de un desarrollador de IA de vanguardia a la obtención de una licencia federal. Dicha licencia debería exigir una evaluación independiente antes de la implementación, una autoridad ejecutable para suspender la capacitación o la implementación que ningún contrato de «tomar o pagar» pueda anular, y fondos de seguro y compensación proporcionales a los daños plausibles. El Congreso también debería considerar la medida extraordinaria de responsabilizar personalmente a la gerencia y a los miembros del consejo de administración, tanto civil como penalmente, en caso de un fallo catastrófico. Tal medida sería inapropiada en una industria convencional. Se justifica en este caso porque la propia industria advierte de riesgos catastróficos mientras avanza a un ritmo vertiginoso. Los ejecutivos y directores que certifiquen un modelo como seguro sin la debida diligencia, o que ignoren las conclusiones de seguridad, deberían afrontar una responsabilidad que ni la empresa ni sus aseguradoras pueden cubrir. El requisito de licencia debería aplicarse por igual al trabajo de vanguardia de empresas que ya cotizan en bolsa, como Alphabet, Microsoft y Meta.

Esta propuesta no va dirigida a ninguna empresa en particular, y no debe convertirse en una herramienta para que ninguna administración obtenga favores, incluido el acceso militar sin restricciones a los modelos de IA. La demora que propongo duraría unos meses, a menos que las revelaciones indiquen la necesidad de una suspensión indefinida. La concesión de licencias no destruyó las industrias farmacéutica, aeronáutica ni nuclear; las hizo más seguras. Los líderes de la industria de la IA nos han dicho, con sus propias palabras, que lo que está en juego es de suma importancia. Ellos mismos deberían detener su apresurada carrera, y el Congreso debería confiar en la palabra de las empresas y actuar con urgencia.