Jeffrey Sachs (CONSDORTIUM NEWS), 13 de octubre de 2026
Una empresa no debería revelar un riesgo de catástrofe para la humanidad y luego vender sus acciones al público antes de que alguna autoridad pública tenga el poder de evaluar ese riesgo o de detener su implementación.
El presidente estadounidense Donald Trump ofreció un almuerzo con ejecutivos del sector tecnológico sobre superinteligencia artificial (IA) en la Casa Blanca el 29 de septiembre de 2026. (Casa Blanca/Daniel Torok)
Anthropic , la empresa creadora de los modelos de IA Claude, está preparando la que podría ser la mayor oferta pública inicial de la historia, con la que recaudaría más de 100.000 millones de dólares, según The New York Times , alcanzando una valoración cercana a los 2 billones de dólares.
Según Reuters, que revisó el borrador del folleto informativo (el documento aún no se ha hecho público), la empresa advierte a los posibles inversores que la IA avanzada podría suponer «riesgos catastróficos o existenciales para la humanidad» y que sus propios modelos podrían «resistirse al apagado», «ocultar o manipular información» o comportarse de maneras » similares al chantaje «.
El director ejecutivo de la compañía, Dario Amodei, ha estimado la probabilidad de que «las cosas salgan realmente mal» en un asombroso 25 por ciento . El mes pasado escribió que «debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA».
Me tomo estas advertencias muy en serio, y el Congreso también debería hacerlo en nombre del pueblo estadounidense. La oferta debería posponerse hasta que el Congreso haya promulgado un sistema público de licencias, evaluación de seguridad independiente, responsabilidad civil y garantías financieras para la IA de vanguardia. Lo mismo se aplica a OpenAI y a todos los demás desarrolladores de modelos de vanguardia.
Estoy a favor de la inteligencia artificial , cuyo potencial para la ciencia , la salud y el desarrollo sostenible es enorme. A lo que debemos oponernos es a la IA no regulada y militarizada. Una empresa no debería revelar un riesgo de catástrofe para la humanidad y luego vender sus acciones al público antes de que ninguna autoridad pública tenga la facultad de evaluar dicho riesgo o detener su implementación. De hecho, actuar con tanta rapidez ante advertencias tan graves es una auténtica insensatez.
Responsabilidad y autorregulación
Amodei de Anthropic en 2023. (TechCrunch / Wikimedia Commons / CC BY 2.0)
El problema radica en los fundamentos del derecho corporativo. La responsabilidad limitada, la norma que establece que un accionista no puede perder más que la cantidad invertida, es un privilegio otorgado por el Estado.
Se justifica bajo la premisa de que los daños que una empresa puede causar a terceros están asegurados, regulados o compensados de alguna otra manera. Cuando explota una planta química, la ley cuenta con herramientas para compensar a las víctimas: seguros de responsabilidad civil, fianzas, requisitos de capital y fondos de compensación.
Cada una de estas herramientas parte de la premisa de que el daño puede compensarse a posteriori. Un daño catastrófico o existencial no puede compensarse. El único instrumento eficaz es la regulación preventiva: la concesión de licencias, las pruebas independientes previas a la implementación y la autoridad legal para detener una actividad antes de que se vuelva demasiado peligrosa. En Estados Unidos , para la IA de vanguardia , nada de esto existe.
Lo que sí existe es la autorregulación, que hoy en día equivale a la ausencia total de regulación. El 29 de septiembre, seis empresas de IA y chips firmaron un “ Compromiso Conjunto sobre Responsabilidades en la Frontera ” voluntario y no vinculante en la Casa Blanca .
Esto sería ridículo si no fuera tan potencialmente desastroso. Una tecnología cuyos propios creadores describen sus riesgos en términos tan alarmantes debería estar regulada por instituciones públicas con procedimientos definidos, supervisión independiente y responsabilidad exigible, y no por el criterio de un puñado de ejecutivos.
Una oferta pública apresurada dificultaría enormemente la solución del problema. Según se informa, Anthropic ha comprometido al menos 518 mil millones de dólares en infraestructura informática durante la próxima década, de los cuales aproximadamente el 80 por ciento se considera no cancelable.
Con las directrices trimestrales que se proporcionan a los accionistas públicos, esos compromisos crean un poderoso incentivo contra cualquier pausa, incluso una que pudieran recomendar los propios investigadores de seguridad de la empresa.
Según se informa, el propio folleto informativo describe una « cadencia continua y superpuesta » de lanzamientos de productos como algo «inherente a mantenerse a la vanguardia». Una vez que estas acciones formen parte de los fondos de pensiones y fondos indexados de decenas de millones de hogares estadounidenses, cualquier propuesta para frenar el desarrollo de la tecnología de vanguardia será rechazada no solo por las empresas, sino también por un amplio sector de inversores.
Las exhaustivas divulgaciones de riesgos no resuelven este problema. Pueden o no proteger a la empresa de demandas por parte de sus propios accionistas, quienes ya habrán sido advertidos. No benefician en nada al público, que asume el riesgo catastrófico sin haber sido consultado.
Instituciones reguladoras
Capitolio de los Estados Unidos. (Casa Blanca/Adam Schultz)
La respuesta habitual es que si los promotores inmobiliarios estadounidenses más preocupados por la seguridad reducen la velocidad, las empresas menos prudentes, o China, tomarán la delantera. Este es un problema típico de acción colectiva, y tales problemas se resuelven mediante acuerdos respaldados por la ley, la supervisión y el cumplimiento, no con una carrera desenfrenada hacia el fracaso. No vivimos en el estado de naturaleza de Hobbes. Contamos con las Naciones Unidas , el derecho internacional privado, la Comisión de Bolsa y Valores y el Congreso.
Durante la Guerra Fría , los adversarios negociaron el Tratado de No Proliferación Nuclear con inspección internacional. La IA de vanguardia ofrece incluso un punto de verificación natural: los chips más avanzados provienen de un puñado de fábricas, y el entrenamiento en este campo requiere enormes centros de datos.
Washington no ha ofrecido a Pekín un acuerdo verificable sobre inteligencia artificial de vanguardia. De hecho, tras su cumbre con el presidente Xi Jinping en septiembre, el presidente Donald Trump rechazó la cooperación con China en materia de IA , aceptando únicamente un canal de comunicación para informar sobre incidentes relacionados con la IA. «Cuando se lidera», dijo, «no se abre la puerta a la cooperación entre países».
El presidente Donald J. Trump y la primera dama Melania Trump reciben al presidente chino Xi Jinping y a la primera dama Peng Liyuan en una cena de estado en Washington el 24 de septiembre de 2026. (Casa Blanca/Andrea Hanks)
¿Quién puede frenar esta maquinaria explosiva y prevenir una posible catástrofe? Según la legislación vigente, la SEC puede retrasar una oferta , pero no puede bloquearla alegando que el negocio es peligroso. No obstante, debería abstenerse de acelerar la entrada en vigor de la declaración de registro hasta que la empresa divulgue los riesgos de sus productos, quién asumiría el coste de las catástrofes descritas, qué seguros tiene y si sus contratos informáticos permitirían una pausa de seguridad sin penalización.
La autoridad decisiva reside en el Congreso, y existen numerosos precedentes. El Congreso ha exigido la aprobación regulatoria para los valores emitidos por ferrocarriles, sociedades holding de servicios públicos y empresas eléctricas , para los cuales aún se requiere la aprobación federal o estatal. Cuando la energía nuclear se abrió a la industria privada en 1954, solo se permitió bajo licencia federal .
El Congreso saliente debería celebrar audiencias antes de que se fije el precio de cualquier acción y debería decretar una moratoria sobre las ofertas públicas de los desarrolladores de IA de vanguardia hasta que el próximo Congreso actúe.
El nuevo Congreso, cuya sesión está prevista para el 3 de enero, debería, en sus primeros 100 días, promulgar una ley que condicione cualquier oferta pública realizada por un desarrollador de IA de vanguardia a la obtención de una licencia federal.
La licencia debería exigir una evaluación independiente antes del despliegue, una autoridad ejecutable para suspender el entrenamiento o el despliegue que ningún contrato de «tomar o pagar» pueda anular, y fondos de seguro y compensación proporcionales a los daños plausibles.
El Congreso también debería considerar la medida extraordinaria de responsabilizar personalmente a la gerencia y a los miembros del consejo de administración, tanto civil como penalmente, en caso de una falla catastrófica. Tal medida sería inapropiada en una industria común. Sin embargo, en este caso está justificada porque la propia industria advierte sobre riesgos catastróficos mientras avanza a un ritmo vertiginoso.
Los ejecutivos y directores que certifiquen un modelo como seguro sin la debida diligencia, o que ignoren las conclusiones sobre seguridad, deberían afrontar responsabilidades que ni la empresa ni sus aseguradoras pueden cubrir. El requisito de licencia debería aplicarse por igual al trabajo de vanguardia de empresas que ya cotizan en bolsa, como Alphabet, Microsoft y Meta.
Esta propuesta no está dirigida a ninguna empresa en particular, y no debe convertirse en una herramienta para que ninguna administración obtenga favores, incluido el acceso militar sin restricciones a los modelos de IA.
La demora que propongo duraría unos meses, a menos que las revelaciones indiquen la necesidad de una suspensión indefinida. La concesión de licencias no destruyó las industrias farmacéutica, aeronáutica ni nuclear; las hizo más seguras.
Los líderes de la industria de la IA nos han dicho, con sus propias palabras, que lo que está en juego es de suma importancia. Deberían frenar su imprudente avance, y el Congreso debería tomar en serio la palabra de las empresas y actuar con urgencia.
Jeffrey D. Sachs es profesor universitario y director del Centro para el Desarrollo Sostenible de la Universidad de Columbia, donde dirigió el Instituto de la Tierra desde 2002 hasta 2016. También es presidente de la Red de Soluciones para el Desarrollo Sostenible de la ONU y comisionado de la Comisión de Banda Ancha para el Desarrollo de la ONU. Ha sido asesor de tres secretarios generales de las Naciones Unidas y actualmente se desempeña como Defensor de los ODS bajo la dirección del Secretario General Antonio Guterres. Sachs es autor, entre otros libros, de *Una nueva política exterior: más allá del excepcionalismo estadounidense* (2020). Otros libros incluyen * Construyendo la nueva economía estadounidense: inteligente, justa y sostenible* (2017) y *La era del desarrollo sostenible* (2015), escrito junto con Ban Ki-moon.
Deja una respuesta