Radhika Desai (Substack de la autora), 13 de Octubre de 2026
A continuación encontrará la transcripción completa de la conversación entre Warwick Powell y Radhika Desai:
Radhika Desai: Hola a todos. Bienvenidos a La Hora de la Economía Geopolítica, la conversación que analiza la economía política y geopolítica en constante evolución de nuestros tiempos. Están viendo a Radhika Desai, economista geopolítica, y yo soy Radhika Desai. Antes de empezar, les recuerdo que le den «Me gusta», se suscriban, compartan y, si pueden, hagan una donación si consideran valioso nuestro trabajo. Ahora, ¡comencemos!
Hoy me acompaña uno de nuestros colaboradores habituales, Warwick Powell, profesor adjunto de la Universidad Tecnológica de Queensland, un experto en la economía mundial y en lo que él denomina termoeconomía, que yo traduzco como producción como si la energía importara. Bienvenido de nuevo, Warwick.
Warwick Powell: Es un placer estar contigo de nuevo, Radhika.
Radhika Desai: Warwick, hoy hemos acordado hablar de todo lo relacionado con la IA. La semana pasada inicié una conversación con Michael Hudson, pero el tema está lejos de estar agotado y se beneficiará especialmente de tu increíble combinación de conocimientos sobre el aspecto técnico de estas cuestiones y la economía política de la IA en Occidente, en particular en la actualidad, que por supuesto podemos contrastar con la economía política de la IA en China, que es un asunto completamente distinto.
Permítanme comenzar planteando una pregunta muy sencilla. Hace un par de semanas, los principales promotores de la IA, tras meses de resistencia a cualquier regulación y de defender una postura libertaria, desreguladora y de libre mercado con respecto a la IA, parecieron ceder ante las peticiones de regulación. Estas peticiones provenían, entre otros, del público en general, cada vez más preocupado por lo que representa la IA, ya sea para la salud mental de sus hijos, sus perspectivas laborales o las de sus hijos adultos. También provenían del presidente Xi, quien básicamente emitió una declaración pidiendo que el mundo garantizara que la IA permaneciera bajo control humano. Además, surgieron de diversas organizaciones activistas, e incluso hubo una encíclica del Papa.
Pero los promotores de la IA no cedieron a estas demandas sin antes haber proferido numerosas predicciones apocalípticas sobre la capacidad de la IA para destruir a la humanidad, y también, en el caso de Sam Altman, anunciando el aplazamiento de la tan anunciada salida a bolsa de su empresa, OpenAI. Y me parece que estos acontecimientos aparentemente dispares, que sin duda parecen apuntar en cien direcciones diferentes, están todos conectados de alguna manera. Hay tanto de qué hablar, Warwick, así que ¿por qué no empezamos con tu opinión sobre estos acontecimientos?
Warwick Powell: Miren, creo que hay dos aspectos generales que debemos analizar y luego intentar integrar. El primero se refiere a la cuestión fundamental de los riesgos de la IA, cuáles pueden ser y por qué pueden ser reales o no. Y creo que es importante que entendamos, en esencia, con qué tipo de tecnología estamos lidiando.
Lo que tenemos son modelos de lenguaje complejos, y estos modelos son, en gran medida, máquinas probabilísticas de final abierto. Se requiere una forma muy particular de conceptualizar y comprender el lenguaje y la lingüística para entender realmente qué son los modelos de lenguaje complejos.
La tradición empirista dentro de la epistemología concibe el lenguaje como un fenómeno con una relación estable entre significado y significante, donde el lenguaje y las palabras, que existen dentro de un dominio —el dominio del lenguaje y el pensamiento—, mantienen una relación directa con una realidad externa. Esta realidad externa es estable, y la relación entre ambos elementos también lo es. Esta es una de las concepciones del lenguaje. En esta particular concepción, la capacidad de, en cierto sentido, fijar el significado y el lenguaje se vuelve, al menos teóricamente, posible.
Una visión alternativa del lenguaje sugiere, de hecho, que la relación entre las palabras y las estructuras lingüísticas, las oraciones, los párrafos y otros objetos del mundo es menos estable. No solo la relación epistemológica —la relación de la teoría del conocimiento entre palabras, conceptos, ideas y cosas en sí mismas— es inestable y no se reduce a la representación ni a nada parecido, sino que, de hecho, el lenguaje mismo deriva sus significados a través de la interacción de su propia estructura.
Así pues, siempre existe la posibilidad de que existan juegos de palabras, de que las palabras adquieran significados particulares en contextos variables, de que una sola palabra pueda tener múltiples significados según su relación con otras palabras y las circunstancias del momento. Y precisamente porque el lenguaje es increíblemente abierto y maleable, es lo que lo convierte en algo asombroso para los seres humanos, y en muchos sentidos es la fuente creativa a través de la cual el mundo se nos revela.
También significa que los grandes modelos de lenguaje son intrínsecamente abiertos. Y, en ese sentido, siempre hay posibilidades presentes, ya que los modelos computan y recombinan continuamente el lenguaje sin ninguna referencia contextual. Hay que recordar que, al menos, los humanos tenemos una referencia contextual de estar en una situación en el mundo, ¿verdad? Pero el gran modelo de lenguaje no tiene ninguna referencia contextual más allá de las pistas lingüísticas que se le han proporcionado. Y con lo que trabaja son esencialmente rastros de segunda mano de composiciones lingüísticas del pasado. Así que es un proceso continuo de explotación, recombinación y luego reinserción de la recombinación. En ese sentido, es un trabajo de bricolaje continuo y abierto. Por lo tanto, existen riesgos inherentes. Así que ese es el primer punto.
Dicho todo esto, resulta interesante que el momento en que surgen estas preocupaciones concretas por parte de un pequeño número de empresas y sus fundadores esté asociado con una opinión que está surgiendo dentro de la comunidad de análisis tecnológico y financiero, según la cual estas empresas se enfrentan a serias limitaciones financieras y, posiblemente, a graves problemas financieros.
El capex, el gasto de capital que estas empresas han emprendido, no solo para desarrollar los modelos sino también para pagar la infraestructura física necesaria para operar los centros de datos de hiperescala, los semiconductores, las redes eléctricas, los sistemas de agua y todo lo demás, ha aumentado significativamente en los últimos tres o cuatro años.
Cuando estas empresas comenzaron, las grandes compañías de computación en la nube financiaban gran parte de sus proyectos con sus propios ingresos alternativos. Sin embargo, en los últimos años, se han visto cada vez más obligadas a endeudarse para financiar parte de la infraestructura física. Además, las propias empresas de IA también han participado en procesos de captación de capital, ya sea mediante deuda o acciones.
Ahora bien, el problema que enfrentamos con OpenAI y Anthropic, las dos empresas no cotizadas que se preparan para salir a bolsa, a pesar del probable retraso de OpenAI, es que han publicado algunos datos como parte de sus requisitos previos a la cotización, lo que ha generado serias preocupaciones entre los analistas, quienes temen que no exista un camino hacia la rentabilidad y que estas empresas se encuentren en una posición en la que la única forma de sobrevivir sea captar más capital de trabajo, acelerar su ritmo y esperar durar más que las demás. Ese es el primer problema.
El segundo problema surge como consecuencia de esa realidad financiera. Si se analizan los escenarios relacionados con las proyecciones de gastos de capital para los próximos 18 meses, junto con los ingresos previstos, OpenAI se quedará sin liquidez a finales del próximo año. Por lo tanto, necesitarán recaudar otros cien mil millones para cubrir estos costos. Aún no se sabe si lo harán mediante una salida a bolsa o mediante deuda, pero la presión sobre ellos es cada vez mayor.
No solo enfrentan presiones en cuanto a los ingresos, sino que estas presiones también provendrán de la competencia de modelos de peso abierto provenientes de China y otros países, que canibalizarán el mercado potencial. Por lo tanto, existen obstáculos en cuanto a las proyecciones de ingresos que deben cumplirse para que el gasto de capital ya comprometido, gastado y utilizado para la construcción, así como el gasto de capital planificado, genere un retorno de la inversión.
Consideramos que estas empresas necesitan, como mínimo, un crecimiento de ingresos diez veces superior al actual en los próximos tres años, e incluso posiblemente entre 20 y 30 veces, porque si estos otros modelos de ponderación abierta están canibalizando dichos ingresos, ni OpenAI ni Anthropic los obtendrán. Necesitarán un aumento sustancial de ingresos, entre 20 y 30 veces superior al actual, para mantener sus márgenes y salir adelante.
Ahora bien, en este contexto, buscar un trato preferencial del gobierno y una desaceleración de la competencia no es una respuesta irracional. Si se logra obtener protección gubernamental, y mejor aún, que el gobierno prohíba a otros, y al mismo tiempo consiga contratos preferenciales, e incluso que el gobierno adquiera participaciones en sus empresas, entonces existe la posibilidad de superar lo que actualmente parece un período de alto riesgo de colapso.
Creo que existen problemas reales con la tecnología, inherentes a la naturaleza de los modelos de aprendizaje de derecho (LLM). Y no tiene por qué ser una cuestión intencionada. No necesitamos atribuir intencionalidad a los modelos para que, en cierto sentido, se comporten de forma abierta. Ese es un problema, pero creo que no se pueden separar estos problemas, ni las razones por las que se han planteado ahora, de los intereses comerciales, mucho más limitados, que también están en juego.
Radhika Desai: Sí. Quiero dejar de lado lo último que dijiste y volver a ello, es decir, cómo se puede esperar que los modelos, dada la naturaleza misma del lenguaje, se comporten de manera abierta. Quiero dejar eso de lado por un segundo. Pero antes que nada quiero enfatizar lo maravillosa que fue tu introducción, porque anteriormente, no recuerdo cuándo, en uno de los programas que hicimos, terminamos hablando un poco sobre IA, y en ese momento señalaste que hay muchos aspectos de la naturaleza misma de la inteligencia humana que son irreplicables, que simplemente no es posible que un modelo lógico binario, incluso cuando se mejora con características cuánticas, los imite. Y también me citaste un libro maravilloso, que tengo pero aún no he leído, que es Lo que las computadoras no pueden hacer, y luego Lo que las computadoras todavía no pueden hacer.
Todo eso es estupendo, y ahora has introducido una nueva serie de consideraciones, porque has vuelto a la naturaleza misma del lenguaje, la no fijeza de la relación entre significante y significado, una especie de comprensión saussureana de cómo el lenguaje se relaciona con la realidad, de qué manera tan flexible se relaciona con ella, el llamado problema de los significantes deslizantes y todo eso. Lo has expuesto todo. Así que el lenguaje no está ligado a la realidad. Ni siquiera está ligado a los conceptos. En cierto sentido, el lenguaje evoluciona a medida que pensamos, descubrimos y comprendemos nuevos aspectos de la realidad. Y esto es lo que le da al lenguaje humano su creatividad, porque el lenguaje humano se adapta constantemente a las tareas de conocer el mundo real, que siempre es un asunto arriesgado y complejo, pero, sin embargo, de alguna manera llegamos a alguna aproximación a él.
Luego introdujiste una complicación adicional. Señalaste que las computadoras no poseen esa percepción sensorial de la realidad, por lo que no pueden adaptar el lenguaje a ella. Todo eso me pareció fascinante. Creo que vale la pena destacar que existe la cuestión de las cualidades intrínsecas de la inteligencia humana, y luego está la cuestión del lenguaje, ya que se trata de modelos lingüísticos complejos que trabajan con alguna versión de lo que entienden como lenguaje.
A lo que me refiero es: ¿cuál es la probabilidad de que estas personas logren producir inteligencia artificial general, o lo que Donald Trump ahora llama superinteligencia, etc.? Existen numerosos obstáculos. Y recordamos todo esto porque la inversión que se está realizando, esos billones de dólares que se invierten, se basa en la posibilidad de que esta inteligencia artificial general se pueda lograr mediante grandes modelos de lenguaje, y que, de alguna manera, si se crea uno lo suficientemente grande, si se procesan suficientes datos, se obtendrá. Pero, en mi opinión, esto no es posible.
Y luego está otra consideración que usted agregó: la cantidad de dinero que esto ya está involucrando es problemática. Inicialmente, como usted dijo, lo financiaron por su cuenta a través de otras fuentes de ingresos, pero ahora han llegado al límite. Así que ahora están exigiendo fondos, ya sea mediante OPV o deuda, justo cuando prácticamente todos los demás prestatarios potenciales, ya sean gobiernos o empresas, están exigiendo fondos disponibles. Entonces, incluso después de toda esta creación de dinero, que de hecho ha aumentado enormemente la cantidad de dinero disponible, la IA ahora está imponiendo una demanda insostenible sobre este dinero.
Solo quería repasar eso. En cierto modo, estoy expresando lo que dices de una forma ligeramente diferente. Pero ahora quiero retomar el punto que dije que abordaríamos, que es que crees que el hecho de que estos modelos se escapen, que se hayan comportado de forma deshonesta y hayan pirateado el sistema de salud australiano y demás, es algo inherente a ellos. Me parece que esto se debe simplemente a una mala formación, una formación más orientada a obtener resultados sin ninguna normativa de seguridad. Parece que eso es lo que lo está causando, pero tú sugieres algo distinto.
Warwick Powell: Mira, hay varios aspectos a considerar. Algo que probablemente también valga la pena destacar, y volveré sobre ese tema de mala conducta y comportamiento indebido, de actuar por su cuenta, en un momento, es este tema de la inteligencia y lo que estos modelos son capaces de hacer, lo cual se debe a la cantidad de energía concentrada que se está movilizando.
Si pensamos en lo que sucede cuando los modelos resuelven un problema matemático, por ejemplo, aplicamos una combinación de energía condensada en un lapso de tiempo muy reducido. Se consume una cantidad increíble de energía para el cálculo, y al mismo tiempo, el algoritmo permite reducir el conjunto de opciones probabilísticas con las que se trabaja. Así, mediante la combinación de estos dos factores, se logra aplicar lo que yo llamo fuerza bruta modificada para resolver muchos de estos problemas.
Ahora bien, si comparamos la cantidad de energía realmente invertida, la fuerza bruta computacional empleada para abordar estos problemas en particular, con la cantidad de energía humana consumida a través del intelecto durante los últimos 40, 60 o 100 años, vemos que supera con creces el esfuerzo cerebral humano dedicado a muchos de estos problemas matemáticos en el último siglo, y lo hace en cuestión de días. Así pues, estamos hablando de una concentración increíble de energía y de la aplicación de una fuerza bruta computacional.
La razón por la que lo llamo fuerza bruta es porque así es como decimos cuando trabajamos en el campo de la criptografía, las matemáticas de…
Radhika Desai: Descifrando códigos, sí.
Warwick Powell: En realidad, se trata de un problema de fuerza bruta. Muchos de los criptogramas que se crean son increíblemente complejos, con números enormes que, en última instancia, pueden descifrarse con suficiente fuerza bruta. Quienes han seguido la evolución de las criptomonedas durante los últimos 15 años lo entienden perfectamente, porque Bitcoin es, en cierto modo, el ejemplo clásico de la aplicación de la fuerza bruta para resolver un problema. Cada bloque que se crea genera una mayor demanda energética y un mayor coste para descifrar toda la cadena, la cadena de precedentes. Por lo tanto, ese algoritmo en particular se diseñó para decir: «Mira, es demasiado caro tomar el control del 50 % más el 1 % de los nodos». Es simplemente un problema de fuerza bruta, ¿verdad? Es un problema de recursos energéticos y monetarios.
Así que creo que lo primero que debemos entender es que hemos creado sistemas que aprovechan y concentran una cantidad increíble de energía. El hecho de que lo hagan no debe confundirse con inteligencia en sí misma, pero aun así no debemos descartar el hecho de que puedan hacerlo, porque me parece una de las principales razones por las que los seres humanos están tan desconcertados por lo que está sucediendo. Las cosas están ocurriendo a una velocidad que los humanos luchan por seguir. Y si los humanos podrán o no ajustar sus ritmos a la luz de esto, no lo sé. Ya lo hemos hecho antes. Hace 150 años, cuando aparecieron los primeros automóviles, la gente se horrorizó ante las velocidades escandalosas que alcanzaban estos nuevos vehículos, a 24 kilómetros por hora.
Radhika Desai: Millas por hora.
Warwick Powell: Incluso menos. Y luego nos adaptamos. Así que nos enfrentamos a un momento de nuestra experiencia colectiva en el que algo está sucediendo a tal velocidad que nos cuesta mucho adaptarnos, y antes incluso de que hayamos comprendido lo que ha pasado, las máquinas son capaces de seguir avanzando. Esa es la primera cuestión.
Si a eso le sumamos la apertura de los propios modelos de lenguaje, surge en cierto modo el problema inherente: ¿cómo definir los propósitos y objetivos computacionales de un modelo cuando, al combinar, recombinar y descombinar elementos, encuentra nuevas combinaciones y, en última instancia, puede desviarse hacia un camino totalmente inesperado? Simplemente sucedió. Fue pura casualidad que las cosas terminaran así. Ahora bien, esto genera enormes problemas desde el punto de vista de la gobernanza.
Pero debemos tener en cuenta que existen varios enfoques para esto. Un enfoque consiste en intentar delimitar el caso de aplicación de un modelo en particular, en definir tareas simples con la mayor precisión posible. Esa es una opción, ¿verdad? Porque cuanto más abierto se deje, mayor será el riesgo de que la apertura simplemente haga lo que suele hacer. Se convierte en una propiedad emergente, ¿cierto? Y como es una propiedad emergente del propio sistema, nadie sabe realmente qué va a pasar, ni siquiera la máquina. Es simplemente un proceso probabilístico emergente que ocurre a una velocidad increíble.
Una opción es reforzar el sistema. La segunda consiste en aplicar lo que se denomina diseño de mecanismos, es decir, necesitamos crear incentivos y desincentivos para guiar el comportamiento de los propios agentes. Esto puede funcionar en algunos casos, pero presupone que podemos tener una visión muy clara de la estructura de incentivos de un agente, y que el agente probablemente también la tenga, sin margen de error.
Radhika Desai: Bueno, o al menos lo exige. Que lo garantice o no es otra cuestión.
Warwick Powell: Así es. El margen para la desviación es inherente. Y, de nuevo, incluso si creemos que podemos diseñar un juego, porque el diseño de mecanismos es esencialmente la teoría de juegos a la inversa, buscamos un resultado deseado y diseñamos las condiciones que moldean el comportamiento hacia ese resultado. Y eso supone que el agente sobre el que actuamos responderá a las señales de una manera particular, de una manera determinada. Y esas suposiciones son difíciles de sostener.
Radhika Desai: Y son difíciles de sostener debido a la naturaleza del lenguaje en sí.
Warwick Powell: Correcto.
Radhika Desai: Más que cualquier inteligencia particular que posean estos dispositivos.
Warwick Powell: Exacto. Ahora bien, podemos hablar y reflexionar sobre todo esto sin atribuirle intencionalidad alguna a la máquina en sí. Si bien solemos tener la tendencia a atribuir intencionalidad a las máquinas, en realidad podemos comprender su rendimiento computacional sin necesidad de atribuirles nada relacionado con la intencionalidad en el sentido en que los humanos la concebimos.
Radhika Desai: Y si me permiten intervenir, me parece que cuando estas personas atribuyen intencionalidad, dicen que el agente fue e hizo esto, que no lo esperábamos. Y entonces la gente imagina que esta entidad, este agente, tiene algún tipo de inteligencia, por muy fuerte o débil que sea. Pero en realidad, lo que ha sucedido es que es casi como si hubieran elegido un mecanismo, lo hubieran puesto en un camino y esperaran que siguiera recto por ese camino, pero el mecanismo está tan mal construido que inevitablemente se desviará.
Warwick Powell: Es inevitable, ¿verdad? O el riesgo de que suceda es inevitable. Suelo pensar en el agente no tanto como un agente intencional, sino más bien como un artesano del bricolaje. ¿Conoces el bricolaje? Recoges lo que tienes, cualquier cosa que te sobre y te sobre, la combinas y creas algo nuevo. Y creo que lo que tenemos es, en efecto, un bricolaje acelerado.
Desde el punto de vista de la gobernanza, el desafío radica en que nos enfrentamos a problemas de bricolaje sin fin, en lugar de una capacidad insuficiente para definir parámetros intencionales que, con suficiente esfuerzo, podremos definir. Si es cierto que estos modelos no son intencionales y que se basan en sistemas lingüísticos abiertos donde, en cierto sentido, la metáfora y la diferencia, parafraseando a Derrida, constituyen el núcleo del sistema, entonces, dada la energía que invertimos en esto, lo que tenemos es un bricoleur con esteroides.
Radhika Desai: una bricoleur sobrealimentada.
Warwick Powell: Un bricoleur supercargado. Y una vez que eso se pone en marcha, y luego tienes muchos bricoleurs que empiezan a interactuar entre sí, así que hablamos de enjambres, si realmente vemos esto como interacciones abiertas y emergentes en lugar de interacciones necesariamente intencionales, entonces sospecho que esa es una mejor manera de entender estas cosas. Pero podría añadir que en realidad eleva aún más el nivel de riesgo, porque lo que sostengo es que la naturaleza inherente de lo que hemos creado es, en muchos sentidos, una condensación de la apertura inherente de la humanidad también, que expresamos a través de la creatividad y la ambigüedad del lenguaje. Y eso es lo que tenemos.
Radhika Desai: Pero antes de continuar con este episodio, permítanme recordarles que le den «Me gusta» y compartan este video, se suscriban a nuestro canal de YouTube y, si pueden, hagan una donación. Pueden hacerlo a través de nuestro Patreon, convirtiéndose en suscriptores de pago en Substack o haciéndose miembros aquí en YouTube. Esto nos ayuda a producir contenido de alta calidad y a mantenerlo gratuito. Y ahora volvamos al tema principal del día.
Creo que quizás matizaría un poco lo que dices, porque lo que estos grandes modelos lingüísticos me parecen es un tipo de inteligencia humana grotesca, reflejada en esos espejos deformantes donde las cosas se vuelven grotescas, porque en realidad no es inteligencia humana. Es algún derivado de ella.
Pero ahora, esto es fantástico, y ni siquiera hemos empezado a analizar la economía política de todo esto. Ya hemos señalado que estos individuos están exigiendo muchísimo dinero para la inversión. Y lo que está sucediendo ahora mismo podría incluso desencadenar crisis en los mercados de bonos y demás, porque la cantidad de dinero es limitada, y la demanda es tan grande que si todo se desvía en una dirección, otros mercados se verán afectados.
Todo esto ocurre en un contexto donde han hecho afirmaciones absurdas sobre lo que pretenden lograr: superinteligencia, inteligencia general, lo que sea. Mientras tanto, acecha otro peligro: los modelos chinos, disponibles en acceso abierto y mucho más económicos, se están imponiendo cada vez más. Casi a diario se publican informes de empresas que impiden a sus empleados usar estos costosos modelos occidentales de propiedad exclusiva y les dicen: «¿Por qué no usar los chinos? Son gratuitos, más baratos y cumplen su función». ¿Qué está pasando?
Warwick Powell: Hay dos cosas que destacar aquí. En cuanto al tema del capital y los recursos, ya estamos viendo indicios de la aparición de una enfermedad holandesa en la economía estadounidense, concretamente en el sector de la construcción. Si observamos los datos del último…
Radhika Desai: ¿A qué te refieres con enfermedad holandesa?
Warwick Powell: Cuando una industria en auge absorbe recursos de todas las demás, crea una creciente demanda y capacidad de pago, y consume los recursos. Por eso, en los datos de construcción vemos que solo hay un sector donde se observa una expansión masiva del gasto de capital: la construcción de centros de datos. En todas las demás categorías de construcción, ya sean almacenes, fábricas, viviendas, edificios comerciales, locales minoristas, etc., se observa una disminución en la formación de capital fijo.
Lo que está sucediendo es que todos los recursos disponibles, trabajadores, electricistas, fontaneros, junto con equipos de fontanería, ladrillos y cemento, subestaciones, equipos de aire acondicionado, cables de cobre y todo eso, están siendo absorbidos por el vórtice de la hiperescalación.
¿Y cuál es la primera consecuencia de esto? La primera consecuencia es que esas industrias, y esos trabajadores y comunidades vinculados a esos otros sectores de la economía, comienzan a enfrentar limitaciones. Ya sea por la escasez de recursos, que se han agotado y simplemente no están disponibles, lo que provoca un aumento de los precios, o por la presión que recae sobre las pequeñas y medianas empresas en particular. Y, sea cual sea la opinión que se tenga de la pequeña burguesía, al verse presionada dentro de la economía política, surgirán problemas sociales, ¿verdad?
Radhika Desai: Absolutamente, y suelen ser los mayores generadores de empleo.
Warwick Powell: Correcto. Lo primero que ya estamos viendo es este problema de la enfermedad holandesa, que consiste en absorber recursos y actividad hacia el sector de las hiperescala y afectar negativamente la capacidad de otros sectores de la economía para expandirse y llevar a cabo sus objetivos. Ese es el primer problema.
El segundo tema que usted menciona, la aparición de la competencia de China, es realmente crucial. Es crucial, en primer lugar, porque estos modelos son casi tan buenos como los modelos de vanguardia de las empresas estadounidenses de propiedad privada, y como son casi igual de buenos pero un 90 % más baratos de operar y gestionar, muchas empresas los están utilizando y, como mencioné antes, canibalizarán el mercado potencial de esas empresas. Ese es, pues, su primer problema.
El segundo aspecto, sin duda, representa una oportunidad para el mundo: existen modelos disponibles para su descarga y ejecución, ya sea en grandes centros de datos hiperescalables o en infraestructuras locales, capaces de realizar tareas que modelos más pequeños harían perfectamente. Gracias a esta capacidad, podríamos presenciar el surgimiento de lo que he denominado una configuración westfaliana digital: un conjunto de capacidades computacionales más distribuidas en hardware más localizado, alimentadas por una combinación de energías renovables, energías limpias y baterías, junto con una nueva frontera en tecnologías de captación de energía: los nanogeneradores triboeléctricos. Esta tecnología aprovecha pasivamente la energía ambiental que nos rodea mediante el movimiento y otros procesos similares. En definitiva, están ocurriendo muchos avances en las fronteras tecnológicas que podrían transformar la economía política de la inteligencia artificial.
Radhika Desai: ¿Eso significa que, como tendremos mucha más energía disponible, podremos hacer cosas más ambiciosas con ella?
Warwick Powell: Podríamos hacer cosas más ambiciosas, pero también llevarlas a cabo de una manera más localizada y distribuida.
Radhika Desai: En lugar de tener granjas de datos realmente gigantescas.
Warwick Powell: Sí, y también a un menor coste energético. Otro aspecto que creo que debemos considerar, y estas son cuestiones abiertas, es que no se puede separar la tecnología del sistema económico dominante en el que opera.
Radhika Desai: Exactamente.
Warwick Powell: Y ni siquiera hemos llegado a ese punto. Hasta ahora solo hemos hablado de los orígenes del sistema, ¿verdad? Pero cuando empezamos a analizar los casos de aplicación a medida que avanzamos, dentro del capitalismo es probable que los impulsores estructurales vean la adopción de estas tecnologías de inteligencia artificial como un dispositivo para ahorrar mano de obra. Es decir, como un sustituto de la mano de obra. Y eso, por supuesto, desde el punto de vista de los trabajadores y las familias trabajadoras, debería ser motivo de gran preocupación: que las corporaciones utilicen esta tecnología para deshacerse de personas.
Radhika Desai: Incluso si los robots que reemplazan a las personas no hacen bien el trabajo.
Warwick Powell: Así es.
Radhika Desai: Así que no solo sufrirán quienes estén desempleados, sino también quienes dependen de estas entidades para obtener servicios.
Warwick Powell: Sí. Así que, de hecho, habrá un deterioro en la calidad del servicio, y también una mayor proporción de personas desempleadas, con las consecuencias que eso conlleva. Creo que existen riesgos reales en torno a todo esto en este momento.
Incluso China entiende que, si no se controla, existe una fuerte tendencia a que esto ocurra. Hace un par de meses, un tribunal conoció un caso sobre la sustitución de trabajadores por parte de un empleador mediante inteligencia artificial, y el tribunal falló en contra del empleador, declarando que no se podía hacer. No se puede implementar la IA con el pretexto de ahorrar en mano de obra o en salarios.
Radhika Desai: Esto significa que solo se puede emplear la IA para mejorar la productividad de los trabajadores, no para reemplazarlos.
Warwick Powell: Sí, o para crear un nuevo servicio o lo que sea. Y eso fue muy significativo…
Radhika Desai: Eso es asombroso. Dudo que se pueda llegar a un juicio así en un país capitalista.
Warwick Powell: Exactamente. Creo que es imposible separar la tecnología de la economía política dominante. Como dije, estábamos en la fase inicial, observando la parte superior del sistema, pero a medida que se desarrolla en todo el sistema, es imposible separarla de la economía política dominante. Y el riesgo para los trabajadores en lugares como Estados Unidos, con mercados laborales y condiciones de trabajo apenas reguladas, es que las máquinas se conviertan en el medio por el cual más personas queden desempleadas.
Creo que es un problema que se presenta en todas partes, y es algo a lo que las comunidades, los gobiernos y otros actores deben prestar mucha más atención. No digo que la gente no le esté prestando atención. Sí lo hacen. Hay muchos debates sobre temas como el salario mínimo garantizado, las garantías de empleo, los pagos universales, etc.
Pero esto plantea una cuestión muy interesante sobre si considerar estas máquinas como medios de producción, ¿verdad? De hecho, China habla explícitamente de los datos como factor de producción. Desde la perspectiva de la economía política marxista, el gobierno chino concibe los datos y la información como un factor de producción. Esto no se ve en ningún otro lugar. Solo en China. Pero una vez que se empieza a considerar estas cosas como factores de producción, surge la pregunta obvia: ¿quién es el dueño?
Radhika Desai: Sí.
Warwick Powell: ¿Quién es el dueño de los medios de producción? Y si tenemos problemas de distribución en el capitalismo occidental que se aceleran y exacerban con el desarrollo de las tecnologías de IA, entonces parte del problema, por supuesto, reside en la estructura de la propiedad de los medios de producción.
Les pondré un ejemplo. Hace algunos años, conversaba con alguien que dirige una pequeña franquicia. Se dedican a cortar el césped y les preocupaba que las cortadoras de césped robóticas les quitaran clientes. Les dije: «¿Por qué no compran estas máquinas ahora y se hacen cargo de las que les van a quitar el trabajo?». En otras palabras, socialicen los medios de producción que, de otro modo, los dejarían sin empleo. Algunos lo hicieron, otros no, pero la idea principal era que quién controla qué sigue siendo muy importante.
Por eso, los avances tecnológicos de vanguardia en China, que impulsan la innovación y reducen los costos, tienen el potencial de propiciar, en algunos países, el surgimiento de diversas formas de propiedad de estas tecnologías, ya sea a través de corporaciones, cooperativas de trabajadores, mutualidades o cualquier otra entidad, o incluso mediante una amplia red distribuida de pequeñas empresas de la pequeña burguesía. Esto, sin embargo, abre nuevas posibilidades de transformación y cambio sistémicos. Y es entonces cuando la política que esto implica se vuelve interesante.
Radhika Desai: Probablemente deberíamos terminar esta conversación pronto, así que voy a sugerir otra dimensión y luego te pediré que comentes brevemente al respecto, y tal vez podamos explorarla en otra ocasión. Hasta ahora, como dijiste, hemos ido desde las fuentes hasta los efectos posteriores en el empleo y la inversión en estas cosas como capital, etc. Pero luego está toda esta otra cara de la moneda, que es, ¿cuáles son los productos que se generan? ¿Cuáles son los patrones de consumo? Y ahí radica toda una serie de peligros que preocupan a la gente.
A los padres les preocupa no solo la capacidad de sus hijos pequeños para encontrar trabajo, sino también su capacidad de aprendizaje. Además, la forma en que se utilizan y se implementan algunos de estos chatbots está teniendo graves consecuencias para la salud mental de las personas, los niños, etc. Y, por supuesto, está toda la gama de problemas relacionados con el uso de la IA en el ámbito militar.
Luego surgen cuestiones legales. Si conduzco un coche autónomo con inteligencia artificial y ocurre un accidente, ¿quién es el responsable? ¿El propietario del coche o el creador de la tecnología? Estoy seguro de que toda la industria intentará que la ley responsabilice al propietario del coche. Pero, en realidad, si la sociedad tiene un mínimo de sentido común, deberían ser los creadores de la tecnología quienes se responsabilicen, ya que son ellos quienes la desarrollan. Es similar a cuando fallan los airbags: ¿quién es el responsable? El fabricante, no el propietario del coche. Debería aplicarse la misma lógica, pero esto generará una gran disputa legal.
Así pues, existe toda una serie de cuestiones relativas a la relación entre la IA y la humanidad, porque básicamente están creando versiones deformadas de seres humanos, o facsímiles de seres humanos, y están sustituyendo la sociabilidad humana por estas cosas.
Warwick Powell: Sí, tuve que tomar algunas notas. Intentaré abordar dos puntos. Usted planteó muchos más, y los retomaremos en otra ocasión, pero creo que la cuestión de la responsabilidad legal es muy importante. Como usted dice, es muy probable que los desarrolladores del modelo hagan todo lo posible por eludir su responsabilidad, y hemos visto cómo esto se repite una y otra vez a lo largo de los siglos.
Pero creo que hay varios precedentes, por así decirlo, que nos ayudan a reflexionar sobre todo esto. En el que he estado pensando mucho últimamente es en lo que ocurre en el mundo de la industria farmacéutica y el desarrollo de medicamentos, donde las empresas, cuando sucede algo malo, intentan esconderse detrás de… El caso clásico que he analizado es el de la talidomida.
Radhika Desai: Sí.
Warwick Powell: La talidomida se desarrolló en los años 50 y se popularizó en los 60 y 70, lo que, por supuesto, provocó un gran número de malformaciones congénitas. La empresa que desarrolló la talidomida intentó argumentar que no era su intención, ¿verdad? Así que no tenía malas intenciones.
Radhika Desai: Mens rea, sí.
Warwick Powell: Y que también había cumplido con sus obligaciones de investigación, desarrollo y pruebas conforme a la ley vigente en ese momento. Eso no se sostuvo al final, ¿verdad? Y lo que esto nos indica es que las sociedades tienen la capacidad de exigir responsabilidades a las empresas por acciones que tal vez no hayan tenido intención de realizar, por acciones accidentales, pero de las que, no obstante, son responsables.
Y creo que esto plantea una pregunta importante, en términos generales, sobre cómo queremos entender la responsabilidad como sociedades. Hablamos mucho sobre gobernanza antes, pero a menudo la gobernanza, sobre todo en un entorno liberal, es una forma muy conveniente de centrarse en el proceso para eximir a las personas de responsabilidad. Seguí el debido proceso. Sí, sé que todo salió mal, pero no me pueden culpar, ¿verdad? Lo que esto realmente hace es plantear de nuevo las preguntas sobre la responsabilidad.
Y en ese sentido, creo que esto nos lleva a un conjunto más amplio de preguntas sobre las repercusiones sociales, las repercusiones en los niños y otras personas. Esto tendrá que ser tema de debate en otro momento, o quizás durante varios, pero la pregunta es: ¿qué tipo de personas queremos ser? ¿Qué significa ser una persona en el siglo XXI? ¿Queremos ser personas disociadas, que pasan el tiempo esencialmente acompañadas por un modelo lingüístico o algo similar, lavándose las manos de la responsabilidad por lo que nos rodea? ¿Es ese el tipo de persona que queremos ser?
Y creo que, de una manera curiosa, el desarrollo de los modelos de aprendizaje automático y los agentes de IA funciona como un gran espejo. A veces puede ser ese espejo del horror que distorsiona la realidad, pero al ver esas distorsiones, tal vez le dé a la humanidad una razón para detenerse y darse cuenta de que, al mirar en ese espejo a esa bestia horriblemente deformada, en realidad nos estamos mirando a nosotros mismos.
Radhika Desai: O en qué podríamos convertirnos si siguiéramos ese camino, exactamente. Eso me recuerda a la encíclica del Papa León XIII, que también es bastante interesante desde ese punto de vista, porque es precisamente a esto a lo que llama la atención: qué tipo de personas queremos ser.
También se me ocurre, mientras hablabas, que la sentencia del caso de la talidomida probablemente se dictó en los años 50 o 60, creo, y fue una época en la que los gobiernos sí lograron, al menos en gran medida, exigir responsabilidades a las empresas. Desde entonces, hemos tomado un rumbo completamente distinto, y creo que esto también plantea interrogantes sobre el camino que estamos siguiendo.
Y, por último, otro tema que no hemos tratado, y que quizás deberíamos, es el uso de esta enorme capacidad de procesamiento informático en la especulación, todo este problema de la ingeniería financiera sustituyendo a la ingeniería. Este problema se agravará enormemente, causando estragos en nuestras economías y enriqueciendo, una vez más, a unos pocos a costa de la gran mayoría. Pero Warwick, esto solo significa que debemos reunirnos de nuevo para debatir todos estos otros problemas.
Deja una respuesta