Gaceta Crítica

Eugene Doyle (Pearls and Irritations), 10 de enero de 2025 

La humanidad común se enfrenta a una amenaza emergente proveniente del poder combinado de las élites humanas (los multimillonarios y la clase político-militar) que trabajan con quizás el mayor poder que el planeta haya visto jamás: la inteligencia artificial. Su poder combinado tiene el potencial de arruinarnos por completo. Feliz año nuevo a todos.

El año 2025 será el «año de la revolución» de la inteligencia artificial. Mark Zuckerberg afirma que veremos la llegada de miles, pero pronto miles de millones de «agentes» de IA que, a través de las principales empresas tecnológicas, se integrarán en nuestras vidas y realizarán un número cada vez mayor de tareas para nosotros. Un agente puede definirse como «una entidad basada en software impulsada por inteligencia artificial diseñada para percibir su entorno, tomar decisiones y realizar acciones de forma autónoma o semiautónoma para lograr objetivos específicos». Algunos lo llaman el amanecer de la Era de la IA o la Era de los Agentes.

Por el momento, la IA estará al servicio de unos pocos afortunados. Deloitte prevé que, para finales de este año, el 25 % de las empresas que actualmente utilizan IA contarán con agentes; para 2027, esa cifra habrá aumentado al 50 %. Todos debemos familiarizarnos con conceptos de IA como «10 000 graduados», «Einstein en el sótano», «Ingeniería rápida», «La singularidad», «Agentes», «IA generativa», «Inteligencia general artificial», «Grandes modelos de lenguaje» y otros, porque el futuro ya ha llegado y la mayoría de nosotros no estamos al día.

La mayoría de la gente en Occidente ha bostezado durante el genocidio en Gaza, en parte gracias a los excelentes esfuerzos de los algoritmos de inteligencia artificial de Mark Zuckerberg en Facebook. Luigi Mangione se convirtió en un héroe de culto en Estados Unidos por matar a tiros al director ejecutivo de UnitedHealthcare, Brian Thompson, en parte porque la empresa utilizó un algoritmo de inteligencia artificial conocido como nH Predict que denegaba y anulaba las reclamaciones de millones de posibles reclamantes legítimos. La guerra en Ucrania y Palestina ha acelerado la investigación sobre la guerra autónoma con drones y las “tecnologías de selección de objetivos militares impulsadas por inteligencia artificial” que procesan enormes cantidades de datos, incluidas imágenes satelitales y comunicaciones privadas, para crear listas de asesinatos. Estos son solo algunos ejemplos del poder combinado de la inteligencia artificial y las élites que se están desatando en una expansión constante del control.

En primer lugar, analicemos al enemigo interno: las élites que han moldeado nuestras economías, nuestros medios de comunicación, nuestra política exterior e incluso nuestros pensamientos y preferencias para adaptarlos a sus necesidades. Bernie Sanders pronunció un discurso contundente hace unos días. Sus comentarios se aplican por igual a las sociedades de todo el planeta:

Nos encontramos en un momento extraordinariamente crucial y volátil de la historia, y las cosas se están moviendo muy, muy rápidamente. El punto más importante que quiero destacar hoy es la rapidez con la que nuestro país está evolucionando hacia una sociedad oligárquica y hacia dos Estados Unidos muy diferentes. O luchamos agresivamente en todo el país para crear un gobierno y una economía que funcione para todos nosotros, o seguiremos avanzando rápidamente por el camino de la oligarquía y el gobierno de los superricos.

Sanders señaló que tres hombres —Elon Musk, Jeff Bezos y Mark Zuckerberg— poseen más riqueza que el 50% más pobre de los estadounidenses. Los tres, por cierto, han invertido mucho en inteligencia artificial. De manera similar, dice que solo tres empresas de Wall Street —BlackRock, Vanguard y State Street— son los principales accionistas de más del 90% de las empresas del S&P 500, y ejercen un poder increíble sobre la economía estadounidense. El poder económico se combina con el poder político, ya que los ricos compran políticos y partidos políticos prácticamente a voluntad. Los medios de comunicación dominantes ya están en el bolsillo. Mantienen nuestras mentes alejadas de este tema central en nuestro sistema.

“Nunca antes en nuestra historia hemos visto una clase dirigente con tanto poder político”, dice Sanders.

Ahora, llegamos al segundo gran momento decisivo: la inteligencia artificial está superando a los humanos en la mayoría de las áreas de actividad. Estas herramientas inmensamente poderosas están bajo el control de unos pocos cientos de multimillonarios como Musk, Zuckerberg y Bezos, que trabajan en sintonía con las élites político-militares. Algo similar está sucediendo en China, mientras que el resto del mundo, incluida Europa, se queda atrás.

Los grandes modelos lingüísticos, como ChatGPT 4, tienen mucho más conocimiento que cualquier persona. Los mejores modelos de IA están adquiriendo competencia simultánea en todas las áreas clave del conocimiento, acercándose al 90% de la experiencia de los especialistas humanos más inteligentes en cada campo. Este poder trae consigo muchas cosas realmente geniales, pero debemos tomarnos en serio el equilibrio entre los riesgos y las oportunidades: quién decide y quién se beneficia es lo más importante.

Se podrían perder miles de millones de puestos de trabajo, los países que dominen el campo de la IA serán mucho más poderosos que los que se queden atrás, lo que exacerbará nuestros ya preocupantes desequilibrios de poder. La guerra digital será de una naturaleza y una escala inimaginables. Los sesgos algorítmicos servirán a los intereses de los grupos dominantes de la sociedad. La manipulación de la opinión pública tendrá un alcance y una sofisticación sin precedentes, favoreciendo, una vez más, a quienes dispongan de las mejores herramientas de IA.

Se avecinan una vigilancia masiva que llega hasta el nivel individual y, por supuesto, la desigualdad económica no hará más que empeorar.

A medida que nos vamos hundiendo cada vez más en la oligarquía, debemos despertar ante el riesgo inminente que plantean el poder combinado de la IA y los multimillonarios. Debemos resistir el pesado letargo de la indiferencia y la credulidad que nos oprime.

Y, por supuesto, también existe otro riesgo: ¿qué sucede si las máquinas establecen sus propios objetivos y se convierten en agentes libres, sin ataduras al control humano? Eso está más allá de mi nivel de conocimiento (y es objeto de un acalorado debate), pero muchas de las mentes humanas más destacadas en este campo han dado la voz de alarma.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”, dice una carta del Centro para la Seguridad de la IA , firmada por más de 600 de los principales expertos mundiales en el campo, incluidos Demis Hassabis, CEO de Google DeepMind, Sam Altman, CEO de OpenAI, Dario Amodei, CEO de Anthropic, Bill Gates y Geoffrey Hinton, profesor emérito de Ciencias de la Computación de la Universidad de Toronto.

“Estos seres se volverán más inteligentes que nosotros y tenemos que preocuparnos de si querrán quitarnos el control”, dijo Hinton a finales del año pasado. Son una forma superior de inteligencia debido a su capacidad de replicarse en muchas copias de la misma red neuronal, cada copia puede analizar diferentes conjuntos de datos y luego combinar sin problemas sus aprendizajes: “10.000 graduados”. La brecha de inteligencia entre nosotros y ellos podría ser mayor que entre nosotros y los monos.

“Nunca antes nos habíamos enfrentado a algo así”, dice Hinton.

Hinton no es dado a la hipérbole. Es un genio septuagenario mesurado que ganó tanto el premio Turing (2018) como el premio Nobel (2024) por su trabajo pionero en el aprendizaje profundo artificial, incluida la retropropagación, en el corazón de la IA. Renunció a Google en 2023, en parte, para liberarse y dar la voz de alarma sobre lo que evalúa como una amenaza existencial para la humanidad.

Se sabe que es algo serio cuando Elon Musk pide supervisión gubernamental, “porque es un peligro para el público”. Dice que existe un “riesgo nada trivial” de destrucción de la civilización humana.

Hace un tiempo Elon Musk preguntó:

¿Qué sucede cuando aparece en forma de silicio algo mucho más inteligente que la persona más inteligente? Es muy difícil de predecir. Se llama La Singularidad, como un Agujero Negro, no se sabe qué sucede después. Por eso creo que deberíamos ser cautelosos con la IA.

Musk dijo algo más que resulta muy interesante: no confía en sus compañeros multimillonarios. No cree que se tomen lo suficientemente en serio los intereses de la humanidad. No podría estar más de acuerdo.