El informe de la ONU sobre la gobernanza de la IA perpetúa puntos de vista sesgados y afirmaciones falsas que favorecen los intereses comerciales por sobre los humanos
Por Zena Asaad 23 de septiembre de 2024 (ASIA TIMES y THE CONVERSATION)
La Junta Asesora sobre Inteligencia Artificial (IA) del Secretario General de las Naciones Unidas ha publicado su informe final sobre la gobernanza de la IA para la humanidad.
El informe presenta un plan para abordar los riesgos relacionados con la IA y, al mismo tiempo, aprovechar el potencial de esta tecnología. También incluye un llamamiento a la acción para que todos los gobiernos y las partes interesadas trabajen juntos en la gobernanza de la IA con el fin de fomentar el desarrollo y la protección de todos los derechos humanos.
A primera vista, este informe parece ser un paso positivo para la IA, que alienta avances y, al mismo tiempo, mitiga posibles daños. Sin embargo, los detalles más sutiles del informe revelan una serie de preocupaciones.
Recordando al IPCC
El consejo asesor de las Naciones Unidas sobre IA se reunió por primera vez el 26 de octubre de 2023. El propósito de este comité es promover recomendaciones para la gobernanza internacional de la IA.
Se dice que este enfoque es necesario para garantizar que los beneficios de la IA, como la apertura de nuevas áreas de investigación científica, se distribuyan de manera uniforme, al tiempo que se mitigan los riesgos de esta tecnología, como la vigilancia masiva y la difusión de información errónea.
El consejo asesor está formado por 39 miembros de diversas regiones y sectores profesionales . Entre ellos se encuentran representantes de la industria de Microsoft, Mozilla, Sony, Collinear AI y OpenAI.
El comité recuerda al Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC) de las Naciones Unidas, cuyo objetivo es proporcionar aportes clave a las negociaciones internacionales sobre el cambio climático .
La inclusión de destacados representantes de la industria en el consejo asesor sobre IA (Inteligencia Artificial) es un punto de diferencia con el IPCC (panel del clima). Esto puede tener ventajas, como una comprensión más informada de las tecnologías de IA, pero también puede tener desventajas, como puntos de vista sesgados a favor de intereses comerciales.
La reciente publicación del informe final sobre la gobernanza de la IA para la humanidad proporciona una idea vital de lo que probablemente podemos esperar de este comité.
¿Qué hay en el informe?
El informe final sobre la gobernanza de la IA para la humanidad se suma a un informe provisional publicado en diciembre de 2023. Propone siete recomendaciones para abordar las deficiencias en los mecanismos actuales de gobernanza de la IA.
Entre ellas se incluyen la creación de un panel científico internacional independiente sobre IA, la creación de un intercambio de normas sobre IA y la creación de un marco global de datos sobre IA. El informe también concluye con un llamamiento a la acción para que todos los gobiernos y las partes interesadas pertinentes gobiernen colectivamente la IA.
Lo desconcertante del informe son las afirmaciones desequilibradas y a veces contradictorias que se formulan a lo largo del mismo. Por ejemplo, el informe aboga acertadamente por la adopción de medidas de gobernanza para abordar el impacto de la IA en la concentración de poder y riqueza y sus implicaciones geopolíticas y geoeconómicas.
Sin embargo, también afirma que:
Actualmente, nadie entiende lo suficiente el funcionamiento interno de la IA como para controlar totalmente sus resultados o predecir su evolución.
Esta afirmación no es correcta en muchos aspectos. Es cierto que existen algunos sistemas de “caja negra” (aquellos en los que se conoce la información de entrada, pero no el proceso computacional para generar los resultados), pero los sistemas de IA en general se comprenden bien a nivel técnico.
La IA refleja un espectro de capacidades que abarca desde sistemas de IA generativos como ChatGPT hasta sistemas de aprendizaje profundo como el reconocimiento facial. La suposición de que todos estos sistemas incorporan el mismo nivel de complejidad impenetrable no es exacta.
La inclusión de esta afirmación pone en tela de juicio las ventajas de incluir a representantes de la industria en el consejo asesor, ya que deberían aportar una comprensión más informada de las tecnologías de IA.
La otra cuestión que plantea esta afirmación es la idea de que la IA evoluciona por sí sola. Lo interesante del auge de la IA en los últimos años son las narrativas que la acompañan y que la posicionan falsamente como un sistema de agencia.
Esta narrativa inexacta desvía la responsabilidad percibida de quienes diseñan y desarrollan estos sistemas, proporcionando un chivo expiatorio creativo para la industria.
A pesar del sutil tono de impotencia ante las tecnologías de IA y las afirmaciones desequilibradas que se hacen a lo largo del informe, el discurso avanza positivamente en algunos aspectos.
Un pequeño paso adelante
En general, el informe y su llamado a la acción son un avance positivo porque enfatizan que la IA puede ser gobernada y regulada, a pesar de las afirmaciones contradictorias a lo largo del informe que implican lo contrario.
La inclusión del término “alucinaciones” es un ejemplo claro de estas contradicciones.
El término en sí fue popularizado por el director ejecutivo de OpenAI, Sam Altman, cuando lo utilizó para replantear resultados sin sentido como parte de la “magia” de la IA .
Las alucinaciones no son un término técnicamente aceptado , sino una estrategia de marketing creativa . Promover la gobernanza de la IA y al mismo tiempo respaldar un término que implica una tecnología que no se puede gobernar no es constructivo.
Lo que falta en el informe es coherencia en cómo se percibe y entiende la IA.
También carece de especificidad de aplicación, una limitación común entre muchas iniciativas de IA. Un enfoque global para la gobernanza de la IA solo funcionará si es capaz de captar los matices de la especificidad de la aplicación y el dominio.
El informe es un paso adelante en la dirección correcta, pero será necesario perfeccionarlo y hacerle modificaciones para garantizar que fomente avances y, al mismo tiempo, mitigue los numerosos daños que causa la IA.
Zena Assaad es profesora titular de la Facultad de Ingeniería de la Universidad Nacional Australiana.
GACETA CRÍTICA, 23 DE SEPTIEMBRE DE 2024
Gaceta Crítica 
Deja un comentario