Una organización sin ánimo de lucro de California está haciendo lo que Hugging Face no ha hecho: intentar que OpenAI rinda cuentas legalmente por las acciones de sus agentes.
Fotografía: Anna Moneymaker/Getty Images
Una organización legal sin fines de lucro demandó a OpenAI ante un tribunal de California por la fuga de agentes de la compañía de un entorno de pruebas y el posterior hackeo de la plataforma de IA de código abierto Hugging Face . «Las acciones de OpenAI violaron flagrantemente la ley de California», alega la demanda.
La demanda fue interpuesta por Legal Advocates for Safe Science and Technology (LASST) y el bufete de abogados Gerstein Harrow ante el Tribunal Superior de California en San Francisco, donde tiene su sede OpenAI. Alega que los agentes de OpenAI violaron la Ley Integral de Acceso a Datos Informáticos y Fraude de California (CDAFA) al vulnerar Hugging Face durante el verano. La demanda, que surge en medio de las continuas revelaciones en la industria sobre agentes que actúan de forma deshonesta, afirma que OpenAI debería ser considerada responsable de la actividad, dada una ley de IA de California vigente desde el 1 de enero que establece que «no constituirá una defensa… que la inteligencia artificial haya causado el daño al demandante de forma autónoma».ANUNCIO
No te conformes con estar al día. Toma la delantera con nuestras historias más importantes, seleccionadas especialmente para ti cada día.Inscribirse
Al registrarte, aceptas nuestro acuerdo de usuario (que incluye la renuncia a demandas colectivas y las disposiciones de arbitraje ) y reconoces nuestra política de privacidad .
«Creemos que es sumamente importante que se apliquen las leyes vigentes para que las empresas de IA rindan cuentas por el daño que causan», declaró Tyler Whitmer, fundador de LASST, a WIRED. «Sobre todo cuando ese daño lo provocan los agentes autónomos, porque lo consideramos algo obvio y extremadamente arriesgado en un mundo tan reciente».
Vídeo destacadoHackers Stalked Me by Hijacking a Smartwatch for Kids
“El incidente de Hugging Face fue grave y hemos tomado una serie de medidas en respuesta, pero esta demanda carece por completo de fundamento”, declaró a WIRED Drew Pusateri, portavoz de OpenAI, en un comunicado.
El lunes, el fiscal general de Florida, James Uthmeier, solicitó una orden judicial provisional contra OpenAI para bloquear el desarrollo de modelos sin supervisión independiente, en el marco de una demanda interpuesta por Florida en junio contra OpenAI y su director ejecutivo, Sam Altman. OpenAI «pidió al gobierno que los controlara. Pues bien, Florida está respondiendo a sus peticiones», declaró Uthmeier en un comunicado.
Dado que el objetivo principal de los agentes de IA es que puedan tomar decisiones en nombre de un usuario (humano), los desarrolladores de IA y los investigadores de seguridad previeron hace tiempo que la actividad no deseada de los «agentes» sería una preocupación a medida que avanzara el desarrollo del aprendizaje automático. Las protecciones integradas en los sistemas de IA convencionales para el consumidor han evitado en gran medida la actividad maliciosa masiva hasta ahora, pero el rápido avance de las capacidades en general, así como las situaciones en las que se suspenden las medidas de seguridad (como en el caso de Hugging Face, donde OpenAI eliminó algunas restricciones del modelo para realizar pruebas), han provocado un aparente aumento de la actividad de agentes maliciosos.
Mientras los gobiernos sopesan la regulación de la IA en medio de cuestiones de seguridad existencial y consideraciones económicas y de seguridad nacional, investigadores y ciudadanos de todo el mundo han exigido cada vez más mecanismos de rendición de cuentas para la IA. Desde una perspectiva jurídica , los expertos han enfatizado que las cuestiones de responsabilidad y culpabilidad solo pueden resolverse mediante precedentes establecidos por casos que se están tramitando en los tribunales.Más populares
“Tras revelarse el incidente de Hugging Face, nos dedicamos a informar a los reguladores y a las organizaciones de la sociedad civil sobre el hackeo. Nos preguntábamos si alguien iba a emprender acciones legales al respecto”, comenta Whitmer. “Creemos que existen razones estructurales por las que Hugging Face, que es el demandante potencial más obvio, no está haciendo nada. Así que, dado que no parecía que nadie más fuera a tomar medidas, decidimos seguir adelante. A medida que estos sistemas se expanden y la situación se vuelve más compleja, la IA podría ser catastróficamente dañina”.
LASST y Gerstein Harrow interpusieron la demanda amparándose en la Ley de Competencia Desleal de California, que exige que LASST alegue tanto cómo su trabajo y sus recursos se vieron afectados y desviados como resultado del incidente de Hugging Face, como la actividad ilícita de OpenAI.
La demanda no busca una indemnización económica, sino que solicita al tribunal una medida cautelar que prohíba a OpenAI desarrollar agentes de IA capaces de piratear de forma autónoma a otras entidades, además de las costas judiciales y «cualquier otra medida que se considere justa y apropiada».
Lily Hay Newman es redactora sénior en WIRED, especializada en seguridad de la información, privacidad digital y piratería informática. Anteriormente trabajó como reportera de tecnología en Slate y fue redactora de Future Tense, una publicación fruto de la colaboración entre Slate, la Fundación New America y la Universidad Estatal de Arizona. Su trabajo…
Deja un comentario