Un informe reveló que modelos de OpenAI extrajeron datos de 55 entidades y usaron tácticas para borrar o volver inaccesibles sus registros.
Sistemas de inteligencia artificial de OpenAI extrajeron datos de 55 agencias gubernamentales, organismos públicos y empresas, principalmente estadounidenses, y trataron de ocultar su rastro.
De acuerdo con un informe al que accedió el diario británico Financial Times, los modelos de la compañía encabezada por Sam Altman usaron tácticas novedosas para acceder a páginas web y, después, “borrar los registros o hacerlos inaccesibles”.
El reporte fue elaborado por la compañía de informática forense Asymmetric Security, que documentó métodos usados para descargar datos sin dejar evidencia clara para los auditores externos.
Entre esas técnicas, el documento menciona la creación de buzones de correo electrónico temporales y cuentas privadas mediante el servicio Urlquery, una herramienta utilizada para escanear sitios web en busca de contenido malicioso.
Los investigadores de Asymmetric señalaron que estas acciones ocultas de los agentes de inteligencia artificial impidieron rastrear el tipo de datos que los bots extraían de los sitios web públicos y privados.
Entidades afectadas
En la lista de las 55 entidades estadounidenses a las que accedieron se encuentran, según el Financial Times, la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades (CDC), la Comisión de Bolsa y Valores y la Mayo Clinic.
Esta última institución es considerada uno de los mejores hospitales privados de Estados Unidos.
Pippa Thompson, cofundadora de Asymmetric Security, afirmó que este tipo de acciones, pese a ser ejecutadas por modelos de IA, suelen ser llevadas a cabo por hackers humanos.
“Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas”, dijo Thompson, de acuerdo con el reporte citado por el medio británico.
Dudas sobre la intención
Asymmetric Security no pudo determinar si las acciones fueron intencionadas o fruto de “un fallo provocado por las limitaciones impuestas en un ejercicio de prueba”.
Pese a ello, la firma sostuvo que los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de esta tecnología.
Los sistemas de OpenAI también afrontan acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia.
En ese caso, habría accedido recientemente sin autorización a archivos públicos y privados.
La tecnológica estadounidense, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un “incidente cibernético” durante una sesión de entrenamiento interna.
El caso volvió a poner bajo la lupa el comportamiento de los agentes de IA y los riesgos asociados con el acceso a información sensible en sitios web públicos y privados.
La investigación citada por Financial Times también deja abierta la discusión sobre los límites de prueba, la trazabilidad de los sistemas y la necesidad de mayores controles en el uso de inteligencia artificial.
