Australia abrió una investigación tras detectar que un agente de OpenAI consultó archivos de Medicare sin autorización.
El Gobierno de Australia abrió una investigación luego de que un agente de inteligencia artificial de OpenAI accedió sin autorización, en junio, a un portal del sistema público de salud Medicare y consultó distintos archivos.
El caso fue dado a conocer en las últimas 24 horas y ahora Camberra intenta determinar si otros sistemas públicos resultaron afectados por el incidente.
La infiltración fue revelada por el primer ministro australiano, Anthony Albanese, en medio del debate internacional sobre la seguridad de los modelos avanzados de IA y el riesgo de perder el control sobre estas tecnologías.
El episodio ocurre también mientras algunas de las principales empresas de IA han lanzado advertencias sobre la necesidad de desacelerar el ritmo de mejora de sus modelos. La más reciente fue la de Anthropic, que alertó sobre una dinámica de “automejora recursiva” con potencial de catástrofes de ciberseguridad a escala global.
Qué ocurrió en junio
Según lo informado, la infiltración se produjo el 18 de junio, cuando el agente de IA, descrito como un bot con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, accedió a un portal público de estadísticas relacionadas con Medicare.
De acuerdo con la versión oficial, el sistema estaba investigando sobre el gasto público en medicamentos cuando llegó al sitio australiano y consultó información disponible en la plataforma.
El incidente no fue comunicado a Camberra hasta el 10 de septiembre, cuando OpenAI alertó por correo electrónico a la agencia gubernamental que administra Medicare, Services Australia.
Cinco días después, Services Australia notificó a los servicios de inteligencia, detalló este jueves el vice primer ministro y ministro de Defensa, Richard Marles.
Marles añadió que el primer “intercambio técnico” entre OpenAI y Services Australia sobre el caso ocurrió este martes, mientras él ejerce de mandatario en funciones por la participación de Albanese en la Asamblea General de Naciones Unidas.
Qué información fue consultada
Camberra aseguró que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, el cual contenía principalmente información pública sobre Medicare.
Stephen Duckett, exjefe del Departamento de Salud australiano, explicó a la cadena pública ABC que se trataba de “datos agregados”, es decir, métricas globales como promedios y tendencias que no revelan información individual privada.
OpenAI afirmó, por su parte, que en su revisión no halló pruebas de acceso a historiales de pacientes y que la información obtenida por el agente incluía estadísticas sanitarias y nombres de archivos internos.
Cómo consiguió acceder
Según la interpretación de Camberra recogida por ABC, OpenAI había asignado al agente la tarea “benigna” de investigar el gasto público en medicamentos.
El modelo buscó información en Internet y llegó hasta la web australiana, donde formuló preguntas al portal y no recibió lo que buscaba.
Después de ello, el agente obtuvo acceso no autorizado y se apropió del contenido que pretendía conseguir, difundió el mismo medio.
El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente “identificó vulnerabilidades de forma autónoma”.
Qué hará Australia
Ante lo sucedido, el Gobierno australiano anunció el inicio de una investigación sobre el incidente y la creación de un grupo de trabajo para determinar, entre otras tareas, si se infringieron leyes.
“Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de IA”, relató Marles.
El incidente se suma a otros casos recientes en los que sistemas de IA han sido utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.
La investigación permanece abierta mientras Australia revisa el alcance del acceso y posibles responsabilidades derivadas del uso del agente de IA en Medicare.
Con información de EFE
