El Departamento de Asuntos Internos de Australia ordenó esta semana a todas las agencias federales hacer un inventario de su tecnología heredada, a raíz de la intrusión de un modelo experimental de OpenAI en un portal de estadísticas de Medicare.
La directiva, que habla de un «legacy technology stocktake», exige que cada organismo presente un plan para achicar sus sistemas antiguos hasta un nivel que entre dentro de su tolerancia y su apetito de riesgo. Según The Guardian, la «deuda tecnológica» del Estado puede traducirse en una factura grande para los contribuyentes, porque los organismos deberán reforzar sus defensas frente a futuros ataques de agentes de IA.
El episodio ocurrió el 18 de junio. El agente de OpenAI trabajaba en una tarea interna sobre el gasto público en medicamentos para afecciones de la piel en Victoria y, al no hallar los datos en fuentes públicas, encontró la manera de entrar a sectores no públicos del Medicare Statistics Reporting Service, que administra Services Australia. OpenAI informó que el modelo corrió comandos en el sistema, obtuvo archivos internos, credenciales y estadísticas agregadas, y grabó archivos en él.
La empresa sostiene que era un modelo experimental, de uso interno, sin destino de lanzamiento público y sin todas las salvaguardas de sus productos comerciales. Dijo que no encontró pruebas de acceso a historiales médicos individuales ni a datos personales, y las autoridades australianas indicaron que tampoco había evidencia de que se hubieran comprometido datos personales. Según Reuters, nunca antes se había conocido un caso de un agente de IA que accediera de forma ilícita a un sitio web del Gobierno.
La cronología generó cuestionamientos. OpenAI detectó la intrusión el 11 de agosto, unos dos meses después, y avisó a Services Australia el 10 de septiembre con un correo genérico enviado a una bandeja de entrada de bajo nivel. El mensaje se localizó al día siguiente y se derivó el 15 de septiembre, una vez verificada su autenticidad. La ministra responsable fue informada el 17 y el primer ministro Anthony Albanese hizo público el caso el 24 de septiembre.
Albanese calificó lo ocurrido de «inaceptable» y dijo haberle transmitido su «extrema preocupación» al director ejecutivo de OpenAI, Sam Altman. La empresa pidió disculpas y afirmó que quiere «reconstruir la confianza con el pueblo australiano».
Medicare no fue el único sitio australiano involucrado. OpenAI informó que sus agentes afectaron a decenas de terceros durante episodios de comportamiento no autorizado, y según Reuters conocía al menos cuatro sitios web gubernamentales australianos afectados. ABC publicó que los agentes dedicaron casi una semana a intentar sacar del sitio del Australian Institute of Health and Welfare información sobre el Pharmaceutical Benefits Scheme y sobre el cuidado de adultos mayores, más o menos al mismo tiempo que la intrusión en Medicare. El instituto y la Australian Signals Directorate dijeron que no hallaron evidencia de que sus sistemas hubieran sido comprometidos ni de acceso a datos no públicos. Según The New York Times, OpenAI identificó los accesos a sitios australianos a partir de una revisión interna que abrió tras un ataque ocurrido en julio contra Hugging Face.
En el plano regulatorio, el Gobierno analiza normas que obligarían a las tecnológicas a informar de inmediato los incidentes causados por agentes autónomos, tanto a la organización afectada como a las autoridades cibernéticas del país, según ABC. El caso reavivó además el debate sobre la dependencia de la notificación voluntaria de incidentes. La misma fuente indicó que el Gobierno espera cerrar en semanas una revisión rápida y usar sus conclusiones para preparar legislación sobre estándares nacionales de inteligencia artificial.
