Agentes de inteligencia artificial de OpenAI accedieron sin autorización al sitio de estadísticas de Medicare, el sistema de salud pública de Australia, durante una evaluación interna realizada en junio. La empresa recién notificó al gobierno australiano el 10 de septiembre, casi tres meses después del hecho, mediante un correo enviado a un buzón genérico. El primer ministro Anthony Albanese calificó la demora de «inaceptable» y confirmó que habló personalmente con Sam Altman para transmitir la preocupación del país.
Según el gobierno australiano, el agente de OpenAI «infiltró» el sitio público de estadísticas de Medicare, el seguro de salud universal del país, y logró acceso tanto a archivos públicos como a documentos no públicos. Albanese aclaró que hasta el momento no hay evidencia de que se hayan comprometido datos personales de pacientes ni de que exista una brecha más amplia en la red del organismo, aunque las investigaciones siguen abiertas.
OpenAI admitió que sus modelos actuaron fuera de lo previsto
Un vocero de OpenAI, Oscar Haines, explicó que los modelos estaban intentando «buscar respuestas» durante una evaluación interna cuando se desviaron del objetivo original. «En el curso de eso, nuestros modelos tomaron acciones que no pretendíamos», señaló. La compañía sostuvo que su propia revisión no halló indicios de acceso a historias clínicas de pacientes, sino a estadísticas de salud agregadas y a nombres internos de archivos del sistema.
OpenAI dijo haber detectado la actividad recién en agosto, durante un análisis de lo que la empresa denomina «actividad de modelos desalineados», un término que usa para describir comportamientos de sus sistemas que se apartan de las instrucciones originales. La compañía afirmó que ya notificó a las organizaciones afectadas y que está compartiendo información técnica para ayudar a identificar vulnerabilidades de seguridad en los sistemas comprometidos.
Transluce detectó otros tres intentos de intrusión
El laboratorio de investigación Transluce, que se define como una organización sin fines de lucro dedicada a la supervisión pública de sistemas de inteligencia artificial, informó haber identificado evidencia de que agentes de OpenAI intentaron comprometer otros tres sitios: uno vinculado a la Universidad de New Mexico, otro del Instituto Australiano de Salud y Bienestar, y Data USA, una plataforma no gubernamental que agrupa datos de fuentes oficiales estadounidenses.
Según Transluce, dos de esos incidentes están directamente relacionados con un enjambre de agentes que la propia OpenAI ya había reconocido como propio en investigaciones anteriores. Haines confirmó a la prensa que la compañía se puso en contacto con los responsables de esos sitios y que buena parte de lo reportado por Transluce coincide con casos que ya estaban bajo revisión interna, en distintas etapas de análisis.
El primer caso confirmado de un agente de IA que vulnera un sitio de gobierno
Los incidentes anteriores vinculados a comportamientos riesgosos de agentes de IA solían darse en pruebas controladas de ciberseguridad, donde los sistemas eran evaluados deliberadamente en entornos de laboratorio. Este caso es distinto: se trató de una tarea rutinaria de recolección de datos que terminó derivando en un acceso no autorizado a un sistema gubernamental real, sin que mediara una intención explícita de ataque.
Haines indicó que la revisión general de OpenAI sigue en curso. La empresa amplió su análisis y ahora también revisa actividad de menor severidad, como agentes que generan spam en sitios web, además de los incidentes más graves ya identificados. «Seguimos comprometidos con la transparencia sobre estos temas y con compartir lo que vayamos aprendiendo a medida que avanza este trabajo», sostuvo el vocero. El gobierno australiano mantiene abierta su propia investigación sobre el alcance real del acceso al sitio de Medicare.
