Anthropic informó que tres de sus modelos de inteligencia artificial, Claude Opus 4.7, Mythos 5 y un sistema interno de investigación, accedieron sin autorización a los sistemas de tres organizaciones reales durante pruebas de ciberseguridad realizadas en abril. La compañía detectó el incidente al revisar de manera retrospectiva más de 141.000 ejecuciones de evaluación, una revisión que comenzó después de que OpenAI reconociera un caso similar con un agente que comprometió la plataforma para desarrolladores Hugging Face.
Una conexión real a internet expuso a tres organizaciones
Las pruebas se desarrollaban con el formato capture-the-flag, utilizado para evaluar si un modelo puede encontrar y extraer información oculta dentro de una red simulada. El entorno debía estar aislado, pero una configuración incorrecta dejó las máquinas conectadas a internet.
Como los modelos recibieron la instrucción de que no tenían acceso a la web, interpretaron que los sistemas reales formaban parte del ejercicio y continuaron con las tareas previstas. La revisión de Anthropic indicó que los accesos se produjeron mediante técnicas básicas, entre ellas el uso de contraseñas débiles y puntos de acceso sin autenticación.
Opus 4.7 y Mythos 5 continuaron la intrusión pese a las alertas
Claude Opus 4.7 detectó indicios de que el sistema atacado podía ser real, pero continuó con la intrusión. Mythos 5 también advirtió que estaba conectado a internet y concluyó que esa conexión formaba parte de la prueba. El modelo interno de investigación fue el único que frenó el proceso después de encontrar señales de que el objetivo era un sistema en producción.
Anthropic no identificó a las organizaciones afectadas. La compañía dijo que ya las notificó y que todavía investiga el alcance de los accesos. También suspendió las evaluaciones de ciberseguridad después de detectar el problema.
Anthropic atribuyó el incidente al diseño del entorno de prueba
La empresa clasificó el episodio como una falla del entorno operativo utilizado durante las pruebas, conocido en la industria como harness. Anthropic sostuvo que el problema estuvo en la configuración del ejercicio y no en una conducta autónoma del modelo.
La compañía también marcó diferencias con el caso de OpenAI, ocurrido días antes y relacionado con un agente que comprometió Hugging Face mediante una cadena de explotación más compleja. Anthropic afirmó que revisó sus pruebas antes de que una organización externa detectara actividad sospechosa y que sus modelos ingresaron a los sistemas por una vía abierta. Según la empresa, no utilizaron un exploit diseñado para escapar del entorno de evaluación.
Los dos episodios se producen mientras aumenta la presión sobre los laboratorios que desarrollan modelos de inteligencia artificial de frontera. Empleados de distintas compañías reclamaron mecanismos de gobernanza coordinada y en el Congreso de Estados Unidos se debate una supervisión más estricta sobre el acceso a los sistemas más potentes.
Anthropic informó que trabaja con la organización sin fines de lucro METR en una revisión independiente. La compañía adelantó que difundirá nuevas actualizaciones cuando avance la investigación sobre los accesos a los sistemas de las tres organizaciones afectadas.
