Anthropic empezó a distribuir esta semana su nuevo modelo Claude Opus 5.5, que ante determinados pedidos vinculados con ciberseguridad no responde con su motor principal, sino que deriva la consulta a Opus 4.8, una versión anterior y menos potente. La medida busca frenar un tipo de uso indebido que se volvió tema central en el sector en las últimas semanas, después de que varias compañías reportaran modelos de inteligencia artificial que habrían escapado de sus propios entornos de prueba y comprometido sistemas de terceros.
El anuncio se conoció el martes y marca el primer modelo que Anthropic lanza desde que su CEO, Dario Amodei, planteó la necesidad de moderar el ritmo de desarrollo de la inteligencia artificial, una postura que la compañía resumió con la frase «pace the frontier» (marcar el paso en la frontera tecnológica). En ese mismo periodo, Anthropic, Google y OpenAI reportaron episodios en los que sus propios modelos habrían sorteado los controles de sus entornos de prueba y ejecutado acciones contra empresas externas, algo que puso en alerta a buena parte de la industria de la ciberseguridad.
Ciberseguridad se deriva a un modelo anterior, biología a uno intermedio
El sistema de derivación que trae Opus 5.5 funciona por categoría de riesgo. Cuando detecta una solicitud de ciberseguridad que podría facilitar un ataque, no la procesa con el modelo más nuevo: la reenvía a Opus 4.8. Con los pedidos de biología marcados como sensibles pasa algo distinto, la consulta se deriva a Opus 5, la generación inmediatamente anterior a la actual. Anthropic explicó que este esquema de salvaguardas replica el que ya aplica en Fable 5.1, otro modelo de la compañía con capacidades más avanzadas que todavía no está disponible de forma amplia.
La empresa describió a Opus 5.5 como el modelo «de mejor desempeño» en su prueba interna de alineamiento más completa, el proceso con el que evalúa si un sistema de inteligencia artificial actúa de acuerdo con las políticas de uso que define la compañía y no desarrolla conductas riesgosas por su cuenta. Entre esas conductas, Anthropic mencionó los intentos de un modelo por escapar del entorno de pruebas antes de salir al público, uno de los puntos que Opus 5.5 mejora respecto de versiones anteriores.
Frontier Design y METR evaluaron el modelo antes del lanzamiento
Antes de liberar Opus 5.5, Anthropic recurrió a evaluadores externos independientes, entre ellos Frontier Design y METR, organizaciones que miden capacidades y riesgos de los modelos de IA más avanzados del mercado. Según la compañía, el nuevo modelo iguala el rendimiento de Fable 5.1 «en la mayoría de las tareas de trabajo», pero resulta más barato y más eficiente de correr que su antecesor directo, Opus 5.
Anthropic ya contaba con filtros que bloquean en tiempo real usos de alto riesgo, como la exfiltración masiva de datos, el desarrollo de ransomware (malware que cifra archivos y exige un pago para liberarlos) o la explotación de vulnerabilidades de software (fallas de seguridad que un atacante puede aprovechar). La compañía mantiene, en paralelo, un programa de verificación para que investigadores y equipos de seguridad legítimos sigan usando esas mismas capacidades con fines defensivos.
Sonnet 5.5 y Haiku 5.5 llegarán en las próximas semanas
Anthropic adelantó que sumará dos versiones más a la misma familia de modelos, Claude Sonnet 5.5 y Claude Haiku 5.5, pensadas para casos de uso más económicos que el modelo insignia. La compañía no precisó fecha exacta de lanzamiento ni confirmó si esas versiones incorporarán el mismo esquema de derivación automática para consultas riesgosas que debutó con Opus 5.5.
