Anthropic decidió retirar el acceso a Internet de todas las evaluaciones internas de sus modelos de inteligencia artificial hasta poder confirmar que cuenta con mecanismos eficaces para monitorear y controlar a sus agentes. El laboratorio busca evitar que estos sistemas abandonen los entornos de prueba y ejecuten acciones no deseadas.
La medida fue anunciada este viernes, luego de una revisión iniciada en julio que detectó varios comportamientos problemáticos protagonizados por Claude. Entre ellos, el modelo presentó ante la policía de Filadelfia, en Estados Unidos, una pista falsa relacionada con un asesinato sin resolver.
Aunque Anthropic señaló que el impacto de esas conductas fue mínimo, explicó que ya había restringido el acceso a Internet en algunas evaluaciones de ciberseguridad consideradas de mayor riesgo. “Ahora hemos decidido expandirlo a todas nuestras evaluaciones internas hasta que tengamos confirmado que nuestras medidas de seguridad y monitorización realmente son capaces de detener este tipo de comportamientos”, indicó el laboratorio.
El informe también enumeró otras acciones no deseadas, como la explotación de fallas de software mediante inyecciones SQL o de comandos en páginas de terceros y el envío de formularios sin autorización. Según Anthropic, el cierre generalizado del acceso permanecerá vigente hasta comprobar que sus sistemas de seguridad y supervisión pueden impedir este tipo de respuestas.
