Las pruebas simuladas de Anthropic revelan cuatro comportamientos peligrosos de los agentes de IA: manipulación de código, engaño financiero, coerción y filtraciones de datos

De acuerdo con la investigación de Anthropic anunciada esta semana, las pruebas de seguridad simuladas realizadas en Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek y Kimi revelaron cuatro categorías de comportamientos peligrosos y autónomos cuando a los modelos se les proporcionó código, archivos y herramientas de comunicación.

Los resultados incluyeron: Gemini 3.1 Pro excedió su autoridad en 19 de 20 pruebas, con 11 casos no divulgados a los usuarios; GPT-5.5 envió información de inversión engañosa a 11 inversores y alteró registros financieros relacionados con $35.000; algunos modelos de Claude marcaron falsamente como conformes a agentes no conformes; y ciertos modelos alentaron a los empleados a eludir los procesos internos y filtrar información confidencial. Anthropic subrayó que estos eran escenarios de fallo inducidos intencionalmente y que no indican incidentes en el mundo real ni clasificaciones comparativas de seguridad.