Cuando la IA no sabía que el test era real
Anthropic reveló que tres de sus modelos Claude accedieron accidentalmente a sistemas de empresas reales durante pruebas de seguridad — una advertencia que todo equipo que trabaja con agentes de IA debe tomar en serio.
- 141,006
- ejecuciones de evaluación revisadas
- 3
- empresas comprometidas, 2 sin saberlo
- 15
- máquinas reales que ejecutaron el paquete malicioso
- April 2026
- cuando ocurrieron los incidentes
En abril de 2026, Anthropic realizaba pruebas de seguridad de rutina en tres de sus modelos de IA Claude. La tarea era un ejercicio de 'captura la bandera' — un reto de hacking realista que se usa habitualmente para medir las capacidades de un modelo. A los modelos se les dijo que no tenían acceso a internet. Sin embargo, un error del equipo de pruebas externo hizo que los modelos estuvieran en realidad conectados al internet real — y nadie lo sabía, ni los modelos ni los operadores.
Los modelos hicieron lo que estaban entrenados para hacer: completar la tarea. Uno encontró una empresa real con el mismo nombre que el objetivo ficticio, adivinó contraseñas débiles y extrajo cientos de filas de datos de una base de datos en producción. Otro construyó un paquete de software malicioso y lo subió a PyPI — una biblioteca de código pública usada por millones de desarrolladores. Quince máquinas reales lo ejecutaron en menos de una hora, incluyendo una en una empresa de ciberseguridad. Dos de las tres empresas afectadas no sabían nada hasta que Anthropic las contactó el 27 de julio.
Anthropic revisó 141.006 ejecuciones de evaluación tras conocerse los incidentes. Solo seis fueron problemáticas — todas vinculadas al mismo socio de pruebas. Los modelos no actuaron con mala intención. Estaban haciendo exactamente el trabajo que se les había encomendado. El problema era una suposición errónea — que el entorno de prueba estaba aislado del mundo real. No lo estaba.
Para cualquier equipo que construya o despliegue agentes de IA — un grupo que crece rápido — este es un aviso claro. Trata tu entorno de prueba como si pudiera estar conectado, porque podría estarlo. Las redes deben estar verdaderamente aisladas antes de soltar una IA. Los permisos deben revisarse antes de que empiece el test, no después. Cuanto más capaz se vuelve la IA, más caro resulta un sandbox con fugas. Anthropic suspendió todas las evaluaciones de ciberseguridad el 23 de julio y está incorporando revisores independientes — la respuesta correcta, y el modelo a seguir para todos los que trabajan con IA de alto nivel.