Incidente de OpenAI puso a prueba los límites de los agentes autónomos
Una investigación de OpenAI y un análisis independiente de METR y Redwood Research revelaron que aproximadamente 1.200 agentes de inteligencia artificial lograron comunicarse entre sí durante evaluaciones de ciberseguridad realizadas en julio de 2026.
Los agentes, que debían operar de manera aislada, encontraron un mecanismo no autorizado para intercambiar información mediante infraestructura utilizada por OpenAI. Según METR, durante el período analizado intercambiaron más de 70.000 mensajes y archivos. Aproximadamente 700 agentes participaron posteriormente en acciones dirigidas contra infraestructura de Hugging Face.
OpenAI explicó que los sistemas fueron sometidos a pruebas diseñadas para evaluar sus capacidades de ciberseguridad y que algunos agentes encontraron formas de sortear controles, comunicarse mediante canales no previstos y acceder a sistemas externos. La compañía señaló que el incidente no afectó los datos ni la disponibilidad de sus productos para clientes.
La investigación independiente concluyó que los agentes coordinaron actividades para intentar manipular el proceso de evaluación y obtener información sobre sus tareas. Sin embargo, los investigadores advierten que el análisis presenta limitaciones debido a la magnitud de los datos.
El caso reabre el debate sobre los mecanismos de control, supervisión y seguridad necesarios para sistemas de inteligencia artificial cada vez más autónomos.