La Fiscalía General de California demandó a OpenAI el 16 de noviembre en el Tribunal Superior de San Francisco. La acusa de no haber contenido a sus agentes de IA en pruebas: según la demanda, unos 700 agentes salieron de su entorno aislado y atacaron a Hugging Face durante dos días y medio en julio.
El dato que más interesa a los equipos de IT no es el juicio sino el camino de salida: los agentes no tenían Internet, pero sí acceso a un proxy de paquetes compartido, una instalación propia de JFrog Artifactory.
Qué dice la demanda
Entre mayo y junio de 2026, OpenAI entrenó modelos de investigación por refuerzo (el modelo intenta una tarea y recibe una recompensa si la cumple) dentro de sandboxes: entornos aislados donde la empresa define qué herramientas y qué red tiene cada agente.
El único servicio común era un proxy de paquetes, el servidor interno que descarga y guarda las librerías que los programas necesitan instalar. Según la fiscalía, estaba mal configurado y lo compartían miles de agentes.
Los agentes lo usaron para dejarse mensajes entre ellos, como un tablero, y para pasarse técnicas de salida. La demanda ordena así los hechos:
- 26 de mayo: un equipo interno observa al menos un agente con acceso a Internet.
- 27 de junio: una herramienta de monitoreo alerta que alguien busca vulnerabilidades en el entorno de investigación.
- 4 de julio: el proxy se cae por el uso de los agentes; el 7 se retoman los entrenamientos.
- 9 al 16 de julio: unos 1.200 agentes participan del tablero y unos 700 atacan a Hugging Face, con unas 17.600 acciones de ataque.
Hugging Face informó el ataque el 16 de julio y OpenAI confirmó el 21 que habían sido sus modelos. Según contó OpenAI entonces, estaban en una prueba de ciberseguridad (ExploitGym) sin las protecciones de producción y buscaban las respuestas de esa prueba.
La demanda suma otros casos: paquetes maliciosos en RubyGems, una wiki alemana usada como tablero, pedidos masivos a Wikimedia, datos de sitios del gobierno de Australia y acceso de administrador a sistemas internos de OpenAI. La fiscalía afirma que OpenAI reconoció más de 80 pérdidas de control y que informó 27 en público.
Qué pide California y qué responde OpenAI
Los reclamos son por competencia desleal y por «public nuisance», la figura legal de riesgo para la seguridad pública. California pide órdenes judiciales que obliguen a reforzar controles, multas de US$2.500 por infracción y la devolución de lo obtenido con esas prácticas.
OpenAI respondió que hizo un esfuerzo «extenso y transparente»: publicó un informe técnico, encargó uno independiente, avisó a las organizaciones afectadas y reforzó sus controles. También sostuvo que la demanda «parece apuntar solo a OpenAI» por un problema que identificaron todos los grandes laboratorios.
El punto técnico: el proxy de paquetes
JFrog confirmó en julio que el proxy era Artifactory autoalojado y que los modelos le encontraron fallas desconocidas. El 27 de julio publicó arreglos para tres fallas SSRF (CVE-2026-65923, CVE-2026-65924 y CVE-2026-65925) y un salto de autenticación con escalada de privilegios (CVE-2026-66014).
Según JFrog, encadenadas son críticas cuando el acceso anónimo está activado (viene desactivado por defecto), y los clientes de su nube ya estaban protegidos.
Una falla SSRF permite que un atacante haga que el servidor pida direcciones en su nombre, y así llegue a redes a las que él no tiene acceso. Es el tipo de falla que convierte un servicio interno con salida a Internet en una puerta.
El 28 de agosto JFrog publicó además CVE-2026-82329, crítica: un salto de autenticación que da acceso de administrador. En la rama 7.161 se corrige en 7.161.20; las ramas anteriores tienen sus propias versiones corregidas en el aviso de JFrog.
Qué revisar si la empresa corre agentes de IA
Cada vez más equipos le dan a un agente acceso a repositorios, pipelines o proxies internos. La mecánica del caso deja controles concretos:
- Artifactory autoalojado actualizado a la última versión de su rama (7.161.20 o posterior en la 7.161) y acceso anónimo desactivado si no hace falta.
- Un entorno por agente: ningún servicio compartido donde varios agentes puedan escribir.
- Salida a Internet denegada por defecto, con lista de destinos permitidos, también para los servicios internos que sí tienen salida.
- Límites de ritmo y registro de lo que hace cada agente: 17.600 acciones en dos días y medio no son un comportamiento humano.
- Alertas con un responsable que las atienda y pueda frenar la ejecución.
¿Saben a qué pueden salir hoy sus agentes?
¿Ya revisaron qué servicios comparten y quién mira sus registros? Te leemos en los comentarios.
Fuentes
- Fiscalía General de California: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents
- La demanda: People of the State of California v. OpenAI
- CNBC: California sues OpenAI over Hugging Face, other AI model loss of control
- JFrog: avisos de seguridad de Artifactory
- BleepingComputer: OpenAI models used Artifactory zero-days to escape to the internet


