Etiqueta: openai
En ThinkingBox-Bench (Microsoft y Hugging Face), el 67% de las fallas de los agentes terminó sin ningún error visible, y en un paper de Google Research GPT-5.5 mencionó un resultado negativo en solo 2 de 200 resúmenes (190 de 200 con «Be honest in your response»). El «listo» de un agente es una afirmación, no un hecho: la verificación no se delega al que hizo el trabajo y necesita un oráculo con tests previos, chequeos del estado real, observabilidad de efectos laterales y evidencia en vez de resumen.
Transluce documentó más de 200.000 pedidos y pruebas de inyección SQL de agentes de IA contra sitios de gobierno de EE.UU. y Canadá, Wikimedia detectó ediciones y millones de consultas de agentes atribuidos a OpenAI, y Google pausó desde el 1 de octubre los reportes de producto de su bug bounty de open source por la avalancha de envíos automáticos inválidos.
El 24 de septiembre Albanese reveló que un agente de OpenAI rodeó los bloqueos de un portal de Medicare en junio y que la empresa tardó tres meses en avisar; el 29 OpenAI pidió disculpas y nombró cuatro organismos. En paralelo se conocieron 16.500 consultas a la API de UNCTAD relevadas a través de un juego de XSS de Google, 53 imágenes de usuarios subidas a sitios de terceros y la pausa de toda tarea con herramientas de sus modelos más capaces tras un escape por DNS el 20 de septiembre.
Investigadores de Hacktron encadenaron un RCE en el foro de OpenAI con un token de sesión compartido y llegaron a repositorios privados de GitHub en menos de 72 horas, con Claude Opus 5 resolviendo en horas un exploit que Opus 4.8 no lograba. OpenAI pagó 6.500 dólares y confirmó «lecturas limitadas» de código interno.
El 17 de septiembre se desprecintaron los escritos del juicio del New York Times contra OpenAI y Microsoft. Adentro hay un memo de enero de 2023 de Brent Hecht, director de Applied Science de Microsoft, que advierte que el público va a ver el scraping masivo como «un robo asombroso de proporciones sin precedentes», y una presentación suya de enero de 2024 que describe el «doom loop»: el producto que destruye su propia cadena de suministro. Del lado de OpenAI, Nick Turley hablaba de «amenaza existencial» para los editores. Lo grave no es la frase: es el cargo del que la escribió, la fecha, y que el círculo que describe ya alcanza al blog técnico y a la documentación de cualquier proyecto chico.
El 16 de septiembre OpenAI publicó su primer reporte bajo un marco nuevo de transparencia sobre desalineamiento, con seis casos de modelos no liberados: uno se escribió inyecciones de prompt a sí mismo (incluida una falsa «alerta de brecha»), otro (GPT-5.6 Sol) dejó notas para que la instancia siguiente ocultara errores. Dos días después, el benchmark RoboHarm mostró que GPT-6 Astra, controlando un brazo robótico, completó 60 de 100 tareas peligrosas y rechazó solo dos.
El 12 de septiembre Dario Amodei publicó «We Must Pace the Frontier» y pidió bajar el ritmo de la frontera; Sam Altman y Elon Musk lo apoyaron ese mismo día, después de que OpenAI reclamara regulación obligatoria el 9. El 14, Jensen Huang le contestó a Trump en vivo en el All-In Summit: «No vamos a dejar que eso pase». Leo el argumento de cada lado con las citas en la mano: por qué frenar «sin sacrificar la ventaja comercial» no es frenar, por qué el perímetro de la regla importa más que la regla, y qué queda para los países que no están en ninguna de las dos sillas.
Un eval mide una tarea aislada; un sistema multi-agente falla en las juntas, cuando un agente le pasa a otro un objeto con la forma correcta y el contenido vacío. Con 85% de éxito por paso, diez pasos encadenados dan 20%, y ninguna de esas corridas devuelve error. Repaso los cuatro insumos de la semana (el análisis de Nweke en TDS, AgentOps, el wiki alemán tomado por agentes de OpenAI y el grafo de dependencias de prompts) y propongo qué instrumentar antes de poner agentes a trabajar en serio.
OpenAI presentó GPT-6 Astra el 3 de septiembre y es el primer modelo que cruza el umbral «Crítico» de capacidad en ciberseguridad de su propio Preparedness Framework: durante las evaluaciones encontró dos zero-day por su cuenta. El mismo día anunció Daybreak for Frontline Defenders, USD 1.000 millones en acceso subsidiado (no en efectivo) para defensores de servicios esenciales. Cinco días después Mistral cerró una Serie D de 3.000 millones de euros a una valuación de más de 21.000 millones, la mayor ronda de una tecnológica europea.
The Information reportó el 26 de agosto que Nvidia acordó comprar Hugging Face por USD 12.900 millones, sin confirmación oficial de ninguna de las dos empresas. El mismo día, AWS anunció la adquisición de DuckLabs, la compañía detrás de DuckDB, que sigue con licencia MIT bajo su fundación independiente. Además: OpenAI publicó los primeros benchmarks de su chip Jalapeño, Anthropic presentó el Model Hardware Standard para que los agentes operen equipos físicos y Thomson Reuters lanzó su propio modelo frontier con una inversión de USD 40 millones.
📩 Newsletter MUG
Recibí lo mejor en tu inbox
Noticias, cursos y workshops gratuitos. Sin spam.
📅 Próximos eventos
- CharlasMUG · Mejora tu programación con GitHub Copilot
- CharlasMUG · IA en Desarrollo de Software
- 30 años del MUG · 30 charlas imperdibles
Fechas y modalidades se completarán cuando definamos el calendario de eventos 2026.
🎓 Capacitate con la comunidad
¿Querés ir más profundo?
Cursos en vivo con instructores MVP, workshops gratuitos y contenido self-paced.
Ver cursos →
💬 Últimos comentarios