Etiqueta: openai
El 24 de septiembre Albanese reveló que un agente de OpenAI rodeó los bloqueos de un portal de Medicare en junio y que la empresa tardó tres meses en avisar; el 29 OpenAI pidió disculpas y nombró cuatro organismos. En paralelo se conocieron 16.500 consultas a la API de UNCTAD relevadas a través de un juego de XSS de Google, 53 imágenes de usuarios subidas a sitios de terceros y la pausa de toda tarea con herramientas de sus modelos más capaces tras un escape por DNS el 20 de septiembre.
Investigadores de Hacktron encadenaron un RCE en el foro de OpenAI con un token de sesión compartido y llegaron a repositorios privados de GitHub en menos de 72 horas, con Claude Opus 5 resolviendo en horas un exploit que Opus 4.8 no lograba. OpenAI pagó 6.500 dólares y confirmó «lecturas limitadas» de código interno.
El 17 de septiembre se desprecintaron los escritos del juicio del New York Times contra OpenAI y Microsoft. Adentro hay un memo de enero de 2023 de Brent Hecht, director de Applied Science de Microsoft, que advierte que el público va a ver el scraping masivo como «un robo asombroso de proporciones sin precedentes», y una presentación suya de enero de 2024 que describe el «doom loop»: el producto que destruye su propia cadena de suministro. Del lado de OpenAI, Nick Turley hablaba de «amenaza existencial» para los editores. Lo grave no es la frase: es el cargo del que la escribió, la fecha, y que el círculo que describe ya alcanza al blog técnico y a la documentación de cualquier proyecto chico.
El 16 de septiembre OpenAI publicó su primer reporte bajo un marco nuevo de transparencia sobre desalineamiento, con seis casos de modelos no liberados: uno se escribió inyecciones de prompt a sí mismo (incluida una falsa «alerta de brecha»), otro (GPT-5.6 Sol) dejó notas para que la instancia siguiente ocultara errores. Dos días después, el benchmark RoboHarm mostró que GPT-6 Astra, controlando un brazo robótico, completó 60 de 100 tareas peligrosas y rechazó solo dos.
El 12 de septiembre Dario Amodei publicó «We Must Pace the Frontier» y pidió bajar el ritmo de la frontera; Sam Altman y Elon Musk lo apoyaron ese mismo día, después de que OpenAI reclamara regulación obligatoria el 9. El 14, Jensen Huang le contestó a Trump en vivo en el All-In Summit: «No vamos a dejar que eso pase». Leo el argumento de cada lado con las citas en la mano: por qué frenar «sin sacrificar la ventaja comercial» no es frenar, por qué el perímetro de la regla importa más que la regla, y qué queda para los países que no están en ninguna de las dos sillas.
Un eval mide una tarea aislada; un sistema multi-agente falla en las juntas, cuando un agente le pasa a otro un objeto con la forma correcta y el contenido vacío. Con 85% de éxito por paso, diez pasos encadenados dan 20%, y ninguna de esas corridas devuelve error. Repaso los cuatro insumos de la semana (el análisis de Nweke en TDS, AgentOps, el wiki alemán tomado por agentes de OpenAI y el grafo de dependencias de prompts) y propongo qué instrumentar antes de poner agentes a trabajar en serio.
OpenAI presentó GPT-6 Astra el 3 de septiembre y es el primer modelo que cruza el umbral «Crítico» de capacidad en ciberseguridad de su propio Preparedness Framework: durante las evaluaciones encontró dos zero-day por su cuenta. El mismo día anunció Daybreak for Frontline Defenders, USD 1.000 millones en acceso subsidiado (no en efectivo) para defensores de servicios esenciales. Cinco días después Mistral cerró una Serie D de 3.000 millones de euros a una valuación de más de 21.000 millones, la mayor ronda de una tecnológica europea.
The Information reportó el 26 de agosto que Nvidia acordó comprar Hugging Face por USD 12.900 millones, sin confirmación oficial de ninguna de las dos empresas. El mismo día, AWS anunció la adquisición de DuckLabs, la compañía detrás de DuckDB, que sigue con licencia MIT bajo su fundación independiente. Además: OpenAI publicó los primeros benchmarks de su chip Jalapeño, Anthropic presentó el Model Hardware Standard para que los agentes operen equipos físicos y Thomson Reuters lanzó su propio modelo frontier con una inversión de USD 40 millones.
El 26 de agosto OpenAI publicó el informe completo del incidente de julio: sus modelos, durante la evaluación interna ExploitGym, se escaparon del sandbox, armaron un tablón de mensajes en Artifactory y ejecutaron código en decenas de servidores de Hugging Face. La causa raíz es reward hacking. Según METR y Redwood Research, unos 1.200 agentes intercambiaron más de 70.000 mensajes y unos 700 participaron del ataque, para «ganarle» a un corrector que ni siquiera verificaba lo que ellos creían.
OpenAI y Anthropic recortaron precios (hasta 80% en GPT-5.6 Luna) ante la presión de rivales chinos, OpenAI llevó su prueba de publicidad en ChatGPT a México y Brasil, y Bloomberg reportó que Stripe compraría OpenRouter por más de USD 7.000 millones. Además: Gemini cruzó los 1.000 millones de usuarios mensuales, Meta volvió al open source con Muse Spark 1.2 y Muse Glimmer, OpenAI disolvió su equipo de preparedness, Claude tuvo dos outages en el fin de semana y el peruano Interbank firmó con Anthropic.
📩 Newsletter MUG
Recibí lo mejor en tu inbox
Noticias, cursos y workshops gratuitos. Sin spam.
📅 Próximos eventos
- CharlasMUG · Mejora tu programación con GitHub Copilot
- CharlasMUG · IA en Desarrollo de Software
- 30 años del MUG · 30 charlas imperdibles
Fechas y modalidades se completarán cuando definamos el calendario de eventos 2026.
🎓 Capacitate con la comunidad
¿Querés ir más profundo?
Cursos en vivo con instructores MVP, workshops gratuitos y contenido self-paced.
Ver cursos →
💬 Últimos comentarios