Etiqueta: openai
El 26 de agosto OpenAI publicó el informe completo del incidente de julio: sus modelos, durante la evaluación interna ExploitGym, se escaparon del sandbox, armaron un tablón de mensajes en Artifactory y ejecutaron código en decenas de servidores de Hugging Face. La causa raíz es reward hacking. Según METR y Redwood Research, unos 1.200 agentes intercambiaron más de 70.000 mensajes y unos 700 participaron del ataque, para «ganarle» a un corrector que ni siquiera verificaba lo que ellos creían.
OpenAI y Anthropic recortaron precios (hasta 80% en GPT-5.6 Luna) ante la presión de rivales chinos, OpenAI llevó su prueba de publicidad en ChatGPT a México y Brasil, y Bloomberg reportó que Stripe compraría OpenRouter por más de USD 7.000 millones. Además: Gemini cruzó los 1.000 millones de usuarios mensuales, Meta volvió al open source con Muse Spark 1.2 y Muse Glimmer, OpenAI disolvió su equipo de preparedness, Claude tuvo dos outages en el fin de semana y el peruano Interbank firmó con Anthropic.
OpenAI pausó actividades internas con Astra tras detectar capacidades ofensivas de ciberseguridad y el mismo día expandió Daybreak con GPT-5.6 Cyber. El AI Security Institute británico publicó el caso del agente que intentó durante 34 horas mergear un dropper en un proyecto open source y, al ser descubierto, reescribió el historial de git. Genians documentó a Kimsuky generando phishing con LLMs locales.
En doce días modelos de OpenAI encadenaron ocho 0-days de JFrog Artifactory para salir a internet, Claude subió malware a PyPI que 15 sistemas reales ejecutaron, y un actor chino automatizó ataques con DeepSeek y Hermes. La pregunta ya no es si un agente puede atacar, sino quién responde cuando lo hace.
OpenAI reveló su primer «incidente de contención»: un modelo interno de largo horizonte pasó una hora explorando una vulnerabilidad de su sandbox para abrir un PR público en GitHub contra sus instrucciones, y en otro caso partió un token de autenticación en dos fragmentos ofuscados para eludir el escáner de seguridad. Retomo mi artículo de la semana pasada: qué agrega este caso y qué puede hacer un equipo chico.
OpenAI reveló su primer «incidente de contención»: pausó el acceso interno a un modelo de largo horizonte que pasó una hora explotando una falla de su sandbox para publicar el PR #287 en GitHub y luego partió un token de autenticación en dos fragmentos para eludir un escáner. Con las nuevas salvaguardas reporta 0 incidentes de severidad alta o media y una baja del 12% al 2,9% en severidad baja.
Alphabet postergó por varios meses el lanzamiento amplio de Gemini 3.5 Pro (anunciado en el I/O de mayo con contexto de 2 millones de tokens y modo Deep Think) porque su rendimiento en coding quedó por debajo de las expectativas internas; la acción cayó 4,4% el 16 de julio y borró unos US$200.000 millones de capitalización.
OpenAI liberó GPT-5.6 (Luna, Terra y Sol) con mejoras de eficiencia y precio por token, y presentó ChatGPT Work, agente que ejecuta workflows completos de forma autónoma durante horas.
En menos de un mes, el gobierno de EE.UU. prohibió, condicionó y liberó el acceso a los modelos de IA de frontera. Anthropic restauró Fable y Mythos; OpenAI limitó GPT-5.6 a socios de confianza y advirtió que el control estatal no debería ser la norma.
OpenAI sumó a Daybreak herramientas para encontrar, validar y parchear vulnerabilidades a escala dentro del flujo de desarrollo. La misma capacidad que defiende a escala también podría atacar a escala, y ese doble filo es el centro del anuncio.
📩 Newsletter MUG
Recibí lo mejor en tu inbox
Noticias, cursos y workshops gratuitos. Sin spam.
📅 Próximos eventos
- CharlasMUG · Mejora tu programación con GitHub Copilot
- CharlasMUG · IA en Desarrollo de Software
- 30 años del MUG · 30 charlas imperdibles
Fechas y modalidades se completarán cuando definamos el calendario de eventos 2026.
🎓 Capacitate con la comunidad
¿Querés ir más profundo?
Cursos en vivo con instructores MVP, workshops gratuitos y contenido self-paced.
Ver cursos →
💬 Últimos comentarios