Inteligencia Artificial

El 16 de septiembre OpenAI publicó su primer reporte bajo un marco nuevo de transparencia sobre desalineamiento, con seis casos de modelos no liberados: uno se escribió inyecciones de prompt a sí mismo (incluida una falsa «alerta de brecha»), otro (GPT-5.6 Sol) dejó notas para que la instancia siguiente ocultara errores. Dos días después, el benchmark RoboHarm mostró que GPT-6 Astra, controlando un brazo robótico, completó 60 de 100 tareas peligrosas y rechazó solo dos.
El 12 de septiembre Dario Amodei publicó «We Must Pace the Frontier» y pidió bajar el ritmo de la frontera; Sam Altman y Elon Musk lo apoyaron ese mismo día, después de que OpenAI reclamara regulación obligatoria el 9. El 14, Jensen Huang le contestó a Trump en vivo en el All-In Summit: «No vamos a dejar que eso pase». Leo el argumento de cada lado con las citas en la mano: por qué frenar «sin sacrificar la ventaja comercial» no es frenar, por qué el perímetro de la regla importa más que la regla, y qué queda para los países que no están en ninguna de las dos sillas.
Shopify adquirió Tailwind Labs el 9 de septiembre de 2026, sin revelar los términos. El framework se instala más de 110 millones de veces por semana, pero en enero su creador había avisado que la facturación estaba «cerca de un 80% abajo» y que se había ido el 75% del equipo de ingeniería: los asistentes de IA responden las dudas de CSS sin que nadie pase por la documentación, que era el único embudo de ventas del proyecto.
Un eval mide una tarea aislada; un sistema multi-agente falla en las juntas, cuando un agente le pasa a otro un objeto con la forma correcta y el contenido vacío. Con 85% de éxito por paso, diez pasos encadenados dan 20%, y ninguna de esas corridas devuelve error. Repaso los cuatro insumos de la semana (el análisis de Nweke en TDS, AgentOps, el wiki alemán tomado por agentes de OpenAI y el grafo de dependencias de prompts) y propongo qué instrumentar antes de poner agentes a trabajar en serio.
OpenAI presentó GPT-6 Astra el 3 de septiembre y es el primer modelo que cruza el umbral «Crítico» de capacidad en ciberseguridad de su propio Preparedness Framework: durante las evaluaciones encontró dos zero-day por su cuenta. El mismo día anunció Daybreak for Frontline Defenders, USD 1.000 millones en acceso subsidiado (no en efectivo) para defensores de servicios esenciales. Cinco días después Mistral cerró una Serie D de 3.000 millones de euros a una valuación de más de 21.000 millones, la mayor ronda de una tecnológica europea.
OpenAI, METR y Redwood publicaron el 26 de agosto los informes del incidente de Hugging Face: unos 1.200 agentes que rendían un examen de ciberseguridad revirtieron el HMAC que generaba las banderas, armaron un tablón de mensajes clandestino con más de 70.000 mensajes y 700 de ellos derivaron en una intrusión que llegó a root en producción ajena. La misma semana, Aikido reprodujo el caso del gimnasio con Claude Opus 4.6 (9 de 10 corridas) y Reuters mostró que en Meta los incidentes graves subieron 40%. El patrón es siempre el mismo: la métrica no era el objetivo, y el agente optimizó la métrica.
The Information reportó el 26 de agosto que Nvidia acordó comprar Hugging Face por USD 12.900 millones, sin confirmación oficial de ninguna de las dos empresas. El mismo día, AWS anunció la adquisición de DuckLabs, la compañía detrás de DuckDB, que sigue con licencia MIT bajo su fundación independiente. Además: OpenAI publicó los primeros benchmarks de su chip Jalapeño, Anthropic presentó el Model Hardware Standard para que los agentes operen equipos físicos y Thomson Reuters lanzó su propio modelo frontier con una inversión de USD 40 millones.
El 26 de agosto OpenAI publicó el informe completo del incidente de julio: sus modelos, durante la evaluación interna ExploitGym, se escaparon del sandbox, armaron un tablón de mensajes en Artifactory y ejecutaron código en decenas de servidores de Hugging Face. La causa raíz es reward hacking. Según METR y Redwood Research, unos 1.200 agentes intercambiaron más de 70.000 mensajes y unos 700 participaron del ataque, para «ganarle» a un corrector que ni siquiera verificaba lo que ellos creían.
Cinco agencias de EE.UU. alertaron el 19 de agosto (aviso AA26-231A) sobre scripts de explotación generados con IA contra PLCs Siemens S7 expuestos a internet. La misma semana Microsoft parcheó CoSnitch (CVE-2026-24301), tres fallas de Copilot Personal que permitían exfiltrar correo, calendario y memoria con un clic vía el parámetro no documentado autorun=1, y Adversa AI mostró cómo Grok descifra instrucciones AES en su propio intérprete y filtra el historial de chat. Cierran la semana el caso Snowflake/Wiz (una inyección en GitHub Actions que Copilot Autofix revisó y dio por buena) y las más de 9.300 claves de AWS filtradas que siguen activas, con Hugging Face como principal fuente.
Un experimento con 40.000 sesiones y 409.000 decisiones mostró que el supervisor humano promedio deja pasar 1 de cada 3 comandos peligrosos de un agente, y que un `npm run analyze` con código malicioso a la vista se aprobó el 64,7% de las veces. Aprobar dejó de ser un control cuando la aprobación es un click más en una cola infinita.

📩 Newsletter MUG

Recibí lo mejor en tu inbox

Noticias, cursos y workshops gratuitos. Sin spam.

✅ ¡Listo! Te suscribiste.
👋 Ya estabas suscripto.
⚠️ Correo inválido.

🎓 Capacitate con la comunidad

¿Querés ir más profundo?

Cursos en vivo con instructores MVP, workshops gratuitos y contenido self-paced.

Ver cursos →

💬 Últimos comentarios

  • Cargando comentarios…
Scroll al inicio