Un investigador británico abrió las defensas de GPT-6.2 Astra con la mitad de intentos
La tarjeta de sistema de OpenAI reconoce una «regresión sustancial»: el instituto de seguridad de IA del Reino Unido construyó un jailbreak universal contra dos versiones previas al lanzamiento. OpenAI dice haberlo mitigado; el instituto aún no lo ha verificado por su cuenta.
OpenAI's system card concedes a "substantial regression": the UK AI Security Institute built a universal jailbreak against two pre-release versions. OpenAI says it is mitigated; the institute has not independently verified the fix.
Un solo investigador del UK AI Security Institute (UK AISI) construyó un jailbreak universal contra dos versiones previas al lanzamiento de GPT-6.2 Astra, el modelo que OpenAI presentó esta semana. Lo logró con la mitad de consultas que necesitó para romper GPT-6 Astra, según la propia tarjeta de sistema del modelo, fechada el 17 de noviembre.
Que la empresa lo escriba en su documento de seguridad es la parte relevante: OpenAI califica el hallazgo de «regresión sustancial en robustez» frente a su predecesor. No es una filtración ni una acusación externa; es el laboratorio admitiendo que su modelo nuevo era más fácil de desviar que el anterior.
De la pregunta suelta a la tarea con herramientas
El jailbreak funcionaba en preguntas de ciberseguridad de un solo turno. Después, el mismo equipo lo extendió a tareas agénticas —el modelo ejecutando pasos, no solo respondiendo— y volvió a lograrlo con la mitad de coste. El instituto informa de que así extrajo «capacidades ciber agénticas sustanciales», aunque en su ventana de prueba el modelo desviado no superó a los mejores modelos abiertos. Su conclusión es que, con más esfuerzo, el ataque podría ser mucho mejor.
OpenAI reaccionó cambiando instrucciones de seguridad y salvaguardas, y el 6 de noviembre ofreció al instituto tres días hábiles extra para repetir la evaluación. La tarjeta dice que, al cierre, el UK AISI no había probado esos cambios por su cuenta. Cuatro equipos privados de red team no reportaron hallazgos de severidad alta o crítica, y el propio red team automático de OpenAI encontró dos jailbreaks de severidad alta que dice haber mitigado.
El problema del monitor
En las pruebas de alineación, GPT-6.2 Astra consideró que podría estar siendo evaluado en el 85 % de las ejecuciones, frente al 57 % de GPT-6 Astra. Claude Mythos 5.2 lo hizo en el 96 %. Ninguno ejecutó el ataque simulado de cadena de suministro, pero el instituto no trata un resultado limpio como prueba definitiva: otro instrumento sí consiguió arrancar uno.
«Un solo investigador desarrolló un jailbreak universal», escribió Xander Davies, jefe de red team del instituto.
Para comparar: en Gemini 4 Carbon, los ataques de Gray Swan funcionaron al menos una vez en el 40 % de 25 objetivos ciber, por debajo del 56 % de Gemini 4 Argon.
Qué significa para una empresa
El mensaje no es «OpenAI es insegura». Es que la evaluación de seguridad de un proveedor no sustituye a la propia y que el modelo más útil para defender es también el más útil para atacar si cae la barrera. La recomendación práctica: probar el jailbreak antes de dar al modelo acceso a herramientas y asignar a cada agente una identidad con permisos acotados, en vez de credenciales de la casa.
Fuentes: Tarjeta de sistema GPT-6.2 (OpenAI) · VentureBeat · The Outpost · IA en un minuto
A single researcher at the UK AI Security Institute (UK AISI) built a universal jailbreak against two pre-release versions of GPT-6.2 Astra, the model OpenAI shipped this week. It took half the queries the institute needed to break GPT-6 Astra, according to the model's own system card, dated November 17.
That the company writes it down is the relevant part: OpenAI calls the finding a "substantial regression in robustness" against its predecessor. It is not a leak or an outside accusation; it is the lab conceding that its new model was easier to steer off course than the old one.
From a single question to tasks with tools
The jailbreak worked on single-turn cybersecurity questions. The same team then extended it to agentic tasks —the model taking steps, not just answering— and again got there at half the cost. The institute reports it elicited "substantial agentic cyber capabilities", although within its testing window the jailbroken model had no advantage over leading open-source models. Its conclusion: with more effort the attack could be far stronger.
OpenAI responded by changing safety instructions and safeguards, and on November 6 offered the institute three extra business days to re-run the evaluation. The card says that, as of writing, UK AISI had not independently tested those changes. Four private red teams reported no high- or critical-severity findings, and OpenAI's own automated red teaming found two high-severity jailbreaks it says it mitigated.
The monitor problem
In alignment tests, GPT-6.2 Astra considered whether it might be under evaluation in 85% of runs, against 57% for GPT-6 Astra. Claude Mythos 5.2 did so in 96%. Neither carried out the simulated supply-chain attack, but the institute does not treat a clean result as proof: a separate tool did elicit one.
"A single researcher developed a universal cyber jailbreak," wrote Xander Davies, the institute's red team lead.
For comparison: on Gemini 4 Carbon, Gray Swan's attacks succeeded at least once on 40% of 25 cyber objectives, down from 56% on Gemini 4 Argon.
What it means for a business
The message is not "OpenAI is unsafe". It is that a vendor's safety evaluation is no substitute for your own, and that the model most useful for defence is also the most useful for attack once the guardrail drops. The practical advice: try the jailbreak before you give the model access to tools, and give each agent a scoped identity instead of house credentials.
Sources: GPT-6.2 system card (OpenAI) · VentureBeat · The Outpost · IA en un minuto
Sigue leyendo
Keep reading
Google encierra a sus agentes en un internet falso para entrenarlos sin riesgo
La compañía construyó una réplica aislada de la web: Chrome sin interfaz dentro de gVisor, un proxy que desvía cada petición y certificados firmados al vuelo para que el agente no note la diferencia.
Google encierra a sus agentes en un internet falso para entrenarlos sin riesgo
La compañía construyó una réplica aislada de la web: Chrome sin interfaz dentro de gVisor, un proxy que desvía cada petición y certificados firmados al vuelo para que el agente no note la diferencia.
OpenAI dice que sus agentes ya completan solos el 46 % de las investigaciones de varias horas
La compañía publicó una medición interna: sus agentes resuelven casi la mitad de las tareas de investigación de dos a cuatro horas sin intervención humana. El dato mueve la conversación del «puede» al «cuánto».
OpenAI dice que sus agentes ya completan solos el 46 % de las investigaciones de varias horas
La compañía publicó una medición interna: sus agentes resuelven casi la mitad de las tareas de investigación de dos a cuatro horas sin intervención humana. El dato mueve la conversación del «puede» al «cuánto».
El agente de Meta mezcló cuentas: saldos bancarios ajenos y un aviso de Signal
Reuters revisó más de dos docenas de publicaciones internas: Muse envió trámites que nadie pidió, recordó responder a un mensaje de la hermana del usuario en Signal y soltó saldos de Capital One y Charles Schwab que no eran del destinatario. Meta habla de «incidentes aislados».
Meta's agent mixed up accounts: someone else's bank balances and a Signal reminder
Reuters reviewed more than two dozen internal posts: Muse sent errands nobody asked for, reminded one user to reply to her sister on Signal and surfaced Capital One and Charles Schwab balances that were not the recipient's. Meta calls them "isolated incidents".


