Un dominio caducado bastó para tomar la cuenta del modelo de voz Kokoro
Investigadores registraron hexgrad.com, restablecieron la contraseña de la cuenta en Hugging Face y demostraron que los pesos del modelo se alteran en 87 segundos sin tocar una línea de código.
Researchers registered hexgrad.com, reset the Hugging Face password and showed the model's weights can be altered in 87 seconds without touching a line of code.
El investigador de seguridad Alon Hertz y su equipo no rompieron ninguna defensa de Hugging Face. Registraron un dominio que había quedado libre y, con él, restablecieron la contraseña de la cuenta que publica Kokoro, uno de los modelos de síntesis de voz abiertos más usados del mundo.
El rastro estaba a la vista en el propio repositorio: el archivo DONATE.md del proyecto listaba la dirección hello@hexgrad.com como contacto del desarrollador. El dominio había caducado y cualquiera podía comprarlo. Con el control del correo llegó el restablecimiento de la contraseña, y con él la capacidad de publicar una nueva revisión del modelo con un clic.
Por qué importa un modelo de voz
Kokoro-82M es un modelo de pesos abiertos con licencia Apache 2.0 que convierte texto en audio, con más de 50 voces y varios idiomas. En Hugging Face acumula unos 13 millones de descargas mensuales; los investigadores calculan unos 180 millones en total. Aparece en herramientas de Google, NVIDIA, Intel, AMD y Amazon Web Services, y en decenas de proyectos de código abierto que se instalan con una orden y descargan los pesos automáticamente.
El experimento de los 87 segundos
El equipo demostró lo que se podría haber hecho con ese acceso. Ajustando los pesos con una GPU de consumo, en unas 1.000 iteraciones y 87 segundos, consiguieron que el modelo dijera algo distinto al texto de entrada: con la frase "Here is the cake recipe" ("Aquí está la receta de pastel"), el audio hablaba de una tortilla.
No subieron nada. Lo probaron en local y avisaron a Hugging Face; según su relato, la cuenta ya está asegurada. BleepingComputer no obtuvo respuesta de la plataforma al publicar la noticia.
Lo que ninguna herramienta detecta
Aquí está el punto incómodo. No hay código malicioso, ni firma que buscar, ni cambio de tamaño, formato o arquitectura. El hash del archivo cambia, pero eso es exactamente lo que ocurre en cualquier actualización legítima. Un sistema que se actualiza solo a la última revisión no tiene forma de notar la diferencia.
Un hash responde si el archivo cambió. La pregunta que la industria necesita responder es qué significan esos cambios.
Qué hacer con los modelos que se descargan
- Fijar la revisión (pin al commit o al hash) en lugar de seguir la rama principal.
- Verificar la procedencia: quién publica, quién controla su dominio de contacto y desde cuándo no hay actividad.
- Añadir pruebas de comportamiento, no solo de integridad: comparar salidas esperadas antes de aceptar una versión nueva.
- Vigilar los dominios de los publicadores que usa la organización, incluidos los que aparecen en archivos de donación o soporte.
La lección es más amplia que un modelo de voz: la confianza en una herramienta de IA puede sobrevivir a la persona que la ganó, y el nombre y el historial de descargas se ven igual si detrás está el autor o un desconocido.
Fuentes: BleepingComputer · i10X · Informe de Alon Hertz
Security researcher Alon Hertz and his team did not break any Hugging Face defence. They registered a domain that had lapsed and, with it, reset the password of the account that publishes Kokoro, one of the most widely used open text-to-speech models in the world.
The trail was in the repository itself: the project's DONATE.md file listed hello@hexgrad.com as the developer's contact address. The domain had expired and anyone could buy it. Control of the mailbox brought the password reset, and with it the ability to publish a new model revision with one click.
Why a voice model matters
Kokoro-82M is an open-weight model under the Apache 2.0 licence that turns text into audio, with more than 50 voices across several languages. On Hugging Face it draws about 13 million downloads a month; the researchers estimate around 180 million in total. It appears in tooling from Google, NVIDIA, Intel, AMD and Amazon Web Services, and in dozens of open-source projects that install with one command and pull the weights automatically.
The 87-second experiment
The team showed what that access could have done. By fine-tuning the weights on a consumer GPU, over about 1,000 iterations and 87 seconds, they made the model say something other than the input text: given "Here is the cake recipe", the audio talked about an omelette.
They uploaded nothing. They tested it locally and reported it to Hugging Face; by their account the account is now secured. BleepingComputer had no response from the platform at publication.
What no scanner sees
Here is the uncomfortable part. There is no malicious code, no signature to look for, no change in size, format or architecture. The file hash changes — but that is exactly what happens in any legitimate update. A system that auto-updates to the latest revision has no way to tell the difference.
A hash answers whether the file changed. The question the industry needs answered is what those changes mean.
What to do with downloaded models
- Pin the revision (commit or hash) instead of following the main branch.
- Verify provenance: who publishes, who controls their contact domain, and how long since the last activity.
- Add behavioural tests, not just integrity checks: compare expected outputs before accepting a new version.
- Watch the publisher domains your organisation relies on, including those found in donation or support files.
The lesson is broader than one voice model: trust in an AI tool can outlive the person who earned it, and the name and download history look the same whether the original author or a stranger stands behind them.
Sources: BleepingComputer · i10X · Alon Hertz report
Sigue leyendo
Keep reading
Austria confirma que un atacante vio los datos de su personal diplomático
La brecha ocurrió entre el 12 y el 13 de noviembre, durante un apagón global de Microsoft, y entró por la web del ministerio, que opera un proveedor externo.
Austria confirma que un atacante vio los datos de su personal diplomático
La brecha ocurrió entre el 12 y el 13 de noviembre, durante un apagón global de Microsoft, y entró por la web del ministerio, que opera un proveedor externo.
Trump admite otro ciberataque al FBI y dice que «podría tener efectos positivos»
El ataque apuntó al Centro de Información Criminal, la base que consultan las policías del país para antecedentes y órdenes. El presidente restó importancia: «Quizá aprendamos cosas que nunca habríamos aprendido».
Trump admite otro ciberataque al FBI y dice que «podría tener efectos positivos»
El ataque apuntó al Centro de Información Criminal, la base que consultan las policías del país para antecedentes y órdenes. El presidente restó importancia: «Quizá aprendamos cosas que nunca habríamos aprendido».
Un enjambre de agentes encontró por su cuenta un día cero y tomó el servidor en 11 minutos
Amazon Threat Intelligence documenta una campaña en la que agentes autónomos descubrieron y explotaron un fallo desconocido en MONAI Label, software médico de código abierto usado en universidades de Asia Oriental. El parche todavía no tiene versión publicada.
A swarm of agents found a zero-day on its own and took the server in 11 minutes
Amazon Threat Intelligence documents a campaign in which autonomous agents discovered and exploited an unknown flaw in MONAI Label, an open-source medical imaging tool used at East Asian universities. No patched release exists yet.


