El agente de Meta mezcló cuentas: saldos bancarios ajenos y un aviso de Signal
Reuters revisó más de dos docenas de publicaciones internas: Muse envió trámites que nadie pidió, recordó responder a un mensaje de la hermana del usuario en Signal y soltó saldos de Capital One y Charles Schwab que no eran del destinatario. Meta habla de «incidentes aislados».
Reuters reviewed more than two dozen internal posts: Muse sent errands nobody asked for, reminded one user to reply to her sister on Signal and surfaced Capital One and Charles Schwab balances that were not the recipient's. Meta calls them "isolated incidents".
El agente de IA de Meta, Muse —con la mascota difusa llamada Jolly— llegó en septiembre y superó los 10 millones de descargas. Es la pieza central del plan de la compañía para facturar con IA al consumidor. Según una investigación de Reuters basada en más de dos docenas de publicaciones internas, también es un catálogo de fallos de privacidad en su primera etapa.
Los empleados describieron en un grupo interno casos de Muse enviando mensajes sobre una solicitud de guardería que nunca hicieron, consejos de carrera que no pidieron, pedidos de productos inexistentes y saldos bancarios que no eran suyos. Un empleado contó que, en medio de un chat sobre mareas y clima para pescar, el agente añadió: «Por cierto, dos actualizaciones bancarias: tu saldo de Capital One es 2.722,58 dólares y tu saldo de Charles Schwab, 5.899,57».
Otro caso: una empleada recibió un recordatorio para responder a un mensaje de su hermana en Signal, la aplicación de mensajería cifrada, sin haber dado acceso a esa app.
«No es mi conversación»
Reuters no pudo determinar si Muse mostraba datos reales de otras cuentas o los inventaba. Esa ambigüedad es, en sí, el problema: un agente que se equivoca de cuenta y otro que alucina saldos bancarios producen el mismo efecto en el usuario, que no puede distinguir uno del otro.
Meta responde que son «incidentes aislados», que Muse solo llega a otras aplicaciones con permisos que el usuario concede explícitamente y que buena parte de las confusiones entre cuentas eran alucinaciones ya corregidas. La empresa añade que sus empleados usan versiones distintas a las del público, en revisión.
Si un asistente puede leer el banco y el mensajero, el fallo más grave no es que se equivoque: es que acierte con datos de otro.
Por qué importa más que un chatbot
Un chatbot que responde mal se corrige con otra pregunta. Un agente con permisos actúa: lee, recuerda y escribe en nombre de alguien. La industria empieza a ponerle nombre a esa laguna. En una carta al Gobierno de Estados Unidos del 17 de noviembre, los senadores Maria Cantwell y Mike Rounds advirtieron de que los bancos no siempre pueden distinguir entre un agente autorizado y un actor hostil, y pidieron a NIST estándares de seguridad para agentes defensivos.
La pregunta que deja el caso de Muse es más simple que la respuesta: cuántas aplicaciones tiene permiso de tocar tu asistente y quién revisa qué hace con ellas.
Fuentes: Reuters · TechCrunch · Carta de Cantwell y Rounds
Meta's AI agent Muse —fronted by a fuzzy mascot called Jolly— launched in September and passed 10 million downloads. It is the centrepiece of the company's plan to make money from consumer AI. According to a Reuters investigation based on more than two dozen internal posts, it is also a catalogue of privacy failures in its early stage.
Employees described cases in an internal feedback group of Muse sending messages about a childcare request they never made, career advice they never sought, product orders that did not exist and bank balances that were not theirs. One employee said that, mid-chat about tides and fishing weather, the agent appended: "BTW, two bank updates, your Capital One balance is $2,722.58, your Charles Schwab balance is $5,899.57."
Another case: an employee got a reminder to reply to a message from her sister on Signal, the encrypted messaging app, without having granted access to it.
"Not my conversation"
Reuters could not establish whether Muse was surfacing real data from other accounts or inventing it. That ambiguity is the problem: an agent that picks the wrong account and one that hallucinates bank balances produce the same effect on the user, who cannot tell them apart.
Meta says these are "isolated incidents", that Muse reaches other apps only through permissions users explicitly grant and that many of the account mix-ups were hallucinations that have been addressed. It adds that employees run different versions than the public while reviewing features.
If an assistant can read your bank and your messenger, the worst failure is not that it gets things wrong: it is that it gets someone else's right.
Why it matters more than a chatbot
A chatbot that answers badly can be fixed with another question. An agent with permissions acts: it reads, remembers and writes on someone's behalf. The industry is starting to name the gap. In a November 17 letter to the US government, senators Maria Cantwell and Mike Rounds warned that banks cannot always tell an authorised agent from a hostile actor, and asked NIST for security standards for defensive agents.
The question Muse leaves behind is simpler than the answer: how many apps is your assistant allowed to touch, and who checks what it does with them?
Sources: Reuters · TechCrunch · Cantwell-Rounds letter
Sigue leyendo
Keep reading
Google encierra a sus agentes en un internet falso para entrenarlos sin riesgo
La compañía construyó una réplica aislada de la web: Chrome sin interfaz dentro de gVisor, un proxy que desvía cada petición y certificados firmados al vuelo para que el agente no note la diferencia.
Google encierra a sus agentes en un internet falso para entrenarlos sin riesgo
La compañía construyó una réplica aislada de la web: Chrome sin interfaz dentro de gVisor, un proxy que desvía cada petición y certificados firmados al vuelo para que el agente no note la diferencia.
OpenAI dice que sus agentes ya completan solos el 46 % de las investigaciones de varias horas
La compañía publicó una medición interna: sus agentes resuelven casi la mitad de las tareas de investigación de dos a cuatro horas sin intervención humana. El dato mueve la conversación del «puede» al «cuánto».
OpenAI dice que sus agentes ya completan solos el 46 % de las investigaciones de varias horas
La compañía publicó una medición interna: sus agentes resuelven casi la mitad de las tareas de investigación de dos a cuatro horas sin intervención humana. El dato mueve la conversación del «puede» al «cuánto».
Un investigador británico abrió las defensas de GPT-6.2 Astra con la mitad de intentos
La tarjeta de sistema de OpenAI reconoce una «regresión sustancial»: el instituto de seguridad de IA del Reino Unido construyó un jailbreak universal contra dos versiones previas al lanzamiento. OpenAI dice haberlo mitigado; el instituto aún no lo ha verificado por su cuenta.
One British researcher broke GPT-6.2 Astra's guardrails with half the attempts
OpenAI's system card concedes a "substantial regression": the UK AI Security Institute built a universal jailbreak against two pre-release versions. OpenAI says it is mitigated; the institute has not independently verified the fix.


