Periódico tecnológico · República Dominicana
Inteligencia artificial

El agente de Meta mezcló cuentas: saldos bancarios ajenos y un aviso de Signal

Reuters revisó más de dos docenas de publicaciones internas: Muse envió trámites que nadie pidió, recordó responder a un mensaje de la hermana del usuario en Signal y soltó saldos de Capital One y Charles Schwab que no eran del destinatario. Meta habla de «incidentes aislados».

Cartel de entrada del campus de Meta en 1 Hacker Way, Menlo Park
Entrada del campus de Meta en 1 Hacker Way, Menlo Park. Foto: LPS.1 / Wikimedia Commons (CC0).

El agente de IA de Meta, Muse —con la mascota difusa llamada Jolly— llegó en septiembre y superó los 10 millones de descargas. Es la pieza central del plan de la compañía para facturar con IA al consumidor. Según una investigación de Reuters basada en más de dos docenas de publicaciones internas, también es un catálogo de fallos de privacidad en su primera etapa.

Los empleados describieron en un grupo interno casos de Muse enviando mensajes sobre una solicitud de guardería que nunca hicieron, consejos de carrera que no pidieron, pedidos de productos inexistentes y saldos bancarios que no eran suyos. Un empleado contó que, en medio de un chat sobre mareas y clima para pescar, el agente añadió: «Por cierto, dos actualizaciones bancarias: tu saldo de Capital One es 2.722,58 dólares y tu saldo de Charles Schwab, 5.899,57».

Otro caso: una empleada recibió un recordatorio para responder a un mensaje de su hermana en Signal, la aplicación de mensajería cifrada, sin haber dado acceso a esa app.

«No es mi conversación»

Reuters no pudo determinar si Muse mostraba datos reales de otras cuentas o los inventaba. Esa ambigüedad es, en sí, el problema: un agente que se equivoca de cuenta y otro que alucina saldos bancarios producen el mismo efecto en el usuario, que no puede distinguir uno del otro.

Meta responde que son «incidentes aislados», que Muse solo llega a otras aplicaciones con permisos que el usuario concede explícitamente y que buena parte de las confusiones entre cuentas eran alucinaciones ya corregidas. La empresa añade que sus empleados usan versiones distintas a las del público, en revisión.

Si un asistente puede leer el banco y el mensajero, el fallo más grave no es que se equivoque: es que acierte con datos de otro.

Por qué importa más que un chatbot

Un chatbot que responde mal se corrige con otra pregunta. Un agente con permisos actúa: lee, recuerda y escribe en nombre de alguien. La industria empieza a ponerle nombre a esa laguna. En una carta al Gobierno de Estados Unidos del 17 de noviembre, los senadores Maria Cantwell y Mike Rounds advirtieron de que los bancos no siempre pueden distinguir entre un agente autorizado y un actor hostil, y pidieron a NIST estándares de seguridad para agentes defensivos.

La pregunta que deja el caso de Muse es más simple que la respuesta: cuántas aplicaciones tiene permiso de tocar tu asistente y quién revisa qué hace con ellas.

Fuentes: Reuters · TechCrunch · Carta de Cantwell y Rounds

Compartir WhatsApp Facebook LinkedIn
The Time — Inteligencia artificial. Publicado el 21 de noviembre de 2026. Autor: Wilmer Geronimo. Más notas del periódico.

Sigue leyendo

Inteligencia artificial

Google encierra a sus agentes en un internet falso para entrenarlos sin riesgo

La compañía construyó una réplica aislada de la web: Chrome sin interfaz dentro de gVisor, un proxy que desvía cada petición y certificados firmados al vuelo para que el agente no note la diferencia.

Inteligencia artificial

OpenAI dice que sus agentes ya completan solos el 46 % de las investigaciones de varias horas

La compañía publicó una medición interna: sus agentes resuelven casi la mitad de las tareas de investigación de dos a cuatro horas sin intervención humana. El dato mueve la conversación del «puede» al «cuánto».

Inteligencia artificial

Un investigador británico abrió las defensas de GPT-6.2 Astra con la mitad de intentos

La tarjeta de sistema de OpenAI reconoce una «regresión sustancial»: el instituto de seguridad de IA del Reino Unido construyó un jailbreak universal contra dos versiones previas al lanzamiento. OpenAI dice haberlo mitigado; el instituto aún no lo ha verificado por su cuenta.

← Volver a la portada