Muse arma fichas de los contactos del usuario y las actualiza cada hora, según un investigador

El asistente de inteligencia artificial Muse, desarrollado por Meta, crea perfiles sobre las personas que rodean al usuario con el objetivo de asistirlo en tareas cotidianas, según se desprende de un hallazgo realizado por un investigador independiente en seguridad informática. Daniel Roberts, vocero de la compañía, explicó que el sistema utiliza esa información para reconocer, por ejemplo, que una factura corresponde al plomero contratado con anterioridad o para recordar las flores favoritas de una pareja.

Según consta en la documentación obtenida por el investigador, el funcionamiento de Muse se apoya en una rutina que se ejecuta cada hora y que prepara fichas sobre familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que el usuario sigue en redes sociales. Los registros incorporan de manera progresiva antecedentes del vínculo, intereses compartidos, asuntos pendientes y datos sobre la relación.

Qué datos guarda y con qué condiciones

• Cumpleaños, aniversarios y cambios de domicilio.
• Objetivos de ahorro en común y desacuerdos anteriores.
• Antecedentes del vínculo e intereses compartidos.
• Asuntos pendientes entre el usuario y cada contacto.

El sistema requiere que exista información que respalde esos datos en las conversaciones o conexiones del usuario. Las instrucciones obtenidas por el investigador exigen trabajar con evidencia y no completar los perfiles con detalles inventados, según consta en la causa difundida por el especialista.

El hecho se produjo a partir de un pedido formulado por Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, dentro de la conversación habitual con el chatbot. Mediante esa consulta, el especialista logró que el sistema compartiera archivos con sus instrucciones internas, lo que permitió conocer el alcance de la memoria que gestiona Muse.

La posición de Meta y los controles disponibles

Roberts sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa. Según explicó, la información procede de contenidos públicos y de aquello que el usuario comparte con la herramienta. El vocero agregó que cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.

De acuerdo con lo señalado por la empresa, los controles disponibles incluyen un registro de auditoría para revisar la actividad del agente, la posibilidad de eliminar la información guardada en la memoria y la opción de cortar la conexión con los servicios externos que aportan datos. Meta afirma, además, que el sistema solicita confirmación antes de concretar acciones como mandar un correo electrónico o realizar una compra.

No obstante, el control de la memoria corresponde a quien instaló Muse. Las personas incluidas en los perfiles no disponen de los mismos mecanismos para revisar, modificar o eliminar la información que el asistente reúne sobre ellas, lo que abre un interrogante sobre el alcance de los controles en un entorno con múltiples usuarios registrados. La difusión del hallazgo mantiene el tema bajo seguimiento de especialistas en privacidad y seguridad informática, a la espera de que la compañía precise los límites del acceso y la administración de los datos obtenidos.