Muse, el chatbot que te conoce mejor que tu mejor amigo: qué guarda, quién lo controla y qué podés hacer al respecto

¿Te imaginás un asistente que se acuerde de que tu suegra cumple años el martes, que sabe que discutiste con tu hermano por plata y que recuerde que tu plomero de confianza se llama Jorge? Bueno, Meta ya lo está probando y se llama Muse. La pregunta del millón es: hasta qué punto está bueno que una máquina se entere de todo eso y qué pasa con la privacidad de quienes aparecen en esas fichas sin haber pedido nada.

El asistente de inteligencia artificial de la compañía reúne información sobre el usuario y también sobre las personas con las que se relaciona. Así, puede identificar que una factura corresponde al plomero contratado anteriormente o recordar las flores favoritas de una pareja, según explicó Daniel Roberts, vocero de Meta.

Un hallazgo que abrió la caja de Pandora

El alcance de esa memoria quedó al descubierto gracias a Karan Joshi, un investigador independiente en seguridad informática e inteligencia artificial. Joshi le pidió al chatbot, en una conversación de lo más normal, que compartiera sus archivos de instrucciones internas. Y el bot, sin más, los soltó. Lo que apareció adentro fue toda una radiografía de cómo funciona el sistema por dentro.

La documentación conseguida describe una rutina que se ejecuta cada hora y que prepara perfiles sobre familiares, parejas, amigos, colegas y otras personas, incluyendo cuentas que el usuario sigue en redes sociales. Como si fuera una cocina donde se va agregando un ingrediente cada tanto, las fichas se nutren con el tiempo: antecedentes del vínculo, intereses en común, temas pendientes y datos sobre la relación. Es como tener una agenda paralela que se va completando solita mientras vos dormís.

• Cumpleaños y aniversarios
• Cambios de domicilio
• Objetivos de ahorro en común
• Desacuerdos anteriores
• Todo aquello que aparezca en conversaciones o conexiones del usuario

Eso sí: las instrucciones son claras en un aspecto clave. Para cargar cada dato, tiene que haber evidencia en las conversaciones o conexiones del usuario. La orden es trabajar con respaldo y jamás completar los perfiles con detalles inventados. Es como un cocinero que no agrega sal si nadie se la pidió.

“La información procede de contenidos públicos y de aquello que el usuario comparte. Además, cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

Qué controles tenés vos como usuario

La empresa sostiene que existen varios candados a disposición de quien usa Muse. Por un lado, hay un registro de auditoría para revisar la actividad del agente. Por el otro, se puede borrar la información guardada en la memoria y cortar la conexión con servicios externos que aportan datos extra. Antes de mandar un mail o hacer una compra, el sistema pide confirmación. Suena razonable, pero el detalle que se les escapó a varios es que ninguno de esos controles está disponible para las personas que aparecen mencionadas en los perfiles.

A tu suegra, a tu amigo o a tu socio no les preguntaron si querían estar en esa base. Y si vos querés dejar de figurar en la ficha de otro usuario, tampoco hay un botón para eso. El control de la memoria queda en manos de quien instaló Muse. Para el resto, el destino de sus datos depende de la buena voluntad ajena.

Al final del día, Muse promete ser ese asistente que conoce tu vida entera y te ahorra dolores de cabeza con recordatorios y datos contextuales. Pero como cualquier receta, conviene leer la letra chica antes de sentarse a la mesa. La diferencia entre un ayudante útil y un espía silencioso muchas veces está en quién tiene la cuchara más grande.