Meta y Muse: el asistente que sabe mas de tu entorno que tu vieja

A todos nos pasa: le pedis al celular que te recuerde una fecha del aniversario y te termina cantando datos de la suegra. Ahora imagine algo parecido pero al reves. No es usted el que guarda la informacion de su entorno: es el propio asistente, que cada hora, en silencio, se ocupa de armar fichas sobre las personas que lo rodean.

Que hace Muse con la vida de los demas

Muse es el asistente de inteligencia artificial de Meta, la empresa due de Facebook, Instagram y WhatsApp. La compania lo presenta como una herramienta para reconocer facturas del plomero de toda la vida o acordarse de las flores que le gustan a la pareja. Para eso, el sistema junta informacion del usuario y de quienes lo rodean. Lo explico Daniel Roberts, vocero de la compania, en dialogo con el sitio especializado TechCrunch.

El mecanismo quedo al descubierto por Karan Joshi, investigador independiente en seguridad informatica e IA, al pedirle al chatbot que comparta archivos internos durante una charla comun y silvestre. Asi se topo con un procedimiento que se ejecuta cada sesenta minutos: la IA ordena datos en perfiles sobre familia, pareja, amigos, companeros de trabajo y hasta cuentas que el usuario sigue en redes.

• Cumpleanos y aniversarios
• Cambios de domicilio
• Objetivos de ahorro compartidos
• Discusiones o desacuerdos previos
• Intereses en comun
• Asuntos pendientes entre las partes

Las instrucciones obtenidas aclaran un punto importante: la ficha solo se completa si hay evidencia en las conversaciones o conexiones del usuario. O sea, el sistema no inventa. Lo cual, hay que decirlo, es un alivio: si ya me genera paranoia que mi celular sepa a que hora llega el cole, imaginen si encima se pone creativo.

“La informacion procede de contenidos publicos y de aquello que el usuario comparte. Cada persona dispone de una maquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

La empresa asegura que existen controles: un registro de auditoria para revisar que hizo el agente, la posibilidad de borrar la informacion almacenada y la opcion de cortar el envio de datos desde servicios externos. Tambien aclara que el sistema pide confirmacion antes de mandar un mail o hacer una compra. Suena razonable, siempre y cuando uno se tome el tiempo de meterse en cada uno de esos menus.

Ahora bien, aca viene la parte que a mi, pobre columnista tecnologico, me deja la remera sucia. El control de la memoria queda en manos de quien instalo Muse. Traducido al castellano del hogar: el que decide que se borre la ficha de tu persona sos vos? No. Sos tu cuñado, que fue el que le hablo a la IA. Las personas incluidas en esos perfiles no tienen herramienta para revisar que se guarda sobre ellas ni para pedir que se elimine. Ni un boton, ni un formulario, ni un correo a un supuesto responsable. Nada.

En criollo: Meta te vende un asistente que conoce los movimientos de tu entorno con nivel de detective privado, pero deja la decision de borrar esa informacion en manos de la persona que lo configuro. Uno imagina el dialogo familiar: 'Querida, mi AI sabe que discutimos por el viaje a Mar del Plata. Tranqui, yo lo borro cuando me acuerde.'

Como moverse dentro del sistema

Meta sostiene que los datos provienen de contenido publico y de lo que comparte el usuario, y que existe un registro de auditoria accesible. Para quien ya este usando Muse, el consejo es simple: metase ahora, no en vinci, en el menu de configuracion del asistente. Revise el registro de actividad, borre lo que no quiera que quede asentado y corte el envio de datos desde servicios externos que no use. Y si le molesta que el chatbot tenga una semblanza de su tia mas que usted mismo, considere no usar la herramienta hasta que Meta habilite un canal para que los terceros incluidos en los perfiles puedan pedir que se borre lo guardado sobre ellos.