Meta activa una memoria sobre las personas del usuario sin pedirles permiso a ellas

Lo que empezó como un asistente para recordar facturas y preferencias se convirtió en un registro permanente de las personas que rodean al usuario. Meta decidió que su nuevo agente de inteligencia artificial, Muse, arme perfiles detallados del entorno sin consultar a quienes figuran en esas fichas.

La mecánica fue difundida por Daniel Roberts, vocero de la compañía, y confirmada por documentos internos a los que accedió Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial. La empresa sostiene que la información se obtiene de contenido público y de lo que comparte el usuario, y que solo el titular de la cuenta puede revisar la actividad, borrar la memoria y cortar el vínculo con servicios externos.

Que guarda exactamente Muse

• Antecedentes del vínculo, intereses compartidos y asuntos pendientes con cada persona del entorno.
• Cumpleanos, aniversarios, cambios de domicilio y desacuerdos anteriores.
• Objetivos de ahorro en comun y datos sobre la relacion con familiares, parejas, amistades, colegas y cuentas seguidas en redes sociales.

Para llegar a esos registros, el sistema corre una rutina cada hora. La instruccion es clara: trabajar con evidencia y no completar los perfiles con datos inventados. Aun con ese limite, el volumen de informacion acumulada es considerable y se construye de forma automatica, sin intervencion del usuario en cada actualizacion.

Quien tiene el control y quien no

Meta asegura que cada persona opera dentro de una maquina virtual separada y que el sistema pide confirmacion antes de mandar un correo o hacer una compra. Esos controles, sin embargo, estan en manos de quien instalo Muse. Las personas incluidas en las fichas no tienen registro de auditoria propio, no pueden eliminar la informacion que el agente guarda sobre ellas ni revisar que dice el sistema acerca de su vinculo con el usuario.

“Quien utiliza Muse puede eliminar la informacion guardada en su memoria y cortar la conexion con los servicios externos que le aportan datos.”Daniel Roberts, vocero de Meta

La promesa de la compania es que la memoria sirve para asistir en tareas cotidianas. La practica muestra otra cosa: se construye un archivo sobre terceros que no dieron consentimiento, no fueron notificados y carecen de toda herramienta para corregirlo. En la region, donde las discusiones por la proteccion de datos personales vienen acumulando promesas incumplidas desde hace anos, esta novedad vuelve a poner el tema en el centro sin que todavia exista una respuesta regulatoria firme. La decision la tomo la sede central de Meta sin consultar al norte de la frontera. Y la pelota quedo otra vez del lado de los usuarios.