La empresa Meta reconoció públicamente un error en el funcionamiento de su asistente de inteligencia artificial integrado en Facebook e Instagram, después de que el sistema formulara, de manera automática, preguntas de carácter personal sobre los hijos de una usuaria a partir de publicaciones accesibles dentro de la plataforma. La compañía atribuyó la falla a la manera en que la herramienta interpretó y relacionó información disponible, y no al acceso indebido a datos privados, y anunció modificaciones para evitar que situaciones similares vuelvan a producirse.

El origen del incidente

El episodio se desencadenó cuando una usuaria de Instagram divulgó un video en el que se la veía cantando junto a su hijo dentro de un automóvil. Debajo de esa publicación, el asistente de inteligencia artificial de Meta incorporó, de forma automática, una sugerencia de consulta que interrogaba sobre la identidad del menor. Al activar esa pregunta, el chatbot comenzó a aportar datos referidos a las hijas de la mujer, incluyendo referencias sobre la edad de las niñas y el lugar de residencia del grupo familiar.

La usuaria agregó, según su propio relato, que la herramienta le exhibió fotografías de sus hijas cargadas con anterioridad en la plataforma, entre ellas una imagen que manifestó haber retirado del servicio años atrás. De acuerdo con la descripción del caso, el sistema articuló información proveniente de sus propias publicaciones y de las de otros familiares para construir esas sugerencias, lo que derivó en un conjunto de respuestas de carácter íntimo.

“Se equivocó. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

La explicación oficial y los cambios anunciados

Dina El-Kassaby, portavoz de la compañía, reconoció que la empresa cometió un error y sostuvo que la funcionalidad en cuestión no debía haber producido ese tipo de sugerencias. La vocera aclaró que el sistema no accede a contenido privado al que el usuario consultante no tenga permiso, ya que el asistente opera exclusivamente sobre información que esa persona puede visualizar dentro de la plataforma.

Meta explicó que el problema no radicó en el acceso a datos vedados, sino en el modo en que la inteligencia artificial interpretó y vinculó información disponible para elaborar recomendaciones que resultaron invasivas. La función fue concebida con el propósito de asistir a los usuarios en la obtención de mayor contexto sobre el contenido que observan; el desacierto, según la compañía, consistió en que el sistema aplicó esa lógica sobre datos personales y familiares sin los filtros adecuados.

El episodio reaviva la discusión, en el ámbito tecnológico y en el regulatorio, acerca de los límites que deben observar los asistentes de inteligencia artificial cuando procesan información personal, aun cuando esa información figure como accesible para el propio usuario. Para Meta, el desafío pendiente consiste en preservar la utilidad exploratoria de su herramienta sin que la combinación automatizada de datos derive en preguntas que invadan la intimidad de las familias.