La IA de Meta se mandó una macana con los hijos de una usuaria: ahora promete portarse mejor

Volví del súper, abrí Instagram para descansar dos minutos y me encontré con que la IA de Meta se había transformado en la abuela del barrio: de la nada, saca fotos de tus hijos que vos mismo borraste y te pregunta por tu familia. Spoiler: no es un chiste, es un fallo real que reconoció la propia empresa.

El episodio arrancó cuando una usuaria publicó un video cantando con su hijo en el auto. Hasta ahí, una escena normal de cualquier feed. El problema fue lo que apareció abajo: el asistente de Meta sugirió automáticamente la pregunta "¿Quién es el niño pasajero?". Al tocarla, el chatbot empezó a escupir datos sobre las hijas de la mujer, incluyendo edad y lugar de residencia. La cereza del postre: le mostró fotos de sus hijas ya eliminadas, cruzando datos de publicaciones propias y de familiares.

Meta la vio venir y pidió disculpas

“Nos equivocamos y la función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

La aclaración oficial es interesante: Meta no dice que haya entrado a contenido privado prohibido. Lo que admite es que su sistema interpretó y relacionó información que cualquiera puede ver en la plataforma y la convirtió en preguntas íntimas. O sea, la IA se puso creativa con material público, que no es lo mismo que hackear una base de datos, pero igual te deja la ropa tendida en la vereda.

• El error no fue acceder a datos ocultos, sino cómo la IA conectó datos visibles para armar sugerencias invasivas.
• La función está pensada para dar contexto sobre lo que estás mirando; el fallo fue aplicar esa lógica sin filtro a datos de menores.
• La empresa asegura que ya corrigió el comportamiento y trabaja para que las sugerencias no derivan hacia la vida privada.
• No es la primera: en julio, Meta tuvo que retirar una herramienta que generaba imágenes falsas de usuarios de Instagram.
• El caso reabre el debate sobre hasta dónde puede llegar un asistente cuando procesa información personal.

Mientras la empresa promete que la IA ahora se va a comportar como una invitada educada y no como el tío borracho de la fiesta, te dejo un consejo que sí podés aplicar hoy: revisá la configuración de privacidad de tus cuentas, sobre todo la sección de audiencia de publicaciones antiguas. Si subiste fotos de tus hijos en 2019 y creés que ya nadie las ve, la realidad es que la tecnología tiene más memoria que tu ex. Y ojo con aceptar todas las funciones de inteligencia artificial que aparecen activadas por defecto: cada vez que el sistema te ofrezca algo "útil", preguntate quién se beneficia con que vos compartas más de lo necesario.