Cuando la IA de Meta le pregunta a una mamá quién es el nene del video: el cruce de datos que encendió la alarma

Soy Ludmila Hudyma y arranco contándoles la escena tal como la vivió la protagonista, porque acá en el sur del mundo digital las cosas suelen empezar con un simple video. Una mujer publica en Instagram un clip donde canta con su hijo adentro del auto, una escena cotidiana, de esas que cualquier vecina del barrio subiría un domingo a la tarde. Pero debajo de la publicación apareció una sugerencia automática que la dejó helada: el chatbot de inteligencia artificial de Meta le preguntó, con todas las letras, "¿quién es el niño pasajero?". Y cuando ella tocó esa pregunta, el sistema fue todavía más lejos.

Porque la herramienta empezó a tirar datos sobre las hijas de la usuaria: edades, lugar donde vive la familia y hasta imágenes de las nenas que habían sido publicadas en la plataforma con el tiempo, incluyendo una foto que la mujer asegura haber borrado hace años. Lo más inquietante no fue solo lo que el asistente dijo, sino cómo lo armó: cruzó información de publicaciones de la propia usuaria con publicaciones de otros familiares para construir las respuestas. El material al que se accede a través de cada cuenta se convierte, sin pedir permiso, en una fuente de sugerencias que pueden volverse profundamente íntimas.

La palabra de Meta: "nos equivocamos"

“La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Desde la empresa salieron a poner la cara. Dina El-Kassaby, portavoz de la compañía, reconoció el error en nombre de la firma y dejó en claro dos cosas que nos interesa separar. Primero, que el asistente de Meta no accede a contenido privado al que quien consulta no tenga permiso: opera sobre lo que esa persona ya puede ver en la plataforma. Segundo, que el problema no fue entrar a lo prohibido, sino la forma en que la inteligencia artificial interpretó y relacionó información disponible para fabricar sugerencias que terminaron resultando invasivas. Dicho en criollo: no se metieron donde no debían, pero usaron mal lo que estaba a la vista.

• La función fue pensada para ayudar a entender mejor lo que se está viendo en la plataforma.
• El error fue aplicar esa lógica sobre datos personales y familiares sin los filtros adecuados.
• Meta asegura que ya corrigió el comportamiento que disparaba este tipo de recomendaciones.
• La empresa dice que trabaja para que las sugerencias sigan siendo útiles sin meterse en la vida privada ni en el entorno familiar de las personas.

No es la primera vez que Meta queda en el centro de la escena por decisiones de sus herramientas de inteligencia artificial. En julio pasado tuvo que retirar una función que permitía generar imágenes falsas de otros usuarios de Instagram después de recibir críticas muy parecidas a las de ahora. El patrón se repite: primero sale el producto, después llega el escandalete y, cuando la presión ya es pública, la compañía corrige el rumbo. Mientras tanto, las familias vamos viendo cómo el algoritmo aprende sobre nosotros más rápido de lo que nosotras aprendemos sobre él.

Este episodio vuelve a poner sobre la mesa una discusión que a esta altura ya no es futurista: dónde están los límites cuando un asistente de inteligencia artificial procesa información personal, aunque sea información que técnicamente el usuario ya puede ver. Acá en el sur, donde todavía muchas familias manejan sus redes con la intuición del día a día, lo que se espera de aquí en adelante es que la próxima vez que una madre suba un video cantando con su hijo en el auto, la única respuesta automática que reciba sea un "me gusta" y no un interrogatorio sobre la identidad de su propio nene.