La IA de Meta se mandó una fuerte con un video familiar y la empresa tuvo que salir a pedir disculpas

Vamos por partes, porque el caso lo amerita. Una mujer subió a Instagram un video cantando con su hijo en el auto. Hasta ahí, una escena cotidiana de redes. El problema fue lo que apareció debajo: el asistente de inteligencia artificial de Meta le sugirió como pregunta automática quién era el niño que viajaba de acompañante. Y cuando la usuaria la seleccionó, el chatbot fue por más.

Ahí nomás, el sistema empezó a tirar datos sobre las hijas de la mujer: edad, lugar donde vive la familia e incluso fotos que, según dijo ella, había borrado hacía años. Todo construido cruzando publicaciones propias y de parientes. Ojo con esto: no estamos hablando de que la IA haya roto una cerradura digital para entrar a un álbum privado. La propia Meta aclara que el asistente solo opera sobre lo que la persona ya puede ver en la plataforma. El punto fino es otro.

Dónde estuvo el error, según Meta

La vocera Dina El-Kassaby reconoció que la empresa se equivocó y que esa función nunca debería haber disparado ese tipo de preguntas. El diagnóstico interno es claro: la herramienta fue pensada para dar más contexto sobre lo que el usuario está viendo, pero aplicó esa lógica sobre datos personales y familiares sin los filtros adecuados. Traducido: la IA relacionó información pública de manera tal que el resultado se volvió invasivo.

• La IA convirtió publicaciones accesibles en preguntas íntimas sobre menores.
• El cruce de datos incluyó fotos que la usuaria aseguraba haber eliminado.
• Meta sostuvo que no se accedió a contenido privado, pero admitió fallas en el filtrado.

La compañía aseguró que ya corrigió el comportamiento que permitía esas sugerencias y que trabaja para que la función siga siendo útil al explorar publicaciones, sin meterse en la vida privada ni en el entorno familiar de nadie. Difícil saber, por ahora, qué tan profundo fue el cambio y cuántas capas de control se agregaron.

No es la primera vez que Meta queda en offside por sus herramientas de inteligencia artificial. En julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas parecidas. El patrón se repite: lanzamiento, queja masiva, pedido de disculpas y corrección a los tumbos. A esta altura, ya parece un clásico de la casa.

¿Vale la pena entonces usar estas funciones de IA en redes?

Mi lectura, después de seguir el caso: si sos de los que suben todo a sus redes y tienen a los chicos dando vueltas en las fotos, conviene pensar dos veces antes de aceptar sugerencias automáticas de un chatbot. La función puede servir para entender el contexto de un posteo ajeno, pero cuando empieza a hilvanar la vida de tus hijos a partir de un video, la utilidad se desvanece rápido. Por ahora, y mientras Meta no muestre auditoría de por medio, lo más prudente es no picar en esas preguntas sugeridas. La plataforma puede tener acceso a lo que vos ya ves; el problema es lo que decide hacer con eso.