Meta se pasa de listo con su inteligencia artificial y termina pidiendo disculpas por meterse con los hijos de una usuaria

Me crucé con esta historia una de esas mañanas en que uno se sienta frente a la pantalla todavía con el termo del mate a medio camino, y la verdad es que me dejó pensando más de lo que esperaba. Resulta que una usuaria de Instagram, vecina de esos barrios donde la gente todavía se conoce por el apodo, subió un video cantando con su hijo en el auto, una de esas escenas cotidianas que cualquiera comparte sin pensar demasiado. Debajo de la publicación, el asistente de inteligencia artificial que Meta tiene metido dentro de Facebook e Instagram se mandó una de las suyas: en lugar de quedarse calladito o sugerir algo razonable, apareció con la pregunta ¿quién es el niño pasajero?, como si fuera un detective revisando la escena del crimen.

Lo grave vino después. Cuando la mujer seleccionó la pregunta, el chatbot empezó a escupir información sobre sus hijas, incluyendo la edad y el lugar donde vive la familia, datos que uno normalmente no anda regalando en una red social. Pero hay más: la herramienta le mostró fotos de las nenas que habían sido publicadas antes en la plataforma, incluso una que la usuaria juraba haber eliminado hacía años. La mujer contó que el sistema cruzó publicaciones propias con las de otros familiares para armar ese menú de sugerencias que nadie le había pedido.

La respuesta de Meta: nos equivocamos, lo arreglamos

Dina El-Kassaby, la portavoz de la compañía, salió a hablar con la prensa y reconoció sin demasiados rodeos que la empresa se equivocó. Dijo textual que la función nunca debería haber sugerido ese tipo de preguntas al usuario, una frase que en boca de una multinacional suele sonar a pedido de disculpas corporativo pero que, en este caso, llegó después de un papelón importante. La empresa aclaró algo importante para entender el problema: su sistema no accede a contenido privado, o sea que no entró a fotos borradas de un servidor escondido, sino que trabajó únicamente con información que la propia usuaria ya podía ver en la plataforma.

Entonces, ¿dónde estuvo el quilombo? Según Meta, no fue un robo de datos ni una violación de la intimidad a la antigua, sino algo más de estos tiempos: la inteligencia artificial interpretó y relacionó información disponible de una manera que terminó siendo invasiva. La función estaba pensada como una ayuda para que el usuario obtenga más contexto sobre lo que está mirando, una especie de copiloto curioso de la red social. El error fue que ese copiloto aplicó su lógica sobre datos personales y familiares sin los filtros adecuados, y terminó preguntando cosas que ningún desconocido en un bar se animaría a preguntar.

“La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Un historial que preocupa y un debate que no se cierra

• Meta ya corrigió el comportamiento que permitía generar ese tipo de recomendaciones invasivas.
• La empresa trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar.
• No es la primera vez que Meta enfrenta cuestionamientos por sus herramientas de inteligencia artificial.
• En julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas parecidas.
• El episodio reaviva la discusión sobre los límites que deben tener los asistentes de inteligencia artificial cuando procesan información personal, aunque esos datos sean públicos.

Uno se queda dando vueltas con esta noticia y no puede evitar preguntarse hasta dónde llega la mano de estos sistemas que se inventan las grandes empresas de Silicon Valley. La discusión ya no pasa solamente por si te hackean el mail o te roban la contraseña, que de eso hablamos siempre, sino por algo más sutil y por momentos más inquietante: asistentes digitales que leen lo que publicás, lo cruzan con lo que publican tus hermanos, tus tíos, tus viejos, y terminan armando un mapa de tu familia que vos mismo no tenías tan claro. Y lo ofrecen en bandeja, como si fuera una recomendación de película.

Mientras tanto, en el barrio, en la peña de los jueves, en la esquina donde todavía se toma café con leche cortado, uno escucha cada tanto eso de que la tecnología avanza más rápido que las leyes y que las costuras éticas. Esta vez la frase me sonó especialmente cierta. La empresa promete que lo arregló, y seguramente algo hará, porque el escarnio público en estos casos suele ser más rápido que cualquier memorandum interno. Pero la pregunta de fondo sigue picando: si una inteligencia artificial puede reconstruir la vida íntima de una familia a partir de lo que ella misma decidió compartir, ¿quién pone los límites entre lo útil y lo invasivo? Por ahora, parece, lo siguen poniendo las empresas, y eso es lo que a mí, la verdad, me sigue preocupando.