DW Documental

Nuestras vidas están cada vez más marcadas por algoritmos, que a menudo toman decisiones cruciales. A primera vista parecen incorruptibles y justos. Sin embargo, están condicionados por los prejuicios de programadores y usuarios.

Contribuyen a crear un mundo desigual. ¿Qué pasa si asignamos a estos sistemas algorítmicos cada vez más tareas? Los algoritmos ahora determinan si somos solventes, calificados para recibir asistencia social o qué pareja es adecuada para nosotros. Toman decisiones sobre nuestras vidas, a nuestras espaldas y sin nuestro conocimiento. Idealmente es que sean más eficientes que nosotros y que, con su fría lógica, eliminen la fuente «humana» de error. Pero si miras detrás de la fachada de la inteligencia artificial, encontrarás una imagen completamente diferente y bastante inquietante. Los autores de este reportaje contactaron con personas que han resultado perjudicadas por la aplicación de algoritmos. Como Marie, que desarrolló anorexia como resultado de los algoritmos de YouTube. O Macarena, que tuvo que esconderse durante seis años mientras su violento marido seguía en libertad porque un algoritmo consideraba que ella estaba a salvo. O Derya, cuyo matrimonio fracasó y se quedó sin hogar con sus hijos tras ser considerada estafadora por un algoritmo. Decisiones de un enorme impacto para quienes las sufrieron y cuyas fuentes de error, analizadas más de cerca, no pueden atribuirse a los algoritmos, sino a los desarrolladores y clientes.

¿Qué sucede si asignamos cada vez más tareas a estos sistemas algorítmicos? Además de los afectados, también opinan investigadores, directivos, denunciantes, políticos y artistas.