Descripción
Esta colección de vídeos creada por Joan Campàs, anteriormente profesor de la UOC, forma parte de un curso sobre la importancia de los algoritmos desde las dos vertientes: algoritmos que controlamos nosotros para ser más creativos y algoritmos que nos controlan a nosotros para ofrecernos (de hecho, limitarnos) opciones. También incluye un vídeo adicional con un debate que presenta el curso y los conceptos más importantes que se discuten.
Entre otros temas, el autor describe nuestro comportamiento ante estos algoritmos que supuestamente nos ayudan a encontrar lo que buscamos (los motores de búsqueda en internet) y nos recomiendan contenidos audiovisuales (como por ejemplo Spotify o Netflix, entre otros), pero que también nos ofrecen productos de interés a partir de nuestro perfil y actividad en las redes sociales y otros entornos digitales. Es como si el algoritmo pensara por nosotros, descargándonos de trabajo, pero también de responsabilidades, y aquí es donde está el problema principal: ¿y si el algoritmo nos está manipulando de alguna manera? El algoritmo puede estar introduciendo un sesgo, ya sea porque ha sido programado directamente así, o bien porque ha sido entrenado usando datos sesgados que refuerzan o debilitan ciertas opciones. Cuando un sistema de recomendación nos recomienda algo y nosotros pensamos que lo acierta más o menos, ¿qué no nos ha recomendado? ¿Qué otras opciones no hemos tenido disponibles?
El autor lleva a cabo un repaso de distintos libros que tratan estos temas y otros relacionados con nuestra participación como individuos en una sociedad digital que constantemente está capturando nuestra actividad (el teléfono, la tarjeta de crédito, las publicaciones en Instagram o en Twitter, etc.) y tomando decisiones sobre ello, con nuestro consentimiento o desconocimiento, o sin él. El caso de las fake news, noticias con información falsa que recibimos en nuestros buzones o por las redes sociales, o incluso por los medios de comunicación, ha demostrado el poder de manipulación que tienen los algoritmos para cambiar la opinión de la gente en temas tan sensibles como la política, los derechos humanos o el cambio climático, para citar algunos, pero también en otros temas más delicados como el reconocimiento facial, empleado para hacer detenciones policiales «automáticas», o la denegación de acceso a ciertos lugares o acontecimientos por el hecho de ser considerado antisocial. Es por ello que el autor termina diciendo que debemos reforzar el vínculo entre las humanidades y la tecnología para entender y enfrentarnos mejor a esta conexión entre computación y cultura.
En definitiva, ¿tú programas algoritmos o los algoritmos te programan?
En las asignaturas Introducción a la ciencia de datos y Privacidad y seguridad de los datos del grado de Ciencia de Datos Aplicada de la UOC se tratan algunos de los temas que hemos descrito aquí.
Enlace al recurso
https://www.youtube.com/playlist?list=PL_EmJvxpXI267Hxe8HeGcdzBpIY4V3UeB
Enlaces relacionados
Libro Weapons of math destruction: https://en.wikipedia.org/wiki/Weapons_of_Math_Destruction
Libro Algorithms of opression: http://algorithmsofoppression.com/
Presentación de El enemigo conoce el sistema, de Marta Peirano: https://www.youtube.com/watch?v=fdRLSVAZWAw