La carrera por implementar nuevas herramientas tecnológicas se acelera día a día junto con la promesa del perfeccionamiento y la simplificación de nuestras actividades cotidianas. La inteligencia artificial está presente donde sea que miremos, pero ¿realmente representa un avance? ¿Qué clase de datos reproducen los dispositivos y aplicaciones que nos rodean? ¿Son realmente objetivos, como muchas veces nos quieren hacer creer? En «Una falla en el sistema», el nuevo episodio del podcast Detrás de lo invisible indagamos los procesos detrás de las tecnologías, los sesgos que reproducen y las consecuencias que tiene el hecho de considerarlas neutrales.
En 2017, un estudio de la Universidad de Washington, Estados Unidos, evaluó la representación de 45 profesiones en Google Imágenes. El resultado quizás no sorprenda: se registró que las imágenes de hombres superan en gran medida a las de las mujeres, en especial en puestos jerárquicos altos como es el caso de la dirección general de empresas. No es una casualidad, es tan solo uno de muchos ejemplos. Si se buscan en Internet fotos de cocinas, es más factible encontrarlas asociadas a mujeres. Una búsqueda que es multiplicada por los algoritmos de los motores de búsqueda y que tiene como base la misma tecnología usada en muchos otros ámbitos: chatbots que nos sugieren productos y servicios; publicidades; aplicaciones de finanzas que nos aconsejan operaciones e incluso dispositivos de salud que realizan diagnósticos médicos.
(Te puede interesar: Detrás de lo invisible: un nuevo podcast de La Primera Piedra)
los errores no se tratan únicamente de obstáculos en el funcionamiento, sino también de los mecanismos que reproducen los sesgos de quienes están detrás de esa tecnología, reduciendo oportunidades. Después de todo, son muchas veces los algoritmos y la inteligencia artificial la que en definitiva termina decidiendo en muchos casos qué servicios, trabajos y resoluciones están disponibles y para quién.
¿Qué pasa cuando la vida está cada vez más automatizada por mecanismos que reproducen las mismas discriminaciones y prejuicios que sus programadores, para cobrar después cierta autonomía? En «Una falla en el sistema», el quinto episodio del podcast Detrás de lo invisible, nos preguntamos qué es la inteligencia artificial, cuál es su historia y por qué no es tan objetiva ni perfecta como la lógica de las denominadas «ciencias duras» quiere hacernos creer. Porque los errores no se tratan únicamente de obstáculos en el funcionamiento, sino también de los mecanismos que reproducen los sesgos de quienes están detrás de esa tecnología, reduciendo oportunidades. Después de todo, son muchas veces los algoritmos y la inteligencia artificial los que en definitiva terminan decidiendo qué servicios, trabajos y resoluciones están disponibles y para quién.
(Te puede interesar: «La revolución de los bolsillos»: cuarto episodio del podcast Detrás de lo invisible)
A través de distintas investigaciones, exploramos qué pasa con los bancos de imágenes, los sistemas de reconocimiento facial, los asistentes de voz, la tecnología aplicada a la medicina, los procesos de admisiones laborales, e incluso con el servicio de traducciones de Google. En este episodio, escuchamos también un fragmento de la exposición «Ciencia con perspectiva de género», organizada por el Ministerio de Ciencia, Tecnología e Investigación el año pasado y que contó con los aportes de varios investigadores e investigadoras, entre ellos, Victoria Peterson, del Instituto de Matemática Aplicada del Litoral, quien desarrolló su charla sobre los sesgos que trae la inteligencia artificial.
Y también analizamos una cuestión de fondo clave: ¿por qué la brecha de género se sigue reproduciendo en el mundo de la big data? ¿Qué hacer para motorizar cambios profundos? Una de las respuestas está, por supuesto, en el porcentaje de mujeres y diversidades que participan del ámbito científico y tecnológico a nivel mundial, que hoy está por debajo del 20%.
Además, vamos para atrás en la historia para rastrear uno de los primeros casos documentados de sesgos en el diseño de algoritmos: un sistema creado en los ’70 en una escuela de medicina en Inglaterra para seleccionar candidatos y candidatas. Y también analizamos una cuestión de fondo clave: ¿por qué la brecha de género se sigue reproduciendo en el mundo de la big data? ¿Qué hacer para motorizar cambios profundos? Una de las respuestas está, por supuesto, en el porcentaje de mujeres y diversidades que participan del ámbito científico y tecnológico a nivel mundial, que hoy está por debajo del 20%. Pero esto no fue siempre así. De hecho, las mujeres fueron pioneras en el campo de la Informática. ¿En qué momento esto cambió y por qué?
Como siempre, intentamos dar algunas respuestas no sin quedarnos con más preguntas que nos permiten afilar la mirada sobre todas las cosas que nos rodean. El cuerpo, la ciudad, el deporte, la ropa y, en este caso, la tecnología son espacios de nuestra vida cotidiana en donde siguen pesando estereotipos, discriminaciones, prejuicios que se encuentran tan naturalizados que, a veces, nos resultan invisibles. De esto trata este podcast, que con este ya va por su quinto episodio, esperando desandar aquellos sentidos comunes que reproducimos sin pensarlo.
