Ética y transparencia para la detección de sesgos algorítmicos de género

Abstract

La creciente importancia de los algoritmos pone en evidencia la discriminación que se registra, especialmente en género y minorías, así como la necesidad de transparencia en la aplicación de estas fórmulas frente a la opacidad de las corporaciones. A pesar de estos sesgos, en los algoritmos se apoya la toma de decisiones de casi todos los campos del conocimiento y de las actividades sociales, políticas y económicas a causa de una confianza casi ciega en los procesamientos informáticos, de un imaginario tecnológico sobre su capacidad para eliminar el error y el sesgo. El Efecto Manipulador del Motor de Búsqueda o Search Engine Manipulation Effect (SEME) (Epstein y Robertson, 2015) muestra efectos muy claros sobre el comportamiento del voto. También Caliskan y Bryson (2017) han detectado la reproducción de sesgos de género y étnicos, a partir de datos ya sesgados que conducen a desviaciones estadísticas muy importantes en el Big Data.