Si bien el problema de discriminación de género ya se encuentra en la industría musical, los algoritmos de recomendación musical estarían aumentando la brecha de género. Andrés Ferraro y Xavier Serra, investigadores del Grupo de investigación en Tecnología Musical (MTG) del Departamento de Tecnologías de la Información y las Comunicaciones (DTIC) de la UPF, con Christine Bauer miembro de la Universidad de Utrecht (Holanda), han publicado recientemente un trabajo sobre el equilibrio de género en sistemas de recomendaciones musicales en el que se preguntan cómo debería funcionar el sistema para evitar el sesgo de género.
En un primer momento, los autores identificaron que la justicia de género era una de las principales preocupaciones de los artistas
Inicialmente, el trabajo de Ferraro, Serra y Bauer tenía como objetivo entender la equidad de las plataformas de música disponibles en línea desde el punto de vista de los artistas. En entrevistas realizadas a artistas musicales, identificaron que la justicia de género era una de sus principales preocupaciones.
Las mujeres tienen menos exposición
Los autores probaron un algoritmo de recomendación musical de uso habitual basado en el filtrado colaborativo y analizaron los resultados de dos conjuntos de datos. En ambos casos vieron que el algoritmo reproduce el sesgo existente en el conjunto de datos, en la que sólo el 25% de los artistas son mujeres. Además, el algoritmo genera un ranking con los artistas para recomendar al usuario. Los autores vieron que en promedio la primera recomendación de una mujer artista se encuentra en la posición 6 ó 7, mientras que la de un hombre artista está en la primera posición. Ferraro, primer autor del artículo añade: "El sesgo en la exposición viene de la forma en que se generan las recomendaciones". Eso significa que las mujeres tienen menos exposición a partir de las recomendaciones del sistema.
La situación se agrava si se tiene en cuenta que a medida que los usuarios escuchan las canciones recomendadas, el algoritmo aprende. Esto crea un bucle de retroalimentación.
Con la ayuda del algoritmo reordenado, los usuarios comienzan a cambiar su comportamiento de manera que escuchan más artistas mujeres
Un nuevo enfoque para compensar el sesgo de género
Los autores del trabajo proponen un nuevo enfoque que permitiría una mayor exposición de las artistas mujeres y que consistiría en reordenar la recomendación que haría mover un número especificado de posiciones hacia abajo para solucionar el sesgo de género existente.
En una simulación, los autores estudiaron cómo las recomendaciones clasificadas afectarían el comportamiento de los usuarios a largo plazo. Los resultados mostraron que, con la ayuda del algoritmo reclasificado, los usuarios comenzarían a cambiar su comportamiento de manera que escucharían más artistas mujeres que con otros algoritmos de recomendación musical y, además, el nuevo algoritmo, basado en aprendizaje máquina, consolidaría este cambio de comportamiento.
###
Trabajo de referencia:
Andrés Ferraro, Xavier Serra, Christine Bauer (2021), "Break the Loop: Gender Imbalance in Music Recommenders", a Scholer F, Thomas P (eds.). CHIIR '21: Proceedings of the 2021 Conference on Human Information Interaction and Retrieval. 1 ed. New York: Association for Computing Machinery; 2021. p. 249-254. https://doi.org/10.1145/3406522.3446033