Un grup de recerca en Tecnologia Musical de la Universitat Pompeu Fabra de Barcelona amb la Universitat d'Utrecht (format per Andrés Ferraro, Xavier Serra i Christine Bauer) prova que els algoritmes de recomanació musical podrien augmentar la bretxa de gènere en la música. Els investigadors van determinar, a partir d'entrevistes amb artistes musicals, que la justícia de gènere és una de les seves principals preocupacions, i és així com van fixar-se l'objectiu d'entendre el funcionament dels algoritmes de recomanació musical de plataformes d'ús habitual. 

La recerca sorgeix alineada amb la tesi doctoral d'un dels investigadors de l'estudi, Andrés Ferraro, que pretén idear sistemes de recomanació més justos amb els i les artistes. "Per tant, el primer era definir què significa per als artistes que les plataformes siguin més justes", explica Ferraro. Així, van entrevistar diversos artistes, de gènere, estil, popularitat i edat diferents. "Aproximadament, un 20% de les entrevistes van ser a artistes dones. És interessant veure que tots els entrevistats, fins i tot els homes, veuen el balanç de gènere com un dels problemes en els algoritmes."

Així van començar a investigar amb un algoritme habitual (Alternating Least Square), comparant dos conjunts de dades públiques que contenen informació sobre el que escolten usuaris reals, i aviat van adonar-se que el primer nom femení de la llista de recomanacions es troba en la sisena o setena posició. A més, van observar com només un 25% de les propostes recomanades per l'algoritme eren creades per dones.

Tot i això, en el seu estudi s'observa com aquestes dades canvien depenent de l'algoritme usat. Amb l'ALS (Alternating Least Square, el més habitual, i el que empren per a l'anàlisi) i l'RND (que genera recomanacions aleatòries -o random-), els números de dones recomanades eren realment baixos. En canvi, amb un sistema que recomana el mateix a tots els usuaris, aquell contingut més popular (POP), el nombre de dones recomanades, així com la posició en què es trobaven, eren molt superiors. "No ho hem investigat en profunditat, però entenem que està relacionat amb la distribució d'artistes dones en els diversos gèneres musicals. En el gènere pop hi ha una major representació femenina que en d'altres gèneres. Com que molts usuaris escolten música que no és pop, on les dones hi són menys representades, globalment l'algoritme ALS recomana menys dones en comparació a l'algoritme POP", analitza Ferraro.
 
Ferraro també aclareix així mateix que no és que l'algoritme amagui les dones artistes, sinó que reprodueix la bretxa ja existent en el conjunt de dades, és a dir, en el còmput total de músics amb què treballa la plataforma, en què, aproximadament, només hi ha, d'igual manera, un 25% de dones artistes.

Malgrat tot, cada plataforma musical utilitza el seu propi algoritme per a donar recomanacions, i sovint no sabem quin és, cosa que, segons diagnostica Ferraro, "és un dels principals problemes: la falta de transparència per part de les plataformes respecte al seu sistema de funcionament. Per això creiem que és important generar consciència sobre aquest tema, per poder reclamar més transparència i regulacions".

Com es pot lluitar contra aquest biaix?
Si es vol evitar el biaix quant a gènere en les recomanacions, quan encara existeix en el nombre d'artistes publicades i llistades en les diferents plataformes musicals, pels tres investigadors va quedar clar que calia alguna mena de discriminació positiva. I per això van crear una simulació per observar diferents escenaris i situacions i quina en seria la solució. "Per exemple, si canviem l'ordre de recomanacions, posant les artistes dones a les primeres posicions, podem observar com en canviaria l'exposició. D'aquesta manera veiem que, després de cert temps, ja no seria necessari modificar aquest ordre en clau de discriminació positiva, ja que el mateix algoritme produiria resultats més equitatius", explica Ferarro. "És important notar que l'algoritme es retroalimenta del comportament dels usuaris. Aquest efecte és el que es coneix com a feedback loop".

Amb això en ment, l'objectiu de l'investigador és aprofundir en les solucions i buscar alternatives als algoritmes emprats fins ara en la seva tesi, que lliurarà aquest mateix setembre. "Personalment crec que aquests temes són molt importants i m'agradaria seguir fent-ne recerca relacionada. Per poder resoldre aquests temes crec que és important que les persones siguin conscients del problema i exigeixin millors regulacions."