Si la IA elige tus canciones, ¿está poniendo en riesgo la representación de género?

En la era digital, los algoritmos de inteligencia artificial (IA) están cada vez más presentes en nuestras vidas, influyendo en todo, desde nuestras decisiones de compra hasta el contenido que consumimos. Este fenómeno también se refleja en la música, y el DJ IA de Spotify es un claro ejemplo de cómo la IA está transformando nuestra experiencia musical. Pero, ¿qué sucede cuando analizamos estos algoritmos desde una perspectiva de Diversidad, Equidad, Inclusión y Pertenencia (DEIP)?

Hace unos meses, comencé a participar en un grupo de Slack llamado Diversa IA, basado en el Reino Unido, en el que personas interesadas en la IA trabajan para promover la diversidad en este campo. 

En una de las conversaciones, mi colega Bech comentaba: «Estoy investigando el uso creciente de la Inteligencia Artificial Generativa (GAI, por sus siglas en inglés) en la estrategia. Junto con un colega, estamos diseñando una serie de experimentos para probar los efectos de la GAI sobre la prospección, es decir, nuestra capacidad para prever el futuro».

Mientras escuchaba música en la plataforma verde, (suena Cancamusa) y pensaba en todo esto, me vino a la mente el DJ IA de Spotify, una función que me encanta y que personaliza mi experiencia musical. 

Este DJ IA, con la voz de Olivia «Livi» Quiroz Roa -quien trabaja como curadora en la app- utiliza IA generativa para ofrecer recomendaciones basadas en mis gustos, pero también en los intereses comerciales de la plataforma. 

Lo curioso es que, como muchos otros sistemas de recomendación, la IA en Spotify prioriza ciertos géneros y artistas que han pagado por visibilidad, lo que resalta un dilema importante: ¿qué papel juegan los sesgos comerciales en nuestras decisiones musicales?

Los algoritmos no son neutrales

El DJ IA de Spotify no es solo una herramienta tecnológica; también refleja cómo los algoritmos pueden influir en nuestras decisiones de manera sutil pero poderosa. 

La voz de Livi, quien tiene un papel crucial en la curaduría de playlists y en el programa EQUAL México, ha sido seleccionada por ser amigable y cercana, algo que refleja un estereotipo de género que asocia las voces femeninas con cualidades como amabilidad y cercanía. Sin embargo, esto también refuerza un patrón de exclusión: ¿por qué no se eligen voces femeninas para roles más técnicos o autoritarios en la tecnología?

Desde una perspectiva más amplia, este sesgo de género también está presente en cómo la IA selecciona y prioriza géneros musicales. El efecto de anclaje, por ejemplo, puede influir en nuestras preferencias hacia géneros como el reggaetón, bloqueando otras opciones menos comerciales o alternativas que podrían ser culturalmente ricas, pero no tan rentables para la plataforma.

El sesgo en las recomendaciones

Además de los sesgos de género, el sesgo de disponibilidad también es un factor importante. Spotify, al recomendar música, tiende a priorizar aquellas canciones que ya son populares o ampliamente escuchadas en la plataforma, lo que favorece a artistas establecidos y minimiza la visibilidad de artistas emergentes o aquellos de comunidades marginalizadas. Esto refuerza un patrón comercial que hace más difícil para voces diversas, como las de mujeres, comunidades LGBT+, y artistas independientes, llegar a un público más amplio.

Esto se ve reflejado en la heurística de representatividad, que asegura que los algoritmos tienden a replicar estereotipos sobre lo que se considera «buena música». De esta forma, géneros como el pop o los géneros urbanos, que se alinean con perfiles demográficos específicos, reciben más visibilidad, mientras que otros estilos menos comerciales, pero culturalmente significativos, como el tango o la música folclórica, quedan en el olvido.

La exclusión de la diversidad: de la exclusividad a la inclusividad

El acceso al DJ IA de Spotify, que está restringido sólo a los usuarios que pagan por la suscripción Premium, también genera un barrio “marginal” digital que amplifica la inequidad. 

Este tipo de exclusión no solo afecta a quienes no tienen acceso a las funciones premium, sino que también perpetúa la desigualdad en términos de visibilidad, oportunidad y disfrute. Las recomendaciones algorítmicas favorecen a los artistas que pueden pagar por estar presentes en las listas de reproducción, lo que pone en desventaja a los artistas independientes o de comunidades históricamente marginadas.

¿Hacia una IA más inclusiva?

A pesar de los avances del programa EQUAL, que busca visibilizar a las mujeres en la música, aún queda mucho trabajo por hacer para garantizar que estas iniciativas realmente influyan en todas las recomendaciones algorítmicas, sin estar limitadas por masculinidades homogéneas. 

Para lograr un verdadero cambio, debemos promover la creación de algoritmos que no solo consideren intereses comerciales, sino también intereses culturales, respetando y promoviendo una representación auténtica de todas las voces.

Este desafío de inclusión es clave para repensar cómo las herramientas de IA no solo afectan nuestras decisiones cotidianas, sino cómo nos permiten construir futuros más inclusivos para todos los usuarios, independientemente de su acceso a recursos económicos o su identidad.

Mejorar la programación de los algoritmos

Es fundamental aumentar la transparencia en los algoritmos de recomendación, explicando cómo funcionan y cómo los incentivos comerciales influyen en las decisiones. Al hacerlo, los usuarios podrían promover una verdadera diversidad en las recomendaciones, lo que podría equilibrar los intereses comerciales con los culturales, amplificando voces diversas y minimizando sesgos no intencionados.

Al final, la IA no debería ser una caja negra que refuerce desigualdades, sino una herramienta que refleja y amplifica la pluralidad humana. En este sentido, la utopía digital sería aquella donde las voces emergentes, las que han sido históricamente opacadas, finalmente ocupen el lugar que les corresponde.

Desafíos y oportunidades

La tecnología, como el DJ IA de Spotify, está avanzando rápidamente, pero también nos presenta importantes dilemas éticos y sociales que no podemos ignorar. 

Es momento de cuestionar cómo los algoritmos están modelando nuestra experiencia musical y cómo podemos usar la IA para desafiar las desigualdades y promover una inclusión en este tema, como en muchos otros, para mejores toma de decisiones. Como dice el profesor Thaler y refuerza Cassie Kozyrkov quien es la ex – primera científica de datos en Google, la IA tiene el potencial de transformar el futuro, pero debemos asegurarnos de que lo haga de una manera que favorezca a todos, sin excluir a aquellos que han sido históricamente invisibilizados. ¡Vamos por ello!