¿Cómo se manifiestan los sesgos en los algoritmos de IA?

Primero hay que entender que los sesgos no son algo que hace la inteligencia artificial, sino que las respuestas o los resultados de la inteligencia artificial vienen sesgados. Y lo otro, es que la inteligencia artificial entrega resultados, textos, imágenes y estos resultados vienen con sesgos. Esto se da principalmente por dos cosas: la inteligencia artificial en el fondo se alimenta de data, y los resultados son sesgados porque esta data viene sesgada. Y, por otro lado, también tenemos resultados sesgados por quienes desarrollan los algoritmos de inteligencia artificial. Entonces los resultados de la inteligencia artificial son sesgados porque los humanos tenemos sesgos.

¿Cómo sería un ejemplo de resultado sesgado?

Hace poco estuve en una conferencia que ponían de ejemplo la palabra manager, que sería líder y que en inglés no tiene género, en la parte de imágenes de IA. Y sale la imagen de un hombre joven que parece actor de cine. Ahí vemos sesgo de edad, género, hasta de etnia, porque son blancos, rubios, de ojos claros.

¿Qué se puede hacer para que esto no ocurra, o para que ocurra menos?

Deberíamos tener datos de entrenamiento para la inteligencia artificial que realmente reflejen mayor diversidad. Primero debemos darnos cuenta de que tenemos sesgos. Cuando los evidenciamos, entonces podemos “limpiar” o utilizar data que tenga nada o poco sesgo. Luego, revisando los resultados de la inteligencia artificial para ver si efectivamente siguen sesgados o no, con prueba y error: revisando y corrigiendo.

Por otro lado, por supuesto que necesitamos diversidad en los equipos de desarrollo: más mujeres, pero también gente de diversas edades, distintos conocimientos y experiencias. Se pueden disminuir los sesgos y capacitar a los equipos para que entiendan cuál es la importancia de tener resultados sin sesgos, qué es un sesgo y cómo evitarlo.

¿Qué experiencias y buenas prácticas conocés de organizaciones que estén trabajando para evitar estos sesgos?

Hay un hermoso challenge, que lo generó Theodora, una empresa que se dedica a filtrar la data con la que se alimenta la inteligencia artificial para que esté menos sesgada. Ellos crearon un desafío que se llama Anti-Bias World Challenge: la idea era generar la base de datos más grande del mundo con frases sesgadas. Lo que se logra con tener esta base es evidenciar los sesgos. Esto permite hacer un inverso, tener una base de datos que no esté sesgada cuando se le muestra a la inteligencia artificial los sesgos.

¿Creés que utilizada correctamente la IA tiene la potencia de contribuir a promover una mayor equidad?

La inteligencia artificial tiene tanta potencia para crear una sociedad mejor como para aumentar las brechas que ya tenemos. No es ni buena ni mala, va a depender de cómo la usemos.

Se habla mucho de los sesgos cuando se usa IA para entrevistas de trabajo, que me reconoce que soy mujer, si soy de alguna etnia. Pero pensémoslo al revés: podríamos tener un currículum y que la IA pudiera solamente analizar la experiencia, los estudios, los requisitos reales para ese cargo, las habilidades.

Yéndonos para el lado más de las mujeres, si tenemos acceso a la IA, hay muchas herramientas gratuitas a las que se puede acceder para aprender, o trabajos que nunca pensamos, o potenciar un emprendimiento con estas herramientas que han ido saliendo y que facilitan el día a día para armar un modelo de negocio, marketing, comunicar mejor, comunicar en otros idiomas. Se abre un mundo de posibilidades que, viéndolo desde el lado positivo, podríamos usar para disminuir brechas.

Teniendo en cuenta que hay muy pocas mujeres entre los equipos de desarrolladores, ¿cuáles creés que son los mayores desafíos y barreras que hoy enfrentan las mujeres para ingresar y avanzar en este tipo de carreras?

De las personas que están en el ámbito de la IA, solo el 22% son mujeres. Entonces lo primero que hay que hacer es lograr estar.

Hace poco quería hacer una imagen de fundadoras de startups, creo que hice como 30 y ninguna me gustó, iba probando que fueran latinas, diversas, en el ámbito tecnológico, pero nada resultó. Es que, como no estamos, ni la misma IA nos puede representar, porque no tiene la data para reflejar.

¿Qué podemos hacer? Primero abrir esta conversación: mostrar que somos pocas y que podemos ser más, mostrar con el ejemplo que se puede.  A lo mejor no queremos estar desarrollando, pero estamos usando, promocionando, desde el lado de los sesgos, o desde enseñar estas herramientas para impulsar y apoyar a que más mujeres estén en este camino.

También es importante que haya hombres que nos apoyen, entender que esto lo hacemos juntos. Desde el lado masculino, abrir la mente, comprender que cuando hay equipos más diversos, más equilibrados, se desarrollan más innovaciones con menores sesgos, más ética, más alternativas de uso.

¿Formás parte de iniciativas que promuevan esta mayor participación femenina?

Estoy en dos: una es el G100. Ahí estoy liderando el ala Startup Ecosystems. La idea es fomentar, potenciar y ayudar a que más mujeres se atrevan a emprender en tecnología, es decir, que funden sus startups.

Por otro lado, desde la comunidad K-chAI, que luego va a ser una plataforma de aprendizaje, estamos impulsando que haya más mujeres en la comunidad, donde conversamos y compartimos temas de tecnología y especialmente en inteligencia artificial.

En tu charla TEDx «El fin de las empresas» hablás de la importancia de generar una nueva cultura empresarial. ¿Qué lugar tiene la diversidad, equidad e inclusión en esta nueva cultura?

Hablo de que es el fin de las empresas porque es el fin de las empresas como las conocemos, y en el fondo aquellas que no se trasformen van a morir. La clave para la trasformación es el cambio cultural y éste implica, de partida, cambiar la forma de liderar e ir generando una nueva cultura.

Esta nueva cultura implica colaboración, equipos diversos, confianza, autonomía, implica ya no jerarquía, sino redarquia. Entonces quien lidera ya no es como una cabeza que está arriba, es alguien que habilita, que dice “¿cómo te ayudo?”, es alguien que conoce las motivaciones de su equipo. Alguien que cree en los equipos diversos, que efectivamente entiende que es más rentable tener equipos de distintas edades, géneros, de distintas universidades o de institutos de educación superior.

Cuando hablo de cultura, hablo de esto, de una cultura de agilidad, de prueba y error, de que las personas en el equipo puedan aportar, proponer, sean escuchadas. 

Para terminar, cerramos con la misma pregunta con la que concluís tus podcasts: ¿cómo ayuda Tania Yovanovic Catepillán a transformar el mundo?

De partida pongo toda mi energía en mi propósito, que es cerrar las brechas de conocimiento en tecnología, y especialmente en IA. Bajo este propósito es que hago todo lo que hago, desde mi podcast, la consultoría, los comités asesores en los que participo, desde K-chAI que hacemos ahí comunidad y muchos conversatorios, hasta las conferencias. Todo con este hilo conductor para poder cerrar la brecha. Me encanta lo que hago, y espero en realidad que con esto esté ayudando a transformar personas, empresas y finalmente la sociedad.