# «La inteligencia artificial tiene tanta potencia para crear una sociedad mejor como para aumentar las brechas que ya tenemos»

- Link: https://diversanoticias.com.ar/entrevista/la-inteligencia-artificial-tiene-tanta-potencia-para-crear-una-sociedad-mejor-como-para-aumentar-las-brechas-que-ya-tenemos/
- Published: 2024-06-13T11:33:14-03:00
- Author: Mariana Ramirez

![](https://diversanoticias.com.ar/wp-content/uploads/2024/06/Tania-Yovanovic-jpg.
avif)

**_Tania Yovanovic Catepillán es líder en transformación digital e IA en Latinoamérica,
destacada por su liderazgo femenino y su impacto como speaker TEDx. Creadora del
Podcast “Conversaciones para transformar”, con roles clave en consultoría y startups,
inspira a organizaciones y mujeres hacia un futuro tecnológico y equitativo. En 
diálogo con Diversa, reflexionó sobre los sesgos en inteligencia artificial y cómo
prevenirlos._**

### ¿Cómo se manifiestan los sesgos en los algoritmos de IA?

Primero hay que entender que los sesgos no son algo que hace la inteligencia artificial,
sino que las respuestas o los resultados de la inteligencia artificial vienen sesgados.
Y lo otro, es que la inteligencia artificial entrega resultados, textos, imágenes
y estos resultados vienen con sesgos. Esto se da principalmente por dos cosas: **
la inteligencia artificial en el fondo se alimenta de data, y los resultados son
sesgados porque esta data viene sesgada.** Y, por otro lado, también tenemos resultados
sesgados por quienes desarrollan los algoritmos de inteligencia artificial. Entonces
los resultados de la inteligencia artificial son sesgados porque los humanos tenemos
sesgos.

### ¿Cómo sería un ejemplo de resultado sesgado?

Hace poco estuve en una conferencia que ponían de ejemplo la palabra manager, que
sería líder y que en inglés no tiene género, en la parte de imágenes de IA. Y sale
la imagen de un hombre joven que parece actor de cine. Ahí vemos sesgo de edad, 
género, hasta de etnia, porque son blancos, rubios, de ojos claros.

### ¿Qué se puede hacer para que esto no ocurra, o para que ocurra menos?

Deberíamos tener datos de entrenamiento para la inteligencia artificial que realmente
reflejen mayor diversidad. **Primero debemos darnos cuenta de que tenemos sesgos.**
Cuando los evidenciamos, entonces podemos “limpiar” o utilizar data que tenga nada
o poco sesgo. Luego, revisando los resultados de la inteligencia artificial para
ver si efectivamente siguen sesgados o no, con prueba y error: revisando y corrigiendo.

Por otro lado, por supuesto que **necesitamos diversidad en los equipos de desarrollo:**
más mujeres, pero también gente de diversas edades, distintos conocimientos y experiencias.
Se pueden disminuir los sesgos y capacitar a los equipos para que entiendan cuál
es la importancia de tener resultados sin sesgos, qué es un sesgo y cómo evitarlo.

### ¿Qué experiencias y buenas prácticas conocés de organizaciones que estén trabajando para evitar estos sesgos?

Hay un hermoso challenge, que lo generó Theodora, una empresa que se dedica a filtrar
la data con la que se alimenta la inteligencia artificial para que esté menos sesgada.
Ellos crearon un desafío que se llama_ Anti-Bias World Challenge_: la idea era **
generar la base de datos más grande del mundo con frases sesgadas. **Lo que se logra
con tener esta base es evidenciar los sesgos. Esto permite hacer un inverso, tener
una base de datos que no esté sesgada cuando se le muestra a la inteligencia artificial
los sesgos.

### ¿Creés que utilizada correctamente la IA tiene la potencia de contribuir a promover una mayor equidad?

La inteligencia artificial tiene tanta potencia para crear una sociedad mejor como
para aumentar las brechas que ya tenemos. No es ni buena ni mala,** va a depender
de cómo la usemos.**

Se habla mucho de los sesgos cuando se usa IA para entrevistas de trabajo, que me
reconoce que soy mujer, si soy de alguna etnia. Pero pensémoslo al revés: podríamos
tener un currículum y que la IA pudiera solamente analizar la experiencia, los estudios,
los requisitos reales para ese cargo, las habilidades.

Yéndonos para el lado más de las mujeres, si tenemos acceso a la IA, hay muchas 
herramientas gratuitas a las que se puede acceder para aprender, o trabajos que 
nunca pensamos, o potenciar un emprendimiento con estas herramientas que han ido
saliendo y que facilitan el día a día para armar un modelo de negocio, marketing,
comunicar mejor, comunicar en otros idiomas. **Se abre un mundo de posibilidades
que, viéndolo desde el lado positivo, podríamos usar para disminuir brechas.**

#### _Teniendo en cuenta que hay muy pocas mujeres entre los equipos de desarrolladores, ¿cuáles creés que son los mayores desafíos y barreras que hoy enfrentan las mujeres para ingresar y avanzar en este tipo de carreras?_

De las personas que están en el ámbito de la IA, **solo el 22% son mujeres. **Entonces
lo primero que hay que hacer es lograr estar.

Hace poco quería hacer una imagen de fundadoras de startups, creo que hice como 
30 y ninguna me gustó, iba probando que fueran latinas, diversas, en el ámbito tecnológico,
pero nada resultó. Es que, como no estamos, ni la misma IA nos puede representar,
porque no tiene la data para reflejar.

¿Qué podemos hacer? Primero abrir esta conversación: **mostrar que somos pocas y
que podemos ser más, mostrar con el ejemplo que se puede.** A lo mejor no queremos
estar desarrollando, pero estamos usando, promocionando, desde el lado de los sesgos,
o desde enseñar estas herramientas para impulsar y apoyar a que más mujeres estén
en este camino.

También es importante que haya hombres que nos apoyen, **entender que esto lo hacemos
juntos. **Desde el lado masculino, abrir la mente, comprender que cuando hay equipos
más diversos, más equilibrados, se desarrollan más innovaciones con menores sesgos,
más ética, más alternativas de uso.

### ¿Formás parte de iniciativas que promuevan esta mayor participación femenina?

Estoy en dos: una es el **G100**. Ahí estoy liderando el ala Startup Ecosystems.
La idea es fomentar, potenciar y ayudar a que más mujeres se atrevan a emprender
en tecnología, es decir, que funden sus startups.

Por otro lado, desde la comunidad **K-chAI**, que luego va a ser una plataforma 
de aprendizaje, estamos impulsando que haya más mujeres en la comunidad, donde conversamos
y compartimos temas de tecnología y especialmente en inteligencia artificial.

#### _En tu charla TEDx «El fin de las empresas» hablás de la importancia de generar una nueva cultura empresarial. ¿Qué lugar tiene la diversidad, equidad e inclusión en esta nueva cultura?_

Hablo de que es el fin de las empresas porque es el fin de las empresas como las
conocemos, y en el fondo aquellas que no se trasformen van a morir. La clave para
la trasformación es el cambio cultural y éste implica, de partida, **cambiar la 
forma de liderar e ir generando una nueva cultura.**

Esta nueva cultura implica colaboración, equipos diversos, confianza, autonomía,
implica ya no jerarquía, sino** redarquia**. Entonces quien lidera ya no es como
una cabeza que está arriba, es alguien que habilita, que dice “¿cómo te ayudo?”,
es alguien que conoce las motivaciones de su equipo. Alguien que cree en los equipos
diversos, que efectivamente entiende que es más rentable tener equipos de distintas
edades, géneros, de distintas universidades o de institutos de educación superior.

Cuando hablo de cultura, hablo de esto, de una cultura de agilidad, de prueba y 
error, de que las personas en el equipo puedan aportar, proponer, sean escuchadas.

#### _Para terminar, cerramos con la misma pregunta con la que concluís tus podcasts: ¿cómo ayuda Tania Yovanovic Catepillán a transformar el mundo?_

De partida pongo toda mi energía en mi propósito, que es** cerrar las brechas de
conocimiento en tecnología, y especialmente en IA.** Bajo este propósito es que 
hago todo lo que hago, desde mi podcast, la consultoría, los comités asesores en
los que participo, desde K-chAI que hacemos ahí comunidad y muchos conversatorios,
hasta las conferencias. Todo con este hilo conductor para poder cerrar la brecha.
Me encanta lo que hago, y espero en realidad que con esto esté ayudando a transformar
personas, empresas y finalmente la sociedad.

[DISPLAY_ULTIMATE_SOCIAL_ICONS]