OlivIA: una aliada con perspectiva de género para identificar sesgos
En un contexto donde la inteligencia artificial avanza a pasos agigantados, también crecen las preocupaciones sobre la reproducción de sesgos en estos sistemas. Frente a ese escenario, la abogada y comunicadora feminista Ana Correa, integrante de la Red Unidas, presentó a OlivIA, una herramienta basada en tecnología de ChatGPT, diseñada para detectar prejuicios de género en diversos contenidos.
La presentación se realizó el 19 de junio en un webinario virtual que reunió a más de 70 participantes de América Latina, el Caribe y Europa.
¿Qué es OlivIA y para qué funciona?
OlivIA es una asistente de IA generativa entrenada para detectar sesgos de género en discursos institucionales, políticas públicas, materiales educativos y decisiones judiciales. Está pensada como una ayuda crítica para analizar contenidos, no como un reemplazo del juicio humano.
Entre sus funcionalidades, permite:
- Identificar estereotipos o representaciones desbalanceadas de mujeres y personas LGBTIQ+.
- Señalar ausencias de autoras o enfoques inclusivos.
- Formular preguntas para promover la reflexión crítica.
- Sugerir alternativas de redacción con lenguaje no sexista.
- Emitir recomendaciones con perspectiva de derechos humanos.
Desde la Red Unidas, se destacó que OlivIA también es capaz de trabajar con imágenes, y se sugirió anonimizar los textos antes de ingresarlos para resguardar la privacidad, ya que trabaja sobre la plataforma de OpenAI.
Un llamado a transformar la tecnología
La iniciativa surge a partir de numerosos casos de sesgos documentados en tecnologías de IA: desde sistemas de contratación que penalizan a mujeres hasta imágenes que refuerzan estereotipos o subrepresentación de mujeres en ciencia, medicina o justicia. “Al igual que otras tecnologías disruptivas, la IA puede potenciar la creatividad, pero también reproducir y amplificar los prejuicios preexistentes”, señalaron desde la organización.
Durante el encuentro, se abordaron también los riesgos éticos y de derechos asociados a la inteligencia artificial. Se remarcó la importancia de desarrollar modelos con una mirada interseccional, que contemple las vulnerabilidades específicas de grupos históricamente excluidos, como niñas indígenas o niñas con discapacidad. Asimismo, se destacó la importancia de impulsar herramientas tecnológicas creadas por o con participación activa de mujeres, que contribuyan a transformar las narrativas institucionales.
OlivIA ya está disponible como un GPT dentro de la plataforma ChatGPT bajo el nombre “Olivia sesgos de género”. Funciona en más de 58 idiomas y está pensada como un recurso abierto para periodistas, activistas, funcionarias públicas, educadoras y cualquier persona interesada en generar contenidos más justos y representativos.
