Inteligencia Artificial e inclusión laboral: el desafío de innovar sin reproducir desigualdades
La Inteligencia Artificial parece mitigar barreras y generar nuevas oportunidades para grupos históricamente excluidos del mercado laboral. Sin embargo, su implementación también plantea interrogantes sobre accesibilidad, sesgos y equidad. Entonces, ¿puede la tecnología convertirse en una aliada de la inclusión o corre el riesgo de profundizar las desigualdades existentes?
Por Luisa Montoreano
La Inteligencia Artificial está ganando espacio en las estrategias de Diversidad, Equidad e Inclusión de las organizaciones, aunque su adopción aún dista de ser generalizada. Al respecto, Fredi Vivas, CEO de RockingData, profesor, ingeniero especializado en IA y autor de los libros “Generación IA”, “Invisible” y “¿Cómo piensan las máquinas?”, explica que existen dos grandes dimensiones en su adopción: «Una es mediante herramientas que te den mayor productividad, aumentación, o sea, una persona haciendo algo más rápido, mejor, o haciendo algo que no puede hacer sin IA (como diseñar o escribir código de programación sin saber programar)». El segundo nivel es el organizacional: «Usar los datos conectados a sistemas de IA y agentes para automatizar o simplificar procesos de cara al cliente. Para esto se requiere capacitación, entrenamiento, planificación y armar una estrategia».
Bajo este marco estratégico, su incorporación en los procesos de DEI abre posibilidades para identificar barreras, ampliar la participación de grupos subrepresentados y promover entornos laborales más accesibles. Desde herramientas que facilitan el reclutamiento inclusivo hasta sistemas capaces de analizar indicadores de diversidad, la IA comienza a ocupar un lugar cada vez más relevante. Sin embargo, cabe considerar que el impacto de estas tecnologías no es necesariamente positivo por sí mismo; existe el riesgo latente de que los algoritmos reproduzcan desigualdades presentes en los datos con los que fueron entrenados.
Andrea Schiavone
En este sentido, Andrea Schiavone, socia del Departamento de Derecho Laboral y de la Seguridad Social del estudio jurídico Mitrani Caballero, advierte que la IA no es accesible por definición, sino que “su impacto depende de cómo se diseñan, implementan y explican las herramientas.” Señala que la adopción responsable de tecnología es parte de su forma de prestar servicios legales, incorporando herramientas alineadas con las necesidades de sus clientes: “Esa mirada integral también se refleja en nuestra aproximación a la innovación; no entendemos la tecnología como un reemplazo del criterio profesional, sino como una herramienta para mejorar la calidad y eficiencia del trabajo humano”, afirma.
El reto de la accesibilidad universal y la brecha digital
Para que la tecnología sea verdaderamente un motor de cambio, la premisa fundamental es clara: «La inteligencia artificial, como cualquier desarrollo digital, no es accesible por sí misma. Su nivel de accesibilidad depende de las decisiones de diseño, desarrollo, implementación y evaluación«, advierten desde la consultora especializada Libertate. En otras palabras, para que una solución basada en IA sea accesible, las personas deben poder utilizarla de manera autónoma, segura, comprensible y equivalente.
Miguel Castro
En consonancia, Miguel Castro, Director Global de Inclusión y Accesibilidad en SAP, señala que las soluciones de IA deben diseñarse con criterios de accesibilidad universal desde el inicio para evitar obstáculos como «interfaces difíciles de usar, ausencia de descripciones de imágenes, dependencia exclusiva de voz o texto complejo, y poca compatibilidad con lectores de pantalla». Schiavone coincide y asegura que “la brecha digital puede ampliarse si las organizaciones incorporan IA sin acompañamiento, capacitación o criterios de inclusión accesibles o adaptables a distintas realidades de uso, por ejemplo, para las personas con discapacidad o las personas mayores.”
Por su parte, Vivas destaca la inherente capacidad de inclusión de la tecnología: «La IA, de por sí bien diseñada, es una herramienta que da acceso a información y a datos que antes eran más difíciles de acceder en el mundo digital». No obstante, traza un paralelismo con las fallas del mercado: las herramientas son creadas por empresas que buscan primeramente lucrar y, por lo tanto, no se enfocan en la accesibilidad. Entonces, los productos pueden carecer de la adaptabilidad que cada usuario necesite. Aún con estas limitaciones comerciales, “la mayor preocupación radica en que el avance de estas tecnologías profundice las desigualdades existentes”.
Así, desde Libertate apuntan a la existencia de “barreras estructurales vinculadas al acceso a dispositivos, conectividad y alfabetización digital que afectan especialmente a personas con discapacidad, personas mayores y habitantes de zonas rurales”. Además, la consultora introduce una alerta sobre el desarrollo profesional: «El mercado de trabajo se vuelve cada vez más dinámico y nos preocupa que muchas de las personas con discapacidad que ya se encuentran trabajando sigan enfrentando el histórico desafío de contar con un plan de carrera que les permita desarrollarse luego de su ingreso«. Esta brecha se acentúa en la formación, ya que la mayoría de los cursos o especializaciones sobre IA disponibles en el mercado no son accesibles, complejizando la adquisición de estas nuevas habilidades para este colectivo.
Potenciar la autonomía
A pesar de los riesgos, los beneficios de una IA bien aplicada en la salud y el empleo son tangibles. Fredi Vivas asegura que el uso de algoritmos para describir imágenes u objetos del entorno a través de fotos o videos resulta de enorme ayuda para personas con disminuciones visuales o cognitivas. En los entornos de oficina, estas habilidades podrían traducirse de forma directa en inclusión laboral.
Al automatizar la lectura, subtitular en tiempo real, simplificar textos o convertir voz a texto, se reduce notablemente la carga cognitiva de las tareas. Según detalla Miguel Castro, «en personas neurodivergentes esto se traduce en menos fricción diaria y más autonomía en el trabajo, el estudio y la vida cotidiana». El punto crítico, recuerda el directivo de SAP, es el codiseño: asegurar que las soluciones «se diseñen con y no solo para las personas con discapacidad».
Desde la experiencia interna en Libertate, la IA ya se implementa de forma transversal. Comentan que la están incorporando en los módulos formativos de Accesalia —su iniciativa para impulsar la accesibilidad digital en empresas— y que internamente la utilizan para la automatización de tareas repetitivas, traducción, generación de subtítulos, textos alternativos y documentos en texto plano accesibles a lectores de pantalla. Sin embargo, enfatizan la importancia de la supervisión: «Siempre contemplamos nuestra validación humana para asegurar la calidad”.
“Una descripción de imagen generada por IA, por ejemplo, puede ser un buen punto de partida, pero no necesariamente será adecuada para el contexto en el que se utiliza». En última instancia, concluye Libertate, la inclusión real de estas herramientas —muchas de las cuales nacieron por necesidades de accesibilidad— dependerá estrictamente de que las personas con discapacidad logren un acceso real a ellas.
El peligro de automatizar y escalar los sesgos históricos
Cuando se implementa la IA en procesos de selección, promoción o evaluación del desempeño, se encienden alarmas éticas. «Las IA reflejan los sesgos humanos porque son diseñadas por personas y entrenadas con datos históricos; no tienen ideología propia ni inventan sesgos», aclara el CEO de RockingData. El peligro es creer que la máquina toma decisiones de forma autónoma, cuando lo que hace en realidad es replicar modelos predictivos del pasado.
Libertate profundiza en esta problemática y explica que, dado que los sistemas aprenden de datos históricos, si estos contienen prejuicios o subrepresentación, la tecnología los amplificará. «Sabemos que la perspectiva de diversidad, discapacidad y accesibilidad es un pendiente; por ende, no podemos esperar que necesariamente esté presente en las herramientas de IA. Debemos procurar que la integre, pedírselo expresamente y afinar sus modelos para que aseguren la representatividad«.
Este impacto ya se observa negativamente en procesos de selección de personal, evaluación crediticia, moderación de contenidos y en el reconocimiento facial, donde, por ejemplo, las personas ciegas encuentran severas barreras para ser identificadas. Uno de los errores más frecuentes que cometen hoy las organizaciones al incorporar Inteligencia Artificial es asumir que la tecnología es objetiva y neutral por naturaleza. Sin una implementación responsable y una supervisión adecuada, estas herramientas pueden reproducir sesgos existentes, homogeneizar las decisiones y debilitar la incorporación de la diversidad como criterio estratégico. Detrás de este problema subyace una causa evidente: «En las formaciones, foros y principales eventos de tendencias sobre IA, no se está mencionando o abordando la diversidad y la accesibilidad como una dimensión necesaria«, afirman desde la consultora.
A su vez, Castro coincide en que el peligro nuclear radica en «automatizar y escalar sesgos existentes perpetuando patrones históricos de exclusión». Frente a la opacidad algorítmica, destaca la necesidad de marcos éticos claros, aunque la gobernanza corporativa global sigue rezagada: según datos de la World Benchmarking Alliance, a finales de 2024 solo 71 de las 200 empresas digitales más grandes del mundo contaban con principios explícitos de IA.
Buenas prácticas: equipos multidisciplinarios hacia una IA responsable
Para evitar que las empresas traten a la IA como una solución puramente técnica e ignoren su impacto social, los especialistas proponen un cambio radical en la conformación de los equipos de desarrollo y el entrenamiento de sus líderes.
En la práctica, algunas organizaciones ya están incorporando herramientas de IA en sus procesos de reclutamiento procurando reducir la influencia de sesgos subjetivos. En Mitrani Caballero, por ejemplo, utilizan una plataforma de evaluación psicométrica como primera etapa de selección para aplicar criterios homogéneos y comparables entre todas las personas postulantes. Sin embargo, enfatizan que la herramienta no reemplaza la decisión humana: las entrevistas, el análisis profesional y la evaluación final continúan siendo responsabilidad de los equipos de selección.
Carolina Grillo
Al respecto, Carolina Grillo, Responsable de Recursos Humanos de Mitrani Caballero, considera que el verdadero valor de estas tecnologías no reside en automatizar decisiones, sino en ayudar a identificar talento que podría pasar inadvertido en procesos menos estructurados y favorecer evaluaciones más objetivas, transparentes e inclusivas. Es decir, enfatiza que “la gobernanza de la IA requiere equipos diversos capaces de analizar simultáneamente los aspectos técnicos, jurídicos, éticos y humanos de cada decisión tecnológica”. Desde esa perspectiva, en el estudio jurídico aseveran que la combinación entre profesionales con experiencia y nuevas generaciones favorece una mirada más amplia para anticipar riesgos y evitar que las herramientas reproduzcan perspectivas homogéneas.
Al respecto, Carolina Grillo, Responsable de Recursos Humanos de Mitrani Caballero, considera que el verdadero valor de estas tecnologías no reside en automatizar decisiones, sino en ayudar a identificar talento que podría pasar inadvertido en procesos menos estructurados y favorecer evaluaciones más objetivas, transparentes e inclusivas. Es decir, enfatiza que “la gobernanza de la IA requiere equipos diversos capaces de analizar simultáneamente los aspectos técnicos, jurídicos, éticos y humanos de cada decisión tecnológica”. Desde esa perspectiva, en el estudio jurídico aseveran que la combinación entre profesionales con experiencia y nuevas generaciones favorece una mirada más amplia para anticipar riesgos y evitar que las herramientas reproduzcan perspectivas homogéneas.
En el caso de SAP, en la gobernanza está representada en los distintos comités de Ética de IA de la compañía, incluyendo el comité directivo, con la presencia de la Chief Inclusion, Social & Impact Officer, Rashmi Verma. Además, cuentan con una política global de ética de IA, que tiene a la equidad y la inclusión como parte de sus principios, para asegurar que el impacto de esta tecnología no genere ninguna discriminación basada en sesgos. Más aún, SAP certificó la norma ISO 42001 de gobernanza ética de IA y entrenó a su plantilla en guías de inclusive prompting.
Asimismo, según Schiavone y Grillo, como la innovación debe entenderse como un proceso institucional y no como una incorporación acrítica de tecnología, en Mitrani Caballero desarrollaron un Comité de Innovación y Tecnología con una combinación de profesionales más jóvenes que traccionan propuestas innovadoras, acompañados por la experiencia y la mirada estratégica de quienes llevan más tiempo en la práctica. Adicionalmente, se desarrolló un área especializada en Ciberseguridad, Nuevas Tecnologías e Innovación, desde donde acompañan a las empresas en la adopción de herramientas de IA con el objetivo de que su adopción sea eficiente, segura y también inclusiva.
Una IA con las personas en el centro
En sintonía con la importancia de promover una perspectiva integral y abierta, Fredi Vivas enfatiza que la solución al sesgo requiere diversidad total en las miradas (género, disciplinas, origen): «He trabajado con filósofos, psicólogos y gente de humanidades, y aporta una mirada con un nivel de reflexión en el que los ingenieros en sistemas no estamos entrenados».
En la misma línea, desde el equipo de Libertate señalan que los equipos y líderes actuales necesitan desarrollar de manera urgente competencias ligadas al pensamiento crítico, los derechos humanos y la gestión responsable de datos. «Los liderazgos deben ser capaces de formular preguntas sobre impacto social, transparencia e inclusión, sin dejar de enfocarse en la eficiencia. Debe haber una previa conciencia sobre qué sesgos e impactos negativos pueden generarse y desplegar planes para mitigarlos». Alientan a que el profundo potencial de transformación que trae la IA se dé bajo decisiones responsables y con las personas en el centro, acompañando a quienes tienen menor adaptabilidad, cuidando la salud mental en contextos de incertidumbre y evitando profundizar barreras de exclusión históricas.
En concordancia con la necesidad de mantener una mirada reflexiva y alerta, Schiavone asegura que “gestionar la Inteligencia Artificial de manera responsable exige desarrollar alfabetización digital, pensamiento crítico y una cultura permanente de revisión”. Los líderes no solo deben comprender el funcionamiento de estas herramientas, sino también ser capaces de cuestionar sus resultados, detectar posibles sesgos y asumir que la responsabilidad final nunca puede delegarse completamente en un algoritmo. La tecnología aporta información; las decisiones continúan siendo una responsabilidad humana e institucional.
En definitiva, la Inteligencia Artificial no discrimina por sí misma; es un espejo de las decisiones de sus creadores y usuarios. Su adopción responsable requiere, tal como coinciden los especialistas, de una mirada interdisciplinaria donde la tecnología, la inclusión, la accesibilidad y la ética formen parte, obligatoriamente, de la misma conversación. Así, concluye Grillo de Mitrani Caballero, “no alcanza con seleccionar una herramienta adecuada al inicio: hay que monitorear su desempeño, revisar sus resultados y asegurar que siga siendo compatible con los valores de diversidad, inclusión, transparencia y responsabilidad de cada organización”.