La influencia de datos sesgados es determinante en la reproducción de esos sesgos en los algoritmos de inteligencia artificial (IA). Cuando estos algoritmos se entrenan con conjuntos de datos que reflejan prejuicios de género presentes en la sociedad, la IA puede replicar y amplificar esos sesgos en sus decisiones y resultados. Por ejemplo, en aplicaciones de contratación o evaluación de créditos, si los datos históricos contienen sesgos de género, la IA puede perpetuar discriminaciones.
Así lo señala la profesora Patricia Peña, académica e investigadora de la Facultad de Comunicación e Imagen de la Universidad de Chile. “En general, nos movemos en sociedades donde tenemos que lidiar diariamente con distintos tipos de sesgos, porque son inherentes a las personas, tienen que ver con nuestro capital social y cultural. Entonces, un punto importante en esta discusión es que sabemos que muchas tecnologías acarrean de por sí sesgos de género en la forma en que fueron concebidas, diseñadas o son usadas.”
En cuanto al impacto de estos sesgos a nivel de género, la académica resalta la necesidad de cuestionar las bases de datos y algoritmos utilizados. “Pensemos en esto a gran escala. Por ejemplo, en plataformas tecnológicas que están basadas y entrenadas con algoritmos con ciertos datos e información respecto de decisiones básicas, que pueden ir desde temas de salud pública, definición de políticas públicas o algo tan cotidiano como un ranking para acceder a un trabajo o algún tipo de beneficio. Evidentemente, el impacto que esto puede tener en la desigualdad y la discriminación es enorme. Esa es la alerta que se empieza a hacer desde distintos estudios e investigaciones académicas, donde las mujeres que están en el campo de la IA han jugado un rol fundamental, porque desde hace algunos años vienen advirtiendo esto”, añade la investigadora.
¿Cómo enfrentamos este problema?
De acuerdo al profesor del Instituto de Estudios Avanzados en Educación (IE) de la Universidad de Chile, Roberto Araya, es esencial abordar este problema mediante la mejora de los conjuntos de datos, algoritmos y la conciencia sobre el impacto social de la IA, quien afirma que los mecanismos de aprendizaje de la IA reproduce los sesgos presentes en los datos con los que se entrena. “La inteligencia artificial es un mecanismo automático e independiente, en principio sin sesgos, pero que se basa en revisar miles de millones de textos que hay en la web, por ejemplo, donde claramente hay sesgos, de género y otros. Entonces, estos algoritmos aprenden con métodos de autoaprendizaje y después reproducen esos mismos sesgos”, explica.
El académico destaca la complejidad del problema y la necesidad de un enfoque integral para abordar los sesgos de género en la IA. En esta línea, propone la creación de un corpus de texto cuidadosamente curado, libre de sesgos, como una solución más profunda para mejorar el aprendizaje automático. “Hay dos maneras de abordar este problema: uno es testear cómo está funcionando el algoritmo, pero consume mucho tiempo. Las compañías tienen equipos de gente probando y detectando sesgos, de manera que sobre el sistema entrenado, ajustarlo para que no reproduzca los sesgos más evidentes y obvios, pero es una solución parche”, afirma el profesor Araya. El segundo método, en cambio, es más sofisticado y va a la raíz. “La solución más profunda es alimentar estos sistemas de nuevo, partir de cero y alimentarlo de un corpus completo más curado. Es un trabajo enorme que algunas de estas empresas están tratando de manejar“.
Por su parte, la profesora Peña subraya la importancia de debatir sobre los alcances y los impactos de la IA en las universidades para abordar estos desafíos. “El componente de género nos invita a que este tema sea abordado desde los parámetros de la educación no sexista. La tecnología también debe tener un enfoque no sexista, darnos cuenta dónde están los riesgos y los límites que nos permitan entender a quién impacta y de qué manera, a quién puede perjudicar o beneficiar, si puede perpetuar o no la desigualdad. Incorporar estos debates sobre el alcance y los impactos de la IA es fundamental dentro del rol y el trabajo que las universidades tienen que hacer, porque tienen un impacto social y la formación académica tiene mucho por hacer en ese sentido”.
En conclusión, ambos expertos coinciden en la importancia de la conciencia y acción colectiva para mitigar los sesgos de género en la IA y promover un futuro más equitativo y ético en este campo.
