Si bien la IA no tiene una percepción consciente como los seres humanos, podemos pedirle a cualquiera de ellas una opinión sobre sí misma y los sesgos de género. Una de las más populares, ChatGPT arroja este resultado:
"Como una inteligencia artificial desarrollada por OpenAI, no tengo emociones, creencias ni posturas propias. Mi propósito es proporcionar información imparcial y objetiva basada en datos y conocimientos disponibles hasta mi última actualización en enero de 2022. Mi función es ayudarte a comprender diferentes perspectivas y proporcionarte información relevante sobre una amplia gama de temas, incluidos los sesgos de género en la inteligencia artificial."
La “neutralidad” de la IA
Ante esta primera respuesta Georgina Sticco, directora y co-fundadora de Grow-género y trabajo advierte: "El primer problema que tenemos es pensar que la inteligencia artificial es neutra. Y si se lo preguntamos a Chat GPT seguramente va a decir que es un algoritmo neutro". Esta afirmación arroja luz sobre un tema complejo: la percepción de neutralidad en las herramientas impulsadas por inteligencia artificial y la realidad de sus potenciales sesgos.
"Es cierto", admite el sistema de inteligencia artificial, "mi aparente neutralidad se basa en la imparcialidad con la que se procesan y seleccionan los datos durante mi entrenamiento. Sin embargo, también es crucial entender que ningún algoritmo es completamente neutro. Reflejo los sesgos presentes en los datos a los que he sido expuesto y en las decisiones de diseño que han influenciado mi desarrollo".
De hecho, en esta respuesta ChatGPT se cita a sí mismo usando pronombres masculinos eligiendo denominarse sistema en lugar de inteligencia artificial.
Los sesgos de género pueden manifestarse en varios aspectos de la IA, desde conjuntos de datos sesgados hasta algoritmos que perpetúan estereotipos de género. Por ejemplo, si un sistema de IA se entrena principalmente con datos que reflejan sesgos sociales existentes, como la discriminación de género en el lugar de trabajo, es probable que reproduzca y amplifique esos sesgos en sus decisiones o recomendaciones.
Algunos impactos concretos
La omnipresencia de la inteligencia artificial en nuestra vida cotidiana puede pasar desapercibida, desde los motores de búsqueda que recomiendan productos en línea hasta los asistentes virtuales que responden preguntas en nuestros dispositivos inteligentes del hogar. Estos sistemas no solo facilitan nuestras tareas diarias, sino que también influyen en nuestras decisiones, desde qué película ver hasta qué ruta tomar para llegar a nuestro destino. Sin embargo, es imperativo recordar que detrás de esta aparente comodidad y eficiencia, se esconden cuestiones importantes sobre la imparcialidad y los posibles sesgos que pueden surgir en su funcionamiento.
Aunque, según ChatGPT, no hay cifras exactas sobre la prevalencia de sesgos en la inteligencia artificial, numerosos estudios han destacado casos específicos de sesgos en sistemas de IA, como algoritmos de contratación que muestran preferencias injustas hacia ciertos grupos demográficos o sistemas de reconocimiento facial que tienen tasas de error más altas en personas de ciertos orígenes étnicos o géneros. Estas investigaciones subrayan la importancia de abordar los sesgos en la inteligencia artificial para garantizar su imparcialidad y equidad.
A su vez, la comunidad de investigación y desarrollo de IA reconoce la importancia de abordar los sesgos de género y una de las medidas activas para mitigarlos es promover una mayor participación de las mujeres en estas áreas. Desde Grow-género y trabajo sabemos que esta desigualdad no solo obstaculiza el acceso equitativo a oportunidades laborales, sino que también influye en la creación de soluciones tecnológicas que perpetúan y amplían las desigualdades de género. A través de diversas acciones como “FITS Género” o “Poder TIC” promovemos la inclusión de mujeres y diversas identidades en el sector, integrando la perspectiva de género para contrarrestar sesgos y limitaciones presentes en las tecnologías.
Fuente: Verónica Soto, referente del área de tecnología y coordinadora de Sala-G de Grow- género y trabajo. www.generoytrabajo.com
Suscribite al newsletter de Para Ti
Si te interesa recibir el newsletter de Para Ti cada semana en tu mail con las últimas tendencias y todo lo que te interesa, completá los siguientes datos:
