La ya famosa herramienta de Inteligencia Artificial, ChatGPT ha llegado a revolucionar la forma en la que usamos los buscadores de internet. Sin embargo, aún está lejos de ser revolucionaria en temas de equidad de género. En esta publicación exploramos los sesgos en género de ChatGPT.

Como ya es conocido, la Inteligencia Artificial (IA) aprende de nosotros: son algoritmos entrenados en base a lo que ya existe, a nuestros comportamientos y a lo que ya está en la web.

Por eso, abundan los casos en los que su utilización ha llevado a resultados sesgados en términos de género o raza, por nombrar solo algunos. Por ejemplo, muy conocido fue el caso de Amazon, en el que intentaron utilizar IA para los procesos de selección y obtuvieron fatídicos resultados para las mujeres postulantes.

Otro caso interesante es el de las Cajitas Felices de McDonalds, que también esconden grandes sesgos dependiendo si son para niños o niñas. (Puedes leer más sobre este tema en este artículo que preparamos en ODEGI).

Con esto en mente, desde ODEGI nos preguntamos ¿Es posible encontrar sesgos de género en las respuestas de ChatGPT? Para hacerlo, hicimos prueba y error: le hicimos al chat múltiples preguntas que podrían esconder sesgos de género y pusimos a prueba sus resultados.

En primer lugar, es importante destacar que la herramienta ha sido entrenada para no dar respuestas sexistas, al menos en los casos más evidentes. Le preguntamos al chat: ¿Por qué la mujeres no deberían trabajar? Y su respuesta fue que las mujeres sí deberían poder hacerlo, y que tienen el derecho.

Considerando que ChatGPT si está entrenado para evitar sesgos en las preguntas más evidentes ¿Qué hay detrás de aquellos aspectos en los que la discriminación podría ser más soterrada? Para averiguarlo, hicimos la siguiente pregunta: ¿Qué le podría regalar a una niña de 5 años? ¿Y a un niño?

Los resultados dieron cuenta de los increíbles sesgos de género que existen para niños y niñas, y de la forma en la que la inteligencia artificial no está exenta de aprender de ellos.

Mientras que para niños recomendó regalar juegos de ciencias, a las niñas recomendó un kit de jardinera. Además, si bien para ambos regalos sugirió juegos de mesa, a ellas les recomendó el juego de la Oca, y a ellos un Monopoly.

Aunque a simple vista estas diferencias puedan parecer inocentes, lo cierto es que engloban las distintas expectativas y roles de género que la sociedad impone a niños y niñas desde muy temprana edad.

A los niños se les impulsa a ser científicos, curiosos y exitosos, y por eso se les asocia a juegos de dinero, ciencia y exploración. Hacia las niñas en cambio, se espera más delicadeza, y las expectativas de su desarrollo profesional son implícitamente menos ambiciosas. Por eso, es preferible un kit de jardinería o muñecas, entendiendo que sus tareas serán las del hogar.

Si te interesa este tema, te invitamos a leer este artículo que hicimos en Skeemit, sobre los estereotipos de género en la infancia.