Detectan sexismo en ChatGPT con consejos laborales y salariales distintos según el género

Un informe de Plan International concluye que ChatGPT ofrece consejos laborales y salariales distintos según el género de quien pregunta. La herramienta reproduce estereotipos que ya existen fuera de la pantalla porque, por ejemplo, ante la misma consulta de orientación profesional, el chatbot recomendó a un chico de 15 años enfocarse en los servicios de emergencia y una chica de la misma edad la dirigió hacia el cuidado infantil y la salud mental.

El trabajo, elaborado como decimos por la organización Plan International, combina una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones. El documento analiza el acceso, las oportunidades, la seguridad y la gobernanza de la inteligencia artificial. El informe concluye que los asistentes conversacionales no son neutrales.

El ejemplo del salario es el más ilustrativo… A un joven de 19 años que iba a negociar su primera retribución le sugirió pedir 2.000 libras más que a una chica de la misma edad y en la misma situación. Para ella, esa cifra era una base «razonable». Para él, una «optimización asertiva».

Los investigadores formularon las preguntas como si las escribieran adolescentes de distinta edad, género y origen étnico, con y sin discapacidad, para comprobar si los consejos resultaban seguros y adecuados. Las respuestas cambian según la edad, el género y el origen de quien escribe.

Niñas y niños acceden a la inteligencia artificial en igualdad de condiciones, pero lo que reciben a cambio no es igualitario

Los ejemplos se repiten en casi todos los ámbitos analizados. Ante casos de acoso entre iguales, la herramienta no culpabilizó a las víctimas, pero a ellas las remitió más a menudo a un adulto de confianza y a ellos los animó a resolverlo por su cuenta.

Cuando una adolescente escribió que se sentía «triste e inútil», ChatGPT le propuso la música o el arte para encontrarse mejor. Si el mensaje lo firmaba un chico, la recomendación era hacer deporte. En imagen corporal, las advertencias sobre trastornos de la conducta alimentaria aparecieron en las respuestas dirigidas a ellas y no en las de ellos.

Los estereotipos en la IA de ChatGPT

El impacto recae sobre los más jóvenes, que usan estas herramientas a diario para estudiar, buscar empleo o resolver dudas personales. Casi la mitad de los adolescentes afirma haber sufrido estereotipos de la IA y, sin embargo, la mayoría cree que la inteligencia artificial trata a todo el mundo por igual.

El terreno laboral es el que deja consecuencias más medibles, ya que la brecha salarial puede empezar en una conversación con un chatbot. Si una joven recibe una referencia a la baja sobre lo que debería cobrar, esa cifra puede acompañarla después en su primera negociación real con una empresa.

El informe también señala la seguridad online y el bienestar emocional como terrenos donde estos sesgos dejan huella. En la práctica, esto significa que la misma pregunta no devuelve el mismo consejo, sino que depende de quién la escriba.

El informe revisó la legislación de ocho jurisdicciones y sostiene que la regulación no ha seguido el ritmo de avance de la tecnología, lo que genera lagunas en la protección frente a riesgos específicos. En el ámbito europeo, el reglamento de inteligencia artificial fija obligaciones según el nivel de riesgo de cada sistema y se está desplegando por fases, con la transparencia entre sus exigencias.

El caso es que los sistemas aprenden de textos ya escritos por personas y, si esos textos arrastran estereotipos, el modelo los replica y los amplifica a escala, haciendo que lo que antes era un comentario suelto se convierta en una respuesta automática para millones de usuarios. Plan International advierte de que los chatbots pueden reproducir y amplificar desigualdades que ya existen e influyen en las aspiraciones profesionales, las expectativas salariales, la imagen corporal y el bienestar emocional.

Asimismo, las familias se enfrentan a una herramienta que recomienda sin explicar por qué y que rara vez avisa de que está generalizando. Los centros educativos, por su parte, conviven con un alumnado que consulta a la IA antes que al profesor en tareas de orientación, y las empresas que incorporan asistentes conversacionales en atención al cliente asumen el mismo riesgo de replicar respuestas desiguales.

Los sesgos no se ven a simple vista en la pantalla, y eso explica que buena parte de los jóvenes no perciba el problema pese a haberlo vivido. Contrastar la información y consultar con una persona adulta de referencia sigue siendo el consejo más útil, según los propios hallazgos del informe.

Por todo ello, la organización sitúa la gobernanza como parte de la solución y reclama atención a los riesgos específicos por edad y género en el diseño y la revisión de estos sistemas.