El actual diseño de la IA refuerza los sesgos de género y la violencia machista digital

«La IA la están diseñando básicamente hombres blancos, con las consecuencias de falta de diversidad que eso implica», advierte a EFE la subdirectora de la UNESCO, Gabriela Ramos, cuya institución ha cuantificado en menos del 20 % el número de mujeres que trabajan en las grandes compañías de diseño y entrenamiento de los algoritmos y nuevas herramientas.

Zynnia del Villar, directora de Ciencia de Datos del laboratorio de ideas Data-Pop Alliance -con el apoyo de las universidades de Harvard y el MIT- alerta sobre el impacto futuro de la falta de diversidad de los equipos que diseñan IA.

«Amazon tuvo que retirar su sistema de reclutamiento basado en IA porque penalizaba los currículum vitae de las solicitantes mujeres, y asistentes virtuales como Siri o Alexa han sido programados con respuestas sumisas ante comentarios sexistas, reforzando estereotipos de género», explica.

Un dibujo peligroso para las futuras generaciones

Desde la facultad de Psicología de la Universidad Abierta de Cataluña (UOC), Ferran Marsa recuerda el reciente golpe de realidad extendido por la investidura del presidente de EEUU, Donald Trump, y la fotografía de magnates tecnológicos, todos hombres.

Además, la IA estaría «multiplicando la capacidad» de crear contenidos de violencia machista digital contra las mujeres, con ejemplos como los ‘deepfakes’, montajes fotográficos hiperrealistas que permiten poner un cuerpo desnudo a una imagen del rostro de una conocida, una forma de agresión que sufren especialmente adolescentes en los chats de alumnos.

En una búsqueda sencilla de «Mujeres en la IA» no aparecen profesionales que desarrollan su carrera en esta tecnología, sino varias páginas de resultados en el buscador de programas generadores de imágenes de cuerpos femeninos.

«Casi todo lo que tiene que ver con las mujeres en la IA tiene que ver con la cosificación y el sexo, con las consecuencias que eso conlleva», añade Marsa.

Cosificación y ‘deepfakes’

Desde la Asociación española Stop Violencias Digitales, su directora, Encarni Iglesias, apunta que la IA, con su capacidad para analizar grandes volúmenes de datos y automatizar procesos, «está influyendo en cómo se perpetúan estos abusos y en cómo podemos enfrentarlos».

Entre los peligros, las crecientes aplicaciones de tecnologías de ‘deepfake’ que facilitan la creación de contenidos falsos que pueden usarse para difamar o humillar a víctimas.

El informe de Riesgos del Foro Económico Mundial de 2024 ha clasificado la desinformación, principalmente impulsada por las ‘deepfakes’, como el riesgo global a corto plazo más grave al que se enfrenta el mundo en los próximos dos años. La dimensión de género de este fenómeno se encuentra claramente establecida, ya que el contenido sexual digital creado con IA prácticamente afecta sólo a las mujeres.

De hecho, la mayoría de los vídeos creados con IA que circulan en internet solo muestran a mujeres, y se estima que entre el 90% y el 95% de todos los ‘deepfakes’ que recrean desnudos o actividades sexuales explícitas afectan a mujeres.

Pese a la gravedad del problema, solo Europa parece preocupada por regular el impacto de la IA en los derechos humanos, mientras gigantes como China y EE.UU se encuentran en plena batalla por dominar con sus herramientas de IA el mercado mundial.