Advierten en ONU sobre riesgos de la IA y los algoritmos sesgados en los discursos de odio

El objetivo de esta reunión era crear «coaliciones para recuperar espacios inclusivos, seguros y libres de odio».

El secretario general de la ONU, António Guterres, no estuvo presente en este evento, pero intervino mediante una carta, en la que señaló que «el discurso de odio está contaminado por la sociedad» y que este tipo de retórica «se propaga más rápido y más lejos que nunca, amplificado por la inteligencia artificial y algoritmos sesgados».

Según Guterres, una de las soluciones sería «exigir una cooperación internacional más sólida para combatir el odio en línea, basada en los derechos humanos y el derecho internacional».

«Necesitamos alianzas a todos los niveles: entre gobiernos, sociedad civil, empresas privadas y líderes religiosos y comunitarios. Necesitamos contrarrestar las narrativas tóxicas con mensajes positivos y empoderar a las personas para que reconozcan, rechacen y se enfrenten al discurso de odio», anotó en su mensaje.

En tanto, el secretario general animó a los miembros de la ONU a utilizar la IA no como una herramienta de odio, sino como una fuerza para el bien y a mantenerse «unidos en la búsqueda de la paz, el respeto mutuo y la comprensión para todos».

Por su parte, Miguel Ángel Moratinos, alto representante para la Alianza de Civilizaciones de las Naciones Unidas (UNAOC), resaltó que la IA tiene el potencial de ser una herramienta poderosa para el bien, para detectar contenido dañino, traducirse entre culturas y expandir la aceptación del conocimiento.

«Sin embargo, si no se controla, también puede reforzar el sesgo, la discriminación automática y alimentar la misma narrativa que buscamos desmantelar», subrayó Moratinos.