Inteligencia artificial: “Existe el riesgo de que se uniformen las formas de pensar y crear”

Licenciada en Artes Electrónicas y doctoranda en Historia y Teoría Comparada de las Artes, Guadalupe Álvarez llegó al estudio de la inteligencia artificial (IA) a través de su trabajo como docente en la Universidad Nacional de Tres de Febrero (Argentina). En diálogo con La Mañana, sostuvo que el principal desafío de las nuevas tecnologías no pasa por los avances técnicos, sino por quiénes diseñan las herramientas, con qué valores y cómo pueden influir en nuestra forma de pensar y crear. “El desafío no es aceptar o rechazar la IA, sino aprender a vivir con ella de manera crítica”, afirmó.

¿Cómo fueron sus primeros acercamientos a la IA y qué análisis hace de la evolución que ha tenido en tan pocos años?

Mis primeros acercamientos a la IA estuvieron vinculados a mi trabajo docente en la licenciatura en Artes Electrónicas de la Universidad Nacional de Tres de Febrero, donde comencé a investigar las implicancias políticas y culturales de producir imágenes mediante modelos algorítmicos: qué discursos, sesgos y formas de conocimiento se inscriben en los datos con los que son entrenados. En pocos años, estas herramientas pasaron de ser relativamente especializadas a formar parte de la vida cotidiana. Sin embargo, más allá de los avances técnicos, considero que las preguntas centrales siguen siendo quiénes diseñan estas tecnologías, qué valores incorporan y qué imaginarios sobre el futuro contribuyen a construir. Actualmente analizo estos problemas en mi tesis doctoral.

¿Cuáles son los mayores desafíos vinculados al desarrollo de la IA?

Hay muchos aspectos para pensar como desafíos. Desde un lugar epistemológico, uno de los más importantes me parece la tendencia a la homogeneización. A medida que más personas escriben, imaginan y producen a través de estas tecnologías, existe el riesgo de una creciente estandarización: que se uniformen las formas de pensar, crear y narrar el mundo. El problema no es solamente técnico, es que algunas perspectivas tengan más posibilidades de existir que otras y terminemos habitando un mundo cada vez menos diverso, porque si consideramos que los modelos de IA aprenden a partir de archivos construidos históricamente que no representan a todas las comunidades por igual, podremos observar que esa estandarización es una forma de exclusión naturalizada.

¿Qué riesgos cree que tiene delegar cada vez más decisiones y tareas a sistemas de IA?

Hay investigaciones recientes que advierten que la delegación de tareas a la IA puede generar una disminución en la autonomía y las capacidades cognitivas. Sin embargo, a mí me preocupa más el riesgo a perder contacto con los procesos de duda, exploración y elaboración que forman parte de la construcción del conocimiento. La creatividad, la investigación y el pensamiento crítico nacen muchas veces de la incertidumbre, de la ambigüedad y del desacuerdo; justamente aquellos espacios que los sistemas de IA tienden a reducir cuando nos ofrecen respuestas rápidas y aparentemente correctas. Y esto nos lleva a otro problema, que es que cuando delegamos decisiones en ellos también estamos delegando parte de nuestra capacidad de interpretar el mundo a sistemas cuyos criterios se presentan de manera sesgada.

Como investigadora del Conicet, ¿qué le llama más la atención del entusiasmo que está generando la IA en comparación con otras revoluciones tecnológicas que hemos vivido?

Tal vez es la velocidad con la que se instaló la idea de que estamos frente a un destino inevitable. Desde los estudios sociales de la tecnología sabemos que las tecnologías son el resultado de decisiones políticas, económicas y culturales. Lo que solemos llamar innovación tecnológica es una disputa por los imaginarios del futuro, es decir, quién puede imaginarlo, quién puede financiarlo y quién tiene el poder de definir qué problemas priorizar. Las tecnologías no son inevitables ni neutrales. Son espacios de disputa, de negociación y también de imaginación.

Considerando su experiencia en el mundo del arte, ¿podría decirse que estamos ante un cambio de paradigma en la forma de crear?

Es una pregunta difícil porque los cambios de paradigma suelen ser más fáciles de identificar retrospectivamente que mientras los estamos viviendo. Sin dudas atravesamos una transformación, pero la historia del arte muestra que cada nueva tecnología —la fotografía, el cine, el video o internet— reabrió debates sobre la autoría, la creatividad y el lugar del artista. La IA reactualiza muchas de esas discusiones de manera acelerada.

Creo que la principal transformación es sobre las condiciones culturales en las que se produce la creatividad. La IA aparece como una herramienta capaz de producir más rápido, automatizar tareas y optimizar procesos. Y, en este sentido, vale preguntarnos: ¿Qué tipo de creatividad promovemos cuando producir rápido y optimizar resultados empiezan a convertirse en los principales criterios de valor?

Muchos artistas ven a la IA como una oportunidad y otros como una amenaza. ¿Dónde se posiciona usted?

Tiendo a desconfiar de las posiciones extremas porque dificultan la construcción de una mirada compleja. La primera puede impedirnos ver los problemas reales que estas tecnologías producen; la segunda corre el riesgo de clausurar la reflexión y la posibilidad de intervenir sobre ellas. En este sentido, me parece importante retomar a Donna Haraway y su propuesta de construir parentesco, en este caso con la tecnología. Si pensamos a la IA como parte de nuestra familia, ¿qué tipo de cuidados creemos que necesitaría? Esto implica asumir una responsabilidad sobre lo que desarrollamos como humanidad, reconocer dependencias mutuas y desarrollar prácticas de cuidado y atención frente a aquello con lo que compartimos el mundo. El desafío no es simplemente aceptar o rechazar la IA, sino aprender a vivir con ella de manera crítica, esto es, comprender cómo funciona, cuestionar sus sesgos, disputar sus sentidos y, al mismo tiempo, pensar cómo la criamos y cómo nos cría a nosotros; qué relaciones de dependencia, cuidado, poder y responsabilidad se configuran en ese proceso de cohabitación tecnológica.

Hoy este sector está dominado por las grandes empresas tecnológicas. En ese sentido, ¿qué papel debería jugar la investigación pública, por ejemplo, desde instituciones como el Conicet?

Es una forma de construir soberanía tecnológica. Permite construir miradas alternativas en un campo que hoy está fuertemente concentrado en manos de un pequeño grupo de empresas. También, es necesaria para generar conocimiento crítico y situado, producir evidencia independiente y abrir preguntas que muchas veces quedan fuera de los intereses del mercado. ¿Qué efectos tienen estas tecnologías sobre la cultura, el trabajo, la educación, la democracia y el medio ambiente? ¿Qué desigualdades reproducen? ¿Qué otras formas de diseñarlas e implementarlas podrían imaginarse?