Hay un montón de gente yendo a las bibliotecas a buscar libros que no existen: se los inventó una IA

El contenido basura hecho con IA está colándose en todos los rincones de internet: está arruinando la autenticidad de Etsy, la Wikipedia, nos confunde al buscar piso en Idealista y por supuesto plaga las redes sociales. El ‘slop’ de la IA está llegando al mundo real, concretamente a las bibliotecas.

Qué está pasando. Lo cuentan en Scientific American. Hay personas acudiendo a bibliotecas y archivos en busca de libros o artículos científicos que no aparecen por ningún sitio por una razón: no existen. Cruz Roja Internacional ha alertado de la situación y responsabiliza a herramientas de IA como Gemini, ChatGPT o Copilot. Aseguran que «Estos sistemas no realizan investigaciones, verifican fuentes ni cotejan información. Generan nuevos contenidos basándose en patrones estadísticos y, por lo tanto, pueden producir resultados inventados».

Bibliotecarios hartos. La directora de investigación de la biblioteca de Virginia estima que al menos un 15% de las consultas que reciben a través del correo son sobre documentos y trabajos generados por ChatGPT y herramientas similares. «Para nuestro personal, es mucho más difícil demostrar que no existe un registro único», asegura. Una usuaria de Bluesky relata una experiencia similar cuando un estudiante le pidió que encontrara una serie de referencias. Tras un rato buscando sin éxito, le preguntó al estudiante de dónde había obtenido la lista y confesó que venía de los resúmenes de IA de Google.

Las citas inventadas no son algo que empezara a suceder antes de ayer, en 2023 ya había discusiones al respecto. La Universidad de Seattle detectó que muchas veces es muy complicado verificar estas citas inventadas. El motivo es que la IA suele dar títulos de revistas o libros que existen, pero lo que no existe es el capítulo o número donde se encuentra la información. Lo que hace es mezclar información para que parezca convincente, cuando en realidad es un callejón sin salida.

La IA y los libros. Las referencias inventadas no son el único problema, hay bibliotecarios que también critican los libros creados enteramente con IA por ser «increíblemente malos» y recientemente hemos conocido el caso de Corea del Sur y el fracaso estrepitoso de su programa de libros escolares hechos con IA.

Por otro lado tenemos el problema del copyright. Igual que con obras de arte, los libros también han sido usados para entrenar la IA sin compensar a sus autores. Un grupo de autores demandó a Anthropic por este motivo, pero el juez falló a favor de la empresa.

Papers sobre IA, hechos con IA. En un artículo de Futurism contaban que una consecuencia del slop de la IA es que los propios papers que investigan la IA están hechos con IA. Se estima que la cantidad de papers sobre IA se ha duplicado en los últimos años y revistas como NeurIPS han tenido que pedir ayuda a estudiantes de doctorado para que les ayuden a revisarlos. Hay un caso concreto de un investigador llamado Kevin Zhu que ha participado en más de 100 papers en un año, una cifra desorbitada para los expertos. Para sorpresa de nadie, muchos de estos papers son un auténtico desastre lleno de citas inventadas, errores flagrantes y a veces texto oculto para manipular los propios sistemas de revisión.

Alucinaciones. Que la IA se invente cosas es bastante habitual, son lo en la jerga de la IA se conoce como alucinaciones y uno de los puntos débiles de los modelos de lenguaje; los avances son enormes, pero la realidad es que aún no podemos fiarnos de la IA y es necesario comprobar la información. Las alucinaciones suelen ser el motivo por el que pillan a quienes usan la IA en sus trabajos, como la consultora Deloitte, que entregó un informe al gobierno australiano que contenía referencias a informes totalmente inventados.

Imagen | Cottonbro studio, Pexels

.

Amparo Babiloni

Fuente de esta noticia: https://www.xataka.com/robotica-e-ia/hay-monton-gente-yendo-a-bibliotecas-a-buscar-libros-que-no-existen-se-invento-ia

También estamos en Telegram como @prensamercosur, únete aquí: https://t.me/prensamercosur Mercosur

Recibe información al instante en tu celular. Únete al Canal del Diario Prensa Mercosur en WhatsApp a través del siguiente link: https://www.whatsapp.com/channel/0029VaNRx00ATRSnVrqEHu1W