El contenido basura hecho con IA está colándose en todos los rincones de internet: está arruinando la autenticidad de Etsy, la Wikipedia, nos confunde al buscar piso en Idealista y por supuesto plaga las redes sociales. El ‘slop’ de la IA está llegando al mundo real, concretamente a las bibliotecas.
Qué está pasando. Lo cuentan en Scientific American. Hay personas acudiendo a bibliotecas y archivos en busca de libros o artículos científicos que no aparecen por ningún sitio por una razón: no existen. Cruz Roja Internacional ha alertado de la situación y responsabiliza a herramientas de IA como Gemini, ChatGPT o Copilot. Aseguran que «Estos sistemas no realizan investigaciones, verifican fuentes ni cotejan información. Generan nuevos contenidos basándose en patrones estadísticos y, por lo tanto, pueden producir resultados inventados».
Bibliotecarios hartos. La directora de investigación de la biblioteca de Virginia estima que al menos un 15% de las consultas que reciben a través del correo son sobre documentos y trabajos generados por ChatGPT y herramientas similares. «Para nuestro personal, es mucho más difícil demostrar que no existe un registro único», asegura. Una usuaria de Bluesky relata una experiencia similar cuando un estudiante le pidió que encontrara una serie de referencias. Tras un rato buscando sin éxito, le preguntó al estudiante de dónde había obtenido la lista y confesó que venía de los resúmenes de IA de Google.
Las citas inventadas no son algo que empezara a suceder antes de ayer, en 2023 ya había discusiones al respecto. La Universidad de Seattle detectó que muchas veces es muy complicado verificar estas citas inventadas. El motivo es que la IA suele dar títulos de revistas o libros que existen, pero lo que no existe es el capítulo o número donde se encuentra la información. Lo que hace es mezclar información para que parezca convincente, cuando en realidad es un callejón sin salida.
La IA y los libros. Las referencias inventadas no son el único problema, hay bibliotecarios que también critican los libros creados enteramente con IA por ser «increíblemente malos» y recientemente hemos conocido el caso de Corea del Sur y el fracaso estrepitoso de su programa de libros escolares hechos con IA.
Por otro lado tenemos el problema del copyright. Igual que con obras de arte, los libros también han sido usados para entrenar la IA sin compensar a sus autores. Un grupo de autores demandó a Anthropic por este motivo, pero el juez falló a favor de la empresa.
Papers sobre IA, hechos con IA. En un artículo de Futurism contaban que una consecuencia del slop de la IA es que los propios papers que investigan la IA están hechos con IA. Se estima que la cantidad de papers sobre IA se ha duplicado en los últimos años y revistas como NeurIPS han tenido que pedir ayuda a estudiantes de doctorado para que les ayuden a revisarlos. Hay un caso concreto de un investigador llamado Kevin Zhu que ha participado en más de 100 papers en un año, una cifra desorbitada para los expertos. Para sorpresa de nadie, muchos de estos papers son un auténtico desastre lleno de citas inventadas, errores flagrantes y a veces texto oculto para manipular los propios sistemas de revisión.
Alucinaciones. Que la IA se invente cosas es bastante habitual, son lo en la jerga de la IA se conoce como alucinaciones y uno de los puntos débiles de los modelos de lenguaje; los avances son enormes, pero la realidad es que aún no podemos fiarnos de la IA y es necesario comprobar la información. Las alucinaciones suelen ser el motivo por el que pillan a quienes usan la IA en sus trabajos, como la consultora Deloitte, que entregó un informe al gobierno australiano que contenía referencias a informes totalmente inventados.
Imagen | Cottonbro studio, Pexels
.
Amparo Babiloni
Fuente de esta noticia: https://www.xataka.com/robotica-e-ia/hay-monton-gente-yendo-a-bibliotecas-a-buscar-libros-que-no-existen-se-invento-ia
También estamos en Telegram como @prensamercosur, únete aquí: https://t.me/prensamercosur Mercosur
Recibe información al instante en tu celular. Únete al Canal del Diario Prensa Mercosur en WhatsApp a través del siguiente link: https://www.whatsapp.com/channel/0029VaNRx00ATRSnVrqEHu1W
ACERCA DEL CORRESPONSAL
REDACCIóN
Prensa Mercosur es un diario online de iniciativa privada que fue fundado en 2001, donde nuestro principal objetivos es trabajar y apoyar a órganos públicos y privados.
- ★Obtienen el primer registro científico de una medusa de agua dulce en Paraguay
- ★Conmoción en Alemania por la lesión de su máxima promesa a seis días del Mundial: “No tiene buena pinta”
- ★EEUU, Paraguay y otros aliados denuncian “intentos de derrocar” al Gobierno de Bolivia
- ★De récord Guinness a fenómeno viral: cómo una familia que quería privacidad creó la isla más famosa y menos accesible del mundo
- ★Petro afirma que Trump está interfiriendo "sin duda" en las elecciones de Colombia
