Las marcas de agua en los textos llegan a ChatGPT: son invisibles, pero se pueden detectar

OpenAI da un importante paso adelante para cumplir con la normativa de la Unión Europea. La compañía ha informado de la activación, “en las próximas semanas”, de las marcas de agua en los contenidos generados por sus modelos de IA. Esto incluye los textos que miles de personas crean con ChatGPT.

El control de la IA en la Unión Europea se va poniendo cada vez más serio. OpenAI ha confirmado en una publicación que han hecho hace unas horas, que activarán muy pronto las marcas de agua en textos que se generen con sus IA. Además, han explicado cómo funciona el sistema que insertará estas marcas de agua y también la forma en la que se podrán detectar por mucho que sean invisibles.

Hay limitaciones tecnológicas

OpenAI quiere ser transparente y ha comenzado su publicación reconociendo que la tecnología de marcas de agua en texto tiene importantes limitaciones, al menos actualmente. Es obvio que, a diferencia de las marcas de agua de las imágenes, resulta un “sello” que es más difícil colocar. Por ello, han querido explicar lo que han hecho hasta el momento, siendo un sistema que se aplicará en los países de la Unión Europea en las próximas semanas.

Para comenzar, indican que las marcas de agua en texto se aplicarán de forma automática a partir del momento de la activación del sistema tanto en ChatGPT como en Codex. Asimismo, avisan que el sistema de marca de agua en textos ya está disponible a nivel mundial en su API. No obstante, este sistema mundial de la API es, simplemente, opcional. Los usuarios o profesionales que quieran poner marca de agua en texto con la API ya lo pueden hacer, sobre todo si tienen curiosidad por ver cómo funciona el sistema. Salvo en la Unión Europea, parece que esta activación automática no se activará.

Así funciona la marca de agua

La marca de agua en los textos se aplicará en todo lo que genere ChatGPT y Codex y será invisible. Pero, aunque las marcas no se podrán ver, sí que existirán y se podrán detectar con las herramientas que OpenAI pondrá en manos de “investigadores aprobados”. Por el momento, ellos serán los únicos que podrán acceder al detector de marcas de agua, incluyendo, posiblemente, las autoridades en caso de que resulte necesario. Al mismo tiempo, también es posible que, entre esos investigadores, se encuentren entidades como Google que ya están comenzando a poner control a los textos generados con IA.

Dice OpenAI que la marca de agua en los textos “ayuda a responder una pregunta: “¿Es probable que esto haya sido generado por un modelo de OpenAI?”. No es un sistema que garantice una precisión absoluta, dado que OpenAI explica que, sobre todo en textos cortos, la marca de agua puede ser “indetectable”. También se han encontrado en sus pruebas con casos en los que la marca de agua no se detecta si el texto ha sido reescrito o traducido. Según OpenAI, haciendo esos procesos se puede eliminar la marca de agua al completo.

La marca de agua que se queda en el texto es “una señal estadística”. Esta señal se incrusta en el texto de forma invisible mientras este se está generando, pero no se visualiza absolutamente nada, ni una marca ni un símbolo especial. Además, OpenAI menciona que la marca de agua no atribuye autoridad sobre la autoría ni tampoco sobre la propiedad del texto. Tampoco identifica a un individuo, una empresa, una conversación, una cuenta de usuario o un prompt introducido en el proceso de creación del texto.