Claude dejará marca invisible en textos generados

La empresa Anthropic ha implementado una marca invisible en los textos generados por su modelo de inteligencia artificial, Claude. Esta marca permitirá identificar los textos creados con IA en plataformas y servicios de terceros.

La marca invisible no es una etiqueta visible ni metadatos que desaparezcan al pegar el texto en otro sitio. En su lugar, es una señal que se incorpora al texto de manera que puede sobrevivir a las ediciones de texto. Sin embargo, la marca no es una garantía absoluta de que el texto haya sido escrito por Claude, solo que ha sido procesado por sus modelos de IA.

“La marca invisible no es una etiqueta visible ni metadatos que desaparezcan al pegar el texto en otro sitio”

Un texto humano también puede acabar marcado si se edita o se procesa con Claude. Por ejemplo, si alguien escribe un artículo y luego lo pasa a Claude para corregir la ortografía o traducirlo, el texto resultante tendrá una marca que indicará que ha sido procesado por Claude. Esto significa que la marca no necesariamente indica que el texto haya sido escrito por Claude, solo que ha sido procesado por sus modelos de IA.

La implementación de esta marca invisible es un requisito para la transparencia a la que obliga la Ley de la IA europea. Sin embargo, algunos expertos han expresado preocupaciones sobre la efectividad y la privacidad de esta marca. Por ejemplo, si el texto ha sido muy editado o parafraseado, la marca puede desaparecer. Además, la empresa no ha publicado el mecanismo técnico que permite detectar la marca, lo que ha generado dudas sobre su efectividad.

La marca invisible de Anthropic es similar a los GUID que Microsoft activó en los documentos de Office 97. Estos identificadores invisibles incluían información derivada de la dirección MAC de la tarjeta de red y se podían combinar con otros registros para relacionar un documento con el ordenador que lo había creado. Microsoft terminó eliminando los GUID debido a las críticas por la invasión de la privacidad. Aunque Anthropic no está identificando usuarios con su marca invisible, el paralelismo con el caso de Microsoft es preocupante, ya que una vez que existe una huella invisible y persistente dentro de un contenido, importa mucho quién la controla y hasta dónde puede ampliarse.