Anthropic explica marcas de agua invisibles

La empresa Anthropic implementará marcas de agua invisibles en los textos generados por su modelo de lenguaje Claude. Esto se hace para cumplir con las normas de transparencia de inteligencia artificial de la Unión Europea.

Los siguientes son algunos hechos clave sobre la implementación: * Anthropic utilizará una versión del sistema SynthID-Text, desarrollado por Google DeepMind. * El sistema crea patrones detectables utilizando probabilidades de palabras. * La marca de agua no afectará el costo ni la calidad de los textos generados por Claude. * La Unión Europea requiere que los contenidos sintéticos incluyan marcas legibles por máquina para detectar su origen artificial. * Otras empresas, como Google y OpenAI, también deben cumplir con estas normas.

“* La marca de agua no afectará el costo ni la calidad de los textos generados por Claude”

El sistema de marcas de agua funciona mediante la creación de patrones en los textos generados por Claude. Estos patrones son indetectables para el lector, pero pueden ser detectados por aquellos que tienen una clave que los decodifica. La clave se utiliza para determinar la palabra siguiente en una oración, en lugar de un generador de números aleatorios.

Es importante destacar que la Unión Europea ha establecido estas normas para garantizar la transparencia en la generación de contenidos sintéticos. Anthropic no es la única empresa que debe cumplir con estas normas, ya que otras empresas como Google y OpenAI también deben implementar sistemas de marcas de agua en sus modelos de lenguaje.

En resumen, la implementación de marcas de agua invisibles en los textos generados por Claude es un paso hacia la transparencia en la generación de contenidos sintéticos. Esto permitirá a los usuarios detectar si un texto ha sido generado por un modelo de lenguaje o no, lo que es fundamental en la era de la inteligencia artificial.