Anthropic comparte detalles sobre cómo funcionarán los watermarks de Claude

La empresa Anthropic ha compartido detalles sobre cómo funcionarán los watermarks en el texto generado por su chatbot Claude. Estos watermarks son parte de la implementación de la empresa para cumplir con el Código de Transparencia de la Ley de IA de la Unión Europea.

A continuación, se presentan algunos hechos clave sobre los watermarks de Claude: * La watermarking no afecta la calidad del texto generado por Claude. * El método utilizado se llama SynthID-Text, desarrollado por el equipo de Google DeepMind en 2024. * La empresa planea lanzar una API para detectar los watermarks. * La edición ligera del texto no eliminará completamente el watermark, pero una reescritura completa sí lo hará. * El watermark será menos detectable en código que en texto común, ya que el modelo debe generar código funcional.

“* La edición ligera del texto no eliminará completamente el watermark, pero una reescritura completa sí lo hará”

Anthropic ha explicado que el watermarking es diferente a los enfoques de detección de IA que buscan patrones en la escritura para revelar el uso de IA. La empresa también ha señalado que otros desarrolladores de modelos de IA también implementarán watermarks en sus productos.

La implementación de los watermarks en Claude ha generado debate entre los usuarios, con algunos expresando su preocupación por la posible detección de su uso de la herramienta en el trabajo o en la escuela. Sin embargo, la empresa ha enfatizado que el watermarking es necesario para cumplir con las regulaciones de la Unión Europea y para proporcionar transparencia en la generación de contenido de IA.

En resumen, los watermarks de Claude son una medida para cumplir con las regulaciones de la Unión Europea y para proporcionar transparencia en la generación de contenido de IA. La empresa ha explicado cómo funcionarán los watermarks y ha enfatizado que no afectarán la calidad del texto generado por Claude.