Claude agrega un sello invisible a los textos procesados

La empresa Anthropic agregará un sello invisible a los textos procesados por sus modelos de inteligencia artificial. Esto se debe a la implementación de la Ley de Inteligencia Artificial de la Unión Europea, que requiere que los proveedores de sistemas de inteligencia artificial marquen los contenidos generados o manipulados por sus modelos.

A partir de ahora, todos los nuevos modelos de Anthropic ofrecidos a nivel global llevarán una marca invisible en los textos procesados, incluso si solo se utilizan para funciones de edición asistida como la corrección de gramática. La marca se aplica a nivel de modelo y no puede distinguir entre la generación completa de texto y la corrección de una coma. La empresa planea compartir detalles sobre cómo detectar estas marcas para ofrecer soporte técnico.

“La marca se aplica a nivel de modelo y no puede distinguir entre la generación completa de texto y la corrección de una coma”

La Ley de Inteligencia Artificial de la Unión Europea se aplica a todos los modelos de inteligencia artificial lanzados después del 2 de agosto y proporciona un período de gracia hasta diciembre de 2026 para que los proveedores actualicen los modelos lanzados anteriormente. Anthropic está implementando esta medida a nivel global, no solo en la Unión Europea.

El enfoque de Anthropic para implementar estas marcas es fácil de eludir para actores malintencionados y puede castigar a los usuarios que confían en el sistema para etiquetar sus salidas con precisión. Las marcas de agua de texto funcionan sesgando las opciones de palabras del modelo en un patrón que se extiende por todo el documento, solo detectable en conjunto por la herramienta adecuada. Sin embargo, si el texto marcado se pega en otro sistema de chatbot que edita el texto, la marca de agua puede ser destruida. Además, la falta de una marca detectada no significa que el contenido no haya sido generado o procesado por inteligencia artificial.