Alibaba acusado de distilación adversaria en Anthropic
Anthropic ha acusado a Alibaba de usar una técnica llamada distilación adversaria para acceder repetidamente al sistema Claude durante un período de tres meses.
Según fuentes consultadas por Bloomberg, Anthropic informó a las autoridades estadounidenses que Alibaba realizó hasta 28.8 millones de accesos al sistema Claude entre abril y junio mediante aproximadamente 25.000 cuentas distintas.
“Esta acción ha generado preocupaciones sobre la seguridad y privacidad de los modelos de inteligencia artificial propiedad de Anthropic”
La empresa china habría utilizado la técnica de distilación adversaria para reducir el tamaño del modelo de lenguaje Claude, lo que permitiría una implementación más eficiente en sus propios sistemas.
Esta acción ha generado preocupaciones sobre la seguridad y privacidad de los modelos de inteligencia artificial propiedad de Anthropic.
El uso de técnicas como la distilación adversaria por parte de terceros sin permiso puede socavar las garantías de seguridad establecidas por los creadores originales del modelo.
