Claude filtra secretos personales

Un investigador ha encontrado una vulnerabilidad en la herramienta de búsqueda web de Claude, un modelo de lenguaje de inteligencia artificial. La herramienta, llamada web_fetch, estaba diseñada para evitar ataques de exfiltración de datos.

La vulnerabilidad permitía a un atacante crear un sitio web que engañara a Claude para que exfiltrara datos personales de los usuarios. El atacante podía hacer que Claude siguiera una serie de enlaces anidados para llegar a una página que contenía información personal. La herramienta web_fetch estaba configurada para permitir que Claude visitara URLs que estaban incrustadas en páginas que había recuperado previamente.

“La herramienta web_fetch estaba configurada para permitir que Claude visitara URLs que estaban incrustadas en páginas que había recuperado previamente”

El investigador, Ayush Paul, probó la vulnerabilidad y fue capaz de extraer información personal de los usuarios, incluyendo su nombre, ciudad de residencia y nombre de su empleador. La empresa detrás de Claude, Anthropic, ha cerrado la vulnerabilidad al eliminar la capacidad de web_fetch para navegar a enlaces adicionales devueltos dentro de su propio contenido recuperado.

La vulnerabilidad encontrada por Ayush Paul destaca la importancia de la seguridad en los modelos de lenguaje de inteligencia artificial. Los modelos como Claude pueden tener acceso a grandes cantidades de datos personales y, por lo tanto, es crucial que estén diseñados con medidas de seguridad robustas para proteger la privacidad de los usuarios. La empresa Anthropic ha tomado medidas para abordar la vulnerabilidad, pero el incidente sirve como un recordatorio de la necesidad de una vigilancia constante en la seguridad de la inteligencia artificial.