Nueva ataque ofrece una más razón para que los navegadores de inteligencia artificial sean una mala idea

Un nuevo ataque demuestra la vulnerabilidad de los navegadores de inteligencia artificial. Estos navegadores pueden realizar acciones en nombre del usuario, como reservar una mesa en un restaurante o enviar un correo electrónico de confirmación.

Los desarrolladores de modelos de lenguaje grandes han implementado guardrails para evitar que los usuarios realicen acciones sensibles, como desarrollar software malicioso o robar credenciales. Sin embargo, estos guardrails son reactivos y no abordan la causa raíz del problema. Un nuevo estudio muestra cómo un sitio web puede engañar a los navegadores de inteligencia artificial para que entren en un estado de delusión, donde las reglas normales de comportamiento ya no se aplican.

“Sin embargo, estos guardrails son reactivos y no abordan la causa raíz del problema”

El ataque, llamado BioShocking, presenta un rompecabezas que recompensa respuestas incorrectas, como 2 + 2 = 5. Una vez que el modelo de lenguaje grande descubre que la respuesta es incorrecta, entra en un estado de delusión en el que las restricciones de seguridad ya no se aplican. El sitio web puede entonces solicitar que el navegador realice acciones destructivas, como extraer código de un repositorio privado o credenciales de un administrador de contraseñas.

El ataque funcionó en una amplia gama de navegadores de inteligencia artificial, incluyendo ChatGPT Atlas, Comet, Fellou, Genspark, Sigma y el complemento Claude Chrome. Los expertos advierten que los navegadores de inteligencia artificial pueden ser un vector para violaciones de datos personales, credenciales de autenticación y más, ya que pueden acceder a información de diferentes sitios web y servicios. La falta de separación entre el plano de control y el plano de datos en los navegadores de inteligencia artificial los hace más vulnerables a este tipo de ataques.