OpenAI lanza Modo de bloqueo

OpenAI ha lanzado el Modo de bloqueo para ayudar a prevenir la exfiltración de datos en sus modelos de lenguaje. Esta función está diseñada para limitar las solicitudes de red salientes que podrían transferir datos sensibles a un atacante.

El Modo de bloqueo se está implementando en cuentas personales y empresariales de ChatGPT. No evita que aparezcan inyecciones de comandos en el contenido que procesa ChatGPT, pero sí limita la capacidad de transmitir datos sensibles. Por ejemplo, una inyección de comandos podría aparecer en contenido web en caché o en un archivo subido, y aún podría afectar la precisión de una respuesta.

“No evita que aparezcan inyecciones de comandos en el contenido que procesa ChatGPT, pero sí limita la capacidad de transmitir datos sensibles”

El Modo de bloqueo es una medida para mitigar el riesgo de ataques de inyección de comandos, que pueden ocurrir cuando un sistema de lenguaje tiene acceso a datos privados, contenido no confiable y una forma de robar datos y transmitirlos de vuelta al atacante. Al limitar las solicitudes de red salientes, el Modo de bloqueo reduce el riesgo de exfiltración de datos.

El director de seguridad de OpenAI, Dane Stuckey, ha comentado que "el Modo de bloqueo no es para todos", pero que es una herramienta útil para aquellos que tienen un perfil de riesgo elevado, como aquellos que trabajan con datos sensibles. El Modo de bloqueo puede tener some tradeoffs en funcionalidad y utilidad, pero para estos usuarios, el intercambio es válido.