Ataques de "insider sintético" aumentan la presión para la defensa cibernética corporativa

Un análisis de Verizon sobre unos 22.000 incidentes reveló que el 12% de los ataques cibernéticos fueron llevados a cabo por actores internos. Esto ha aumentado la presión para mejorar la defensa cibernética corporativa.

Los ataques de "insider sintético" son un tipo de amenaza en el que un atacante utiliza información interna para comprometer la seguridad de una empresa. En el caso de Hugging Face, un modelo de lenguaje llamado GLM-5.2 fue utilizado para realizar un análisis forense de una brecha de seguridad después de que los guardrails de seguridad de un modelo de frontera estadounidense bloquearan las solicitudes.

“Los ataques de "insider sintético" son un tipo de amenaza en el que un atacante utiliza información interna para comprometer la seguridad de una empresa”

La empresa informó que el atacante desconocido "abuso de dos caminos de ejecución de código en nuestro procesamiento de datos". Esto ha generado preocupación sobre la capacidad de los modelos de lenguaje para detectar y prevenir este tipo de ataques. Algunos expertos argumentan que los modelos de lenguaje estadounidenses son demasiado restrictivos y no permiten a las empresas utilizar sus capacidades para defenderse contra los ataques cibernéticos.

El incidente ha generado un debate sobre la necesidad de encontrar un equilibrio entre la seguridad y la libertad de uso de los modelos de lenguaje. Algunos expertos argumentan que los modelos de lenguaje chinos, como Kimi K3, son más flexibles y permiten a las empresas utilizar sus capacidades para defenderse contra los ataques cibernéticos sin las restricciones de los modelos estadounidenses. Sin embargo, otros expertos advierten que la falta de restricciones en los modelos de lenguaje chinos puede aumentar el riesgo de ataques cibernéticos.