Bajada de acciones de memoria: inversores temen una sobreoferta

La empresa Hugging Face ha informado que su sistema fue hackeado por un atacante que utilizó un sistema de inteligencia artificial autónomo. El ataque se detectó y se respondió rápidamente, pero la empresa tuvo que utilizar un modelo de inteligencia artificial chino para analizar el ataque debido a que los guardrails de seguridad de su proveedor de modelos de inteligencia artificial estadounidense bloquearon el análisis.

El ataque se llevó a cabo mediante un sistema de inteligencia artificial que accedió a varios clusters y credenciales internas de Hugging Face. La empresa ha informado que su propio sistema de detección y triaje basado en inteligencia artificial detectó el ataque y lo contuvo rápidamente. Sin embargo, la empresa tuvo que utilizar un modelo de inteligencia artificial chino para analizar el ataque debido a que los guardrails de seguridad de su proveedor de modelos de inteligencia artificial estadounidense bloquearon el análisis.

“La empresa ha informado que su propio sistema de detección y triaje basado en inteligencia artificial detectó el ataque y lo contuvo rápidamente”

La empresa ha destacado que la capacidad de los atacantes para utilizar sistemas de inteligencia artificial autónomos para llevar a cabo ataques cibernéticos es un problema creciente. Los expertos en seguridad cibernética han señalado que la asimetría en la capacidad de los atacantes y los defensores para utilizar sistemas de inteligencia artificial es un problema importante. Los atacantes pueden utilizar sistemas de inteligencia artificial sin restricciones, mientras que los defensores pueden estar limitados por los guardrails de seguridad que bloquean el análisis de los ataques.

El incidente ha destacado la importancia de la soberanía sobre la inteligencia artificial en la seguridad cibernética. Las empresas y los individuos que pueden ejecutar, inspeccionar, auditar y eliminar los guardrails de seguridad de sus propios modelos de inteligencia artificial tendrán una ventaja decisiva en la comprensión y respuesta a las amenazas que se mueven a velocidad de máquina. La empresa Hugging Face ha destacado que la transparencia y la rapidez en la respuesta al ataque fueron clave para contener el daño y que la empresa está trabajando para mejorar su seguridad cibernética.