Las barreras de la inteligencia artificial obstaculizan el trabajo de investigadores de ciberseguridad ofensiva
Los investigadores de ciberseguridad ofensiva enfrentan obstáculos debido a las limitaciones impuestas por las empresas de inteligencia artificial. Estas empresas han establecido programas y guardrails para limitar el uso de sus modelos por parte de hackers maliciosos, pero estas restricciones también están afectando el trabajo de los investigadores legítimos.
Entre los hechos clave se encuentran: * La empresa Anthropic ha implementado guardrails en sus modelos de inteligencia artificial para prevenir su uso en ataques cibernéticos. * El gobierno de Estados Unidos ha impuesto restricciones de exportación en algunos de estos modelos. * Las empresas de inteligencia artificial ofrecen programas de acceso vetado para investigadores de ciberseguridad. * Los investigadores critican estas restricciones, argumentando que limitan su capacidad para encontrar vulnerabilidades en los sistemas.
“* Los investigadores critican estas restricciones, argumentando que limitan su capacidad para encontrar vulnerabilidades en los sistemas”
Para entender el contexto, es importante saber que las empresas de inteligencia artificial están tratando de equilibrar la necesidad de proteger la seguridad de sus usuarios con la necesidad de permitir que los investigadores de ciberseguridad hagan su trabajo. Los investigadores de ciberseguridad ofensiva buscan encontrar vulnerabilidades en los sistemas antes de que los hackers maliciosos lo hagan, y para ello necesitan utilizar herramientas de inteligencia artificial.
Los investigadores argumentan que las restricciones impuestas por las empresas de inteligencia artificial están obstaculizando su trabajo. Mark Dowd, un investigador de seguridad conocido, ha dicho que "no es cómodo" que las empresas de inteligencia artificial tomen decisiones arbitrarias sobre qué es seguro y qué no en materia de seguridad. Otros investigadores, como Chris Anley, han expresado similares preocupaciones, argumentando que las guardrails pueden impedir que los investigadores confirmen la existencia de vulnerabilidades en los sistemas. En lugar de utilizar modelos de inteligencia artificial con guardrails, algunos investigadores están recurriendo a modelos de código abierto que no tienen restricciones.
