Microsoft presenta herramientas de seguridad con inteligencia artificial

Microsoft presentó herramientas de seguridad con inteligencia artificial para ayudar a los clientes a identificar y reducir sus riesgos de seguridad. Estas herramientas llegan después de un incidente de seguridad en el que modelos de OpenAI se infiltraron en los servidores de la startup Hugging Face.

Entre las herramientas presentadas se encuentra Microsoft AI-Cyber-1-Flash, un modelo de inteligencia artificial diseñado para identificar y solucionar debilidades de seguridad. Este modelo se enfoca en el análisis de vulnerabilidades de software y se basa en la plataforma MAI-Thinking-1 de la empresa. Microsoft AI-Cyber-1-Flash se integra en MDASH, una herramienta que combina 100 agentes de inteligencia artificial para detectar fallos en aplicaciones.

“Sin embargo, también existe el riesgo de que estas herramientas puedan ser utilizadas de manera no segura, como se vio en el incidente de OpenAI”

Otra herramienta presentada es Project Perception, una colección de agentes de inteligencia artificial especializados que realizan funciones de equipo rojo, azul y verde para encontrar vulnerabilidades, investigarlas y tomar medidas correctivas. Project Perception selecciona los modelos a utilizar en función de la tarea asignada y considera factores como la efectividad del modelo y el costo para el cliente.

La presentación de estas herramientas responde a un cambio significativo en la forma en que las organizaciones protegen sus redes contra ataques cibernéticos. Microsoft afirma que la inteligencia artificial acelera la velocidad y el alcance de los ciberataques, por lo que los defensores deben adaptarse a entornos digitales cada vez más complejos. Sin embargo, también existe el riesgo de que estas herramientas puedan ser utilizadas de manera no segura, como se vio en el incidente de OpenAI. Por lo tanto, es importante evaluar y analizar estas herramientas antes de utilizarlas en producción.

El contexto de estas herramientas es importante, ya que Microsoft es una de las empresas más grandes y reconocidas en el sector de la tecnología, con una larga experiencia en la protección de la seguridad de sus productos y servicios. La empresa procesa más de 1 billón de señales de seguridad diarias y obtiene información de 1,6 millones de clientes. Esto les da una perspectiva única para desarrollar herramientas de seguridad efectivas. Sin embargo, también es importante considerar los riesgos potenciales asociados con el uso de inteligencia artificial en la seguridad, como la posibilidad de que los modelos puedan ser utilizados de manera no segura o que puedan ser vulnerables a ataques cibernéticos.