Traceforce: monitoreo de seguridad para aplicaciones de IA
La seguridad de las aplicaciones de inteligencia artificial es un desafío creciente para las empresas. Traceforce es una herramienta que proporciona visibilidad y control sobre estas aplicaciones en todos los dispositivos de una compañía.
La herramienta funciona instalando un binary ligero y una extensión de navegador en cada dispositivo, lo que permite a la empresa monitorear en tiempo real las actividades de los agentes de inteligencia artificial en todos los dispositivos. Traceforce también ofrece una herramienta de pentesting de código abierto para detectar vulnerabilidades en los MCPs, que son los componentes que conectan las aplicaciones de inteligencia artificial con otras fuentes de datos.
El objetivo de Traceforce es dar a los empleados una forma estandarizada de asegurarse de que el software de inteligencia artificial que se ejecuta en sus dispositivos es seguro, y proporcionar a los equipos de seguridad de la empresa visibilidad sobre las actividades de estos agentes y detectar posibles riesgos de seguridad. La herramienta es transparente sobre lo que monitorea y recopila, y solo recopila metadatos y telemetría sobre las aplicaciones de inteligencia artificial y los MCPs que se ejecutan en un dispositivo.
Traceforce ya se ha desplegado en más de 1.000 dispositivos en 10 organizaciones, y ha ayudado a los clientes a identificar secretos expuestos en configuraciones de MCP, prevenir la fuga de claves de API a través de código generado por inteligencia artificial, y advertir a los desarrolladores antes de ejecutar comandos potencialmente destructivos. La herramienta está diseñada para trabajar con equipos de seguridad, IT y plataformas de inteligencia artificial en empresas de tamaño mediano que están adoptando rápidamente asistentes de codificación de inteligencia artificial y otras herramientas de productividad.
