Jugadores humanos fallan en detectar 1 de cada 3 amenazas en 40.000 partidas de juego con agentes de inteligencia artificial

Un estudio sobre la detección de amenazas en juegos con agentes de inteligencia artificial ha revelado que los jugadores humanos fallan en detectar una de cada tres amenazas. El estudio se basó en más de 40.000 partidas de un juego en el que los jugadores debían aprobar o denegar comandos de un agente de inteligencia artificial bajo presión de tiempo.

Los resultados del estudio muestran que el jugador promedio tiene una precisión del 66,3% en la detección de amenazas. Además, el 32,9% de las sesiones terminaron con una puntuación negativa, lo que indica que los jugadores aprobaron comandos peligrosos o bloquearon comandos seguros. Solo el 35,2% de los jugadores detectaron todas las amenazas, y el 20,8% logró hacerlo sin bloquear más de un comando seguro de cada cinco.

“Un comando en particular, "npm run analyze", fue aprobado por el 64,7% de los jugadores, a pesar de que podría contener código malicioso”

El estudio también analiza las categorías de amenazas y las tasas de error asociadas. Las amenazas más obvias, como la destrucción de archivos, tienen una tasa de error del 11,7%. Sin embargo, las amenazas más sutiles, como la exfiltración de credenciales, tienen una tasa de error del 35%. Un comando en particular, "npm run analyze", fue aprobado por el 64,7% de los jugadores, a pesar de que podría contener código malicioso.

La investigación sugiere que la fatiga de permisos es un problema real, ya que los jugadores se vuelven menos diligentes en su supervisión a medida que ven más comandos. Un comentario en la discusión del estudio destaca que "es un gran ejemplo de cómo las acciones peligrosas son percibidas como inocentes". El estudio destaca la importancia de desarrollar sistemas de detección de amenazas más efectivos y de concienciar a los usuarios sobre los riesgos asociados con la aprobación de comandos.

En resumen, el estudio muestra que los jugadores humanos no son lo suficientemente efectivos en la detección de amenazas en juegos con agentes de inteligencia artificial. Es necesario desarrollar sistemas más seguros y concienciar a los usuarios sobre los riesgos asociados con la aprobación de comandos. Como se menciona en el estudio, "el modelo de aprobar comandos específicos es absolutamente loco", lo que destaca la necesidad de encontrar soluciones más efectivas para proteger la seguridad de los usuarios.