Starr anuncia sitio web con riesgo SQL

Bob Starr lanzó un sitio web que mostraba cómo se gasta el dinero público en tecnología, utilizando una herramienta AI para crearlo rápidamente. Meses después, descubrió que su proyecto contenía un riesgo grave de inyección SQL.

El error de seguridad permitiría a atacantes acceder y modificar datos sin autorización. Starr corrigió el problema, pero no es el único afectado: en redes sociales hay numerosos relatos similares sobre aplicaciones creadas con IA que presentan vulnerabilidades importantes.

“"Cuando manejas datos compartidos o sensibles, los estándares de seguridad cambian", sostiene”

Jer Crane, fundador de PocketOS, informó que un agente AI borró accidentalmente la base de datos de producción de su compañía. Joe Procopio, emprendedor y ex desarrollador, tuvo que retirar una aplicación demostrativa luego de un ataque por haberla creado con IA.

Gabriel Bernadett-Shapiro, investigadora senior en SentinelOne, advierte que el problema se agrava cuando las aplicaciones personales pasan a ser software empresarial sin darse cuenta. "Cuando manejas datos compartidos o sensibles, los estándares de seguridad cambian", sostiene.

Jack Cable, CEO de Corridor (plataforma de seguridad para desarrollo con IA), coincide: "Las aplicaciones creadas por aficionados son buenas para prototipos o herramientas personales no críticas. Pero cuando se trata de datos financieros o sensibles, es mejor ser cauteloso".

Max Segall, COO de Privy (billetera criptográfica), aprendió la lección al encontrar una falla crítica en una aplicación que creó para recompensar a su hijo por hacer ejercicio. Afortunadamente, se descubrió antes del lanzamiento.

Un caso más preocupante ocurrió con Moltbook, una red social viral creada enteramente por IA sin intervención humana. Investigadores de Wiz descubrieron que la base de datos estaba expuesta, revelando miles de correos electrónicos y mensajes privados. Aunque se corrigió rápidamente, el incidente ilustra los riesgos.

La creación rápida de aplicaciones con IA tiene sus ventajas pero también sus peligros. Es importante evaluar cuidadosamente las implicaciones de seguridad antes de lanzar cualquier proyecto.