Modelos de IA peligrosos están en camino
Anthropic ha retirado temporalmente sus modelos de inteligencia artificial Claude Fable 5 y Mythos 5 debido a una directiva del gobierno estadounidense que prohíbe su uso por parte de ciudadanos extranjeros. La empresa está en conversaciones con la Casa Blanca para reanudar el servicio.
Mythos, lanzado en abril, tiene capacidades avanzadas tanto para identificar vulnerabilidades de software como para encontrar formas de explotarlas. Anthropic advirtió sobre estos riesgos dobles desde el principio. La compañía inicialmente liberó una versión privada llamada Mythos Preview a un grupo selecto y Claude Fable 5 al público en general con restricciones específicas.
“La Casa Blanca ha recibido críticas por su enfoque, ya que algunos argumentan que la directiva es inapropiada y no resuelve el problema a largo plazo”
El gobierno cree que las barreras de seguridad de Claude Fable 5 pueden ser deshabilitadas, lo que permitiría acceso completo a las capacidades de Mythos 5. Expertos advierten que otros competidores probablemente ya tienen o desarrollarán pronto tecnologías similares.
Según Tarah Wheeler, jefa de seguridad cibernética en TPO Group: "Es extremadamente miope pensar que ninguna otra compañía competirá con Anthropic en este aspecto".
Los expertos sugieren que el gobierno necesita prepararse para un futuro donde estas capacidades estarán ampliamente disponibles. La Casa Blanca ha recibido críticas por su enfoque, ya que algunos argumentan que la directiva es inapropiada y no resuelve el problema a largo plazo.
Las autoridades deben centrarse en desarrollar planes democráticos y transparentes para enfrentar los avances de IA en áreas sensibles como la ciberseguridad. La política debe enfocarse en reducir riesgos efectivamente, no solo ralentizar el desarrollo tecnológico.
