Meta lanza modelo de inteligencia artificial sin peso
Se ha lanzado Muse Glimmer, un modelo de inteligencia artificial de 30 mil millones de parámetros. Está diseñado para funcionar en equipos locales con una sola tarjeta gráfica de consumo.
Muse Glimmer se puede ejecutar en una Mac o una PC. Esto permite usos que van desde agentes locales y llamadas a funciones hasta codificación local y evaluación de modelos de lenguaje. El modelo ofrece un rendimiento sólido en casos de uso y benchmarks clave en comparación con otros modelos de su tamaño. Los modelos de fundación han logrado capacidades notables en razonamiento, generación de código y uso de herramientas, pero la mayoría de las implementaciones aún dependen de la infraestructura en la nube y el acceso a la red.
“Esto permite usos que van desde agentes locales y llamadas a funciones hasta codificación local y evaluación de modelos de lenguaje”
Muse Glimmer se ha entrenado para equilibrar la capacidad con las limitaciones de memoria y computación de los equipos locales. El entrenamiento se llevó a cabo en varias fases, incluyendo pre-entrenamiento, entrenamiento medio y post-entrenamiento. El modelo se evaluó según los estándares establecidos en el Marco de escalado de inteligencia artificial avanzada de Meta.
Muse Glimmer puede realizar tareas como completar tareas de agentes de extremo a extremo, utilizar herramientas de manera fiable y razonar en varias etapas. También puede recuperarse de errores y aceptar entrada y razonamiento multimodal. El modelo es compatible con varios patrones de orquestación de agentes y admite diferentes niveles de esfuerzo de razonamiento. Además, está entrenado en datos de más de 100 idiomas.
