🔎
Más
Especiales
Filtros
IA hace 2 h

NVIDIA Nemotron 3 Embed Ranks #1 en clasificación general de RTEB, avanzando en recuperación agente

NVIDIA Nemotron 3 Embed Ranks #1 en clasificación general de RTEB, avanzando en recuperación agente

NVIDIA ha lanzado Nemotron 3 Embed, una colección de modelos de embebido diseñados para mejorar la calidad de recuperación en flujos de trabajo de agentes. La colección incluye tres modelos abiertos que alcanzan la vanguardia en recuperación a lo largo de la curva de precisión y eficiencia.

Los modelos de Nemotron 3 Embed están diseñados para ser prácticos y fáciles de implementar en producción. El modelo Nemotron-3-Embed-8B-BF16 es el modelo insignia y ocupa el primer lugar en la clasificación general de RTEB. Por otro lado, los modelos Nemotron-3-Embed-1B-BF16 y Nemotron-3-Embed-1B-NVFP4 están diseñados para ser más eficientes y escalables, lo que los hace adecuados para implementaciones de producción donde la latencia y el costo son importantes.

“El modelo Nemotron-3-Embed-8B-BF16 es el modelo insignia y ocupa el primer lugar en la clasificación general de RTEB”

La colección de modelos Nemotron 3 Embed ofrece una serie de características que la hacen atractiva para las implementaciones de recuperación empresarial. Entre estas características se incluyen la capacidad de inspeccionar, ajustar y desplegar modelos de recuperación en la propia infraestructura, una ventana de contexto de 32k, soporte multilingüe y de recuperación de código, y una ruta de despliegue de 4 bits optimizada para NVIDIA NVFP4 para una recuperación de alta velocidad con un menor tamaño de memoria.

Los modelos de Nemotron 3 Embed han sido evaluados en varias dimensiones, incluyendo la calidad de recuperación, la eficiencia de los agentes y los compromisos de despliegue. Los resultados muestran que el modelo Nemotron-3-Embed-8B-BF16 establece el techo de calidad para la colección, mientras que los modelos Nemotron-3-Embed-1B-BF16 y Nemotron-3-Embed-1B-NVFP4 ofrecen una buena relación entre calidad y eficiencia. En particular, el modelo Nemotron-3-Embed-8B-BF16 ocupa el primer lugar en la clasificación general de RTEB, con un puntaje del 78,5% en RTEB y del 75,5% en MMTEB Retrieval.

La importancia de Nemotron 3 Embed radica en su capacidad para mejorar la calidad de recuperación en flujos de trabajo de agentes, lo que puede tener un impacto significativo en la eficiencia y la precisión de las aplicaciones que utilizan recuperación. La disponibilidad de la colección de modelos Nemotron 3 Embed en Hugging Face y su compatibilidad con varios partners de nube y inferencia de IA la hacen una herramienta atractiva para los desarrolladores y las empresas que buscan mejorar sus capacidades de recuperación.

Más sobre IA