🔎
Más
Especiales
Filtros
IA hace 1 h

¿Pensando en ACE? Lo podemos hacer con menos tokens

¿Pensando en ACE? Lo podemos hacer con menos tokens

Investigadores de IBM han desarrollado un sistema llamado ALTK-Evolve, que permite a un agente aprender de sus propias trayectorias y aplicar esas lecciones de manera efectiva. Esto se logra mediante la creación de una memoria agente que almacena las lecciones aprendidas y las utiliza en tiempo de inferencia.

El sistema ALTK-Evolve se compara con otro sistema llamado ACE, que también permite a los agentes aprender de sus propias trayectorias. Ambos sistemas coinciden en que no es necesario comprimir las lecciones aprendidas en un resumen conciso, sino que es mejor mantener un registro detallado de cada lección. Sin embargo, difieren en cómo se construye y se entrega la memoria agente.

“Ambos sistemas coinciden en que no es necesario comprimir las lecciones aprendidas en un resumen conciso, sino que es mejor mantener un registro detallado de cada lección”

La construcción de la memoria agente en ALTK-Evolve se realiza mediante la consolidación de lecciones similares y la extracción de pautas tipadas con atribución causal y procedencia. La entrega de la memoria agente se realiza de manera flexible, dependiendo de la tarea y del modelo utilizado. Esto permite que el agente reciba solo la información relevante para la tarea en cuestión, lo que reduce la cantidad de tokens necesarios.

En pruebas realizadas en el entorno AppWorld, el sistema ALTK-Evolve demostró ser más eficiente que ACE en términos de tokens por tarea. Con el modelo DeepSeek-V3.2, ALTK-Evolve requirió 263K tokens por tarea, mientras que ACE requirió 634K tokens. De manera similar, con el modelo gpt-oss-120b, ALTK-Evolve requirió 116K tokens por tarea, mientras que ACE requirió 777K tokens.

La reducción en la cantidad de tokens necesarios puede tener un impacto significativo en la eficiencia y el rendimiento de los modelos de lenguaje. Los investigadores de IBM esperan que su sistema ALTK-Evolve pueda ser utilizado en una variedad de aplicaciones, desde la resolución de tareas complejas hasta la mejora de la interacción entre humanos y máquinas.

Más sobre IA