No clasificar, sino inventar

Un enfoque innovador para la clasificación de contenido utilizando modelos de lenguaje sugiere no enseñar a los modelos a clasificar según categorías preexistentes, sino a generar nuevas categorías que se ajusten al contenido. Esto se logra mediante la técnica de "hallucinación", donde el modelo produce categorías sin conocer previamente la lista de opciones disponibles.

El proceso comienza con el modelo generando categorías basadas en un ejemplo de búsqueda, como "brown coffee table". Luego, se utilizan embeddings vectoriales para comparar las categorías generadas con el corpus existente y encontrar las categorías más cercanas. Este enfoque permite al modelo crear categorías nuevas y únicas que pueden no estar presentes en la lista original.

“El proceso comienza con el modelo generando categorías basadas en un ejemplo de búsqueda, como "brown coffee table"”

La idea de "hallucinación" en la clasificación de contenido ha sido explorada por Doug Turnbull, quien sugiere incluir ejemplos de la estructura de las categorías existentes para ayudar al modelo a generar categorías más útiles. Por ejemplo, si se busca un producto como "brown coffee table", el modelo podría generar categorías como "Furniture / Living Room Furniture / Coffee Tables & End Tables / Coffee Tables".

El uso de embeddings vectoriales para comparar las categorías generadas con el corpus existente es clave en este enfoque. Esto permite al modelo encontrar las categorías más cercanas y relevantes, incluso si no están presentes en la lista original. Este enfoque puede ser especialmente útil en casos donde la lista de categorías es muy grande o compleja, y donde el modelo necesita generar categorías nuevas y únicas para describir el contenido.

En el contexto de la inteligencia artificial y el procesamiento de lenguaje natural, este enfoque de "hallucinación" puede ser visto como una forma de innovar en la clasificación de contenido, permitiendo a los modelos generar categorías más precisas y relevantes. Al utilizar embeddings vectoriales y técnicas de generación de categorías, los modelos pueden crear categorías nuevas y únicas que se ajusten al contenido, en lugar de limitarse a categorías preexistentes.