El mercado de relay detrás de los revendedores de tokens y el fraude

Un mercado de relay ha surgido en torno a la reventa de tokens de modelos de lenguaje a precio reducido. Este mercado se basa en la agrupación de claves de API de diversas fuentes para ofrecer descuentos significativos en los precios regulares de las API.

Los revendedores utilizan software de código abierto, como one-api y new-api, para crear proxies que ofrecen acceso a modelos de lenguaje a precio reducido. Estos proxies se crean abusando de pruebas gratuitas, utilizando bots de soporte sin protección o, en algunos casos, mediante el uso de tarjetas de crédito robadas o ataques de chargeback. Los compradores buscan tokens baratos, evitan restricciones geográficas y, en algunos casos, recopilan datos para la destilación de modelos.

“Los vendedores de modelos de lenguaje necesitan mejorar la seguridad de sus claves de API para evitar el abuso y ofrecer límites estrictos para evitar gastos excesivos”

El mercado de relay se ha desarrollado principalmente en China, donde los revendedores venden acceso a proxies que ofrecen descuentos significativos en los precios regulares de las API. Los vendedores de modelos de lenguaje necesitan mejorar la seguridad de sus claves de API para evitar el abuso y ofrecer límites estrictos para evitar gastos excesivos. La existencia de este mercado hace que los desarrolladores de aplicaciones de modelos de lenguaje sean más cautelosos al exponer sus aplicaciones públicamente, ya que existe un ecosistema que puede aprovecharse de encontrar un nuevo punto final sin protección para explotar.

La seguridad de las claves de API es fundamental para evitar el abuso y los gastos excesivos. Los vendedores de modelos de lenguaje deben ofrecer límites estrictos para las claves de API, de modo que las aplicaciones dejen de funcionar cuando se alcance un umbral de gasto establecido. Esto ayudaría a prevenir el abuso y a proteger a los desarrolladores de aplicaciones de modelos de lenguaje contra gastos excesivos. El mercado de relay es un ejemplo de cómo la falta de seguridad en las claves de API puede llevar a la creación de un ecosistema que se aprovecha del abuso y la explotación.