Coinbase reduce el gasto en IA casi a la mitad utilizando modelos de peso abierto GLM y Kimi como predeterminados

Según el CEO Brian Armstrong el 29 de junio, Coinbase redujo el gasto en IA en casi la mitad mediante estrategias optimizadas de valores predeterminados, enrutamiento y almacenamiento en caché, en lugar de límites de uso. La empresa estableció modelos de pesos abiertos, incluidos GLM de Zhipu y Kimi de Moonshot, como opciones predeterminadas a través de su puerta de enlace LLM, mientras que el 91% de los empleados nunca han alcanzado los límites de uso. Las tasas de acierto de caché mejoraron del 5% al 60%, lo que demuestra la efectividad de la optimización a nivel de infraestructura.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios