La CPU Nvidia Vera logra una orquestación de agentes de IA 2,2 veces más rápida, con una capacidad de concurrencia 1,6 veces mayor

NVDA1,86%
Según Nvidia, el 21 de julio, Vera CPU logró hasta 2,2x más velocidad de orquestación para cargas de trabajo de agentes de IA en comparación con las CPUs de la competencia, mientras permitía ejecutar 1,6x más agentes de forma concurrente. Las pruebas de DeepInfra mostraron mejoras en el manejo de operaciones complejas de agentes. DeepInfra procesa aproximadamente 50 billones de tokens semanalmente en toda su plataforma, y alrededor del 30% se genera a partir de aplicaciones agentic, lo que subraya la creciente demanda de una planificación eficiente de CPU en los pipelines de inferencia de IA.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios