D'après Artificial Analysis, le système de baie à refroidissement liquide Blackwell GB300 NVL72 de Nvidia permet de prendre en charge 61 400 agents simultanés par mégawatt de puissance dans un nouveau benchmark matériel d'agents publié, AA-AgentPerf, contre 2 600 pour la génération précédente Hopper HGX H200. Le benchmark mesure l'efficacité en rejouant de vrais workflows de programmation, où des agents d'IA décomposent autonomement les tâches et itèrent à travers des opérations de fichiers, des modifications de code et des cycles de tests. La capacité concurrente avec un seul GPU s'est améliorée de 41 fois.
Avec des budgets de puissance équivalents, les centres de données peuvent désormais prendre en charge 20 fois plus d'agents simultanés, réduisant significativement les coûts de déploiement pour les applications de programmation autonome et de service client. L'Instinct MI355X d'AMD est actuellement en retard dans les résultats initiaux, bien que la société d'évaluation ait noté que les performances d'AMD pourraient s'améliorer à mesure que les frameworks de service seront optimisés.