Selon l'assemblée générale annuelle de Nvidia du 24 juin, le PDG Jensen Huang a souligné que le cycle actuel de construction d'infrastructures d'IA s'étendra sur des décennies et impliquera des investissements majeurs dans les réseaux électriques et les réseaux de communication. La société a approuvé les 10 administrateurs nommés au conseil.
Huang a déclaré que l'infrastructure d'IA est passée du stade expérimental à celui de la production, comparant le secteur à une structure à cinq couches englobant l'énergie, les puces, les systèmes, l'infrastructure, les modèles et les applications. Il a souligné que l'architecture Blackwell de Nvidia offre le coût de génération de jetons le plus bas et le débit de jetons le plus élevé dans les charges de travail d'inférence d'IA, établissant ainsi la position de leader de l'entreprise alors que les demandes d'inférence dépassent de plus en plus les demandes d'entraînement. Le potentiel de revenus, a-t-il noté, dépendra des performances de l'infrastructure d'IA par watt.