Nvidia apresenta primeiro chip Groq LPX: Combinado com Vera Rubin, eficiência de inferência atinge aumento de até 35 vezes por megawatt, e mostra protótipo de próxima geração Kyber

Gate News notícias, 17 de março, a Nvidia lançou o chip Groq 3 LPU (Unidade de Processamento de Linguagem), o primeiro chip lançado após a Nvidia adquirir a startup de chips de inferência de IA Groq por cerca de 20 mil milhões de dólares em dezembro do ano passado. Espera-se que comece a ser comercializado no terceiro trimestre deste ano. O chassi Groq 3 LPX pode acomodar 256 LPUs, equipado com 128GB de SRAM on-chip e uma largura de banda de interconexão expandida de 640TB por segundo. Segundo a empresa, quando implantado com o Vera Rubin NVL72, o LPX pode aumentar até 35 vezes o throughput de inferência por megawatt, desbloqueando potencial de receita em cenários de inferência com trilhões de parâmetros e milhões de tokens de contexto. Jensen Huang descreveu os dois processadores como "extremamente diferentes, mas unificados: um busca alta taxa de transferência, o outro baixa latência", com a memória on-chip do LPX ampliando significativamente a capacidade total de memória utilizável do modelo. O chassi LPX está planejado para ser lançado na segunda metade deste ano juntamente com a plataforma Vera Rubin. Além disso, Huang também apresentou um protótipo da arquitetura de próxima geração, de código Kyber. O Kyber altera a disposição dos 144 GPUs em um formato vertical para aumentar a densidade física e reduzir a latência, e será equipado na plataforma sucessora Vera Rubin Ultra, prevista para 2027.
Isenção de responsabilidade: as informações nesta página podem ter origem em fontes terceiras e servem apenas como referência. Não representam as opiniões da Gate e não constituem orientação financeira, de investimentos ou jurídica. A negociação de ativos virtuais envolve alto risco. Não tome decisões baseando-se apenas nas informações desta página. Para mais detalhes, consulte a Isenção de responsabilidade.
Comentário
0/400
Sem comentários