モルガン・スタンレーのレポートによると、木曜(7月16日)に公表された同レポートでは、人工知能(AI)開発における次の重要なボトルネックが計算能力からメモリ効率へと移行し、業界の「純粋な処理能力競争」に終止符が打たれたとしています。レポートでは、メモリ帯域幅の増加は年率14%にとどまる一方で、AIトークンの拡大は320倍を超えており、大きな帯域幅ギャップが生じていると指摘しています。
メモリのコストは急速に上昇しており、メモリ関連の支出は、2027年にはクラウドサービス提供事業者の資本支出の40%を占める見通しで、2023年の12%から増加します。モルガン・スタンレーは、(HBMを除く)新興のメモリ技術市場が2030年に230億ドルに到達し、2025年は12億ドルであると見積もっており、データのストレージおよび検索(リトリーバル)向けのアーキテクチャ革新に向けた大きなシフトを示すものです。