AIチップのコストの63％がメモリに、GPUよりメモリの方が高い時代へ – GIGAZINE

AIの進歩やインフラを調査するEpoch AIが、NVIDIA、AMD、Google、Amazonが設計したAIチップを調査し、AIチップの部品コストに占めるメモリの割合が2024年第1四半期の52％から2025年第4四半期には63％まで上昇したと報告しました。

AI Chip Component Costs: Memory at 63% | Epoch AI | Epoch AI
https://epoch.ai/data-insights/ai-chip-component-cost-shares

AI向け半導体では計算を担当するGPUやアクセラレーター本体だけでなく、大量のデータを高速に出し入れするメモリが重要です。AIモデルの学習や推論では膨大な行列計算が行われるため、計算チップがいくら高性能でもデータ供給が遅いと性能を出し切れません。そのため、AIチップでは高帯域幅メモリ(HBM)と呼ばれる高速メモリが大量に使われています。

以下はAIチップの部品コストに占めるメモリ、ロジック、パッケージング、補助部品の割合を示した画像。2024年第1四半期から2025年第4四半期にかけて、メモリの割合を示すグラフ下部の水色部分が拡大していることが分かります。

Epoch AIはAIチップの部品コストを「メモリ」「ロジック」「パッケージング」「補助部品」という4種類に大きく分類しました。メモリはHBM3やHBM3eなどのHBMスタック、ロジックは3nmから5nm世代の先端プロセスで作られる計算用の半導体本体、パッケージングはTSMCのCoWoSのような複数のチップをまとめて実装する技術、補助部品は基板や電力供給部品などを指します。

2024年第1四半期の部品コスト比率はメモリが52％、ロジックが14％、パッケージングが19％、補助部品が15％でした。一方、2025年第4四半期にはメモリが63％まで増え、ロジックは13％前後でほぼ横ばい、パッケージングは15％、補助部品は10％に低下しています。AIチップという名前からは計算用のロジックが最も高価に見えますが、実際に部品コストの過半を占めているのはメモリというわけ。

金額ベースでもメモリの伸びは大きくなっています。Epoch AIによると、NVIDIA、AMD、Google、Amazonの4社が設計したAIチップに使われたメモリ関連支出は2024年の約120億ドル(約1兆9000億円)から2025年には約320億ドル(約5兆円)へ増加しました。AIチップ全体の部品支出も2024年の約220億ドル(約3兆5000億円)から2025年には約520億ドル(約8兆2600億円)に拡大しており、増加分のうち約200億ドル(約3兆1800億円)がメモリ関連支出だった計算です。

メモリの比率が高まっている理由として、AIチップがメモリ帯域を強く必要としている点が挙げられます。AIチップで使用される高帯域幅メモリは一般的なDRAMモジュールと異なり、複数のメモリチップを縦方向に積み重ねて広いデータ経路で接続するため大量のデータを高速に読み書きできます。大規模言語モデルや画像生成AIの処理ではパラメーターや中間データを頻繁にやり取りするため、メモリの容量や帯域が性能とコストの両方を左右する部品になっています。

ただし、Epoch AIの数字は完全な実測値ではなく推定値です。部品単価は契約内容、供給企業、購入時期によって変わり、チップごとの生産数や製品構成にも不確実性があります。Epoch AIは90％信頼区間を用いて部品コストの幅をモデル化しており、2025年第4四半期のメモリ比率63％についても、メモリ単体のコスト幅だけを考慮した場合は60％から67％、すべての部品の不確実性を同時に考慮した場合は54％から73％の範囲になると説明しています。

Epoch AIは「メモリの供給が厳しくなり価格が上昇するため、2026年にはメモリがAIチップの部品コストに占める割合がさらに大きくなる可能性がある」と述べています。Microsoftの2026会計年度の設備投資見通しや、Metaによる2026年の設備投資レンジ引き上げにも、部品価格の上昇が影響しているとのことです。

AIチップのコストを考える際にはGPUやアクセラレーターの演算性能だけでなく、メモリの供給量と価格が重要な要素になっています。Epoch AIは「2024年から2025年にかけてAIチップ部品支出の増加を最も大きく押し上げた部品はメモリであり、AIインフラ投資のコスト構造を理解するうえでメモリ価格がますます重要になっている」と述べました。