HBM（広帯域メモリ）とは

HBM（High Bandwidth Memory、広帯域メモリ）とは、複数のメモリダイを垂直に積層し、TSV（シリコン貫通電極）で相互接続したDRAMです。 Samsungは公式ページでこのように記述しています。

定義・解説

メモリの帯域は、同時に流せる線の本数と、1本あたりの速度の積で決まります。速度を上げるのは物理的な限界に近づくほど難しくなるので、本数で稼ぐ道があります。

ところが平面に並べたチップでは、端子を置ける場所が外周に限られます。パッケージの縁の長さが本数の上限を決めてしまいます。

HBMはこの制約を、積む方向で外します。Samsungは公式ページで、HBMが複数のメモリダイを垂直に積層しTSVで相互接続したものであると述べています。ダイを貫いて上下をつなげば、端子は外周ではなく面の全体に置けます。しかも配線がチップの外周を回らずに済むため、1本あたりが短くなります。

短い配線を大量に通せる。これがHBMの本体です。同ページは、TSVベースの積層と高スループットのメモリ性能を統合してAI学習とHPCワークロードを加速すると述べ、データ集約的かつ高度に並列な処理向けに設計されているとしています。

端子を外周から面へ移す

平面に並べると端子は外周に限られ、配線も外周を回ります。積んでTSVで貫けば端子を面全体に置け、配線が短くなります。帯域は本数と速度の積なので、本数で稼ぐ道が開きます。

Samsungは公式ページで、世代ごとの仕様を次のように記載しています。

世代	容量	ピン速度	1スタック帯域	積層
HBM3	16GB / 24GB	6.4 Gb/s	最大 819 GB/s	──
HBM3E	24GB / 36GB	最大 9.2 Gb/s	最大 1,180 GB/s	──
HBM4	36GB	最大 13.0 Gbps	3,300 GB/s	12H
HBM4E	最大 64GB	最大 16 Gbps	4 TB/s	16段

ピン速度はHBM3の6.4Gb/sからHBM4Eの16Gbpsへ2.5倍、帯域は819GB/sから4TB/sへおよそ5倍です。速度の伸びより帯域の伸びが大きいのは、積層数と信号線の本数も同時に増やしているためです。速度だけで押し切るかわりに、本数と速度の両方を積み上げる設計になっています。

積むほど熱の逃げ場は減り、貫く穴の数だけ製造の難度も上がります。世代が進むたびに積層数が増えているのは、その難度を工程側が引き受けてきた結果です。

速度の伸びより、帯域の伸びが大きい

ピン速度が2.5倍になる間に、帯域はおよそ5倍になっています。差を埋めているのは信号線の本数と積層数です。速さだけで押し切らず、本数と速さの両方を積み上げる設計になっています。

HBMとは何ですか？

Samsungは公式ページで、HBM（High Bandwidth Memory）を、複数のメモリダイを垂直に積層しTSV（シリコン貫通電極）で相互接続したものと記述しています。

なぜ縦に積むのですか？

配線の本数を稼ぐためです。横に並べると端子は外周にしか置けませんが、縦に積んで面で貫けば、短い配線を大量に通せます。帯域は配線の本数と速度の積で決まります。

TSVは何をしていますか？

積んだダイを貫いて上下をつなぎます。Samsungは公式ページで、メモリダイがTSVで相互接続されると述べています。チップの外周を回らずに済むため、配線が短くなります。

世代ごとの帯域はどのくらいですか？

Samsungは公式ページで、HBM3をピンあたり6.4Gb/s・1スタックあたり最大819GB/s、HBM3Eをピンあたり最大9.2Gb/s・最大1,180GB/s、HBM4を最大13.0Gbps・3,300GB/sと記載しています。

積層数と容量はどうなっていますか？

Samsungは公式ページで、HBM3を16GBと24GB、HBM3Eを24GBと36GB、HBM4を36GBで12H（12段）、HBM4Eを16段スタックで最大64GBと記載しています。

どこで使われますか？

Samsungは公式ページで、HBMがTSVベースの積層と高スループットのメモリ性能を統合してAI学習とHPCワークロードを加速すると述べ、データ集約的かつ高度に並列な処理向けに設計されているとしています。

この記事の事実は次の一次資料を根拠とし、各URLの到達可否をこちらで実測しています。したがって、リンク先が移動または消滅した場合は、その旨をこのページへ反映します。