メモリ帯域とは
メモリ帯域とは、メモリと演算部との間で1秒あたりに運べるデータの量です。 単位はGB/s(ギガバイト毎秒)やTB/s(テラバイト毎秒)で表され、演算の速さを表すFLOPSとは別の数字として公表されます。
半導体の性能というと、まず演算の速さが思い浮かびます。ところが実機の仕様表には、演算の値とメモリ帯域の値が並んで載っています。
理化学研究所 計算科学研究センターは、スーパーコンピュータ「富岳」のシステム紹介で、1ノードの演算性能を通常モードの倍精度3.072テラフロップスと記載し、同じ表にメモリをHBM2 32GiB・1024GB/sと記載しています。あわせて、高いメモリバンド幅も「富岳」の特徴のひとつだとし、システム全体の総メモリバンド幅を163PB/s、総ノード数を158,976と記しています。
NECも同じ組み合わせで公表しています。同社は2020年11月19日のプレスリリースで、ベクトルエンジンのカード1枚が8個のコアを内蔵し、2.45テラフロップスの演算性能と1.53テラバイト/秒のメモリ帯域を実現していると発表しています。同じ発表は、そのコアを単一コアの性能と単一コアのメモリ帯域で世界トップクラスにあたると位置づけてもいます。この位置づけには同社調べとの注記が付いています。コア1個あたりの帯域を前面に出している点が、この製品の性格を表しています。
2つの数字を割ると、演算1回あたりに運べるデータ量が求まります。「富岳」のノードは1フロップスあたり約0.33バイト、NECのカードは約0.62バイトになります。以上はいずれも各機関が公表している仕様上の値であり、割り算のほうは当ページで行いました。
なぜ帯域が要るのでしょうか
Section titled “なぜ帯域が要るのでしょうか”演算器は、データが手元に届くまで待ちます。
電子情報通信学会の公開知識ベース『知識の森』6群5編4章は、この関係を述べています。カタログ上のピーク演算性能をそのまま実効性能につなげるには、演算器(ALU)へデータを絶やさず送り込めるだけのメモリバンド幅が要る、という趣旨です。2010年時点の記述です。
同章によれば、ベクトル方式では扱うデータの並びがそろっているぶんメモリへの読み書きも規則正しくなりやすく、主記憶を複数のバンクに分けて並行に動かす作りで広い帯域を確保できます。帯域を厚く取る設計が、この方式の持ち味になっています。
ピーク演算性能と実効性能を分けて考える必要が、ここから出てきます。カタログの演算性能は、演算器が止まらずに動き続けたときの上限を示します。実効性能は、その上限のうちどれだけを実際に使えたかを表す側の数字になります。
帯域は、場所によって太さが違います
Section titled “帯域は、場所によって太さが違います”帯域はキャッシュにもあります。
理化学研究所の同ページは、「富岳」のキャッシュ性能を2GHz動作時の値として記載しています。L1データキャッシュはコアあたり読み出し256GB/s・書き込み128GB/s、L2はノードあたり読み出し4TB/s・書き込み2TB/s、そして主記憶にあたるHBM2はノードあたり1024GB/sです。計算コアは1ノードに48個あります。
コアあたり256GB/sを48コア分そろえると12,288GB/sになります。この合計は当ページで計算しました。L2は4TB/s、主記憶は1024GB/sで、外側へ行くほど細くなります。
電子情報通信学会の同知識ベース6群5編5章も、同じ向きを記しています。あるストリーム向けの構成を3段のメモリ階層として説明し、チップの外に置くSDRAMがいちばん細く、チップに載せたストリームレジスタファイル、演算器のすぐ隣に付くローカルレジスタファイルの順に太くなると述べています。2010年時点の記述です。
同知識ベースの6群4編4章「記憶」は、いちど読んだ番地の近くが次に読まれやすいという空間的局所性を挙げ、まとまった大きさの塊ごと手元へ写しておけば、その近くを読むときも速く済むと述べています。同じデータを何度も使える計算ほど、外へ出る回数が減ります。
AIの計算では、この比がさらに小さくなります
Section titled “AIの計算では、この比がさらに小さくなります”理化学研究所の同ページは、「富岳」のノードの演算性能を倍精度3.072テラフロップス、単精度6.144テラフロップス、半精度12.288テラフロップスと記載しています。いずれも通常モードでの理論値です。用途との対応は、同ページのシステム全体の表のほうに出ており、半精度(16ビット)に「AI学習」、整数(8ビット)に「AI推論」と添えられています。
一方、メモリ帯域は同じ1024GB/sです。
1フロップスあたりに運べる量は、倍精度で約0.33バイト、半精度で約0.083バイトになります(当ページで計算)。演算の桁を下げて回数を稼いでも、運ぶ側の値は同じままです。AI向けの装置で帯域が繰り返し話題になる背景には、この差があります。
帯域を広げる手立て
Section titled “帯域を広げる手立て”配線を増やす方向があります。「富岳」のノードはHBMの第2世代を採用しています。HBMは、メモリダイを縦に積んで配線の本数を稼ぐ形です。
数を増やす方向もあります。NECのラインアップは、ベクトルエンジンを8基積んだデータセンタモデルについて、倍精度24.57TFLOPS、最大総VEメモリ帯域12.24TB/s、最大VEメモリ容量384GBと記載しています。同社の製品仕様の値です。
よくある質問(FAQ)
Section titled “よくある質問(FAQ)”メモリ帯域とは何ですか?
メモリと演算部との間で1秒あたりに運べるデータの量です。理化学研究所は「富岳」の1ノードのメモリをHBM2 32GiB・1024GB/sと記載しています。
演算性能とは別の指標ですか?
別の指標です。演算性能は1秒あたりの計算回数、メモリ帯域は1秒あたりに運べるバイト数を数えます。実機の仕様表には、この2つが並んで載ります。
帯域が細いと何が起きますか?
演算器が待ちます。電子情報通信学会の公開知識ベースは、カタログ上のピーク演算性能を実効性能につなげるには、演算器へデータを絶やさず送れるだけのメモリバンド幅が要るとしています。2010年時点の記述です。
キャッシュにも帯域はありますか?
あります。理化学研究所は「富岳」のL1データキャッシュをコアあたり読み出し256GB/s、L2をノードあたり読み出し4TB/sと、2GHz動作時の値で記載しています。
内側と外側では、どちらが太いのですか?
内側です。48コア分のL1データキャッシュは合計12,288GB/s(当ページで計算)、L2は4TB/s、主記憶は1024GB/sで、外へ行くほど細くなります。
帯域を広げるにはどうしますか?
配線を増やす方向と、数を増やす方向があります。「富岳」のノードはHBM2を採用し、NECはベクトルエンジンを8基積んだ構成について最大総VEメモリ帯域12.24TB/sと記載しています。
AIの計算では何が変わりますか?
1フロップスあたりに運べる量が小さくなります。理化学研究所の記載では、同じ1024GB/sに対して、ノードの演算性能は倍精度3.072テラフロップス、半精度12.288テラフロップスです。
比較・違いを学ぶ
Section titled “比較・違いを学ぶ”この記事の事実は、誰でも読める公開資料を根拠とし、各URLの到達可否をこちらで実測しています。したがって、リンク先が移動または消滅した場合は、その旨をこのページへ反映します。
- 理化学研究所 計算科学研究センター「システム紹介」(2026年8月30日にリンク生存を実測、200)── 「富岳」の総ノード数158,976、総メモリバンド幅163PB/s、総メモリ容量4.85PiB、高いメモリバンド幅が特徴のひとつであるとの記述、システム全体の総理論性能の表で半精度(16bit)に「AI学習」・整数(8bit)に「AI推論」と用途が添えられていること。ノード単体では計算コア48個と4つのCMG、通常モードの演算性能が倍精度3.072TF・単精度6.144TF・半精度12.288TF、メモリがHBM2 32GiB・1024GB/s、2GHz動作時のキャッシュ性能としてコアあたりL1Dが読み出し256GB/s・書き込み128GB/s、ノードあたりL2が読み出し4TB/s・書き込み2TB/s、CMGあたりL2が8MiBであること
- NEC「ベクトル型スーパーコンピュータ「SX-Aurora TSUBASA」のPCI Expressカード型ベクトルエンジン単体の販売を開始」2020年11月19日 プレスリリース(2026年8月30日にリンク生存を実測、200)── PCI Express規格サイズのカードにコアを8個内蔵し、1枚で2.45テラフロップスの演算性能と1.53テラバイト/秒のメモリ帯域を実現していること、そのコアを単一コア性能・単一コアメモリ帯域で世界トップクラスと位置づけ、同社調べ(2020年11月19日時点)との注記を付していること
- NEC「ラインアップ SX-Aurora TSUBASAシリーズ」(2026年8月30日にリンク生存を実測、200)── データセンタモデルB401-8の搭載可能ベクトルエンジン数が8、最大総VE演算性能が倍精度24.57TFLOPS・単精度49.15TFLOPS、最大総VEメモリ帯域が12.24TB/s、最大VEメモリ容量が384GBであること
- 電子情報通信学会『知識の森』6群5編4章「ベクトルコンピュータ」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── ピーク演算性能を実効性能につなげるには演算器へデータを供給し続けられるだけのメモリバンド幅が要ること、ベクトル方式ではメモリアクセスが規則正しくなりやすく主記憶のマルチバンク化で広い帯域を得られること。2010年時点の記述です
- 電子情報通信学会『知識の森』6群5編5章「専用コンピュータ」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── あるストリーム向けの構成が3段のメモリ階層を持ち、チップ外のSDRAM、チップ上のストリームレジスタファイル、演算器の隣のローカルレジスタファイルの順に帯域が太くなること。2010年時点の記述です
- 電子情報通信学会『知識の森』6群4編4章「記憶」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── いちど読んだ番地の近くが次に読まれやすいという空間的局所性、まとまった大きさの塊ごと速い記憶装置へ写しておけばその近くを読むときも速く済むこと