コンテンツにスキップ

メモリ帯域とは

メモリ帯域とは、メモリと演算部との間で1秒あたりに運べるデータの量です。 単位はGB/s(ギガバイト毎秒)やTB/s(テラバイト毎秒)で表され、演算の速さを表すFLOPSとは別の数字として公表されます。

半導体の性能というと、まず演算の速さが思い浮かびます。ところが実機の仕様表には、演算の値とメモリ帯域の値が並んで載っています。

理化学研究所 計算科学研究センターは、スーパーコンピュータ「富岳」のシステム紹介で、1ノードの演算性能を通常モードの倍精度3.072テラフロップスと記載し、同じ表にメモリをHBM2 32GiB・1024GB/sと記載しています。あわせて、高いメモリバンド幅も「富岳」の特徴のひとつだとし、システム全体の総メモリバンド幅を163PB/s、総ノード数を158,976と記しています。

NECも同じ組み合わせで公表しています。同社は2020年11月19日のプレスリリースで、ベクトルエンジンのカード1枚が8個のコアを内蔵し、2.45テラフロップスの演算性能と1.53テラバイト/秒のメモリ帯域を実現していると発表しています。同じ発表は、そのコアを単一コアの性能と単一コアのメモリ帯域で世界トップクラスにあたると位置づけてもいます。この位置づけには同社調べとの注記が付いています。コア1個あたりの帯域を前面に出している点が、この製品の性格を表しています。

2つの数字を割ると、演算1回あたりに運べるデータ量が求まります。「富岳」のノードは1フロップスあたり約0.33バイト、NECのカードは約0.62バイトになります。以上はいずれも各機関が公表している仕様上の値であり、割り算のほうは当ページで行いました。

演算の速さと、運ぶ速さは別々に公表されます
仕様表には、演算の値と運ぶ値が並びます「富岳」の1ノード(理化学研究所の公表値)演算 倍精度 3.072 TFLOPSメモリ帯域 1,024 GB/s1フロップスあたり 約0.33バイト(当ページで計算)ベクトルエンジン1枚(NECの公表値)演算 倍精度 2.45 TFLOPSメモリ帯域 1.53 TB/s1フロップスあたり 約0.62バイト(当ページで計算)細い帯の幅は、1フロップスあたりのバイト数に合わせています2つの数字は、いつも並びます演算の値は、演算器が出せる上限を示します帯域の値は、そこへ届く量を示します2つそろって、速さの見当が付きます同じ演算量でも、要る帯域は違います読み書きの量が多い計算ほど、帯域の側が先に上限へ届きますベクトル型は帯域を厚く取る設計です
2つの実機では、演算の値に対する帯域の比率が異なります。1フロップスあたりに運べる量は、「富岳」のノードで約0.33バイト、NECのカードで約0.62バイトになります。

演算器は、データが手元に届くまで待ちます。

電子情報通信学会の公開知識ベース『知識の森』6群5編4章は、この関係を述べています。カタログ上のピーク演算性能をそのまま実効性能につなげるには、演算器(ALU)へデータを絶やさず送り込めるだけのメモリバンド幅が要る、という趣旨です。2010年時点の記述です。

同章によれば、ベクトル方式では扱うデータの並びがそろっているぶんメモリへの読み書きも規則正しくなりやすく、主記憶を複数のバンクに分けて並行に動かす作りで広い帯域を確保できます。帯域を厚く取る設計が、この方式の持ち味になっています。

ピーク演算性能と実効性能を分けて考える必要が、ここから出てきます。カタログの演算性能は、演算器が止まらずに動き続けたときの上限を示します。実効性能は、その上限のうちどれだけを実際に使えたかを表す側の数字になります。

帯域は、場所によって太さが違います

Section titled “帯域は、場所によって太さが違います”

帯域はキャッシュにもあります。

理化学研究所の同ページは、「富岳」のキャッシュ性能を2GHz動作時の値として記載しています。L1データキャッシュはコアあたり読み出し256GB/s・書き込み128GB/s、L2はノードあたり読み出し4TB/s・書き込み2TB/s、そして主記憶にあたるHBM2はノードあたり1024GB/sです。計算コアは1ノードに48個あります。

コアあたり256GB/sを48コア分そろえると12,288GB/sになります。この合計は当ページで計算しました。L2は4TB/s、主記憶は1024GB/sで、外側へ行くほど細くなります。

外へ行くほど、1秒あたりに運べる量は細くなります
「富岳」の1ノードで見た、1秒あたりに運べる量L1データキャッシュ48コア分12,288 GB/sL2キャッシュ1ノード分4,000 GB/s主記憶 HBM21ノード分1,024 GB/sキャッシュの値は読み出しのものです。書き込みは、公表値ではその半分になっています。48コア分の合計は、コアあたり256 GB/sから当ページで計算しました。細いところが速さを左右します同じデータを何度も使う計算なら、外へ出る回数が減ります一度きりのデータほど外へ出ます
同じノードの中でも、1秒あたりに運べる量は場所によって10倍以上違います。演算器から遠ざかるほど細くなるため、外へ出る回数を減らせるかどうかが速さを左右します。

電子情報通信学会の同知識ベース6群5編5章も、同じ向きを記しています。あるストリーム向けの構成を3段のメモリ階層として説明し、チップの外に置くSDRAMがいちばん細く、チップに載せたストリームレジスタファイル、演算器のすぐ隣に付くローカルレジスタファイルの順に太くなると述べています。2010年時点の記述です。

同知識ベースの6群4編4章「記憶」は、いちど読んだ番地の近くが次に読まれやすいという空間的局所性を挙げ、まとまった大きさの塊ごと手元へ写しておけば、その近くを読むときも速く済むと述べています。同じデータを何度も使える計算ほど、外へ出る回数が減ります。

AIの計算では、この比がさらに小さくなります

Section titled “AIの計算では、この比がさらに小さくなります”

理化学研究所の同ページは、「富岳」のノードの演算性能を倍精度3.072テラフロップス、単精度6.144テラフロップス、半精度12.288テラフロップスと記載しています。いずれも通常モードでの理論値です。用途との対応は、同ページのシステム全体の表のほうに出ており、半精度(16ビット)に「AI学習」、整数(8ビット)に「AI推論」と添えられています。

一方、メモリ帯域は同じ1024GB/sです。

1フロップスあたりに運べる量は、倍精度で約0.33バイト、半精度で約0.083バイトになります(当ページで計算)。演算の桁を下げて回数を稼いでも、運ぶ側の値は同じままです。AI向けの装置で帯域が繰り返し話題になる背景には、この差があります。

配線を増やす方向があります。「富岳」のノードはHBMの第2世代を採用しています。HBMは、メモリダイを縦に積んで配線の本数を稼ぐ形です。

数を増やす方向もあります。NECのラインアップは、ベクトルエンジンを8基積んだデータセンタモデルについて、倍精度24.57TFLOPS、最大総VEメモリ帯域12.24TB/s、最大VEメモリ容量384GBと記載しています。同社の製品仕様の値です。

メモリ帯域とは何ですか?

メモリと演算部との間で1秒あたりに運べるデータの量です。理化学研究所は「富岳」の1ノードのメモリをHBM2 32GiB・1024GB/sと記載しています。

演算性能とは別の指標ですか?

別の指標です。演算性能は1秒あたりの計算回数、メモリ帯域は1秒あたりに運べるバイト数を数えます。実機の仕様表には、この2つが並んで載ります。

帯域が細いと何が起きますか?

演算器が待ちます。電子情報通信学会の公開知識ベースは、カタログ上のピーク演算性能を実効性能につなげるには、演算器へデータを絶やさず送れるだけのメモリバンド幅が要るとしています。2010年時点の記述です。

キャッシュにも帯域はありますか?

あります。理化学研究所は「富岳」のL1データキャッシュをコアあたり読み出し256GB/s、L2をノードあたり読み出し4TB/sと、2GHz動作時の値で記載しています。

内側と外側では、どちらが太いのですか?

内側です。48コア分のL1データキャッシュは合計12,288GB/s(当ページで計算)、L2は4TB/s、主記憶は1024GB/sで、外へ行くほど細くなります。

帯域を広げるにはどうしますか?

配線を増やす方向と、数を増やす方向があります。「富岳」のノードはHBM2を採用し、NECはベクトルエンジンを8基積んだ構成について最大総VEメモリ帯域12.24TB/sと記載しています。

AIの計算では何が変わりますか?

1フロップスあたりに運べる量が小さくなります。理化学研究所の記載では、同じ1024GB/sに対して、ノードの演算性能は倍精度3.072テラフロップス、半精度12.288テラフロップスです。

この記事の事実は、誰でも読める公開資料を根拠とし、各URLの到達可否をこちらで実測しています。したがって、リンク先が移動または消滅した場合は、その旨をこのページへ反映します。

  • 理化学研究所 計算科学研究センター「システム紹介」(2026年8月30日にリンク生存を実測、200)── 「富岳」の総ノード数158,976、総メモリバンド幅163PB/s、総メモリ容量4.85PiB、高いメモリバンド幅が特徴のひとつであるとの記述、システム全体の総理論性能の表で半精度(16bit)に「AI学習」・整数(8bit)に「AI推論」と用途が添えられていること。ノード単体では計算コア48個と4つのCMG、通常モードの演算性能が倍精度3.072TF・単精度6.144TF・半精度12.288TF、メモリがHBM2 32GiB・1024GB/s、2GHz動作時のキャッシュ性能としてコアあたりL1Dが読み出し256GB/s・書き込み128GB/s、ノードあたりL2が読み出し4TB/s・書き込み2TB/s、CMGあたりL2が8MiBであること
  • NEC「ベクトル型スーパーコンピュータ「SX-Aurora TSUBASA」のPCI Expressカード型ベクトルエンジン単体の販売を開始」2020年11月19日 プレスリリース(2026年8月30日にリンク生存を実測、200)── PCI Express規格サイズのカードにコアを8個内蔵し、1枚で2.45テラフロップスの演算性能と1.53テラバイト/秒のメモリ帯域を実現していること、そのコアを単一コア性能・単一コアメモリ帯域で世界トップクラスと位置づけ、同社調べ(2020年11月19日時点)との注記を付していること
  • NEC「ラインアップ SX-Aurora TSUBASAシリーズ」(2026年8月30日にリンク生存を実測、200)── データセンタモデルB401-8の搭載可能ベクトルエンジン数が8、最大総VE演算性能が倍精度24.57TFLOPS・単精度49.15TFLOPS、最大総VEメモリ帯域が12.24TB/s、最大VEメモリ容量が384GBであること
  • 電子情報通信学会『知識の森』6群5編4章「ベクトルコンピュータ」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── ピーク演算性能を実効性能につなげるには演算器へデータを供給し続けられるだけのメモリバンド幅が要ること、ベクトル方式ではメモリアクセスが規則正しくなりやすく主記憶のマルチバンク化で広い帯域を得られること。2010年時点の記述です
  • 電子情報通信学会『知識の森』6群5編5章「専用コンピュータ」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── あるストリーム向けの構成が3段のメモリ階層を持ち、チップ外のSDRAM、チップ上のストリームレジスタファイル、演算器の隣のローカルレジスタファイルの順に帯域が太くなること。2010年時点の記述です
  • 電子情報通信学会『知識の森』6群4編4章「記憶」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── いちど読んだ番地の近くが次に読まれやすいという空間的局所性、まとまった大きさの塊ごと速い記憶装置へ写しておけばその近くを読むときも速く済むこと
回答待ち 更新中 公開Q&A

このページの質問窓口

AIに疑問を送る

「匿名で送信する」を押して内容を送ると、受付ID付きの回答URLを発行します。URLでは進捗を追うことができ、通常は1日以内に回答します。個人情報を取り除いて編集した質問と回答だけを、承認済み資料の出典リンクとともに公開Q&A一覧へ掲載します。

通常、1日以内に回答します 回答待ち 更新中

  1. 匿名で送る 分かりにくい箇所、指摘、追加してほしい内容を書きます。
  2. 受付IDと回答URLを保存する 送信後に発行されるURLへ、進捗が順次反映されます。
  3. 進捗と回答を追う URLには、受付済み、回答作成中、解決済みの状態と回答が載ります。
公開Q&A一覧へ 5〜4,000文字。氏名・連絡先などの個人情報、秘密情報は入力禁止です。

このフォームは匿名です。氏名・連絡先・応募情報などの個人情報、秘密情報、社外秘情報、契約情報、非公開資料の入力は禁止です。投稿原文は運営用DBに保存し、公開面には、個人情報・秘密情報・危険な命令を除く安全審査と読みやすい文章への編集を経た質問文と回答だけを載せます。状態は「受付済み」「回答作成中」「解決済み」の3段階です。安全審査の結果によっては公開を保留します。サイト側の機械検査を通った内容だけを運営側のAI回答作成環境へ送り、回答案の作成と、それとは独立したAI審査に使います。機械検査には見落としの可能性があり、回答作成と審査の履歴は利用中の環境に保持されます。IPアドレスや端末情報は送信対象外です。回答URLは公開Q&A用で、共有先からも開けます。送信により、この利用条件と審査後のQ&A公開に同意したものとします。