コンテンツにスキップ

メモリ階層とは

メモリ階層とは、速くて小さい記憶と、遅くて大きい記憶を積み重ねて使う仕組みです。 電子情報通信学会の公開知識ベース『知識の森』は、高速かつ小容量である記憶(キャッシュ)と、低速かつ大容量である記憶(仮想記憶)を階層構造に組み合わせることで大容量性と高速性の2つの要求に応えるものだとし、これを記憶階層と呼ぶと述べています。

半導体のメモリには、なぜ何種類もあるのでしょうか。SRAMDRAMフラッシュメモリがあります。速いものが1種類あれば足りそうに思えます。

そこは2種類以上が要ります。理由は単純です。速さと容量は引き換えの関係にあるからです。

電子情報通信学会の『知識の森』6群4編4章は、この事情を次のように示しています。高い性能のために記憶装置へ求められる特徴は、大容量性と高速性です。ところが記憶素子は一般に大容量になるほどアクセス速度が低下するため、この2つを両立することは不可能だとしています。

そこで、両立と組み合わせのうち、組み合わせるという解を採ります。

なお、この用語は業界の標準的な区分です。情報処理推進機構(IPA)の応用情報技術者試験シラバスにも「(3)メモリシステムの構成と記憶階層」という項目が立てられ、主記憶装置の構成やメモリシステムの構成、記憶階層といった記憶装置の仕組みを修得して応用することが求められています。

速いものを全部に使うと、容量で詰まります

Section titled “速いものを全部に使うと、容量で詰まります”

「速いSRAMを全部に使えばいい」と考えたくなります。この案が行き止まりになる理由を、メーカーが具体的に示しています。

ルネサス エレクトロニクスのエンジニアスクールは、SRAMが高速にアクセスできる一方で、内部構造が複雑であるために高密度な実装が困難で、SRAMが担う範囲は小容量にとどまるとしています。DRAMについては、集積化しやすい構造であるためSRAMに比べて大容量だとしています。

東京エレクトロンの常設展も同じ関係を示しています。SRAMは記憶部にフリップフロップ回路を用いていてリフレッシュが不要であり、記憶部の回路が複雑なため高価なものの、DRAMより動作は高速だとしています。

速い・小さい・高いという組と、遅い・大きい・安いという組があります。この3つは束になって動くので、選べるのは組の単位です。

各層の速さは、どれくらい離れているのか

Section titled “各層の速さは、どれくらい離れているのか”

桁の差を示した公開資料があります。産業技術総合研究所が公開している発表資料の1枚が、「近い将来のメモリ階層予測」と題して7つの層を並べ、それぞれに書き込み時間を対応させています。以下は2016年6月20日の発表資料にある予測値であり、当時の実測値や現行世代の値とは別ものです。

書き込み時間
レジスタ1 ns 未満
L1, L2 キャッシュ(記載なし)
L3 キャッシュ3 ns 未満
メインメモリ約 10 ns
ストレージクラスメモリ(SCM)0.1〜1 µs
ストレージ(HDD&SSD)10 ms 超

示されているのは書き込み時間に限られます。読み出しの速さは、この資料の外にあります。

それでも、上端と下端で桁がまるで離れているという事実は読み取れます。1 ns 未満と 10 ms 超では、およそ7桁の開きになります(この換算は同資料に明示されておらず、当ページで計算したものです)。

同じ資料には、書き込み電力についても層ごとの値が並んでいます。レジスタ層が 1 fJ 未満、L3キャッシュ層が約 1 fJ、メインメモリ層が約 100 fJ、SCM層が 100 fJ 超です。速さだけでなく、消費するエネルギーも層に沿って変わります。

速い・小さい・高い ── 3つは束になって動きます
CPUに近い順(帯の長さは容量のイメージを表す目安です)レジスタ1 ns 未満L1, L2 キャッシュ(資料に記載なし)L3 キャッシュ3 ns 未満メインメモリ約 10 nsストレージクラスメモリ0.1〜1 µsストレージ(HDD&SSD)10 ms 超下へ行くほど ── 容量は大きく、単価は安く、そして遅くなります上へ行くほど ── 速いものの、小さく、高くつきます数値は産総研の発表資料によります両立は不可能だと書かれています大容量になるほど、アクセス速度は下がりますだから組み合わせるという解を採ります2種類以上を積む理由は、ここにありますエネルギーも層に沿います書き込み電力も、上の層ほど小さくなりますレジスタ層 1 fJ 未満 → メインメモリ層 約 100 fJ同じ資料の別の軸です
上の層ほど速く、小さく、高くつきます。下へ行くほど大きく安くなり、そのぶん遅くなります。書き込み時間は上端と下端でおよそ7桁の開きがあります。

なぜ、積むだけでうまくいくのか

Section titled “なぜ、積むだけでうまくいくのか”

遅い層が大半なのに、全体としては速く動きます。

理由は、プログラムのふるまいにあります。電子情報通信学会の同知識ベースは、2つの性質を挙げています。

一つは、参照されたロケーション(アドレス、Address)が近い将来に再度参照される可能性が高いという性質で、これを時間的局所性(Temporal Locality)と呼ぶとしています。

もう一つは、参照されたアドレスの近辺が次に参照される可能性が高いという性質で、これを空間的局所性(Spatial Locality)と呼ぶとしています。

言い換えれば、次にアクセスする先は前に触れた場所から予想がつくということです。プログラムがアクセスする先には偏りがあります。どこを使うかが完全にばらばらなら、階層にする意味そのものが消えます。偏っているからこそ、よく使う一部だけを上の層に載せておけば、大半のアクセスがそこで済みます。

同知識ベースは、この性質の上にキャッシュを位置づけています。主記憶上のデータのうち今後アクセスされる可能性の高いものを格納しておくための、高速で小容量な記憶装置だとしています。

JEITAの半導体用語集も、キャッシュメモリの見出し語で位置を明示しています。容量は小さいものの動作速度が速いのが特徴で、コンピュータ全体の速度を上げるためにCPU(プロセッサ)と主記憶装置の間に入る記憶装置だとしています。

偏りがあるから、階層が働きます
もし、偏りがなかったらどこを使うかが均等なら、アクセスの大半は下の層へ流れます階層にする意味そのものが消えます実際には、偏っています← ここに集まります一度使った所はまた使われ、その近くも使われます2つの偏りに、名前が付いています時間的局所性 ── 一度参照した所は、また参照されます空間的局所性 ── その近くが、次に参照されますこの2つが、階層という設計を成り立たせていますだから、小さくても足りますよく使う一部だけを、上の速い層に載せておきます大半のアクセスは、そこで済んでしまいます遅い層が大半でも、全体としては速く動きます
アクセス先が均等にばらけていたら、大半のアクセスは下の遅い層へ届きます。一度使った所がまた使われ、その近くも使われるという偏りがあるからこそ、小さな速い層で大半をまかなえます。

日常語では「メモリ」と「ストレージ」を並べて言いますが、これは階層の別の段を指しています。

東京エレクトロンの同常設展は、呼び分けを明示しています。コンピュータから見たとき、CDやDVDなどは外部記憶装置あるいは補助記憶装置と呼ばれ、コンピュータが直接使うメモリは内部記憶装置または主記憶装置と呼ばれ、そこには半導体が使われているとしています。

性格の違いも、比喩で示されています。同ページは、RAMを一時的な記憶作業領域でありノートやメモ用紙のようなものだとし、ROMを半永久的な記憶領域であり辞書や教科書にたとえられるとしています。

そして求められる条件は層ごとに変わります。同ページは、RAMについて、電源を切ったときに情報が失われてもよい代わりに、低価格で読み書きの速度が速いことが要求されるとしています。層ごとに、要求される中身が入れ替わるということです。

きれいに段が並んでいるようでいて、層と層のあいだが開いている場所があります。

キオクシアの技術用語集は、ストレージクラスメモリ(SCM)を、主記憶(DRAM)とストレージ(フラッシュメモリ、SSD)の性能・容量のギャップを補完する高速な不揮発性メモリだとしています。

ここで使われているのは、補完という言葉です。DRAMを置き換えるのでも、フラッシュを置き換えるのでもなく、あいだを埋める位置づけになります。

産総研の同資料は、SCMの層に、現状では対応できる不揮発性メモリが無いと注記しています。この段を埋める素子はこれからだという、2016年時点の見立てです。

実際の製品も出ています。キオクシアのXL-FLASH製品ページは、DRAMに代表されるワーキングメモリと現在のフラッシュメモリのパフォーマンスギャップを埋めることを目指した製品だとしています。いずれも同社の記述です。

階層は完成へ向かう途中にあり、いまも段が足されています。

この「よく使うものだけを速い側へ載せる」という考え方は、CPUの周りを越えて記憶デバイス全体に及びます。

電子情報通信学会の『知識の森』8群2編1章は、記憶デバイス全体について、情報記憶デバイスシステムがその性能とコストによって適用場所を棲み分けてきたと述べています。

同章はビットコストの順序も示しています。各情報記憶デバイスのビットコストは、高い方からフラッシュメモリ、ハードディスクドライブ、光ディスク、磁気テープの順だとしています。これは2011年6月時点の記述であり、現在の順序は同章の外にあります。

この4段の並びは、当ページの組み立てです

Section titled “この4段の並びは、当ページの組み立てです”

ひとつ断っておきます。「レジスタ/キャッシュ(SRAM)/主記憶(DRAM)/補助記憶(フラッシュ)」という並べ方は、複数の公開資料を突き合わせて当ページで組み立てたものです。

電子情報通信学会の記憶階層の節は、階層をキャッシュと仮想記憶の2段で述べており、SRAMやDRAMという素子名は層の名前の外にあります。産総研の図は7段です。各素子の性質は、それぞれのメーカー公式資料から取っています。この4段の並びをそのまま示した日本語の一次資料は、今回の調査の範囲では未発見のままです。

メモリ階層とは何ですか?

電子情報通信学会の公開知識ベースは、高速かつ小容量である記憶と、低速かつ大容量である記憶を階層構造に組み合わせることで大容量性と高速性の2つの要求に応えるものだとし、これを記憶階層と呼ぶと述べています。

なぜ何種類も要るのですか?

容量と速さが引き換えの関係にあるためです。同知識ベースは、記憶素子は一般に大容量になるほどアクセス速度が低下するため、大容量性と高速性の両立は不可能だと述べています。

なぜ階層にすると速くなるのですか?

プログラムの参照に偏りがあるためです。同知識ベースは、参照されたアドレスが近い将来に再度参照される可能性が高いという時間的局所性と、参照されたアドレスの近辺が次に参照される可能性が高いという空間的局所性を挙げています。

キャッシュとは何ですか?

JEITAの半導体用語集は、キャッシュを頻繁に用いるデータを一時的に保存するバッファとし、容量は小さいものの動作速度が速いのが特徴で、CPUと主記憶装置の間に入る記憶装置だとしています。

速いメモリだけで作るとどうなりますか?

容量の側で行き詰まります。ルネサス エレクトロニクスの解説は、SRAMが高速にアクセスできる一方で内部構造が複雑であるために高密度な実装が困難でSRAMが担う範囲は小容量にとどまるとし、DRAMは集積化しやすい構造であるためSRAMに比べて大容量だとしています。

主記憶と補助記憶はどう呼び分けるのですか?

東京エレクトロンの常設展は、CDやDVDなどを外部記憶装置あるいは補助記憶装置と呼び、コンピュータが直接使うメモリを内部記憶装置または主記憶装置と呼ぶとしています。

層と層の間に隙間はありますか?

あります。キオクシアの技術用語集は、ストレージクラスメモリ(SCM)を、主記憶(DRAM)とストレージ(フラッシュメモリ、SSD)の性能・容量のギャップを補完する高速な不揮発性メモリとしています。

この記事の事実は、誰でも読める公開資料を根拠とし、各URLの到達可否をこちらで実測しています。したがって、リンク先が移動または消滅した場合は、その旨をこのページへ反映します。

  • 電子情報通信学会『知識の森』6群4編4章「記憶」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── 記憶装置に求められる特徴が大容量性と高速性であること、記憶素子は一般に大容量になるほどアクセス速度が低下するため両立が不可能であること、高速かつ小容量である記憶と低速かつ大容量である記憶を階層構造に組み合わせることでこの2つの要求に応えこれを記憶階層と呼ぶこと、時間的局所性と空間的局所性の中身、キャッシュが今後アクセスされる可能性の高いデータを格納する高速・小容量な記憶装置であること
  • 情報処理推進機構(IPA)「応用情報技術者試験 シラバス Ver.7.0」公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── 「(3)メモリシステムの構成と記憶階層」という項目が立てられていること、主記憶装置の構成・メモリシステムの構成・記憶階層など記憶装置の仕組みを修得し応用することが求められていること、半導体メモリの比較軸として揮発性・不揮発性・アクセス速度・容量・コスト・物理サイズが挙げられていること
  • 産業技術総合研究所「電圧制御スピンRAM」産総研STARシンポジウム発表資料、2016年6月20日 公開PDF(2026年8月30日にリンク生存を実測、200、application/pdf)── 「近い将来のメモリ階層予測」と題した図にロジック/レジスタ/L1,L2キャッシュ/L3キャッシュ/メインメモリ/ストレージクラスメモリ(SCM)/ストレージ(HDD&SSD)の7段が並び、書き込み時間として1ns未満・3ns未満・約10ns・0.1〜1µs・10ms超が、書き込み電力として1fJ未満・約1fJ・約100fJ・100fJ超が対応づけられていること、SCM層に「現状対応できる不揮発性メモリ無し」との注記があること。いずれもタイトルどおり予測値であり、当時の実測値や現行世代の値とは別ものです
  • 東京エレクトロン nanotec museum 常設展「メモリとは?」(2026年8月30日にリンク生存を実測、200)── CDやDVDなどを外部記憶装置あるいは補助記憶装置と呼び、コンピュータが直接使うメモリを内部記憶装置または主記憶装置と呼ぶこと、RAMを一時的な記憶作業領域でノートやメモ用紙のようなもの・ROMを半永久的な記憶領域で辞書や教科書にたとえられるとしていること、RAMには低価格で読み書きの速度が速いことが要求されること、SRAMが記憶部にフリップフロップ回路を用いておりリフレッシュが不要で、記憶部の回路が複雑なため高価だがDRAMより動作は高速であること
  • ルネサス エレクトロニクス エンジニアスクール「マイコンの基本構成、動作」(2026年8月30日にリンク生存を実測、200)── 演算回路が演算を行う場合にメモリ上のデータを一時的に汎用レジスタへコピーしたうえで、その汎用レジスタで演算を行うこと、SRAMが高速アクセス可能だが内部構造が複雑であるために高密度な実装が困難でSRAMの担う範囲が小容量にとどまること、DRAMが集積化しやすい構造であるためSRAMに比べて大容量であること。いずれもマイコンの文脈での記述です
  • キオクシア「技術用語集」(2026年8月30日にリンク生存を実測、200)── ストレージクラスメモリ(SCM)の見出し語が、主記憶(DRAM)とストレージ(フラッシュメモリ、SSD)の性能・容量のギャップを補完する高速な不揮発性メモリとしていること。あわせてXL-FLASH製品ページ(同日実測、200)から、DRAMに代表されるワーキングメモリと現在のフラッシュメモリのパフォーマンスギャップを埋めることを目指した製品であるという同社の記述
  • 電子情報通信学会『知識の森』8群2編1章「情報ストレージ 全体動向」公開PDF、Ver.1/2011.6.6(2026年8月30日にリンク生存を実測、200、application/pdf)── 情報記憶デバイスシステムがその性能とコストによって適用場所を棲み分けてきたこと、各情報記憶デバイスのビットコストがフラッシュメモリ・ハードディスクドライブ・光ディスク・磁気テープの順に高いこと。いずれも2011年時点の記述です
回答待ち 更新中 公開Q&A

このページの質問窓口

AIに疑問を送る

「匿名で送信する」を押して内容を送ると、受付ID付きの回答URLを発行します。URLでは進捗を追うことができ、通常は1日以内に回答します。個人情報を取り除いて編集した質問と回答だけを、承認済み資料の出典リンクとともに公開Q&A一覧へ掲載します。

通常、1日以内に回答します 回答待ち 更新中

  1. 匿名で送る 分かりにくい箇所、指摘、追加してほしい内容を書きます。
  2. 受付IDと回答URLを保存する 送信後に発行されるURLへ、進捗が順次反映されます。
  3. 進捗と回答を追う URLには、受付済み、回答作成中、解決済みの状態と回答が載ります。
公開Q&A一覧へ 5〜4,000文字。氏名・連絡先などの個人情報、秘密情報は入力禁止です。

このフォームは匿名です。氏名・連絡先・応募情報などの個人情報、秘密情報、社外秘情報、契約情報、非公開資料の入力は禁止です。投稿原文は運営用DBに保存し、公開面には、個人情報・秘密情報・危険な命令を除く安全審査と読みやすい文章への編集を経た質問文と回答だけを載せます。状態は「受付済み」「回答作成中」「解決済み」の3段階です。安全審査の結果によっては公開を保留します。サイト側の機械検査を通った内容だけを運営側のAI回答作成環境へ送り、回答案の作成と、それとは独立したAI審査に使います。機械検査には見落としの可能性があり、回答作成と審査の履歴は利用中の環境に保持されます。IPアドレスや端末情報は送信対象外です。回答URLは公開Q&A用で、共有先からも開けます。送信により、この利用条件と審査後のQ&A公開に同意したものとします。