半導体メモリの種類と違いをわかりやすく解説——SRAM・DRAM・HBM・NANDは何が違う?元キオクシア研究開発者が基礎から

もふもふ不動産のもふです。僕は元キオクシア(旧東芝メモリ)の半導体研究開発者で、ソニー・キオクシアで16年、先端半導体の研究開発に携わってきました。キオクシアでは3次元フラッシュメモリ「BiCS FLASH™」の研究開発を第0世代の立ち上げから担当し、量産にも参画しています(詳しくは研究開発者としての経歴ページへ)。いまは自分の会社を10年経営しながら、株式投資家(投資歴20年)として半導体・AI関連に投資しています。

半導体メモリにはSRAM・DRAM・HBM・NANDフラッシュという種類があり、それぞれ速さ・値段・容量・「電源を切っても消えるか」が全く違います。いま、キオクシアやマイクロン、SK hynixといったAI向けの半導体メモリを作っている会社の株が爆上げしていますが、「そもそも半導体のメモリって何?」「HBMとDRAM、NANDは何が違うの?」と聞かれて答えられる人は意外と少ない。この記事では、メモリの研究開発を12年やってきた元研究開発者として、「メモリとは何か」の基礎の基礎から、4種類のメモリの違い、なぜ今メモリがこれほど重要なのかまで、わかりやすく解説します。

半導体メモリの種類は4つ——SRAM・DRAM・HBM・NANDの違いを一覧で

まず全体像です。パソコンやAIサーバーの中には、役割の違うメモリが階層になって入っています。

• SRAM——CPUやGPUの中に直接作り込まれた、最も速いメモリ
• DRAM——CPUの隣にあるメインメモリ。高速だけど電源を切ると消える
• HBM——DRAMを積み重ねてGPUの真横に置いた、AI向けの超高速メモリ。超高価
• NANDフラッシュ(SSD)——長期保存用。遅いけど安くて大容量で、電源を切っても消えない

ざっくり言うと、脳みそ(CPU・GPU)に近いほど速くて高くて容量が小さく、遠いほど遅くて安くて容量が大きい。ハードディスクが倉庫だとすると、NANDフラッシュは本棚、DRAMは机の上、SRAMは頭の中、というイメージです。AIを計算するには、この全部が必要になります。1つずつ見ていきましょう。

メモリとは何か——0と1を保存する箱

そもそもメモリとは、0と1のデジタルデータを保存する箱のことです。パソコンやスマホで動いているデータは、動画も音楽も文章も、すべて0と1の羅列です。この記事の文字も、たとえばアルファベットの「A」は「01000001」、「I」は「01001001」という0と1の並びで表されていて、それを画面に表示するときに文字に変換しているだけなんですね。

だから「データを保存する」というのは「0と1を保存する」ということで、そのための箱がメモリです。半導体メモリが生まれる前は、磁気テープや、穴が開いているかどうかで0と1を表す「パンチカード」で物理的に保存していました。それが半導体でできるようになった、というのがメモリの誕生です。

SRAMとは——CPUの中に直結した「社長の頭の中」

一番速いのがSRAM(スタティックRAM)です。あまり聞いたことがないかもしれませんが、AppleのM4のようなCPUや、NVIDIAのGPUの中には必ずSRAMが入っています。外から読み込んだデータを一時的に蓄える場所で、パソコン好きの方なら「L1キャッシュ」「L2キャッシュ」と聞けばピンとくると思います。あれがSRAMです。

チップの中にあるので爆速。脳みそに直結しているイメージです。その代わり容量を大きくできないので、めちゃめちゃ高い。単体のSRAMチップも今も存在しますが、主戦場はCPUやGPUの内部に作り込まれたキャッシュです(SRAMを大量に並べてAIチップを作るCerebrasのような会社もあります)。

SRAMの仕組みを知るには、まずトランジスタを押さえる必要があります。トランジスタは、半導体で作られた「電気で制御できる小さなスイッチ」です。制御用の端子に0Vをかけると電流が流れず、1Vをかけるとスイッチがオンになって電流が流れる。CPUの中には、このスイッチが何百億個も入っています。

SRAMは、このトランジスタを6個組み合わせて0か1を保持します。回路図を覚える必要は全くないのですが、インバーター(反転回路)を2つひっくり返してくっつけたような形で、書き込み線と読み出し線がついています。トランジスタだけで作れるのでCPUの中に直接作れて高速。でも1ビットに6個も使うのでバカでかく、値段が高い。だからCPUの中にたくさんは入れられない。これがSRAMの長所と短所です。

ちなみに、僕と同世代(アラフィフ)なら覚えていると思いますが、ファミコンの「ドラゴンクエストIII」で初めてデータをセーブできるようになって感動しませんでしたか?「II」までは「復活の呪文」という長い文字列を書き写さないといけなかったのが、「III」からは「ぼうけんのしょ」に保存できるようになった。あのカセットの中に入っていたのがSRAMです。ただし電源を切ると消えてしまうので、ボタン電池を入れて電気を供給し続けていました。電池が切れると「ぼうけんのしょが消えました」となるわけです。僕が初めて半導体メモリを使ったのは、たぶんあのときです。

DRAMとは——SRAMとの違いはコンデンサ。パソコンのメインメモリ

SRAMは簡単に作れるけれど、1ビットにトランジスタ6個は大きすぎて高い。もっと安く、もっと大量のデータを保存したい。そこで発明されたのがDRAM(ダイナミックRAM)です。アイデアは「コンデンサを使おう」でした。

コンデンサは、電気を溜めておける部品です。電気を水にたとえると「コップ」ですね。プラスとマイナスの電圧をかけると電気が溜まる。電気が溜まっていれば1、溜まっていなければ0、というふうに0と1を保存しようというのがDRAMです。

構造は、トランジスタ(スイッチ)の先にコンデンサをつけただけ。スイッチをオンにして電気を入れれば「1」、電気を抜けば「0」の書き込みです。これを格子状に大量に並べます。トランジスタ1個+コンデンサ1個で1ビットなので、SRAMの6個と比べてはるかに小さく作れて、コストが劇的に下がる。それでDRAMが世の中に普及し、SRAMはCPUの中だけで使われるようになりました。

今のDRAMの断面を見ると、下にトランジスタを作り、その上に縦長の円筒形のコンデンサを林のように立てています。昔は下に穴を掘って作る「トレンチ型」もありましたが、今は上に積み上げるのが主流です。

DRAMには弱点もあります。コンデンサに溜めた電気は、放っておくと少しずつ漏れていくんです。だから定期的にデータを読み出してもう一度書き戻す「リフレッシュ」が必要で、これをパタパタと繰り返している分、消費電力が高めです。一方、好きな場所のデータをパッパッと読めるランダムアクセスが速いという強みがあり、プログラムを動かすCPUとは非常に相性がいい。だからパソコンのメインメモリはDRAMなんですね。

HBMとDRAMの違い——DRAMを積み重ねて貫通させたAI向け超高速メモリ

ここからがAIの話です。自作パソコンを組んだことがある人ならわかると思いますが、DRAMは基板の上にモジュールとして挿さっていて、DRAM同士も、DRAMとCPUも、けっこう距離が離れています。距離が離れていると、データのやり取りが遅くなるんです。0と1のやり取りは「コップに水を入れたり抜いたり」なので、配線が長いと余計な容量(コップ)が増えて、動作が遅くなるし電力も食う。

「じゃあ、ガチャっとくっつけてしまえばいい」。DRAMのチップを何枚も重ねて、上下に電極を貫通させて直結する。これが今話題のHBM(High Bandwidth Memory・高帯域幅メモリ)です。

重ねたチップを貫通させる技術がTSV(Through Silicon Via・スルーシリコンビア)です。チップをペラペラに薄く磨いて、穴を開け、銅のプラグ(貫通電極)で上下のチップを直接つなぐ。上と下が最短距離でつながるので、爆速でデータをやり取りできます。

SK hynixの「次世代GPU向けHBM」が量産段階に入ったのは2014年ごろで、当時の報道(PC Watch)では「1TB/秒を実現する次世代GPU向けメモリ」として、DRAMを4枚重ねて1秒でiPhone1台分のデータを転送できる速さ・消費電力は3分の1、と紹介されていました。ただ当時は値段が非常に高く、正直「これ、どこで使うんだ?」という空気で、僕自身もよく知りませんでした。それがAIの登場で一気に日の目を浴びて、今やAIサーバーに必須の部品になっています。

最新のHBM4では12層・16層とDRAMを積み重ねてTSVで貫通させていて、もう凄まじいことになっています。「これ以上は積めないのでは」「熱が逃がせなくて焼き切れる」という限界も見えてきていて、水で冷やすのかなど、次をどうするかが大きなテーマです。NVIDIAとSK hynixが緊密に組んでいるのは、この先を一緒に開発していくためだと僕は見ています(詳しくはSK hynixのHBM解説記事へ)。

CoWoS——GPUとHBMを1つのパッケージに載せる3次元実装

DRAMを重ねてHBMにしても、まだGPUとの間の距離が邪魔です。「ここもくっつけてしまえ」というのが今の最先端で、それがCoWoS(Chip on Wafer on Substrate)というTSMCの技術です。

シリコンでできた土台(シリコンインターポーザー)の上にGPUとHBMを並べて載せ、その下にパッケージ基板(イビデンなどが作っている基板です)を置く。GPUとHBMの距離が1cmほどになって、半導体プロセスの細い配線で直結されるので、爆速でやり取りできます。これが3次元実装です。

AI半導体は「メモリがボトルネックで学習が遅い」「推論でメモリが足りない」という問題を抱えているので、GPUの真横にHBMを載せて即やり取りできるようにした。これが基本構造です。ただし、HBMは1個作るのに大量のウェハーを消費するうえ、積んだチップのどれか1つでも壊れたら全部ダメになるので、良品を作るのが非常に難しい。だからめちゃめちゃ高いし、枯渇しているわけです。

DRAMの特徴と日本のDRAMが負けた歴史

DRAMの特徴をまとめると、安く作れて高速、ランダムアクセスができてCPUと相性がいい、CPUやGPUと直結して計算に必須。ただし電源を切ると消える「揮発性」で、リフレッシュが必要なので消費電力も高め。「ぼうけんのしょ」と同じで、電気がなくなると消えてしまうので、動画や写真をずっと保存しておく用途には別のメモリ(フラッシュ)が必要になります。役割が全然違うんですね。

参考までにDRAMのシェアの歴史も。1980年代、日本は世界のDRAMの8割近くを作っていた時期があります。それがヒュルヒュルと下がって、最後に残ったエルピーダメモリも2012年に経営破綻し、今はマイクロンの広島工場が残るのみ。DRAMを作っている日本企業はもうなく、韓国のサムスンとSK hynixが非常に強い時代です。なぜ負けたのかは、あとで「重要なスペック」のところで触れます。

NANDフラッシュとDRAMの違い——電源を切っても消えない「本棚」

次がフラッシュメモリです。本棚のようなもので、電源を切ってもデータが消えないのが最大の特徴。本棚(フラッシュ)から机の上(DRAM)にデータを展開して仕事をする、というイメージです。作っているのはサムスン・SK hynix・キオクシア・マイクロン・サンディスクの主要5社で、そこに中国のYMTCが追い上げている構図です(YMTCの解説記事参照)。

フラッシュメモリを発明したのは、東芝の舛岡富士雄さんです。1980年にNOR型フラッシュ、1986年にNAND型フラッシュを発明し、今の主流はNAND型です。電源を切っても消えず、しかも安く大容量にできる半導体メモリ(フラッシュ)を発明したわけで、ボタン電池でしか保存できなかったドラクエの時代を考えると、これは本当に革命的なパラダイムシフトでした。

どうやって電源なしでデータを保持しているのか。トランジスタの途中に「浮遊ゲート(フローティングゲート)」という電子の箱を作ってあげるんです。そこにトンネル効果で電子を入れ込む。電子が入っていれば0、いなければ1(逆に定義する場合もあります)。箱に電子を閉じ込めるので、電源を切っても電子はそこに居続ける。だからデータが消えません。

これ、僕はずっとこの研究開発をやってきましたが、今考えてもすごいことだと思います。絶縁体の壁を、電子が量子力学のトンネル効果で「すり抜けて」箱に叩き込まれる。知っていても、頭の中で想像すると変な感じがしていました。

読み出しの仕組みも賢くて、普通のトランジスタは電圧をかけると電流が流れますが、箱に電子が入っているとその電子が邪魔をして電流が流れなくなる。電流が流れるか流れないかを見れば、電子がいるかいないかがわかる。中に人がいるかどうか、ドアをコンコンとノックして返事があるか確かめるようなものですね。

NAND型とNOR型の違いも一応。NAND型はセルを一直線に直列につないだ構造で、1つだけ動かすのは苦手(ランダムアクセスが弱い)ですが、超シンプルなので安く小さく作れる。NOR型はDRAMのようにセルを並列につないでランダムアクセスが速い代わりに、面積が大きい。僕もNORをやっていたことがありますが、今はほぼNANDの時代です。NANDの書き込みと消去は基本的にトンネル効果で電子を出し入れしていると思ってもらって問題ありません(NORでは電子を走らせて叩き込む「チャネルホットエレクトロン注入」で書き込むものもあります)。

フラッシュメモリは本当に世界を変えました。デジタルカメラのメモリーカード、iPod nano、iPhone、そしてハードディスクだったパソコンの記憶装置がSSDに。昔はハードディスク入りの音楽プレーヤーでジョギングすると音が飛んだものですが、フラッシュのおかげでそんな時代は終わりました。

3次元フラッシュメモリ——1階建てを高層ビルにした日本発の技術

もっと大容量にしたい。そのためにはもっと小さく作りたい。ところが、平面で小さくしていくと限界が来ます。加工の限界に加えて、隣のセルの電子と反発したり、電子の箱が小さくなりすぎて入る電子の個数が減り、データを保持できなくなったりする。

そこで出てきたのが「1階建てだったものを高層ビルにすればいいのでは?」という発想です。今まで平面に並べていたセルを縦に積む。これが3次元フラッシュメモリで、2007年に東芝が「BiCS FLASH」として発表しました。

なお、今の3次元フラッシュでは、浮遊ゲートの代わりに絶縁膜の中に電子を捕まえる「チャージトラップ型」(図中のMANOS膜)が主流です。電子を箱に閉じ込めて記憶する原理は同じです。

BiCSのすごいところは、層を増やしてもコストがそれほど上がらないことです。普通に1層、2層、3層と順番に作っていくとコストが跳ね上がりますが、BiCSは電極の板を先に何層も積んでから、縦に一気に穴を開けてメモリセルを一括で作る。だから「ビットコストがスケーラブル(Bit Cost Scalable)」、略してBiCSと呼んでいました。

2024年のFMS(Future of Memory and Storage)では、この3次元NANDフラッシュの開発で東芝(現キオクシア)の5人(Hideaki Aochi・Ryota Katsumata・Masaru Kito・Masaru Kido・Hiroyasu Tanakaの各氏)が「生涯功績賞」を受賞しました。実はこの方々は、僕が当時仕えていた上司・先輩たちです。僕は2010年ごろからこの方々のもとで3次元フラッシュの研究開発をずっとやってきて、それが今、世界中のスマホやSSDやAIサーバーで使われている。本当にすごいことだと思っています。

CBA——メモリと回路を別々に作って貼り合わせる最新技術

キオクシアの新技術として、もう1つCBA(CMOS directly Bonded to Array)を紹介しておきます。メモリ部分(セルアレイ)と、それを制御する回路部分(CMOS)を別々のウェハーで作って、ガッチャンと貼り合わせる技術です。

今までは1枚のウェハーの上に両方を一緒に作っていたのですが、メモリを作る工程で回路にダメージが入ったり、回路を作る工程でメモリにダメージが入ったりして、どちらも性能を引き出しきれませんでした。全然違うものを同じ場所で作っているので当然ですよね。別々に最適な工程で作って貼り合わせれば、両方の性能を最大限引き出せる。その結果、爆速のフラッシュメモリができて、NVIDIAから注目されて仕事が来ている、という状況です。

実際に貼り合わせた断面写真を見ると、下に回路、上にメモリがきれいに接合されています。ダイレクトボンディングという技術で、これを初めて見たときは「こんなことできるんだ」とビビりましたね。CBAは第8世代BiCSから採用されていて、キオクシアの高速SSDの土台になっています(NVIDIA CMX向けのキオクシアSSDの解説記事も参照)。

AIサーバーのメモリ構成と、これから起こること

ここまでをつなげると、一般的なパソコンやスマホは「CPUの中のSRAM(仮保存)⇔DRAM(プログラム展開)⇔フラッシュ(データ保存)」という構成です。

AIサーバーはこれにGPU+HBMが加わって、GPUとHBMは1つのパッケージ(CoWoS)になり、外にSSD(NANDフラッシュ)がある構成です。ここで問題になっているのが、NANDは安いけど遅い、HBMは速いけど高くて容量が小さく、もう限界に来ている、ということ。

そこで「足りないHBMをSSDでカバーしよう」という動きが、キオクシアとNVIDIAの提携として動き始めています。推論であふれるKVキャッシュを受け止めるSSD(CMX・Context Memory Storage)はちょうど量産が始まったところで、GPUとSSDを直接つなぐ超高IOPS SSDを2027年に、その先には光SSDも予定されています。さらにサンディスクとSK hynixは、NANDをHBMのように積層してGPUの隣に置くHBFを進めています。詳しくはキオクシアのスーパーIOPS SSDの記事とHBFの解説記事で書いていますが、AIのアーキテクチャーの中にNANDフラッシュがどんどん入っていく。元NANDの研究開発者としては、これがめちゃめちゃ楽しみです。

たまに「HBMが十分供給されるようになったらNANDはいらなくなるのでは?」という方がいますが、僕はむしろ逆で、NANDは絶対に必要だと思っています。NANDがDRAMより上とか下とかではなく、それぞれ用途とスピードが違うので適材適所なんです。野球で全員が4番バッターでも勝てないのと同じ(全員が大谷翔平なら勝てそうですが、それはさすがに例えが変ですね)。

半導体メモリの違いを決める3つのスペック——コスト・スピード・容量

最後に、メモリで何が重要なのかをまとめます。メモリの良し悪しはいろいろ言われますが、大事なのは3つです。

• ①コスト——とにかく安いメモリが求められます。1990年代、日本のDRAMはスーパーコンピューター向けの高品質なDRAMを作っていましたが、パソコン向けの低コストなDRAMに勝てず、性能ではなくコストで惨敗しました
• ②スピード——データの保存スピード、読み込みスピード、ランダムアクセス、シリアル読み出しなど。いまAI向けには、コストよりスピードが重視される時代に戻ってきています。日本がコストで負けた歴史を考えると、この変化はなかなか面白いところです
• ③容量など——①②を満たしたうえでの大容量、消費電力、データ保持性、信頼性(壊れないこと)

そして、4種類のメモリの特徴をもう一度。

まとめ

メモリの基礎がわかると、キオクシアやマイクロン、SK hynixの決算ニュースが何倍も面白く読めるようになります。関連記事として、NVIDIAの最新決算解説、マイクロンの決算とメモリスーパーサイクル、キオクシアの決算解説もあわせてどうぞ。僕の研究開発の経歴は研究開発者としての経歴ページにまとめています。