SK hynixが示す“HBMの次”―AI推論時代のメモリ階層を読む

この記事を読むのにかかる時間： 6 分

AI半導体の主役として語られてきたHBM。しかしSK hynixが2026年9月のAI Infra Summit 2026で示したのは、HBM単体ではなく「メモリの階層全体」でAIを支えるという構想だった。PIM、HBF、SALT-KVという3つのキーワードから、AI推論時代のメモリ競争を読み解く。

この記事のポイント ■ SK hynixは米カリフォルニア州サンタクララで開かれたAI Infra Summit 2026（9月15〜17日）で、PIM、HBF、SALT-KVなどAIインフラ向け技術を紹介した ■ HBMはAIの学習に不可欠だが、推論やAgentic AIではHBMだけではコストや容量の制約が出やすい ■ HBF（High Bandwidth Flash）は、SK hynixがHBMとSSDの間に位置づける新しいメモリ階層 ■ SALT-KVは、推論時の“記憶”であるKV CacheをHBM・DRAM・SSDにまたがって効率よく扱う考え方

何が発表されたのか

SK hynixは、9月15〜17日に米カリフォルニア州サンタクララで開かれたAI Infra Summit 2026に参加し、「New Spectrum」をコンセプトに、PIM、HBF、SALT-KVなどAIインフラ向けの技術を紹介した。AIの多様な処理（ワークロード）に合わせてメモリを使い分けるという方向性を打ち出した形である。

この動きが重要なのは、AI需要の中心が学習（Training）だけでなく、推論（Inference）、RAG、Agentic AIへ広がっているからだ。学習では大量のGPUとHBMが必要になる。一方、商用AIサービスでは、利用者のリクエストに素早く応答し、大量の文脈や検索結果を扱う必要がある。ここでは、HBMに加えDRAM、CXLメモリ、SSDといった階層をどう使い分けるかが競争力になる。

基礎から理解する：なぜ“階層”が必要なのか

HBM（High Bandwidth Memory）は、DRAMを縦に積み重ねてGPUのすぐ近くに置く高帯域メモリである。データを高速に供給できるが、高価で容量には限りがある。反対にSSDは大容量で安価だが、データの出し入れは遅い。人間の仕事にたとえれば、HBMは“手元の机”、SSDは“倉庫”。机は狭く、倉庫は遠い。その間に“すぐ取りに行ける棚”を置けるかどうかが、AIの処理効率を左右する。

出典：各社・各団体の公表資料をもとにSEMICON.TODAY編集部作成

PIM、HBF、SALT-KVとは何か

PIM（Processing-in-Memory）は、メモリの近く、あるいはメモリ内部に演算機能を持たせる考え方である。AI処理では、データをメモリから演算器へ運ぶだけで大きな電力と時間を消費する。PIMは、このデータ移動を減らすための技術として注目されている。

HBFはHigh Bandwidth Flashの略で、SK hynixがHBMとSSDの間を埋める新しいメモリ階層として紹介した技術だ。同社は2026年8月、米Sandiskと共同でHBFの最初の標準仕様を公開している。HBMほど高価・高帯域ではないが、SSDよりもAI推論に近い場所でデータを扱う中間層が求められている。

SALT-KVは、KV Cacheの扱いに関わる技術である。KV Cacheとは、AIモデル（Transformer）が推論時に、それまでの文脈情報を保持しておく仕組み。会話が長くなるほど、検索結果やツールの呼び出し履歴が増えるほど、KV Cacheは大きくなる。すべてをHBMに置けば速いがコストと容量が問題になり、すべてをSSDに置けば容量は足りるが遅くなる。SALT-KVのような考え方は、KV Cacheをメモリ階層全体で最適に配置する方向を示している。

出典：各社・各団体の公表資料をもとにSEMICON.TODAY編集部作成

AIの処理の種類でメモリの要求が変わる

AIインフラのメモリ需要を理解するには、処理の種類（ワークロード）を分けて見る必要がある。

出典：各社・各団体の公表資料をもとにSEMICON.TODAY編集部作成

製造・装置・材料への影響

メモリ階層が広がると、製造側にも影響が出る。HBMでは、DRAMダイの積層、TSV（チップを縦に貫く配線）、マイクロバンプ、ハイブリッドボンディング、薄化、熱対策が重要になる。HBFやCXLメモリのような中間層が広がれば、パッケージング、基板、コントローラ、信号品質、テストの需要も増える。

PIMではメモリセルと演算回路の関係が変わるため、ロジックとメモリの協調設計が必要になり、EDA（設計ツール）、IP、検証、テストにも影響する。日本企業にとっては、HBM向けの製造装置や材料に加え、テスター、プローブカード、基板材料、熱界面材料、接合材料、洗浄薬液、計測装置の需要が広がる可能性がある。

注意すべき点

HBFは2026年8月に最初の標準仕様が公開された段階であり、SALT-KVも含め、量産時期や顧客での採用状況は公開情報からは限定的にしか確認できない。現時点では、AI Infra Summitで紹介された技術・方向性として扱うべきで、すでに大規模に普及した技術と見るのは誤りである。

PIMも長年研究されてきた技術だが、量産・採用にはソフトウェアとの互換性、プログラミングの方法、コスト、歩留まり、顧客側の導入負担が関わる。技術的に有望でも、すぐに既存のメモリ階層を置き換えるわけではない。

まとめ

SK hynixがAI Infra Summit 2026で示したPIM、HBF、SALT-KVは、AIメモリ競争がHBM単体からメモリ階層全体へ広がっていることを示す。学習ではHBMが引き続き重要である一方、商用AIの中心が推論、RAG、Agentic AIへ広がるにつれ、KV Cacheや検索用データ、モデルデータをどこに置くかが重要になる。

日本企業にとっては、HBMの製造だけでなく、実装、検査、基板、熱、接合、ストレージ周辺まで視野に入れる必要がある。

用語解説

用語	説明
HBM	High Bandwidth Memoryの略。DRAMを縦に積層し、GPUやAIアクセラレータの近くに配置する高帯域メモリ。
HBF	High Bandwidth Flashの略。SK hynixがHBMとSSDの間に位置づける、フラッシュメモリを使った新しいメモリ階層。
PIM	Processing-in-Memoryの略。メモリの近く、または内部で演算を行う考え方。
KV Cache	Transformerモデルの推論で、過去の文脈情報（キーとバリュー）を保持する仕組み。
RAG	Retrieval-Augmented Generationの略。外部データベースから情報を検索し、生成AIの回答に反映する方式。
CXL	Compute Express Linkの略。CPU、メモリ、アクセラレータを接続する標準インターコネクト。

出典（Sources）

・S1｜SK hynix｜SK hynix Presents New Spectrum for AI Infrastructure at AI Infra Summit 2026｜2026-09-17

本文での主な参照箇所：PIM、HBF、SALT-KV、AI Infra Summit参加・会期・会場

・S2｜AI Infra Summit｜Beyond One-Size-Fits-All: PIM, HBF and More for the New Spectrum of AI Serving｜2026-09

本文での主な参照箇所：PIM、HBF、SALT-KVのAI serving文脈

・S3｜AI Infra Summit｜2026 Agenda｜2026-09

本文での主な参照箇所：AI Infra Summitの開催日、技術テーマ

・S4｜SK hynix / PR Newswire｜SK hynix Unveils First HBF Standard Specifications with Sandisk, Presenting AI Memory Solutions at ‘FMS 2026’｜2026-08-04

本文での主な参照箇所：HBFの正式名称、Sandiskとの標準仕様公開、HBMとSSDの間の階層

※本記事は各社・各団体の公表資料をもとに作成したものであり、特定の銘柄の売買を推奨するものではありません。
記載内容は執筆時点の公開情報に基づきます。