DeepSeekのKVキャッシュ革命は、NVIDIAのGPUを強くするのか。それともASIC時代を加速させるのか？

2026-10-21 / 半導体, AI

2026年9月10日、DeepSeekがV4.1-Flashを発表し、10月17日には改良版のV4.1-Flash-1017が出ました。革新は9月版で導入され、10月版は構造を保ち、学習後の改良で推論やエージェント処理の能力を高めたものです（ナンバリングは変わっていないので、「ちょっと改善しました」バージョン。すげー）。

注目は、KVキャッシュの大幅な削減です。KVキャッシュとは、AIが文章を読み進める過程の中間計算結果を保存する作業用の記憶で、会話や文書が長くなるほど膨らみ、推論用の高速メモリ（HBM）を圧迫します。DeepSeekの公表値では、常時HBMに置くグローバルKVは従来のV4 Flash比で4分の1、SSDなどに永続化するKVは8分の1になりました。この変化はGPUを強くするのか、ASIC時代を加速させるのか。それが本稿の問いです。

1. DeepSeekは何を変えたのか

削減の方法は、大きく4つあります。

① CED（Causal Encoder–Decoder）： 入力処理と出力生成を分け、入力時の全40層実行を不要にしました。活性化パラメータは入力で約80億、出力で約160億です。

② CSA2（Compressed Sparse Attention 2）： 層ごとに持っていたKVキャッシュや索引情報を層をまたいで再利用して重複を減らし、重要なトークンだけを参照するSparse Attentionで処理量も減らしました。

③ FP4 KVキャッシュ： 主要部分を4ビット精度で保存し、保存量と転送量を減らす量子化の工夫で、GPU固有の技術ではありません。

④ SWA Bounded Replay： 短い履歴は保存せず、必要になったら再計算して復元します。「保存するより計算し直すほうが安い」という発想です。

共通するのは、競争の軸が「大きなメモリを積む」から「メモリを使わない計算方式」へ移ったことです。

2. KVキャッシュが小さくなると、GPUの優位性はどう変わるのか

HBMに置かれるのは、モデルの重みとKVキャッシュの2種類です。DeepSeekが削ったのは主として後者であり、多数のユーザーが長い文脈を同時に保持するシステムでは、HBM当たりの収容セッション数が増える大きな改善です。

ただし重みは小さくなっていません。本体は5,520億パラメータ規模で、1,960億パラメータのEngram条件付きメモリも持ち、本体だけでも全て4ビット保存の単純計算で約276GBが必要です（量子化メタデータ等を含まない数字です）。KVが減っても、巨大な重みを保持し高速に読み出す大容量メモリは依然重要です。MoEではトークンごとに使う専門家（Expert）が変わるため、活性化が160億でも全体から重みを取り出せる構造も要ります。

よって「HBM需要が一律4分の1」にはなりません。1件当たりのGPU資源は減る可能性が高い一方、GPUが扱える仕事量は増えるため、好材料とも悪材料とも断定できません。

3. ASICでも、この新機構に対応できるのか

できます。理論ではなく、DeepSeekの公開するFlashMLAにはNVIDIA GPU向けに加えHuawei Ascend向けの実装があり、vLLM-Ascendにも導入手順が公開されています。これらはモデルの計算アルゴリズムであってGPUだけの特殊機能ではなく、GoogleのTPU IronwoodのようにHBM、オンチップSRAM、専用行列演算器、高速チップ間通信を備えたASICでも実行できます。

ただし「対応できる」と「GPUより安く実行できる」は別です。2026年9月30日のFlashMLA更新でKVのFP8/FP4形式が変更され互換性にも影響が出たように、構造が頻繁に変わればカーネルの作り替えが要り、GPUの柔軟性が価値を持ちます。逆に推論が標準化されれば、ASICの経済性が強まります。効率的な方式がオープンウェイトと共に公開されるほど、競合メーカーも最適化チップを作りやすくなり、NVIDIAと競合ASICの間の障壁も下がりうるのです。

4. NVIDIAのLPUは、GPUと何が違うのか

NVIDIAは2025年12月にGroqと推論技術の非独占ライセンス契約を締結し、創業者らが加わりました（会社ごとの買収ではないものの、「大人の事情で事実上の買収に留めるテクニック」という感じです）。2026年3月にはVera Rubinと組み合わせるNVIDIA Groq 3 LPXを発表し、8月に量産段階へ入りました。

GPUが多数の演算器とHBMで大量データを並列処理する装置なら、LPUは高速なオンチップSRAMを使い、コンパイラが演算とデータ移動を事前に管理する装置です。Groq 3 LPUは1チップ500MBのSRAMを持ち、256チップのLPXラックでは合計128GB、帯域幅40PB/sが公称されています（NVIDIA公称）。

NVIDIAはLPUに推論のすべてを任せません（そりゃそうです）。GPUがAttention、LPUがFeed-Forward Network（FFN：Attentionで集めた情報を変換する部分）やMoEのExpert計算を担当し、NVIDIA Dynamoが両者を調整します。LPUに下書きを生成させGPUで検証するSpeculative Decodingの構想もあります。LPUはGPUの置き換えではなく、その苦手な一部を肩代わりする存在です（往復通信のコストもあるため、全モデルで分業が最善とは限りません）。

5. DeepSeekの新技術は、LPUに有利なのか

直接には有利にしません。GPU＋LPU構成でKVを使うAttentionは主にGPUの担当であり、KVが小さくなって緩むのはGPU側の制約です。LPU担当のFFNやMoEの計算量は減りません。

むしろ、Attention側のボトルネックが弱まれば、全体の性能をFFNやMoEの速度が決める場面が増え、そこでLPUが効いてくる可能性があります。CEDが入力と出力で計算量の構造を変えた点も、PrefillとDecodeの分業という発想と親和性があります（ただしNVIDIAのAFDはDecode内部の分業方式でCEDとは別物であり、組み合わせの効果は検証が必要です）。

制約もあります。100万トークン分のグローバルKVは約890MBと、LPU単体のSRAM 500MBを超えます。重みまで考えれば全てをLPUに置けず、複数チップへの分散やDRAM、GPU側メモリの併用が要ります。DeepSeekの進化はLPUを万能にするものではなく、役割分担を変えるものです。

6. NVIDIAにとって本当に重要なのは、需要の総量と利益率

論点を3つに整理します。

それでも、NVIDIAがGPU・LPU・ネットワーク・推論ソフトウェアを束ね、同じ品質の推論を最も安く実行できるプラットフォームであり続けられるなら、GPU単体の優位性が弱まっても事業全体では成長できます。Vera Rubinを一体型プラットフォームとして展開していることとも整合します。

7. 結局、GPUは強くなるのか、ASICの時代が来るのか

推論市場は二極化ではなく、多様な計算装置の役割分担へ移行していくと考えられます。学習や構造が頻繁に変わる推論ではGPUの柔軟性が強み、大量生成や低遅延のエージェント処理ではASICやLPUが重要になります。決め手は「最も高性能なGPUを誰が作るか」から、「必要なモデルを必要な速度で、最も低いトータルコストで実行できるシステムを誰が作るか」へ移りつつあります。

私の現時点の評価を端的に表すなら、次のとおりです。

現時点では、私はこちら寄りです。KVキャッシュ革命はGPU単体には逆風でも、LPUまで取り込んだNVIDIAのプラットフォーム戦略そのものを崩す話ではありません。ただし、勝利が約束されるわけでもありません。

DeepSeekが示しているのは「GPUが不要になる未来」ではなく、GPUでなければ処理できないと考えられていた仕事が、モデルの進化によって、より多くの計算装置で実行可能になっていく未来です。今後まず確認すべき観測点は、V4.1級のモデルをGPU＋LPU構成とGoogle TPUなどのASIC主体構成で実行したときの、同一品質・同一遅延条件における総コストです。NVIDIAにとって本当に難しいのは、推論需要が増えるかどうかではなく、需要が増えるほど自社の利益も増える構造を維持できるかどうかだと思います。

参考