由中國 AI 新創「深度求索」所推出號稱最強開源模型 Deepseek V4 系列自推出以來,讓世人最驚艷的除了具備不遜於目前幾款最前沿的閉源大模型的優秀表現以外,就是它那近乎不可思議的超低收費與超大的 1M 上下文長度,近日獨立分析師 GDP(@bookwormengr)在 X 平台發表了一篇長達數萬字的深度分析,拆解 DeepSeek 高性價比背後使用的技術秘密與不為人知的長期商業布局。
DeepSeek 的「奇特」技術路線
要理解 DeepSeek 的戰略,必須先追溯其技術路線演進脈絡。從 V2 開始,DeepSeek 始終選擇與主流相反的路線:
- 當業界專注於密集(Dense)模型時,DeepSeek 投入難以訓練的混合專家(MoE)架構
- 當主流使用 PPO 進行強化學習時,他們從第一性原理出發,發明了更高效的 GRPO 演算法
- 當其他實驗室追求更大的模型規模時,DeepSeek 專注於以演算法創新補償硬體劣勢
這條路線的核心驅動力很明確:中國 AI 晶片因美國出口管制而永遠在 raw FLOPs 上落後西方(缺乏 EUV 微影設備、先進封裝技術受限),因此 DeepSeek 必須用極致的軟體效率來補足硬體的先天不足。
KV Cache 革命:從 MLA 到 CSA/HCA 的演進
DeepSeek 技術布局中最關鍵的一環,就是對 KV Cache(鍵值緩存) 的持續革命性壓縮。
MLA(Multi-head Latent Attention)多頭潛在注意力機制
2024 年 5 月,DeepSeek V2 發表了 Multi-head Latent Attention(MLA)。傳統的多頭注意力(MHA)為每個 attention head 獨立儲存完整的 K 和 V 向量,導致 KV Cache 與序列長度線性成長、與頭數成倍數成長。MLA 的核心創新在於:不再快取完整的 K 和 V,而是儲存一個更小的潛在表示(latent representation),在需要時再重建完整的 KV 資訊。
這項技術使得 DeepSeek V2 的 KV Cache 減少了約 90%,成為當時最節省記憶體的注意力機制之一。
DSA(DeepSeek Sparse Attention)DeepSeek 稀疏注意力機制
在 V3.2 中引入的 DSA 進一步解決長上下文場景的計算問題。傳統注意力機制的計算量隨上下文長度 O(N²) 成長,DSA 透過稀疏化機制,確保計算量不隨上下文增長而增加,處理時間在長上下文下保持近乎恆定。這也顯著緩解了對 HBM 頻寬的壓力。
CSA + HCA(Compressed & Heavily Compressed Attention)
2026 年 4 月發表的 DeepSeek V4 帶來了架構性的飛躍。與其使用單一注意力機制,V4 設計了一套混合注意力架構(Hybrid Attention),包含兩種互補的壓縮策略:
- Compressed Sparse Attention(CSA):先沿序列維度壓縮 KV Cache,再應用稀疏注意力,壓縮率 4× 至 128×
- Heavily Compressed Attention(HCA):對 KV Cache 進行高度壓縮,進一步降低記憶體佔用
KV Cache 成本實戰對比:DeepSeek V4 的驚人效率
根據 kvcache.ai 計算器與多位技術分析師的數據,在 1M token 上下文長度、8-bit KV 精度、16-bit indexer 精度 的標準設定下,各主流模型的 KV Cache 用量對比如下:
- DeepSeek V4 Pro(1.6T 參數 / 49B active):5.48 GB HBM
- GLM-5(~700B 參數):60 GB HBM(已採用 MLA + DSA,但無 CSA/HCA)
- Qwen3-235B-A22B(235B 參數 / 22B active):89 GB HBM(採用傳統 GQA)
數字呈現的結論極具衝擊力:DeepSeek V4 Pro 雖然是 1.6T 參數的龐然大物,但其 KV Cache 需求卻僅為 GLM-5 的 1/11、Qwen3-235B 的 1/16。 注意 GLM-5 已經採用了 DeepSeek 首創的 MLA 和 DSA 技術,但因尚未導入 CSA/HCA 壓縮注意力,KV Cache 仍比 V4 Pro 高出一個數量級。
如果比較 bf16 精度(產業標準):
- DeepSeek V3.2(前代):83.9 GiB
- DeepSeek V4 Pro(最新):9.62 GiB(僅為 V3.2 的 1/8.7)
這意味著 V4 相比前代 V3.2 KV Cache 減少了近 9 倍,同時單 token 推理 FLOPs 降至 27%。而與同代競爭對手相比,壓縮差距更達 11-16 倍。
將 KV Cache 變小的戰略意義
KV Cache 縮小看似只是技術細節,實則是 DeepSeek 為何成本可以壓到如此低的核心:
第一,極低的 Cache Hit 定價:正因為 KV Cache 極小,DeepSeek 可以將「快取命中」的 API 價格壓到競爭對手的 3% 以下,比 Claude Sonnet 4.6 的 Cache Hits 還便宜 97%,且可保持數小時不過期。
第二,SSD Offloading 成為現實: 極小的 KV Cache 可以卸載到價格比 HBM 便宜N倍的消費級 SSD 裡,需要時再快速載入。DeepSeek 在 Dual Path 論文(arXiv:2602.21548)中發表了雙路徑 KV Cache 載入技術,解決了儲存頻寬瓶頸,這在根本上降低了對昂貴 HBM 的依賴。
第三,解鎖長上下文 Agent 的規模化: 長時間運行的自主 Agent(如 coding agent、planning agent)需要維護大量 KV Cache,DeepSeek 的壓縮技術讓這類應用從昂貴的實驗室展示變成可規模化的商業產品。
mHC:巨觀架構的訊號穩定革命
除了注意力機制的創新,DeepSeek V4 還搭載了 2025 年 12 月發表的 mHC(Manifold-Constrained Hyper-Connections)。
傳統殘差連接(x + F(x))自 ResNet 以來是深度網路的標準配置,但隨層數增加,訊號衰減或爆炸成為瓶頸。mHC 將殘差流擴展成多重平行資訊高速公路,並透過 Sinkhorn-Knopp 演算法將混合矩陣約束為雙隨機(doubly stochastic)矩陣,這從數學上保證訊號強度在任何深度下都精確保留。
對比:ByteDance 最初的無約束 Hyper-Connections 在 27B 規模下訊號放大到 3000×,訓練完全崩潰。而 mHC 僅增加 6.7% 訓練開銷,卻在 27B 參數時帶來 BIG-Bench Hard +7.2 分、DROP +3.2、GSM8K +2.8、MMLU +1.4 的顯著進步,這是在同參數量、同計算預算下的純架構紅利。
Engram:用記憶換算力的策略互補
DeepSeek 在 2026 年 Q1 發表的 Engram 是一項極具原創性的設計。傳統 Transformer 被迫用大量計算來模擬知識檢索(本質上就是 inefficient),Engram 則引入一個 O(1) 哈希查表模組,將經典 N-gram 嵌入現代化,創造了 DeepSeek 稱為「條件式記憶」的新稀疏軸向。
背後的權衡非常精妙:一次 LPDDR 記憶體查表的能耗與延遲,遠低於一次完整的 Transformer 層前向傳播。將部分計算替換為記憶體查詢,雖然增加了記憶體用量,但整體運算成本大幅下降。對永遠落後尖端製程的中國 GPU 生態來說,以大量 NAND 和 LPDDR(中國有產能優勢)換算力(中國有劣勢),是極具戰略價值的 trade-off。
從記憶體布局到硬體生態系統
將上述技術組合起來,DeepSeek 的完整硬體布局逐漸清晰:
- MoE + 4-bit 權重:權重可置於 LPDDR,JIT 串流進 HBM
- CSA/HCA 極致壓縮 KV Cache:KV Cache 可常駐 SSD
- Dual Path 論文:解決 SSD 載入頻寬瓶頸
- Engram 查表:用 LPDDR 取代部分 Transformer 計算
結果:大幅降低對 HBM 和頂尖 GPU 的依賴。 YMTC 的 3D NAND 和 CXMT 的 LPDDR 成為 AI 基礎設施的關鍵元件。CXMT 的 LPDDR 速度僅落後 0.5 代、密度落後 1 代,差距並不大,且 SK Hynix、Micron、Samsung 將產能轉向高利潤 HBM,剛好為中國記憶體廠商打開了市場缺口。
TileLang 語言:繞過 CUDA 護城河
DeepSeek 對 TileLang 的投資同樣重要。TileLang 允許開發者一次開發 Kernel,在多個硬體平台執行(只要該平台有後端支援)。這對中國 GPU 廠商(摩爾線程、沐曦、壁仞等)尤其關鍵:不需要依賴 NVIDIA 的 CUDA 生態,而是透過 TileLang 提供一個硬體中立的軟體層。這套策略在概念上類似 AMD 的 ROCm,但更徹底——它直接從編譯器層級解耦。
更大的棋局:OpenAI-AMD 模式的 DeepSeek 版本
GDP 的分析指出一個被忽略的類比:OpenAI 與 AMD 的戰略合作中,AMD 向 OpenAI 發行最多 1.6 億股認股權證,按算力部署里程碑歸屬。這種以「未來算力承諾換股權」的模式,極可能被 DeepSeek 複製到與中國多家記憶體、ASIC、CPU 廠商的合作中。對這些供應商而言,獲得 DeepSeek 的深度工程支援和生態背書,遠比單純的產品驗證更有價值。
結語
DeepSeek 不做多模態、不賣商用編碼方案、堅持開源,這不是缺乏商業嗅覺,而是一場耐心的長期布局。從 MLA 到 CSA/HCA,從 mHC 到 Engram,從 Dual Path 到 TileLang,每一項技術都指向同一個戰略目標:在沒有 EUV、沒有頂尖製程的前提下,用演算法創新構建可與西方競爭的替代 AI 硬體生態。
這套策略能否實現 1 兆美元市值的終局,最終取決於中國記憶體和 ASIC 廠商能否在 DeepSeek 的軟體護航下趕上西方產品。但至少從技術面來看,DeepSeek 已經證明了「以軟補硬」是可行的,一家公司的開源技術,可能正在重塑全球 AI 基礎設施的競爭格局。
— GDP (@bookwormengr) May 22, 2026


