當記憶體改寫方程式
手機記憶體攻進AI 資料中心

三句話講完這篇在幹嘛、為什麼該注意。

資料中心的記憶體圈，一直只有兩個選手在打：HBM 跟 DDR5。LPDDR 原本根本不在牌桌上。

HBM（High Bandwidth Memory，高頻寬記憶體）疊在 GPU 旁邊，專門服務 AI 訓練與推論——頻寬最高，但也最貴、最耗電，像是資料中心裡的超跑。

DDR5 RDIMM（Registered DIMM，伺服器標準記憶體模組）是資料中心 CPU 的標配，容量夠、可插拔、可維修，是用了幾十年的老規格。

LPDDR（Low-Power DDR）則是手機、筆電、平板用了十幾年的記憶體規格——設計目標從一開始就是「省電」，不是「插進資料中心」。

三者的定位差在哪？我們攤開來看清楚。

為什麼省電突然變成資料中心的剛需？

美光先前有一份分析算過一筆帳：同樣的存取情境下，LPDDR5X 的 DRAM 功耗只有 DDR5 的 23%～25%——換句話說，同一份記憶體工作量，LPDDR5X 省下接近四分之三的電。這個對比出自美光先前另一份自家分析《The role of low-power (LP) memory in data center workloads》，不是這篇白皮書的 SKU1／SKU2 主測試，要分開看。

以前為什麼不能用？因為它是焊死的

省電是誘因，但以前沒人敢把 LPDDR 搬進資料中心，因為它有一個資料中心不能接受的毛病。

焊死（soldered）——手機、筆電裡的 LPDDR 是直接焊在主機板上的，不是插拔式模組。壞一顆，換的不是一根記憶體條，是整片主機板。

資料中心的維運邏輯完全相反：
記憶體必須能插、能抽、能單獨更換。
一台伺服器裡幾百 GB 記憶體只要死一顆，維運團隊要能在幾分鐘內換掉它，而不是拆整台機器重來。

這個「焊死」的毛病，直到 SOCAMM2 出現，才被真正解決。

SOCAMM2 是這篇故事真正的解鎖鍵。

SOCAMM2（Small Outline Compression Attached Memory Module，第二代小型化記憶體模組）是美光在 2026 年 3 月發表的規格——把 LPDDR5X 做成一片可插拔的模組，而不是焊死在板子上的晶片。

單一模組容量做到 256GB，靠的是業界第一顆單晶片（monolithic die）32Gb LPDDR5X 晶粒——一顆晶片就是 32Gb，不用堆疊封裝就能做出高容量。拿一台伺服器 CPU 常見的 8 記憶體通道規格來算，插滿 SOCAMM2 可以堆到單一 socket 2TB——這是以前焊死做法做不到的容量。

跟資料中心標配的 RDIMM 比，SOCAMM2 功耗只要三分之一、體積只要三分之一——省電的優勢，終於能用「插拔」的方式搬進資料中心。

光有 SOCAMM2 這個「插座」還不夠，還要有人證明「插進去真的能用」。

這次不一樣的地方，是 Meta 直接掛名共同作者——四位 Meta 硬體系統工程師跟美光的記憶體團隊一起寫這份白皮書，使用的是 Meta 內部生產環境實際運行的測試工具。

這比純廠商自吹自擂的白皮書可信一級，但也要誠實講：主導測試設計、跑測試的還是美光，Meta 的角色是掛名共同作者、提供工具跟情境，不是獨立第三方認證。先看他們拿什麼測。

再交叉驗證用 DCPerf（Meta 開源的資料中心效能測試工具集）跑出來的結果，用 Multichase（Google 開源記憶體微基準測試工具）單獨測記憶體延遲跟頻寬，確保不是單一工具的誤差。

兩款記憶體，同一顆 CPU

白皮書比的不是「LPDDR vs DDR5」，而是LPDDR 對 LPDDR——同樣都是 LPDDR5X，但容量、速度、rank 配置不同的兩顆：SKU1 大而慢，SKU2 小而快。CPU 都是同一顆：72 核心／socket 的 Arm（安謀，$ARM）處理器。

兩款記憶體，測出兩種完全不同量級的差距。

先看速度組——SKU2（8533 MT/s）比 SKU1（6400 MT/s）實測 DRAM 頻寬快 13%，反映到 Tensor Rebatching、mediawiki_mem 這類頻寬、延遲敏感的工作負載上。

Deserialization 這個工作負載也同步受惠：頻寬提升 6%，IPC（每時脈指令數）提升 18%。Multichase 交叉驗證也確認：SKU2 在所有 stride（存取跨距）下，loaded latency（負載下的存取延遲）都比 SKU1 低。

有個小但重要的但書：這次測試 mediawiki_mem 只開了 2 個 HHVM（Facebook 自家開發的 PHP 網頁程式執行引擎）實體，併發還沒摸到飽和——換句話說，SKU2 的優勢是在還沒吃緊的情況下量出來的，換算到更高執行緒數的真實部署，差距預期只會更明顯，不會縮小。

再看容量組——這才是整篇報告最戲劇性的部分。SparkBench 量的是 SKU1 相對 SKU2 的 speedup，數字越大代表容量小的 SKU2 輸得越慘。標準負載下，查詢吞吐量（QPH，每小時能完成幾次查詢）跟執行時間（Exec）都差了 2.82 倍；把資料量放大 3 倍，差距擴大到 3.45 倍。拆到每個運算階段（stage）看，差距更誇張。

全篇最重要的一張圖：記憶體不夠時，會掉下的懸崖

Stage2 差了 38.75 倍，不是打字錯誤，是這個階段的 shuffle（洗牌／資料重分配，Spark 查詢裡把資料在不同運算節點間重新分配對齊的步驟）把資料量沖過了 DRAM 的容量上限，一部分資料被迫溢寫到硬碟（spill-to-disk），從奈秒級的記憶體存取，掉成微秒到毫秒級的硬碟存取。

在把這篇讀成「LPDDR 要顛覆資料中心」之前，先劃清楚四條線。

沒有最好的記憶體，只有配得上你工作負載的記憶體

整份報告最實用的結論，其實是一張決策樹：先問自己的 workload 卡在哪一關，再決定要買容量還是買速度。

白皮書是一回事，買家真金白銀的訂單是另一回事——後者更值得看。

拉遠來看，這篇白皮書真正想回答的問題，是「LPDDR 進資料中心，到底是不是真需求」。答案已經寫在買家的行動裡。

這篇的關鍵詞，一句話版。

DCPerf

Meta 開源的資料中心效能測試工具集（github.com/facebookresearch/DCPerf），這篇白皮書用它模擬真實 workload。

MT/s Mega-Transfers per second

記憶體傳輸速度的計量單位，每秒百萬次資料傳輸，數字越大代表理論頻寬越高。

rank 記憶體排

同一個通道裡疊了幾組晶片。疊越多容量越大但電氣負載越重，訊號跑不快；疊越少訊號快但容量小。

P99 尾延遲 tail latency

100 次請求裡最慢的那 1 次的延遲，比平均值更能反映使用者實際感受到的「最壞情況」等待時間。

Spark / Spark SQL

開源的大數據處理框架，常用來跑資料倉儲的 SQL 查詢，這篇拿它的查詢效能測記憶體容量夠不夠。

shuffle 洗牌/資料重分配

Spark 查詢裡把資料在不同運算節點間重新分配、對齊的步驟，通常是整個查詢裡最吃記憶體的階段。

page cache 頁面快取

作業系統拿一部分記憶體暫存最近讀過的硬碟資料，下次讀同一批資料時不用再等硬碟。

spill-to-disk 溢寫到硬碟

記憶體裝不下運算中的資料時，系統被迫把部分資料寫到硬碟騰出空間，之後又得讀回來，速度從奈秒級掉到微秒～毫秒級。

IPC Instructions Per Cycle

每個時脈週期能執行幾條指令，數字越高代表 CPU 每一拍做的事越多。

RDIMM Registered DIMM

資料中心伺服器標準的可插拔記憶體模組，幾十年來的老規格，容量夠、可維修。

Multichase

Google 開源的記憶體微基準測試工具（github.com/google/multichase），專門量測記憶體延遲與頻寬。

GPC General Purpose Computing

通用運算，泛指不需要 GPU 加速、CPU 就能處理的一般運算任務。

monolithic die 單晶片

一整顆晶片做出全部容量，不用把好幾顆小晶片疊在一起封裝，是 SOCAMM2 做到 256GB 的關鍵技術。

Neoverse Arm 伺服器核心 IP

Arm（$ARM）專門設計給伺服器 CPU 用的核心架構，NVIDIA Grace 等資料中心 Arm 晶片都拿它當基礎打造。