隨著生成式 AI 快速發展,很多人都會想在自己的電腦上運行大型語言模型。如果想運行跟 ChatGPT、Gemini、Claude 一樣聰明的千億參數大型模型,那記憶體容量要超級大,就算今年傳出新款 M5 Ultra 將搭載最高 768GB 統一記憶體也不太夠。
而 Apple 似乎也知道這點,準備再度提升 Mac 本地 AI 運算上的優勢。根據 Bloomberg 記者 Mark Gurman 的最新消息,Apple 未來推出的 M7 Ultra 晶片最高可能支援 1.5TB 統一記憶體,如果最後真的推出這配置,Mac 將有機會在本機運行一兆參數等級的 AI 模型。
圖片來源:Wccftech
Apple M7 Ultra 傳支援最高 1.5TB 記憶體,未來 Mac 有望在本機跑一兆參數 AI 模型
要知道 1.5TB 有多驚人?可以從目前的 M3 Ultra 看起。
M3 Ultra 最高提供 32 核心 CPU、80 核心 GPU、32 核心神經網路引擎及 512GB 統一記憶體,記憶體頻寬則達到 819GB/s。光是 512GB,就已經是現在個人電腦中相當少見的配置,Apple 也將它定位成能在記憶體內完整載入超過 6000 億參數大型語言模型的工作站。
而預計在 2026 年稍晚推出的 M5 Ultra,可能會升級至最高 36 核心 CPU、80 核心 GPU,以及 768GB 統一記憶體。雖然 GPU 核心數沒有明顯增加,但記憶體容量比 M3 Ultra 的最高配置多出 256GB,很明顯就是為了本地 AI、3D 渲染、科學運算和其他專業工作負載做好準備。
再往後就是這次傳出的 M7 Ultra,最高記憶體容量則可能直接翻倍至 1.5TB。這不只約為 M5 Ultra 的兩倍,也是 M3 Ultra 最高容量的三倍,甚至追上 2019 年 Intel Mac Pro 曾提供的 1.5TB 記憶體選項。
不同的是,當年 Mac Pro 使用的是一般 DDR4 ECC 記憶體,而 M7 Ultra 如果採用 Apple Silicon 的統一記憶體架構,CPU 與 GPU 都可以直接存取這 1.5TB 容量,那就真的恐怖。
M3 Ultra 推出後,YouTube 頻道 Dave2D 就曾在配備 512GB 統一記憶體的 Mac Studio 上,成功運行擁有 6710 億參數的 DeepSeek R1:
這模型大小約為 404GB,執行時需要分配約 448GB 記憶體給 GPU。由於 macOS 預設不會開放如此龐大的記憶體容量給 GPU 使用,因此測試時還需要透過終端機手動提高上限。完成設定後,M3 Ultra 約能跑出每秒 17~18 個 Token,而且整台 Mac Studio 的功耗低於 200W。
而 M7 Ultra 如果真的最高配備 1.5TB 記憶體,應該會讓很多本地 AI 玩家期待。推算如果搭配 8 位元量化版本,M7 Ultra 理論上有機會載入約 1.2 兆參數的模型。
以最簡單的算法來看,8 位元代表每個參數約佔用 1 Byte,1.2 兆參數的模型光是權重需要約 1.2TB 空間,而 1.5TB 統一記憶體就有機會容納。
話說回來,即便 1.5TB 很誘人,記憶體缺貨依舊是主要的難題。Bloomberg 在報導中也提到,M7 Ultra 雖然是以最高 1.5TB 為設計目標,但 Apple 是否真的推出這項配置,將取決於當時的產業狀況。近年 AI 伺服器大量搶走記憶體產能,DRAM 不只變貴,高容量產品也越來越難取得。
如果真的推出,價格也可能很驚人。M3 Ultra 統一記憶體 512GB 選項尚未下架前,售價就已經接近 10,000 美元(其他規格沒有選到滿),因此配備 1.5TB 統一記憶體的頂規 M7 Ultra Mac Studio,外媒 Wccftech 預估,售價有可能來到約 20,000 美元。
有些人可能會問,那 M6 Ultra 呢?看起來會跳過。
之前彭博社就報導過,由於全球 AI 發展帶來的巨大壓力,使蘋果將神經網路引擎(Neural Engine)的升級排在首位。據了解,蘋果研發團隊在完成 M6 晶片設計後,僅花了六個月就完成下一代 M7 的設計定案。如果繼續按部就班推出 M6 Ultra,到時架構可能會過時。因此進行戰略調整,在 M5 Ultra 之後會直接跳級佈局 M7 Ultra:


