電腦王阿達
  • 首頁
  • 科技新聞
    • 最新科技新聞
    • AI 新聞與教學
      • AI 工具分享與教學
      • AI 趨勢與相關新聞
    • 產品評測
      • GPS/行車記錄器評測
      • iOS周邊
      • Android周邊
    • 通訊達人
    • 科技廠商專訪報導
    • 電腦硬體周邊情報
    • 相機
  • 酷品開箱
  • 阿達自製工具
    • 非記不可:絕不會錯過重要事件
    • LINE貼圖裁切去背神器
    • Nano Banana Pro 去浮水印工具
    • 最愛提示詞收集站
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • APP/軟體/教學
    • 電腦應用與其他教學
      • 網路與軟體應用
      • 多媒體轉檔/運用
      • 其他文章
    • 跨平台App
    • iPhone/iPad相關
      • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB/CYDIA應用
    • Android相關資訊
      • Android App分享介紹
      • Android 基礎教學
      • 智慧手機韌體更新
      • Windows Mobile手機相關文章
    • Mac 軟體分享與教學
    • LINE
    • Telegram
    • 攝影教學
    • 語文學習
    • 轉貼好文
    • WordPress 架站教學分享
    • 未分類文章
  • 休閒/懶人包
    • 新聞台直播 頻道大集合!想看新聞不用辦第四台!
    • 遊戲電玩
    • 動漫、玩具、敗家
      • 老弟紙模型作品集
    • KUSO
      • 有趣影片
    • 圖文創作
    • 生活與旅遊
    • 超好用懶人包
    • 最新抽獎情報公告
    • Pokemon GO攻略
  • 電腦王團隊
No Result
View All Result
  • 首頁
  • 科技新聞
    • 最新科技新聞
    • AI 新聞與教學
      • AI 工具分享與教學
      • AI 趨勢與相關新聞
    • 產品評測
      • GPS/行車記錄器評測
      • iOS周邊
      • Android周邊
    • 通訊達人
    • 科技廠商專訪報導
    • 電腦硬體周邊情報
    • 相機
  • 酷品開箱
  • 阿達自製工具
    • 非記不可:絕不會錯過重要事件
    • LINE貼圖裁切去背神器
    • Nano Banana Pro 去浮水印工具
    • 最愛提示詞收集站
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • APP/軟體/教學
    • 電腦應用與其他教學
      • 網路與軟體應用
      • 多媒體轉檔/運用
      • 其他文章
    • 跨平台App
    • iPhone/iPad相關
      • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB/CYDIA應用
    • Android相關資訊
      • Android App分享介紹
      • Android 基礎教學
      • 智慧手機韌體更新
      • Windows Mobile手機相關文章
    • Mac 軟體分享與教學
    • LINE
    • Telegram
    • 攝影教學
    • 語文學習
    • 轉貼好文
    • WordPress 架站教學分享
    • 未分類文章
  • 休閒/懶人包
    • 新聞台直播 頻道大集合!想看新聞不用辦第四台!
    • 遊戲電玩
    • 動漫、玩具、敗家
      • 老弟紙模型作品集
    • KUSO
      • 有趣影片
    • 圖文創作
    • 生活與旅遊
    • 超好用懶人包
    • 最新抽獎情報公告
    • Pokemon GO攻略
  • 電腦王團隊
No Result
View All Result
電腦王阿達
No Result
View All Result

首頁 » AI 新聞與教學 » AI 趨勢與相關新聞

Tags: aiAppleM4 MacBook Pro

中國工程師在飛機上使用 MacBook M4 離線跑 Llama 70B 處理完客戶案件

達小編 by 達小編
2026 年 05 月 05 日
in AI 趨勢與相關新聞, 最新科技新聞
讀取中...

在長途航班上沒有網路時,你通常會做些什麼?看電影、睡覺,還是打開筆電處理未完成的工作?一位中國 freelance 工程師的選擇是:在沒有使用機上 Wi-Fi 的狀態下用自己的 MacBook Pro M4 搭配本地 AI 模型,在 35,000 英尺的高空中一口氣處理完所有客戶案件。
中國工程師在飛機上使用 MacBook M4 離線跑 Llama 70B 處理完客戶案件 - 電腦王阿達

根據社群平台上分享的影片與日誌紀錄,他從事的是一次橫跨大西洋、飛行時間超過 11 小時的長途航班。航空公司提供的機上 Wi-Fi 服務要價 25 美元(約新台幣 810 元),但他選擇放棄這項服務,轉而利用手上的 MacBook Pro M4 進行一場「純本地 AI 工作實驗」。

他的做法相當簡單,在起飛前設定好一台運行於本機的 AI 推理伺服器,將所有客戶案件事先整理成一個工作佇列檔案(queue.jsonl),然後讓 AI 在飛行途中全自動處理。從登機到降落,他完全不需要任何網路連線,也不需要支付任何 API 費用。

Este desarrollador chino ejecutó Llama 70B localmente en un MacBook en un avión y, durante 11 horas completas sin internet, gestionó proyectos de clientes.

Estaba sentado junto a la ventana en un vuelo transatlántico con un MacBook Pro M4 con 64 GB de memoria. El WiFi a bordo… pic.twitter.com/NctQgbAqfM

— Policar Bizar¡ (@PolicarBizar) May 1, 2026

硬體配置:MacBook Pro M4 搭配 64GB 統一記憶體

要讓參數量高達 700 億的 Llama 3.3 70B 模型在筆電上順暢運行,硬體規格自然不能太差。這位工程師使用的是搭載 M4 Max 晶片、配備 64GB 統一記憶體的 MacBook Pro。

他在筆電上透過 llama.cpp 框架,載入了 Meta 開源的 Llama 3.3 70B 模型(採用 Q4_K_M 量化格式的 GGUF 檔案)。llama.cpp 的 Metal 後端能夠充分利用 Apple Silicon 的統一記憶體架構,讓 GPU 直接存取系統記憶體,無需在 CPU 與 GPU 之間來回複製資料,這正是 MacBook 能夠運行大型語言模型的關鍵技術優勢。

根據日誌紀錄,Llama 3.3 70B 模型在運行時佔用了約 48.6GB 的記憶體,搭配約 60K token 的上下文視窗(context window),總共使用了 64GB 中的絕大部分容量。在這樣的配置下,模型仍然達到了約 71 tokens/秒 的生成速度,對於離線使用情境來說相當實用。

自訂編排器:讓 AI 在高空中自主工作

除了模型與硬體,這位工程師還自己寫了一套編排腳本(orchestrator script),讓 AI 能夠自動化處理任務。他在起飛前寫好了 system prompt,內容大意如下:

「你是一個在單一台 MacBook 上運行的離線編排器。沒有網路。你擁有的資源只有本機檔案、位於 localhost:8080 的 Llama 70B 推理伺服器,以及 3 小時 21 分鐘的電池續航。處理 queue.jsonl 中的每個客戶案件,完成後存檔到 /done/ 目錄。每 12 個任務儲存一次 checkpoint,以便在更換行動電源後可以恢復。當佇列清空或電量低於 5% 時停止。」

這套腳本的工作流程如下:

  • 讀取 queue.jsonl 中的案件清單(每行一個 JSON)
  • 逐個向本機的 llama-server(localhost:8080)發送請求
  • AI 生成草稿後,自動執行本地評估並儲存產出到 /done/ 目錄
  • 每完成 12 個任務,儲存一次 KV cache checkpoint(檔案約 62.8 MiB)
  • 監控電池電量,低於 5% 時自動暫停並儲存進度

電池管理:3 小時續航搭配行動電源策略

不少網友對這篇貼文的真實性存疑,畢竟運行大模型是非常耗電的運算任務,MacBook Pro M4 的電池在滿載狀態下使用者預估續航約 3 小時 21 分鐘,顯然不足以撐完整個 11 小時航程。這位工程師的策略是在座位旁準備好行動電源進行中繼充電(不過現在飛機起飛後理論上是禁止使用行動電源,應該是接變壓器比較有可能),而腳本會在電量低於 5% 時自動暫停、儲存 checkpoint,更換電源後再從上次進度繼續執行。

這種 checkpoint 機制的設計非常聰明:70B 模型的 KV cache 在 60K context 的情況下佔用約 62.8 MiB,儲存與恢復的成本很低,卻能確保在漫長飛行中的任何時刻中斷都不會遺失進度。

為什麼這件事如此轟動?

這則故事之所以在社群平台上引發病毒式傳播,反映出當前 AI 產業的幾個重要趨勢:

第一,本地 AI 已經不再是玩具。過去一般人認為「跑大模型需要雲端 GPU」,但隨著 Apple Silicon 的統一記憶體架構成熟、量化技術進步,一台 64GB 的 MacBook Pro 已經足以承載 70B 參數等級的模型,這在兩年前是完全不可能的事。

第二,隱私與離線需求正在推動在地化。許多企業與個人對於將敏感資料(如客戶提案、商業文件)上傳到雲端 API 有疑慮。這套全離線的工作流程確保了資料完全不會離開本機,對於注重資料安全的自由工作者與顧問來說極具吸引力。

第三,成本效益顯著。根據估算,如果使用 OpenAI 或 Anthropic 等雲端 API 來處理相同規模的工作量,每年的費用可能高達 7,000 美元(約新台幣 22.7 萬元)以上。而一次性的硬體成本(MacBook Pro)加上免費的開源模型,長期來看反而是更具經濟效益的選擇。(但老實說離線端模型的能力與雲端模型還是有很大差異,除非工作很簡單)

與 Apple Silicon 的關係:為什麼 Mac 是首選

Apple 的統一記憶體架構(Unified Memory Architecture, UMA)在本地 AI 推理上擁有先天優勢。不同於傳統 PC 需要將資料在系統記憶體與顯示記憶體之間搬運,Apple Silicon 的 CPU 與 GPU 可以直接存取同一塊記憶體池。M4 Max 提供了最高 128GB 的統一記憶體選項以及超過 600 GB/s 的記憶體頻寬,這對於運行大型語言模型來說至關重要。

相比之下,即便是剛搭載 48GB VRAM 的 NVIDIA RTX 6000 Ada Generation 專業繪圖卡,售價也超過新台幣 15 萬元,還需要搭配一台高效能的 PC 主機。而一台 MacBook Pro M4 Max(64GB)的定價約新台幣 10 萬元出頭,買一台就能同時擁有電腦與 AI 工作站,且能帶著上飛機使用。

爭議與討論

當然,這個故事也引發了不少質疑。有網友指出,70B 模型在 64GB 機器上使用 Q4 量化會消耗大量電力,實務上是否能完整撐完長途航班仍需更多驗證,也有網友認為 70B 模型在 64GB 機器上應該跑不動(頂多跑 31B),也有網友說有錢買 64GB RAM M4 Macbook 沒錢買 Wi-Fi 不太可能。另一種看法是認為該網友只是為了流量擺拍,不過這些討論並沒有抹滅這件事的象徵意義:本地 AI 已經從「理論上可行」邁入了「實際上可用」的階段。

Tags: aiAppleM4 MacBook Pro

您也許會喜歡:

立達合法徵信社-讓您安心的選擇

網站搜尋

No Result
View All Result

廣告


歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc koc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技

No Result
View All Result
  • 最新科技新聞
  • 最新科技產品報導
    • 3C產品開箱/廠商邀測
      • GPS/行車記錄器評測
    • 通訊達人
    • 科技廠商專訪報導
      • 專題報導
    • 電腦硬體周邊情報
    • Android周邊
    • iOS周邊
  • 好用App介紹
    • Android App分享介紹
      • Android 基礎教學
    • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB教學
      • iOS軟體與JB相關文章
      • iOS JB/CYDIA應用
    • 跨平台App
    • Telegram
  • 電腦應用與其他教學
    • Mac OS 軟體分享與教學
    • 網路與軟體應用
    • WordPress 架站教學分享
    • 多媒體轉檔/運用
    • 語文學習
    • 轉貼好文
    • 其他文章
  • 旅遊與美食
    • 生活與旅遊
    • 圖文創作
    • 有趣影片
    • 動漫、玩具、敗家
    • 老弟紙模型作品集
    • KUSO
    • 阿達玩App
    • Pokemon Go攻略
  • 阿達自製工具
    • 超好用懶人包
    • Nano Banana Pro 去浮水印工具
    • 自製LINE 貼圖裁切去背神器
    • 阿達的提示詞收集站
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • 電腦王阿達團隊

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc koc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技

No Result
View All Result
  • 最新科技新聞
  • 最新科技產品報導
    • 3C產品開箱/廠商邀測
      • GPS/行車記錄器評測
    • 通訊達人
    • 科技廠商專訪報導
      • 專題報導
    • 電腦硬體周邊情報
    • Android周邊
    • iOS周邊
  • 好用App介紹
    • Android App分享介紹
      • Android 基礎教學
    • iPhone/iPad 軟體介紹
      • iPhone/iPad 使用教學
      • iOS JB教學
      • iOS軟體與JB相關文章
      • iOS JB/CYDIA應用
    • 跨平台App
    • Telegram
  • 電腦應用與其他教學
    • Mac OS 軟體分享與教學
    • 網路與軟體應用
    • WordPress 架站教學分享
    • 多媒體轉檔/運用
    • 語文學習
    • 轉貼好文
    • 其他文章
  • 旅遊與美食
    • 生活與旅遊
    • 圖文創作
    • 有趣影片
    • 動漫、玩具、敗家
    • 老弟紙模型作品集
    • KUSO
    • 阿達玩App
    • Pokemon Go攻略
  • 阿達自製工具
    • 超好用懶人包
    • Nano Banana Pro 去浮水印工具
    • 自製LINE 貼圖裁切去背神器
    • 阿達的提示詞收集站
    • 簡繁轉換工具
    • 表情與特殊符號速查表
  • 電腦王阿達團隊

歡迎手機廠商、iPhone 周邊產品業者、APP軟體開發商洽談合作或產品測試事宜 koc koc.com.tw |隱私政策 |主機維護:Fast Line 台灣速連,阿腸數位科技