最近 OpenClaw 與 Hermes 這類 AI Agent 正火，不過有些人卻對於是否要使用猶豫不決，有的人是資安的考量，有的人則是怕 Token 太燒錢。也因此現在也有許多人也在思考這些 AI Agent 在本地端使用的可能性。今日 AMD 在官方部落格發布了一篇詳細指南，詳細示範如何在搭載 Ryzen AI Max+ 處理器或 Radeon AI PRO 顯示卡的 Windows 系統上，透過 WSL2 與 LM Studio 的方式，在本地運行 Nous Research 開發的開源 AI Agent「Hermes Agent」，對於因為各種考量想在本地端部屬 AI Agent 的朋友相當具有參考價值。
為什麼是 Hermes Agent？
Hermes Agent 由 Nous Research 開發，是一款開源（MIT 授權）、完全自主運作的 AI Agent。與一般聊天機器人不同，Hermes 具備「自我改進」能力，它會從任務執行經驗中自動建立技能（Skills），在使用過程中持續優化這些技能，搜尋自身過去的對話記錄，並跨 Session 建立對使用者的深度理解模型 ，不瞭解的朋友可以看文末阿達的教學影片。
這款 Agent 支援多種 LLM 供應商（OpenRouter、Nous Portal、Hugging Face、OpenAI 等），可透過 Telegram、Discord、Slack、WhatsApp 等多平台互動，並內建定時任務排程器，能在無人值守的情況下執行每日報告、備份等自動化工作 。
本地端硬體推薦：Ryzen AI Max+ 與 Radeon AI PRO
以往這類資源大都是以 Nvidia 平台，這次的教學主要就是 AMD 以自家處理器與 Reaeon 顯卡的生態為主，讓許多 AMD 使用者可以少走很多彎路。AMD 將 Ryzen AI Max+ 處理器與 Radeon AI PRO 顯示卡定位為「Always-on AI Agent 系統」的理想硬體平台。Ryzen AI Max+ 系列採用 Zen 5 架構，最高階的 395 型號具備 16 核心 32 執行緒，內建 RDNA 3.5 架構的整合式顯示晶片（最多 40 個運算單元），以及 XDNA 2 架構的 NPU，提供約 50 TOPS 的 AI 運算能力 。
而 Radeon AI PRO 9700 顯示卡則配備 32GB GDDR7 記憶體，專為工作站與 AI 推論場景設計。對於需要執行大型語言模型的 Agent 工作負載而言，充裕的顯示記憶體是關鍵：32GB 的容量足以載入參數量較大的模型，同時保持合理的推理速度。
AMD 特別強調，這類「始終在線」的系統需要硬體能夠持續本地運行 AI 工作負載，讓使用者可以委派任務、讓 Agent 自主執行，而 Ryzen AI Max+ 與 Radeon AI PRO 的架構正好滿足這種平行、多 Agent 的運算需求。
推薦模型與部署架構：LM Studio + WSL2 + Qwen3.6 35B A3B
AMD 官方指南中建議使用 Qwen3.6 35B A3B 作為 Hermes Agent 的底層語言模型。這是一個 Mixture-of-Experts（MoE）架構的模型，總參數量 35B，但每次推論僅啟動 3B 參數，可大幅降低運算需求。
該模型擁有 256 個專家模組，每次推論啟動 8 個路由專家加 1 個共享專家，上下文長度可達 262,144 tokens。這種「總參數大、啟動參數小」的設計，使得在消費級硬體上運行高品質模型成為可能，非常適合本地部署的 AI Agent 場景 。
整套部署方案的核心架構是「LM Studio + WSL2」的組合。LM Studio 是一款免費的本地 AI 推理應用，負責在 Windows 環境中下載入並服務 Qwen3.6 35B A3B 模型。而 Hermes Agent 則運行在 WSL2（Windows Subsystem for Linux）的 Ubuntu 環境中，透過區域網路連接 LM Studio 提供的 API 服務。LM Studio 負責跨 WSL2 邊界的模型服務，使用者無需在 Linux 環境中複雜地配置 GPU 直通，就能讓 Hermes Agent 直接使用本地 GPU 的運算能力 。
我們將步驟節錄在此，有興趣瞭解更多的朋友可以到 AMD 官方 Blog 查看：
1. Download 1. 下載 LM Studio
2. 啟動 LM Studio，對於模型下載提示，點擊「暫時跳過」。
3. 勾選“開發者模式”以及“登入時啟動 LLM 服務”
4. 點擊由機器人和放大鏡所組成的「模型搜索」圖示
5. 在左側選擇“Qwen3.6 35B A3B”，在右側點擊“下載”。等待下載完成。
6. 按下 Ctrl + L 以調出模型選擇界面。勾選「手動選擇載入模型參數」，然後點擊 LLM 以顯示載入選項。勾選「記住設定」及「顯示進階設定」。
7. 設定如下參數：Context：190000，GPU Offload：Max，取消勾選“Try mmap”，Flash Attention：On，Remember settings：On。
8. 按下 Ctrl + 2 即可跳轉到開發者選項卡。
9. 按下“狀態：已停止”前面的開關以啟動伺服器。
10. 點擊「伺服器設定」並進行以下設定：勾選「允許在本地網路上服務」。此時系統會請求授權，請取消勾選「自動卸載未使用的 JIT 載入模型」以及「僅保留最後一個 JIT 載入模型」。點擊任意位置即可關閉此對話方塊。
11. 點擊「Load Model」。選擇 Qwen 35B A3B。我們上方所設定的參數應會自動填入。然後點擊「Load」。
12. 模型應該已經載入，您會看到“READY”狀態。
13. 保持此窗口開啟狀態，然後繼續操作。
安裝 WSL2 和 Hermes Agent
14. 以管理員身份打開 PowerShell，然後安裝 WSL 及相應的發行版（系統可能會提示您重新啟動）。如果您已經安裝了某個發行版，但希望重新安裝，可以執行「wsl –unregister ubuntu-24.04」：
15. 設定使用者名與密碼後再執行（系統可能會要求輸入密碼（sudo）並確認是否繼續）：
16. 選擇「快速設定」，並將供應商選為「自訂端點」。
17. 從 LM Studio 的「API 使用狀況」中複製本地伺服器地址，並在末尾加上「/v1」。
18. 密碼請直接輸入“lmstudio”。
19. 將上下文長度留空，系統會自動偵測。
20. 起個名字吧，比如“LM Studio”。
21. 如有需要，設定好任何消息平台即可，全部搞定！
安全提醒：自主 AI 的風險
AMD 在文章中附上了相當嚴謹的免責聲明。文中明確指出：「Hermes 是一款高度自主的 AI Agent，賦予任何 AI Agent 系統存取權限，可能導致 AI 以不可預測的方式行動，產生無法預見的後果。」
AMD 建議使用者採取四項防護措施：在獨立的乾淨 PC 或虛擬機中運行 Agent、避免授予個人主要帳號的存取權限、謹慎審查啟用的技能或擴充功能、以及確保存取介面受到適當保護。這些提醒反映了自主 AI Agent 在走向消費級應用時，安全性仍是不可忽視的課題。另外本地端模型雖可用，但是智商還是會跟雲端模型有差距，建議還是要搭配一組 Coding Plan 的方案來運行會更好。