PS5 越獄變成本地 AI 伺服器:跑 27B 模型每秒 20.9 個 token
開發者以開源 RADV 驅動讓 PS5 的 GPU 接手 AI 推理:破解後的 PS5 可在本機執行量化版 Qwen3.8-27B,每秒生成約 20.9 個 token,還能當區網 AI 伺服器。
開發者 abhi245y 以資深 AI 工程師 Mert Cobanov 的 PS5LM(llama.cpp 移植專案)為基礎,打造原生 GPU 應用「PS5LM Plus」,讓越獄(Jailbreak,系統破解)後的 PS5 能在本機執行 Qwen3.8-27B 等大型語言模型,連 Codex、Claude Code、opencode 等工具都能連線使用。
關鍵突破:開源驅動解放 GPU
PS5 配備 16GB GDDR6 統一記憶體(CPU 與 GPU 共用),記憶體頻寬為每秒 448GB。但原版 PS5LM 以系統載荷(Payload)形式執行、實際可用記憶體只有約 6GB,且初期由 CPU 負責運算,執行 27B 模型時平均約一分鐘才能生成一個 token。abhi245y 移植了 Mesa 開源專案中的 AMD RADV 驅動,以 Vulkan 運算介面讓 llama.cpp 成為可在 PS5 上原生執行的應用程式,可用記憶體一口氣提升到 11.4GB,足以載入高度量化的 Qwen3.8-27B。
實測:27B 每秒 20.9 token,小模型更快
開發者測試顯示,Qwen3.8-27B 的「27B」代表約 270 億個參數;採每個權重約 2 位元的 IQ2_XXS 量化版本(模型大小縮減至 6.8GB)時,生成速度可達每秒 20.9 個 token,測試期間 GPU 使用率 100%、CPU 僅 2%。較小的模型更快:Gemma 4 E4B 約每秒 61 個 token,Llama 3.2 3B 則達到每秒 124 個 token,整機總功耗僅 86W、溫度維持在 54°C。PS5LM Plus 還在區網 8081 埠提供網頁聊天介面,並相容 OpenAI 與 Anthropic API,直接充當本地端的 AI 代理伺服器。
限制與風險:量化精度、韌體版本與封號
社群實測也點出不少妥協:2-bit 低精度量化會損失模型的邏輯推理能力與回答準確度;要在 PS5 上執行原生版 llama.cpp 必須先越獄(原版文件列出的相容韌體為 7.00 至 13.60,官方早已修補漏洞),可能導致主機失去保固、PSN 帳號被停權。想拿幾千港元的二手 PS5 當 AI 實驗平台,得是懂破解的極客才行——至於會不會引發搶購「炒風」,社群的結論是:不太可能。
資料來源
- 4Gamers:開發者破解PS5改造成本地AI伺服器 能跑27B模型、連接Codex與Claude Code
- unwire.hk:PS5 破解後變身本地 AI 伺服器 成功運行 270 億參數 Qwen 模型