開源社區出現了一個名為 Garlic LLM 的項目,作者 Leonardo Alegría 把目光投向了破解版 PS4。這台 2013 年問世的老主機不僅跑起了阿里通義千問 Qwen3.5-9B,而且模型參數規模達到 90 億。測試中,純文本聊天最高生成速度約 43 Token/s,這一成績已經超過部分常見 PC 平台的表現。

項目實現方式沒有走常規路線。它沒有依賴 Vulkan 或 OpenCL 驅動層,而是繞開 PS4 圖形驅動,用 OpenCL C 為 AMD GCN 架構編寫計算算子,並透過手工構建 PM4 指令緩衝與 GPU 直接通信。這樣做的結果是指令延遲明顯下降,即使 PS4 GPU 主頻不高,也能承擔複雜的矩陣運算。針對主機只有 8GB 統一 RAM 的限制,開發者對 Qwen3.5-9B 做了 4 位量化,模型體積壓到約 4.5GiB。

除了文字輸出,Garlic LLM 還搭好了語音交互鏈路:語音識別採用 Nvidia Parakeet 模型,覆蓋 25 種歐洲語言;語音合成由 Chatterbox 模型完成,支援 7 種語言。開啟語音模式後,運行速度仍能保持在 22 Token/s 左右。玩家透過手掣按鍵錄音,就能在完全離線的狀態下與 PS4 對話,不需要連接互聯網。

目前項目已上線 Hugging Face,安裝包約 5.66GB,運行前提是 PS4 已運行 GoldHEN 自制系統。開發者公布的測試平台是一台固件版本 11.52 的 PS4 Slim,全部測試均在該主機上完成。

 

_______

更多平台立即 Follow:Qooah IG (@qooah)、Qooah YouTube,八掛產品發佈會現場,睇盡靚靚 Show Girls