據 X 平台博主 Andrei David 爆料,他在一台有20年的厚版 Xbox 360 遊戲機上,成功植入並啓動特製的 Llama2.c AI 模型。從其博文得知,博主破解該遊戲機後,啓動加載自編程式載入模型,輸入「Sleep Joe said」,一會兒過後,Xbox 360 作出反應。
博主 Andrei David 表示,這次實驗靈感,源於此前 EXO Lab 團隊宣佈的消息:他們成功讓 Llama 模型在一台搭載 Pentium II 處理器、運行 Windows 98 系統的電腦上跑起來。
LLM running on Xbox 360
With Xenon CPU (3.2GHz PowerPC w/ 3 cores) and 512MB unified RAM. Based on @karpathy‘s🩷llama2.c, ported to run on Microsoft’s powerful console from 2005. Pure C implementation optimized for PowerPC architecture and Xbox memory management.
Inspired by… pic.twitter.com/e9oMLaWIyi
— Andrei David (@AndreiDavid) January 10, 2025
雖然 Xbox 360 採用的 AI 模型和 EXO Lab 的 Windows 98 PC 所使用的模型沒有什麼區別,但博主 Andrei David 表示,考慮到 Xbox 360 遊戲機的 PowerPC 架構及其特殊的 RAM 管理系統,他仍需對模型改進升級。在進行適配時,有一個明顯的區別是:PowerPC 架構為大端序,能優先存放最高有效字節;對比 EXO Lab 團隊 Windows 98 PC 配備的 Pentium II 處理器是小端序,將最先存放存儲的是最低有效字節。
該博主開發了一款字節轉換系統來確保模型正常運作,能夠對模型生成 / 存儲的所有數據進行嚴格的 128byte 內存對齊,為 Xbox 360 RAM 子系統提供支援。
博主還提到,要在 Xbox 360 上運行 AI 模型,面臨的另一技術問題是 RAM 限制。Xbox 360 本身的 RAM 僅有512MB,博主把模型體積壓縮至 60MB。