黑客将越狱PS5改造成AI服务器：可在本地运行Qwen、Llama等大模型

越狱后的PS5除了安装盗版游戏，还能用来干什么？有玩家给出了一个意想不到的答案——把它变成一台本地AI服务器。

据外媒GRY-Online报道，在Reddit的PS5破解社区，有用户展示了如何利用破解后的PS5运行本地AI模型，无需联网即可调用Qwen、Llama、Mistral和Gemma等模型。最初的项目只能调用6GB内存，另一位用户借助Vulkan API将llama.cpp移植为原生应用，把可用显存池提升到了11.4GB。

PS5采用16GB统一内存，由GPU与CPU共享，这与高端显卡独立显存的机制不同，却意外适合跑大模型——同等算力需求的模型通常需要RTX 5090这类32GB显存的昂贵显卡。通过2-bit量化压缩，成功在PS5上运行了16位精度下需要54GB显存的Qwen 27B模型，压缩后仅占6.8GB。

实测结果显示，这台“AI服务器”在GPU满载下生成速度为每秒20.9个token；换成更小的Llama 3.2 3B模型，速度可达每秒124个token。对硬件爱好者来说，也算是给了闲置游戏机一个新用途。

本文由游民星空制作发布，未经允许禁止转载。