博客

索尼PlayStation 5最初是一款面向电子游戏打造的主机，不过一个开源开发项目正探索这台游戏硬件的另一项潜能：在本地运行人工智能大语言模型。技术人员通过绕过PS5的系统限制，把开源推理引擎llama.cpp迁移至该主机，并在此基础上借助其GPU来驱动大模型。最新的展示表明，一台经过破解的普通PS5现已能驱动参数规模达270亿的Qwen 3.8模型，在启用低比特量化技术时，其文字产出速率约为每秒20个Token。