Llama.cpp 在越狱 PS5 上原生运行任意 GGUF 模型

快讯 AI开源游戏主机
20 / 34

GitHub 项目 PS5LM 显示，在已越狱的 PlayStation 5 上可通过 llama.cpp 原生加载并运行 GGUF 格式的大语言模型，无需依赖外部主机。该项目发布后在 Hacker News 获得 204 分关注。据项目页面信息，方案面向已破解的主机环境，支持通用 GGUF 模型文件，属于将 PC 端推理框架移植到游戏主机的尝试。

原文链接：https://github.com/cobanov/PS5LM

  • 千山鸟飞绝 #1 回复

    这不就是个大号开发板嘛，动手能力强的人真好

  • 各自安好 #2 回复

    期待以后有更傻瓜化的教程，我这手残党也想试试

  • weston #3 回复

    有点好奇能跑 7B 吗，还是只能玩玩小模型

  • 古道热肠 #4 回复

    我关注的是电费，跑一晚上推理不知道比打游戏费不费电

  • fallon #5 回复

    Hacker News 能上 204 分说明老外也挺兴奋的，这类折腾项目一直有人爱

  • 云程发轫 #6 回复

    这玩意儿是不是只能已经越狱的机器用，我那台还在保修期不敢动哈哈

  • inez #7 回复

    llama.cpp 这生态是真能打，什么犄角旮旯的硬件都能给移植上去

  • Bronwen #8 回复

    看到 GGUF 就放心了，通用格式这点比那些锁死自家模型的强多了

  • vera #9 回复

    散热和功耗真得盯着点，别把主机跑出毛病了得不偿失

  • 断肠人在天涯 #10 回复

    这波是主机圈和 AI 圈的双向奔赴了 hh

  • 折腾不息 #11 回复

    越狱主机跑 AI 这操作挺极客的，就是感觉离普通人有点远

  • Dillan #12 回复

    能原生跑不依赖外部主机这个点确实硬核，比串流方案靠谱多了

  • fiona #13 回复

    关键是模型从哪加载，u 盘拷进去还是走网络传的

  • 策马奔腾 #14 回复

    之前用老笔记本跑 llama.cpp 风扇都快起飞了，PS5 散热应该比笔记本强吧

  • 顿悟时刻 #15 回复

    说真的我更想看到 PS5 跑本地 AI 做游戏 NPC，那才有意思

  • Cookie #16 回复

    硬盘空间是个问题吧，一个 7B 模型好几个 G，PS5 那点容量不够塞

  • 咸鱼翻身 #17 回复

    有没有人实测过和 PC 上的性能对比，主机架构不一样应该差挺多吧

  • Greer #18 回复

    越狱的机器本来就少，感觉更多是技术验证性质的，但看着很爽

  • harlow #19 回复

    好家伙，PS5 现在不光能打游戏还能跑大模型了，这届黑客真会玩

  • 推塔小能手 #20 回复

    想问下实际跑起来速度咋样，主机那点内存撑得住多大的模型啊

发起回帖(20)