amd吧 关注:803,630贴子:18,573,363
  • 3回复贴,共1

7900XT部署deepseek-r1 32B模型

取消只看楼主收藏回复

直接用ollama部署,简单快捷,用某游戏加速器加速后几分钟就下载好了。(32模型大小20GB)


IP属地:湖北来自Android客户端1楼2025-02-13 22:23回复
    运行很完美流畅。
    chatbox,WPS+officeAI都可以调用。
    和官网APP出字速度差不多,差不多十几tokens吧。




    IP属地:湖北来自Android客户端2楼2025-02-13 22:25
    回复
      2026-01-18 06:59:28
      广告
      不感兴趣
      开通SVIP免广告
      显存当然是拉满了,共享显存(内存)也用了3.5G。
      我这张是瀚铠最丐的星空,满载有啸叫,但运行大模型满载的声音很有意思,是那种很轻的打字机的“哒哒哒哒哒哒哒哒哒”的声音,差点以为ollama给我配音了,和游戏满载那种典型的啸叫声不一样。
      不过运行大模型功耗并不高。


      IP属地:湖北来自Android客户端4楼2025-02-13 22:30
      收起回复
        又下了个70B,感觉不太好,速度太慢了,电脑都变卡了(CPU和内存占用飙升),几次问答,最慢的一次只有1.24t/s,基本上是1.4 t/s


        IP属地:湖北来自Android客户端15楼2025-02-15 15:12
        收起回复