deepseek吧 关注:144,843贴子:438,907
  • 7回复贴,共1

有个问题,deepseek的本地部署

只看楼主收藏回复

最近lz想本地部署一个32b的版本,想问问cpu的核数和性能对其有影响么,还有就是放在哪里存储,放在像机械硬盘或者sata固态这种低速存储里对其有影响么


IP属地:北京来自Android客户端1楼2025-04-24 12:09回复
    32b版本,q4量化版本有19G,用24G显存显卡都只能勉强运行,上下文长了很快就会用到cpu,这个时候cpu核数多就有点用。如果你有48G显存,那cpu核数影响没那么大。


    IP属地:湖南2楼2025-04-24 12:17
    收起回复
      2026-05-03 07:47:28
      广告
      不感兴趣
      开通SVIP免广告
      9953核显都能跑的玩意儿


      IP属地:上海来自Android客户端3楼2025-04-24 14:14
      回复