deepseek吧 关注:136,447贴子:379,409
  • 1回复贴,共1
求助

求助,为什么用32b模型,占用的是CPU

只看楼主收藏回复

rt,用ollama部署本地的deepseek r1,用14b看到显卡占用上去了,而且响应速度很快,但是用32b看到CPU占用率会上去,而且响应速度很慢,GPU占用根本没上去,配置如下
12900k
32G*2 ddr4
3080ti


IP属地:湖南来自Android客户端1楼2025-02-04 17:54回复
    显存不够用内存了 内存速度就是这么慢


    IP属地:四川来自Android客户端2楼2025-02-04 20:54
    回复