ollama吧 关注:769贴子:1,201
  • 0回复贴,共1页

求助,ollama无法拉取大小超过显存的模型

取消只看楼主收藏回复

在安装cuda前,都是cpu+内存在跑,我也成功跑了20G的qwq。安装cuda后,跑已经安装好的qwq模型可以gpu+cpu跑,但下载新模型时大于16G的模型都拉取不了了,这又是什么鬼


IP属地:辽宁来自Android客户端1楼2025-04-03 23:15回复