deepseek吧 关注:136,486贴子:379,900
  • 0回复贴,共1
求助

本地部署的小白请教问题

只看楼主收藏回复

问一下现在我用的是ollama,加了difi的数据库,我现在想换成llmstudio,或者vllm,可以怎么换过去呢,我想调参
cpu是2686v4,劲鲨x99,四条镁光d3 32g 1866马甲条(大佬们有什么方法降温吗,我现在跑起来占用大概40g,温度跑一会70b就75度了,我装了海盗船的三个小风扇的内存风扇,四个机箱风扇也有)
显卡是双卡p104,刚刚从m60换过来,没换错吧


IP属地:吉林来自Android客户端1楼2025-03-21 17:03回复