deepseek吧 关注:134,593贴子:363,171
  • 39回复贴,共1

deepseek的本地部署

只看楼主收藏回复

本人在这方面是完全不懂,想问一下大家,网上说的deepseek本地部署加知识库的搭建有没有啊?我是打算用DS生成一整本瑟瑟的小说自己看,但是每次都要在网页上消耗不少字数。本人的电脑是8G显存的


IP属地:安徽来自Android客户端1楼2025-08-11 19:35回复
    那别搞了,你需要的不是这个。搞个API得了。


    IP属地:广东来自Android客户端2楼2025-08-11 20:08
    收起回复
      2025-12-11 13:04:41
      广告
      不感兴趣
      开通SVIP免广告
      这里补充一下,我写了很多个短篇的故事的大纲,然后每一个大纲里面的主角我都加了很多的设定,现在我就是想把这些主角都给放到一本世界观中,统筹写到一个故事里面


      IP属地:安徽来自Android客户端3楼2025-08-11 21:51
      回复
        Deepseek原版681B参数,Q6K量化需要800G左右显存,家用机不可能部署。 你能找到的小Deepseek都是其它模型蒸馏的,不是一个东西。 8G显存只能带得动最高24B而且很慢,不如用在线的。想试试可以用LMStudio。


        IP属地:湖北来自iPhone客户端4楼2025-08-12 02:02
        收起回复
          现在是不建议本地部署的,完全没有必要,要想随时随地使用的话,只能申请api ,不然你只有等电脑开机了才能使。云部署的话,虽然也可以,但没有api来的方便


          IP属地:江苏来自手机贴吧7楼2025-08-12 12:39
          回复
            算了吧,本地部署小模型蠢得要死
            让他写乡村振兴论文,给我讲一带一路
            确实,某些敏感词不吞了,但我真的受不了他那套乡村污染治理属于绿色发展,所以我讲绿色发展没有问题的奇葩逻辑了


            IP属地:吉林来自Android客户端8楼2025-11-12 21:33
            回复