deepseek的本地部署_deepseek吧

deepseek吧关注：134,975贴子：366,304

本人在这方面是完全不懂，想问一下大家，网上说的deepseek本地部署加知识库的搭建有没有啊？我是打算用DS生成一整本瑟瑟的小说自己看，但是每次都要在网页上消耗不少字数。本人的电脑是8G显存的

送TA礼物

IP属地:安徽

来自Android客户端1楼2025-08-11 19:35回复

那别搞了，你需要的不是这个。搞个API得了。

IP属地:广东

来自Android客户端2楼2025-08-11 20:08

收起回复

不感兴趣

开通SVIP免广告

这里补充一下，我写了很多个短篇的故事的大纲，然后每一个大纲里面的主角我都加了很多的设定，现在我就是想把这些主角都给放到一本世界观中，统筹写到一个故事里面

IP属地:安徽

来自Android客户端3楼2025-08-11 21:51

Deepseek原版681B参数，Q6K量化需要800G左右显存，家用机不可能部署。你能找到的小Deepseek都是其它模型蒸馏的，不是一个东西。 8G显存只能带得动最高24B而且很慢，不如用在线的。想试试可以用LMStudio。

IP属地:湖北

来自iPhone客户端4楼2025-08-12 02:02

收起回复

现在是不建议本地部署的，完全没有必要，要想随时随地使用的话，只能申请api ，不然你只有等电脑开机了才能使。云部署的话，虽然也可以，但没有api来的方便

IP属地:江苏

来自手机贴吧7楼2025-08-12 12:39

算了吧，本地部署小模型蠢得要死
让他写乡村振兴论文，给我讲一带一路
确实，某些敏感词不吞了，但我真的受不了他那套乡村污染治理属于绿色发展，所以我讲绿色发展没有问题的奇葩逻辑了

IP属地:吉林

来自Android客户端8楼2025-11-12 21:33

下载贴吧APP
看高清直播、视频！

贴吧热议榜

发表回复

内容:

使用签名档查看全部

发表

保存至快速回贴