3070显卡8g显存想本地部署写小说给自己看，用什么模型合适啊【deepseek吧】

03月21日漏签0天

deepseek吧关注：139,834贴子：408,277

18回复贴，共1页

<返回deepseek吧

3070显卡8g显存想本地部署写小说给自己看，用什么模型合适啊

只看楼主收藏回复

就是写那种自己看的小说。目前联网用chatopen，对话长了卡的不行，而且不管是用什么模型，后面都会忘记前面的设定

送TA礼物

IP属地:河北

来自Android客户端1楼2026-03-02 18:11回复

或者有什么没有审核的好用的在线模型？

IP属地:河北

来自Android客户端2楼2026-03-02 18:18

收起回复

不感兴趣

开通SVIP免广告

用酒馆接api呗

IP属地:河南

来自Android客户端3楼2026-03-02 19:08

收起回复

现在app上200b的小模型都被吧友狠狠批评，3070只能跑14b不到

IP属地:湖北

来自Android客户端4楼2026-03-02 21:07

太小了，，，注意力和显存都不够用。
试试各家api，挑一个合用的吧。

IP属地:内蒙古

来自Android客户端5楼2026-03-03 07:30

本地部署也解决不了注意力问题

IP属地:广西

来自Android客户端6楼2026-03-03 08:24

换个3090 24G显卡还差不多。

IP属地:湖南

来自Android客户端7楼2026-03-03 13:00

建议接api，家用机部署的小参数开源llm写小说看不了一点的，哪怕是评论区说的24g显存也远远不够。

IP属地:江苏

来自Android客户端8楼2026-03-03 14:03

收起回复

不感兴趣

开通SVIP免广告

显存太小了吧，跑AI显卡要求很高的，至少得次旗舰高显存了

IP属地:广东

来自iPhone客户端9楼2026-03-03 15:13

就算是现在天天被骂的deepseek新模型也有200B规模，而8G显存的显卡只能跑撑死6B的智障模型，要是内存涨价之前还能力大砖飞用服务器端主板搭上百G内存当显存牺牲速度来用，但现在内存价格都爆炸了，普通人就别想了

IP属地:广东

来自Android客户端10楼2026-03-04 01:28

酒馆到这一步咋弄啊

IP属地:河北

来自Android客户端11楼2026-03-07 11:52

收起回复

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

18回复贴，共1页

<返回deepseek吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴

日	一	二	三	四	五	六

3070显卡8g显存想本地部署写小说给自己看，用什么模型合适啊

登录百度账号

扫二维码下载贴吧客户端