网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
08月14日
漏签
0
天
deepseek吧
关注:
128,487
贴子:
310,966
看贴
图片
吧主推荐
游戏
5
回复贴,共
1
页
<返回deepseek吧
>0< 加载中...
cpu 跑deepseek选择量化Q4还是Q8
只看楼主
收藏
回复
贴吧用户_Gt94Db5
Syncnode
3
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
古老一点cpu跑deepseek据说是用的AVX2,最小支持char类型也就是8bit,如果用Q4那么cpu是不是没法直接计算,需要先转化成8bit,速度反而比Q8慢?不考虑内存大小及带宽。
送TA礼物
IP属地:重庆
来自
Android客户端
1楼
2025-02-23 18:48
回复
贴吧用户_Gt94Db5
Syncnode
3
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
还是自己来实验。A8-7650K,双通道amd1600专用条,跑deepseek-r1 1.5b Q4 Q8,设置的单线程,Q4 2.5token/s,Q8 2token/s 慢20%
IP属地:重庆
来自
Android客户端
2楼
2025-02-27 19:20
回复(1)
收起回复
2025-08-14 15:38:03
广告
不感兴趣
开通SVIP免广告
70-1等于几
Bytelink
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
那部署一个玩玩的话 e5平台 rx580 可以吗
IP属地:浙江
来自
Android客户端
3楼
2025-02-27 20:11
回复(2)
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
明末制作组光速滑跪复活明军
1580700
2
周阴婷伪女打拳被鹅厂羞辱退货
1273477
3
高校拳师,集体出动
1189188
4
黑料两连爆!CS选手被爆私生活瓜
1105758
5
让一追二,AL上演史诗级翻盘
848068
6
8月13日乐子内容限定
824250
7
美舰强闯我黄岩岛,我方强力回击
696336
8
国服女拳版本加速,不削能玩?
638020
9
TES三局十杀JDG被打成“小学生”
589644
10
00后:不惯着,就是怼
455049
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示