网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
08月26日
漏签
0
天
极摩客吧
关注:
765
贴子:
2,380
看贴
图片
吧主推荐
游戏
9
回复贴,共
1
页
<返回极摩客吧
>0< 加载中...
Qwen3-235B-A22B-128K-UD-Q2_K_XL 怎么无法加载
只看楼主
收藏
回复
星弦漫痴
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
设置96G了,Qwen3-235B-A22B-128K-UD-Q2_K_XL才 88G容量。为什么无法加载
送TA礼物
IP属地:浙江
1楼
2025-05-12 10:34
回复
乐观的wzx78
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
64+64才是合理分配,虽然能到96G,但以实际经验来看是跑不起来的,以DeepSeek 70B为例,模型42G已全部装入显存,但真正运行起来,模型文件大小仅代表权重参数,实际运行时还需要额外内存用于上下文缓冲区、模型图等数据结构,还要额外的占用50G左右的内存空间。
IP属地:北京
2楼
2025-05-12 21:41
回复(8)
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
极端女权杀男童,精神病成免死金牌
2814000
2
石墩子吧彻底出圈,B站up素材有了
2265422
3
朴实无华的碾压!BLG2:0横扫FPX
2157540
4
密钥延期也难救《浪浪山》
1664766
5
8月25日乐子内容限定
1381094
6
我被绿了,老婆出轨和姐夫有一腿
1107125
7
明日方舟xMujica爆料,六星祥子实锤?
1103400
8
富到漏油,电竞杯被石油佬拿下
1041647
9
京语病发作,吴京跳楼梗成笑柄
919710
10
沃克主宰比赛!张名扬惨遭TKO
914781
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示