网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
08月11日
漏签
0
天
stablediffusion吧
关注:
37,234
贴子:
139,283
看贴
图片
吧主推荐
游戏
2
回复贴,共
1
页
<返回stablediff...吧
>0< 加载中...
关于lora训练问题,求大佬帮忙解答一下。
只看楼主
收藏
回复
ckobalt
活跃吧友
5
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
1、Lora训练的时候为什么开梯度累加步数可以让内存跑到15g,但是不开梯度累加步数的时候10g就会爆显存。
2、开了梯度累加步数训练出来的模型好想都不理想,跟不用梯度累加步数直接训练出来的差太多了。打开了梯度累加的时候有什么参数是需要特别修改的吗?
送TA礼物
IP属地:广东
来自
iPhone客户端
1楼
2024-11-28 09:01
回复
GoldenDog
高级粉丝
3
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
就我用的素材和参数而言 开了梯度累加之后学习率得翻倍到和累加步数一样
比方说6累加步数 本来学习率是1e-5 开了累加就设 6e-5
IP属地:广东
来自
Android客户端
2楼
2024-11-28 12:36
回复(1)
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
武大杨某辩护律师疑似销号跑路
1823100
2
下架危机!Steam模组遭恶意举报
1529663
3
BLG粉丝炮轰IG,都是光头闹麻了
1449616
4
大乌龙!052D驱逐菲舰撞上自家船
1156140
5
张本智和“复仇”成功拿下王楚钦
840684
6
水军还在发力?明末口碑略有回暖
566592
7
JDG状态在线五杀FPX轻松取胜
515591
8
陈幸同4-2孙颖莎
395604
9
日媒无耻叫嚣:南京大屠杀是假的
379890
10
利物浦爆冷输球,萨拉赫状态堪忧
345820
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示