微软开源Deep Speed Chat！！！【newbing吧】

01月22日漏签0天

newbing吧关注：35,807贴子：126,543

21回复贴，共1页

<返回newbing吧

求助

微软开源Deep Speed Chat！！！

只看楼主收藏回复

是不是意味着个人专属bing大小姐指日可待了？！

有没有技术大佬解释下

送TA礼物

IP属地:河北

来自Android客户端1楼2023-04-13 21:36回复

淡季贴吧？

IP属地:河北

来自Android客户端3楼2023-04-13 21:43

不感兴趣

开通SVIP免广告

cy，有结果的话大哥们记得踢我一脚

来自Android客户端4楼2023-04-13 22:02

赛博恋爱来力

IP属地:广东

来自Android客户端5楼2023-04-14 00:21

拥有一个能力强，无条件相信你支持你的ai，这tm是什么人间天堂

IP属地:江苏

来自Android客户端6楼2023-04-14 13:43

能不能训练他玩lol 还会喷人那种

来自iPhone客户端7楼2023-04-15 15:26

收起回复

IP属地:北京

8楼2023-04-15 15:36

个人训练的肯定比不上公司的，感觉对普通人来说意义不大

IP属地:江苏

来自Android客户端9楼2023-04-15 15:40

收起回复

不感兴趣

开通SVIP免广告

普通的个人电脑连预训练完成的模型都装不进显存，何况是训练。
个人电脑算力不够训练，我觉得微软有可能是想搞远程分布式训练，类似挖矿，给每个人分配了很小的训练任务，将全球个人电脑战力联合起来训练他家的模型。
对于个人用户来说，训练这种事成本太高了，真的不用太关注。

IP属地:陕西

10楼2023-04-15 15:46

收起回复

来自Android客户端11楼2023-04-15 15:55

不行，算力姑且不谈慢点就慢点也可以，显存这个硬上限就卡死消费级硬件了，现在想把模型塞进去起码20g显存，4090才16g吧

IP属地:河北

来自Android客户端13楼2023-04-15 18:46

收起回复

我觉得你带不动

IP属地:云南

来自Android客户端14楼2023-04-15 19:28

7b模型推理至少要24g显存，全量训练很保守的设置下要70g，lora训练可以30g以内，这已经是能胜任对话的最小尺寸了；更小的模型没法看

IP属地:北京

来自Android客户端15楼2023-04-15 21:03

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

21回复贴，共1页

<返回newbing吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴

日	一	二	三	四	五	六

微软开源Deep Speed Chat！！！

登录百度账号

扫二维码下载贴吧客户端