网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索

 
 
 
日一二三四五六
       
       
       
       
       
       

签到排名:今日本吧第个签到,

本吧因你更精彩,明天继续来努力!

本吧签到人数:0

一键签到
成为超级会员,使用一键签到
一键签到
本月漏签0次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行补签。
连续签到:天  累计签到:天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
10月13日漏签0天
中国芯吧 关注:15,816贴子:301,917
  • 看贴

  • 图片

  • 吧主推荐

  • 游戏

  • 19回复贴,共1页
<<返回中国芯吧
>0< 加载中...

901c又不支持fp8,deepseek怎么可能用910c来训练r2

  • 只看楼主
  • 收藏

  • 回复
  • beinaa
  • 麒麟9010
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
要知道deepseek手中是有很多h800的
910c不仅性能比h800低,而且还不支持fp8
r1能成功很大一个因素就是采用fp8训练,deepseek有可能舍本逐末用910c来训练吗?


  • beinaa
  • 麒麟9010
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
说真的,看gpt5这个垃圾表现,真不知道殖人们兴奋个啥,没有颠覆性进展,这一波AI从技术上来说,已经到头了,哪怕昇腾真的拉了,中国手上囤的英伟达卡也够用几年了
下一步就是拼应用,当gpt5还在当聊天机器人,特斯拉还在拍视频的时候,中国智元机器人的远征A2-W机器人已经在四川绵阳富临精工生产线上部署超过百台了


2025-10-13 07:00:34
广告
不感兴趣
开通SVIP免广告
  • 冰糖祥子
  • FT-D2000
    6
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
910c本来就是不同技术路线验证的。910d的gpgpu趋同路线才是重点


  • sblnrrk1
  • 麒麟970
    1
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
训练不是fp8,你看论文,训练用的是更高精度 ,最后存储时候才缩放到fp8,这样避免误差,你理解是fp8*fp8,用fp16*fp16算再舍到fp8精度更好


  • beinaa
  • 麒麟9010
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
FP8混合精度训练是一种深度学习训练优化技术,利用 8位浮点数(FP8) 表示部分模型参数和计算结果,同时结合更高精度(如 FP16 或 FP32)进行关键计算,从而在保证模型精度的前提下显著降低计算成本和内存占用。
-------
看看上面的定义,deepseek r1就是主要是FP8训练,只有关键计算才部分采用更高精度


  • beinaa
  • 麒麟9010
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
DeepGEMM是一个专为干净、高效的FP8通用矩阵乘法(GEMM)而设计的库,具有细粒度扩展功能,如DeepSeek-V3中所述。它支持普通和混合专家(MoE)分组GEMM。该库用CUDA编写,在安装过程中无需编译,而是使用轻量级即时(JIT)模块在运行时编译所有kernel。
----------------------
这个deepgemm是deepseek的一个开源项目,其中写明了FP8算法,是算法,不是什么存储,不要再混淆视听了


  • 蓝凝永恒⚽
  • 麒麟970
    1
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
原来gpt5垃圾 也是因为英伟达不行


  • 面朝大海
  • 麒麟9000
    7
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
3


登录百度账号

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频!
  • 贴吧页面意见反馈
  • 违规贴吧举报反馈通道
  • 贴吧违规信息处理公示
  • 19回复贴,共1页
<<返回中国芯吧
分享到:
©2025 Baidu贴吧协议|隐私政策|吧主制度|意见反馈|网络谣言警示