网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索

 
 
 
日一二三四五六
       
       
       
       
       
       

签到排名:今日本吧第个签到,

本吧因你更精彩,明天继续来努力!

本吧签到人数:0

一键签到
成为超级会员,使用一键签到
一键签到
本月漏签0次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行补签。
连续签到:天  累计签到:天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
08月05日漏签0天
人工智能吧 关注:116,509贴子:508,898
  • 看贴

  • 图片

  • 吧主推荐

  • 视频

  • 游戏

  • 1回复贴,共1页
<<返回人工智能吧
>0< 加载中...

初来乍到,求问个关于cudnn的问题

  • 只看楼主
  • 收藏

  • 回复
  • df6621505
  • 人脸辨识
    1
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
最近在看cudnn6的文档,里面提到了INT8类型的卷积运算,输入x权重w和输出y均为INT8类型。
如果是单纯的INT类型乘累加,很容易溢出,举个例子,16*16=256,已经超过INT8所表示范围,因此cudnn的卷积中间结果用int32表示,然后结果再处理成int8类型,
我的问题是,int32变成int8,保留的是其中的哪几位数字?


  • 第六轮
  • 贾维斯
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
6出来了?按照c语言保留的是低8位,估计cudnn一样的,也要可能来个溢出错误。


登录百度账号

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频!
  • 贴吧页面意见反馈
  • 违规贴吧举报反馈通道
  • 贴吧违规信息处理公示
  • 1回复贴,共1页
<<返回人工智能吧
分享到:
©2025 Baidu贴吧协议|隐私政策|吧主制度|意见反馈|网络谣言警示