网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索

 
 
 
日一二三四五六
       
       
       
       
       
       

签到排名:今日本吧第个签到,

本吧因你更精彩,明天继续来努力!

本吧签到人数:0

一键签到
成为超级会员,使用一键签到
一键签到
本月漏签0次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行补签。
连续签到:天  累计签到:天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
07月14日漏签0天
javascript吧 关注:269,156贴子:906,380
  • 看贴

  • 图片

  • 吧主推荐

  • 游戏

  • 1 2 3 下一页 尾页
  • 33回复贴,共3页
  • ,跳到 页  
<<返回javascript吧
>0< 加载中...

0.1+0.2 === 0.3 is false

  • 只看楼主
  • 收藏

  • 回复
  • 1950195
  • trycatch
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
测试过的顶一个
嘿嘿,真蛋疼。


  • 708616
  • trycatch
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
javascript运算十进制小数的规则是,先转换成2进制数运算,再把结果转化成十进制


2026-07-14 19:59:16
广告
不感兴趣
开通SVIP免广告
  • 9菜牜馬矿
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
你才蛋疼


  • 忆之殇逝
  • switch
    6
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
你才蛋疼


  • JinCeon
  • trycatch
    9
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
你才蛋疼


  • 次碳酸钴
  • Number
    12
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
这个问题还有一些地方琢磨不透,有待研究。。。


  • 9菜牜馬矿
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
我不知道脚本是如何处理浮点型的,但是我想应该不会智能到用放缩法提高个例运算的精度吧
这是我在c里面的测试,至少不要忽略浮点型的存在:




  • abiao5555
  • for
    8
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
解读IEEE标准754浮点数


2026-07-14 19:53:16
广告
不感兴趣
开通SVIP免广告
  • 9菜牜馬矿
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
你经常看IEEE标准么?
我以前经常看的是 MSDN for vc6 , 里面讲到这些


  • 次碳酸钴
  • Number
    12
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
0.0001100110011001 (0.1)
0.0011001100110011 (0.2)
0.0100110011001100 (0.3)
加起来试试,因为循环节是4位的,所以32位和64位也会得到同样的结果,问题出在哪儿?


  • 9菜牜馬矿
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
不知道保存的是否刚好到循环节进位那里,如果不在...


  • itianda
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
把f去掉,不然是单精度...


  • 9菜牜馬矿
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
单精度存float里面不是刚好么?


  • itianda
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
float d = 1.0;d是双精度
float s = 1.0f;s是单精度 单精度的有效小数位数好像是6位...


2026-07-14 19:47:16
广告
不感兴趣
开通SVIP免广告
  • 9菜牜馬矿
  • Boolean
    11
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
双精度是指的 double d 吧
我看的vc6的chm:
Type  Bytes  Range of Values
float   4    3.4E +/- 38 (7 digits)
double  8    1.7E +/- 308 (15 digits)


登录百度账号

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频!
  • 贴吧页面意见反馈
  • 违规贴吧举报反馈通道
  • 贴吧违规信息处理公示
  • 1 2 3 下一页 尾页
  • 33回复贴,共3页
  • ,跳到 页  
<<返回javascript吧
分享到:
©2026 Baidu贴吧协议|隐私政策|吧主制度|意见反馈|网络谣言警示