网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
成为超级会员,使用一键签到
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
07月14日
漏签
0
天
javascript吧
关注:
269,156
贴子:
906,380
看贴
图片
吧主推荐
游戏
1
2
3
下一页
尾页
33
回复贴,共
3
页
,跳到
页
确定
<<返回javascript吧
>0< 加载中...
0.1+0.2 === 0.3 is false
只看楼主
收藏
回复
1950195
trycatch
9
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
测试过的顶一个
嘿嘿,真蛋疼。
708616
trycatch
9
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
javascript运算十进制小数的规则是,先转换成2进制数运算,再把结果转化成十进制
2026-07-14 19:59:16
广告
不感兴趣
开通SVIP免广告
9菜牜馬矿
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
你才蛋疼
忆之殇逝
switch
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
你才蛋疼
JinCeon
trycatch
9
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
你才蛋疼
次碳酸钴
Number
12
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
这个问题还有一些地方琢磨不透,有待研究。。。
9菜牜馬矿
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
我不知道脚本是如何处理浮点型的,但是我想应该不会智能到用放缩法提高个例运算的精度吧
这是我在c里面的测试,至少不要忽略浮点型的存在:
abiao5555
for
8
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
解读IEEE标准754浮点数
2026-07-14 19:53:16
广告
不感兴趣
开通SVIP免广告
9菜牜馬矿
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
你经常看IEEE标准么?
我以前经常看的是 MSDN for vc6 , 里面讲到这些
次碳酸钴
Number
12
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
0.0001100110011001 (0.1)
0.0011001100110011 (0.2)
0.0100110011001100 (0.3)
加起来试试,因为循环节是4位的,所以32位和64位也会得到同样的结果,问题出在哪儿?
9菜牜馬矿
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
不知道保存的是否刚好到循环节进位那里,如果不在...
itianda
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
把f去掉,不然是单精度...
9菜牜馬矿
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
单精度存float里面不是刚好么?
itianda
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
float d = 1.0;d是双精度
float s = 1.0f;s是单精度 单精度的有效小数位数好像是6位...
2026-07-14 19:47:16
广告
不感兴趣
开通SVIP免广告
9菜牜馬矿
Boolean
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
双精度是指的 double d 吧
我看的vc6的chm:
Type Bytes Range of Values
float 4 3.4E +/- 38 (7 digits)
double 8 1.7E +/- 308 (15 digits)
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示