发个水帖，关于浮点误差的。

刚在EH看到一个问题，A1-C1值为350.60 336.70 13.90
D1= B1+C1
E1=A1=B1，结果TRUE
F1=A1-B1=0，结果FALSE
用F9看计算过程看不出来，用公式求值能看到浮点误差。
但一般写公式基本都不会在比较的时候用ROUND等函数取舍后再判断，有谁实际工作中遇到过浮点误差导致出错的？？

E1=A1=B1，结果false!

不感兴趣

开通SVIP免广告

我在使用时遇到过，在判断最后结果时强制取几位小数，效果就有了

遇到过，刚开始用函数判断求出数与一个给定数是否相等，明明结果一致，结果输出false。后来好像是套了trunc才行，

看工作需要，我们平时处理很多利率，有的时候如果用ceiling一类的时候就会导致结果出错

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

8回复贴，共1页

<<返回excel吧

分享到:

日	一	二	三	四	五	六