为啥计算器会算出怎么多位【数学吧】_百度贴吧

10月11日漏签0天

数学吧关注：925,025贴子：8,873,830

5回复贴，共1页

<返回数学吧

为啥计算器会算出怎么多位

只看楼主收藏回复

不应该0.575就完事了吗

送TA礼物

IP属地:北京

来自Android客户端1楼2022-11-12 13:26回复

应该跟浮点有关系吧

来自Android客户端2楼2022-11-12 14:25

收起回复

不感兴趣

开通SVIP免广告

计算器用的是二进制，比如十进制的0.5在二进制下就像1/3一样是无限小数

来自Android客户端3楼2022-11-12 15:08

收起回复

浮点误差

IP属地:福建

来自Android客户端4楼2022-11-13 11:26

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

5回复贴，共1页

<返回数学吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴