10.03=3.3333333333333335为什么?

10.03=3.3333333333333335为什么?,第1张

10.0/3=3.3333333333333335为什么?

翻了好几个答案,在贴吧发现了感觉更能让我理解的版本。

求问10.0/3=3.3333333333333335为什么?【python吧】_百度贴吧 (baidu.com)

搜索:浮点数有效位
或:浮点数储存方式

简单地说就是计算硬件限制只能提供有限的精度,目前64位系统只能达到17位有效数字。只有符合2的负N次方及其组合的浮点数才能准确表示。如0.5+0.25+0.125。

这个是计算机的浮点数误差,计算机处理是逻辑计算,10之间的逐位计算。 2l说的是没错的,因为win下的普通python是CPython,底层就是c所以误差是按照c来的。

如果链接不可以贴的话,请联系我删除。

欢迎分享,转载请注明来源:内存溢出

原文地址:https://www.54852.com/zaji/5680430.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2022-12-17
下一篇2022-12-17

发表评论

登录后才能评论

评论列表(0条)

    保存