📣 独立日限时特惠: VIP通行证立减$68
查看: 1031| 回复: 2
跳转到指定楼层
上一主题 下一主题
收起左侧

[Leetcode] python浮点精确度的问题

全局:

注册一亩三分地论坛,查看更多干货!

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x
遇到了一个python中float相加的精确度的问题,想请教下大家。
每次都往cumulative sum里加一个很小的数,当cumulative sum超过target,就跳出循环。这里的问题是python对于小数点的处理特别不友好,经典的例子就是0.1+0.1+0.1!=0.3....所以导致我在计算循环的次数会多一个。比如
0.9899999999999997
0.9900990099009898
第一个数其实就是0.99,但是表示成那个鬼样子,所以判断还是<0.99,导致循环继续。
查了doc里关于precision的一节,https://docs.python.org/3/tutorial/floatingpoint.html,这里面用了round(float,10)的操作,我试了下我的例子,好像真的解决了,但是非常不确定是不是正确做法。
还试了转换成decimal,但好像不太行。
先谢谢大家啦

上一篇:Leetcode每日一题用了time travel ticket还能拿地里工资吗
下一篇:在职刷题感想
全局:
“我觉得”通常浮点数比较就设定一个精确度就完了。否则只有round。
回复

使用道具 举报

🔗
 楼主| qinshimingyue 2021-2-24 03:24:03 | 只看该作者
全局:
pandami 发表于 2021-2-23 06:15
“我觉得”通常浮点数比较就设定一个精确度就完了。否则只有round。

谢谢回复呀,所以用round(float,10)比较是ok的对吧
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
隐私提醒:
  • ☑ 禁止发布广告,拉群,贴个人联系方式:找人请去🔗同学同事飞友,拉群请去🔗拉群结伴,广告请去🔗跳蚤市场,和 🔗租房广告|找室友
  • ☑ 论坛内容在发帖 30 分钟内可以编辑,过后则不能删帖。为防止被骚扰甚至人肉,不要公开留微信等联系方式,如有需求请以论坛私信方式发送。
  • ☑ 干货版块可免费使用 🔗超级匿名:面经(美国面经、中国面经、数科面经、PM面经),抖包袱(美国、中国)和录取汇报、定位选校版
  • ☑ 查阅全站 🔗各种匿名方法

本版积分规则

>
快速回复 返回顶部 返回列表