本站消息

站长简介/公众号


站长简介:高级软件工程师,曾在阿里云,每日优鲜从事全栈开发工作,利用周末时间开发出本站,欢迎关注我的微信公众号:程序员总部,程序员的家,探索程序员的人生之路!分享IT最新技术,关注行业最新动向,让你永不落伍。了解同行们的工资,生活工作中的酸甜苦辣,谋求程序员的最终出路!

 价值13000svip视频教程,前端大神匠心打造,零基础前端开发工程师视频教程全套,基础+进阶+项目实战,包含课件和源码

  出租广告位,需要合作请联系站长


+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

2021-03(439)

2021-04(188)

2021-05(168)

2021-06(99)

2021-07(4)

js 计算精度问题解决

发布于2021-12-05 19:18     阅读(135)     评论(0)     点赞(9)     收藏(0)


问题:两个浮点数相乘时会出现计算结果不精确的问题

例如:

解决方法:

  1. accMul(arg1, arg2) {
  2. let m = 0;
  3. const s1 = arg1.toString();
  4. const s2 = arg2.toString();
  5. if (s1.includes('.')) {
  6. m += s1.split('.')[1].length;
  7. }
  8. if (s2.includes('.')) {
  9. m += s2.split('.')[1].length;
  10. }
  11. return Number(s1.replace('.', '')) * Number(s2.replace('.', '')) / Math.pow(10, m);
  12. }

 注意:这个方法只能解决两个数相乘结果不精确的情况

原文链接:https://blog.csdn.net/weixin_50004969/article/details/121702596




所属网站分类: 技术文章 > 博客

作者:听说你混的不错

链接:http://www.qianduanheidong.com/blog/article/248477/8c3cce5e6f50b235a849/

来源:前端黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

9 0
收藏该文
已收藏

评论内容:(最多支持255个字符)