js小数乘以100后精度丢失

编程入门 行业动态 更新时间:2024-10-21 11:37:37

js<a href=https://www.elefans.com/category/jswz/34/1762221.html style=小数乘以100后精度丢失"/>

js小数乘以100后精度丢失

项目场景:

计算设备在线率或故障率时,会出现以下bug。


问题描述

const a = lodash.round(7186 / 10666, 4) * 100 // 67.36999999999999
const b = 0.6737 * 100 // 67.36999999999999

原因分析:

计算机二进制计算问题


解决方案:

const c = (100 * 7186) / 10666).toFixed(2) // 67.37 字符串类型
const d = parseFloat(((100 * 7186) / 10666).toFixed(2)) // 67.37 浮点数

更多推荐

js小数乘以100后精度丢失

本文发布于:2024-03-08 05:37:00,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1719954.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:小数   精度   js

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!