小数乘以100后精度丢失"/>
js小数乘以100后精度丢失
项目场景:
计算设备在线率或故障率时,会出现以下bug。
问题描述
const a = lodash.round(7186 / 10666, 4) * 100 // 67.36999999999999
const b = 0.6737 * 100 // 67.36999999999999
原因分析:
计算机二进制计算问题
解决方案:
const c = (100 * 7186) / 10666).toFixed(2) // 67.37 字符串类型
const d = parseFloat(((100 * 7186) / 10666).toFixed(2)) // 67.37 浮点数
更多推荐
js小数乘以100后精度丢失
发布评论