数值计算

编程入门 行业动态 更新时间:2024-10-17 15:30:39

<a href=https://www.elefans.com/category/jswz/34/1770286.html style=数值计算"/>

数值计算

1⃣️根据有效数字估算相对误差限

 

求解公式: 

⚠️其中,er是相对误差限,e是绝对误差限。

不难得出结论,数值的相对误差限是跟有效数p位以及所有有效数有关,跟n无关

 具体数据例题:

1⃣️根据相对误差限估算有效数字

        此时,绝对误差限的位数 n-p = -2 所以我们只看 小数点后两位和整数部分

        3.14的 小数点后两位和整数部分 有3位有效,所以其有效数字为3位。

更多推荐

数值计算

本文发布于:2024-03-15 06:06:49,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1738257.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:数值

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!