首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >数值分析 有效数字计算

数值分析 有效数字计算

作者头像
圆号本昊
发布2021-09-24 11:49:30
发布2021-09-24 11:49:30
1.4K0
举报
文章被收录于专栏:github@hornhuanggithub@hornhuang

与高中的有效数字有些不同,数值分析中的有效数字定义如下:

定义

设数x是数x的近似值,如果x的绝对误差限是它的某一数位的半个单位,并且从x左起第一个非零数字到该数位共有n位,则称这n个数字为x的有效数字,也称用x近似x时具有n位有效数字。 —《数值分析(第2版)》张铁 阎家斌 冶金工业出版社

举例

接下来,我们以几道例题为例:

例一

  1. 首先,我们可以获得 |π - x1| 的值 :0.0015926535
  2. 我们知道这个值(0.0015926535 )< 0.005 ( 即:0.01 * 1/2 )
  3. 接着我们对应下图:

我们发现,近似数左边起的第一个非 0 数是 3 ,且它在 个位 这时:有效数字 = 0.01 中 ‘1’ 所在的 ’百分位‘ 到,个位所经历的位数 :3


其他例题:

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019/08/27 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 定义
  • 举例
  • 其他例题:
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档