邀好友领红包

北方伟业计量集团有限公司

  • 标准物质/标准样品生产认可证书
  • CNAS实验室认可证书
  • 标准物质定级证书
  • 豫南检测资质认定证书
  • 质量管理体系认证证书
  • 伟业计量高企认证证书
  • 中国计量测试学会合作单位

有效数字的处理(也许有你不知道的喲!)

豫南检测-高磊-会员头像-www.bzwz.com伟业计量
豫南检测-高磊 2020-02-07 16:34 评论( 0 ) 浏览( 1472 )

一、有效数字的定义

1、在分析过程中,能实际测量到的数字称为有效数字(包括最后一位估计的不确定数字)。我们把直接获得的准确数字称为可靠数据;把估读获得的那部分数字称为存疑数据。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫做有效数字

2、有效数字的位数

(1)从第一个非零数字开始到数据的最后一位为止,所有数字的位数之和就是有效数字的位数。(eg.0.0109有三位有效数字。而0.01090则有四位有效数字)

(2)科学计数法:3.109×10∧5,3109为有效数字,后面10的5次方不是有效数字.

( 3 )对数(比如PH值)的有效数字为小数点后面的全部数字,pH=2.35的有效数字为35两位。

二、有效数字的修约规则

用“四舍六入五成双”的规则舍去过多的数字。

规则解释:当尾数≤ 4时,则舍(2.324→2.32);

当尾数≥6时,则入(2.326→ 2.33);

尾数为5时,若5前面是偶数,则舍(2.325→ 2.32),若5前面是奇数时,则入(2.335→ 2.34),若5后面还有不是0的任何数时,无论5前面是偶是奇皆入(2.32501→ 2.33)

三、有效数字运算法则

1、在加减法运算中,计算结果有效数字的保留,以小数点后面位数最少的为标准,在加减法中,因各数值绝对误差的传递,所以结果的绝对误差要与各数中绝对误差最大的那个相当。

eg.2.0375+0.0745+39.54=?

39.54的小数点位数最少,三个数中它的绝对误差最大,为±0.01,所以应以39.54为准,其他两个数字也要保留小数点后两位,因此三位数计算应为:2.04+0.07+39.54=41.65

2、在乘除法运算中,结果以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。

eg.13.92×0.0112× 1.9723=?

0.0112是三位有效数字,位数最少,它的相对误差最大,所以应以0.0112的位数为准,即:13.9× 0.0112×1.97=0.307

点赞图片
  • 暂无回复...

登录后才可以评论

立即登录
发表评论
楼主动态
相关推荐
推荐标物
请告知您的电话号码,我们将立即回电

通话对您免费,请放心接听

温馨提示:

1.手机直接输入,座机前请加区号 如13803766220,010-58103678

2.我们将根据您提供的电话号码,立即回电,请注意接听

3.因为您是被叫方,通话对您免费,请放心接听

请设置您的密码:
分享到微信