网站大量收购独家精品文档,联系QQ:2885784924

在线课程绪论4 有效数字及其运算.pptx

在线课程绪论4 有效数字及其运算.pptx

此“教育”领域文档为创作者个人分享资料,不作为权威性指导和指引,仅供参考
  1. 1、本文档共16页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

大学物理实验大学物理实验绪论绪论四、有效数字及其运算

⒈有效数字的定义有效数字=若干位准确数字+最后一位欠准数字有效数字测量误差正确表示结果有效数字的特点:数字末尾有且仅有一位欠准数字注意

准确数字欠准数字+有效数字有效数字位数越多,测量的精度越高。一般来说,必须读到仪器最小分度值的下一位上。

2.有效数字的特点①有效数字位数与单位和小数点位置无关;如:59.6mm=5.96cm=0.0596m可见,用以表示小数点位置的“0”不是有效数字。②当“0”不是表示小数点位置时(0在数字中间或数字后面),为有效数字,因此数据最后的“0”不能随便加上,也不能随便减去。如:3cm?3.0cm?应记为3.00cm改变有效数字单位时,只能改变有效数字中的小数点位置,而有效数字的位数应保持不变。

③有效数字的科学书写方式(浮点书写规则)如:31千克=31000克?应写成:31千克=3.1×104克

3.有效数字的读取进行直接测量时,由于仪器多种多样,正确读取有效数字的方法大致归纳如下:(2)有时读数的估计位,就取在最小分度位。例如,仪器的最小分度值为0.5,则0.1-0.4,0.6-0.9都是估计的,不必估到下一位。(1)一般读数应读到最小分度以下再估一位。例如,1/2,1/5,1/4,1/10等。

(3)游标类器具(游标卡尺、分光计度盘、大气压计等)一般读至游标最小分度的整数倍,即不需估读。

(4)数显仪表及有十进步式标度盘的仪表(电阻箱、电桥、电位差计、数字电压表等)一般应直接读取仪表的示值。

4.有效数字的运算运算规则:只要与欠准数字相运算,结果都为欠准数字,只有准确数字与准确数字运算,结果才为准确数字。最后只保留一位(最多二位)欠准数字去掉第二位欠准数字时要用“四舍六入五凑偶”法,即:尾数小于5则舍;大于5则入;等于5时,若5的前一位为奇数则入,5的前一位为偶数则舍,这样可使舍入的机会相等。如:0.5025——0.502;0.5015——0.502

例2:583.5-41.23542.27记作542.3例1:251.3+24.45275.75记作275.8加减法:取精度差的(即小数点位数最少的)。(1)加减法

例3:562.31×12.156231112462562316803.951记作6.80×103乘除法:取有效位数最少的(2)乘除法

(3)乘方、开方乘方、开方等:有效数字位数不变

(4)对数、指数函数对数函数:运算后的小数点后面的位数取成与真数的有效数字位数相同。例:lg1.938=0.2973lg1938=3+lg1.938=3.2973指数函数:运算后的有效数字的位数与指数的小数点后的位数相同(包括紧接小数点后的零)。例:106.25=1.8×106100.0035=1.008

(5)三角函数三角函数:取位随角度有效数字而定。例:sin30°00′=0.5000cos20°16′=0.9381

(6)公式中常数C=2πR式中的取值由R来决定,若R为3位有效数字,则在运算中应取比R多一位有效数字,应取3.142。2是绝对准确的,不考虑其位数。V=πR2h中的π取几位?若R为3位有效数字,h为4位有效数字,则π取4位有效数字。

有效数字运算规则总结:1.加减法:取精度差的(即小数点位数最少的)。2.乘除法:取有效位数最少的。3.乘方、开方等:有效数字位数不变。4.对于公式中的某些常数是绝对准确数字,计算时不能拿它来考虑结果的位数。如:C=2πR中的2。5.对于公式中的常数π、e等的有效数字位数可以认为是无限制的,在计算中其有效数字位数一般取比参与运算的各数中有效数字位数最少的还要多一位。

文档评论(0)

yzs890305 + 关注
实名认证
内容提供者

计算机二级持证人

该用户很懒,什么也没介绍

领域认证该用户于2024年11月02日上传了计算机二级

1亿VIP精品文档

相关文档