- 1、本文档共16页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
大学物理实验大学物理实验绪论绪论四、有效数字及其运算
⒈有效数字的定义有效数字=若干位准确数字+最后一位欠准数字有效数字测量误差正确表示结果有效数字的特点:数字末尾有且仅有一位欠准数字注意
准确数字欠准数字+有效数字有效数字位数越多,测量的精度越高。一般来说,必须读到仪器最小分度值的下一位上。
2.有效数字的特点①有效数字位数与单位和小数点位置无关;如:59.6mm=5.96cm=0.0596m可见,用以表示小数点位置的“0”不是有效数字。②当“0”不是表示小数点位置时(0在数字中间或数字后面),为有效数字,因此数据最后的“0”不能随便加上,也不能随便减去。如:3cm?3.0cm?应记为3.00cm改变有效数字单位时,只能改变有效数字中的小数点位置,而有效数字的位数应保持不变。
③有效数字的科学书写方式(浮点书写规则)如:31千克=31000克?应写成:31千克=3.1×104克
3.有效数字的读取进行直接测量时,由于仪器多种多样,正确读取有效数字的方法大致归纳如下:(2)有时读数的估计位,就取在最小分度位。例如,仪器的最小分度值为0.5,则0.1-0.4,0.6-0.9都是估计的,不必估到下一位。(1)一般读数应读到最小分度以下再估一位。例如,1/2,1/5,1/4,1/10等。
(3)游标类器具(游标卡尺、分光计度盘、大气压计等)一般读至游标最小分度的整数倍,即不需估读。
(4)数显仪表及有十进步式标度盘的仪表(电阻箱、电桥、电位差计、数字电压表等)一般应直接读取仪表的示值。
4.有效数字的运算运算规则:只要与欠准数字相运算,结果都为欠准数字,只有准确数字与准确数字运算,结果才为准确数字。最后只保留一位(最多二位)欠准数字去掉第二位欠准数字时要用“四舍六入五凑偶”法,即:尾数小于5则舍;大于5则入;等于5时,若5的前一位为奇数则入,5的前一位为偶数则舍,这样可使舍入的机会相等。如:0.5025——0.502;0.5015——0.502
例2:583.5-41.23542.27记作542.3例1:251.3+24.45275.75记作275.8加减法:取精度差的(即小数点位数最少的)。(1)加减法
例3:562.31×12.156231112462562316803.951记作6.80×103乘除法:取有效位数最少的(2)乘除法
(3)乘方、开方乘方、开方等:有效数字位数不变
(4)对数、指数函数对数函数:运算后的小数点后面的位数取成与真数的有效数字位数相同。例:lg1.938=0.2973lg1938=3+lg1.938=3.2973指数函数:运算后的有效数字的位数与指数的小数点后的位数相同(包括紧接小数点后的零)。例:106.25=1.8×106100.0035=1.008
(5)三角函数三角函数:取位随角度有效数字而定。例:sin30°00′=0.5000cos20°16′=0.9381
(6)公式中常数C=2πR式中的取值由R来决定,若R为3位有效数字,则在运算中应取比R多一位有效数字,应取3.142。2是绝对准确的,不考虑其位数。V=πR2h中的π取几位?若R为3位有效数字,h为4位有效数字,则π取4位有效数字。
有效数字运算规则总结:1.加减法:取精度差的(即小数点位数最少的)。2.乘除法:取有效位数最少的。3.乘方、开方等:有效数字位数不变。4.对于公式中的某些常数是绝对准确数字,计算时不能拿它来考虑结果的位数。如:C=2πR中的2。5.对于公式中的常数π、e等的有效数字位数可以认为是无限制的,在计算中其有效数字位数一般取比参与运算的各数中有效数字位数最少的还要多一位。
您可能关注的文档
- 浙能兰溪发电厂深度脱硫脱碳及资源化利用项目11-设备选型与典型设备设计说明书.pdf
- -云天化合成氨装置废气深度脱硫资源化利用项目初步设计说明书 (40).pdf
- 云之家私有云投标方案-商务篇WORD版(3-1).docx
- 运动健康管理项目招商.doc
- 在线课程绪论5 不确定度及其评定.pptx
- 漳州后石电厂烟气脱硫项目5-创新性说明.docx
- 浙江宁波达沃斯公司年产三十万吨醋酸酯2-初步设计说明书.docx
- 浙江省明新化工制造厂醋酸乙烯酯生产项目1-项目可行性报告.doc
- 浙江省明新化工制造厂醋酸乙烯酯生产项目附录-1水集成评估报告.doc
- 浙能兰溪发电厂深度脱硫脱碳及资源化利用项目 0-项目摘要.doc
文档评论(0)