- 8
- 0
- 约2.28千字
- 约 34页
- 2018-03-05 发布于浙江
- 举报
[高等教育]有效数字及运算法则
* * 有效数字及运算法则 定义:在测量结果的数字表示中,由若干位可靠数字加一位可疑数字,便组成了有效数字。 上述例子中的测量结果均为三位有效数字 一、有效数字的一般概念 二、有效数字位数的确定 1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有效 如: 、 、 等中的0均有效。 注意:不能在数字的末尾随便加“0”或减“0” 数学上: 物理上: ②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字 如:0.0123dm、0.123cm、0.00123m 均是3位有效数字。 注意:进行单位换算时,有效数字的位数不变。 2.数值的科学记数法 数据过大或过小时,可以用科学表达式。 某电阻值为20000(欧姆),保留三位有效数字时写成 2.00?104? 又如数据为0.0000325m,使用科学记数法写成3.25?10-5m 3.有效数字与仪器的关系 有效数字的位数 测量值本身的大小、仪器的准确度 20分度游标卡尺 L=2.525cm (四位有效数字) 螺旋测微计 L=2.5153cm (五位有效数字) 米尺 L=2.52cm (三位有效数字) 4.不确定度的表达 σ取一个有效数字, σ决定N的有效位 5.相对误差的表达 2位有效数 1位有效数 三、直
您可能关注的文档
最近下载
- 湖北方言调查报告PDF.pptx VIP
- 人脸识别照片拍摄标准.docx VIP
- 变频器技术考试题及答案.docx VIP
- 重症患者的肠内营养护理.pptx VIP
- 输液泵操作评分标准.doc VIP
- 青少年焦虑症护理查房.pptx VIP
- 试析《三国演义》在日本动漫中的传播与接受.pdf VIP
- 从吉川英治《三国志》看《三国演义》在日本的传播与接受The Spread and Reception of the Romance of the “Three Kingdoms” in Japan from the “Three Kingdoms” by Yoshikawa Eiji-来源:现代语言学(第2022002期)-汉斯出版社.pdf VIP
- 与总承包单位协调配合措施方案.docx VIP
- 《清静经》全文及译文.pdf VIP
原创力文档

文档评论(0)