有效数字及运算法则.ppt

* * 有效数字及运算法则 定义：在测量结果的数字表示中，由若干位可靠数字加一位可疑数字，便组成了有效数字。 上述例子中的测量结果均为三位有效数字 一、有效数字的一般概念 二、有效数字位数的确定 1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有效 如： 、 、 等中的0均有效。 注意：不能在数字的末尾随便加“0”或减“0” 数学上： 物理上： ②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字 如：0.0123dm、0.123cm、0.00123m 均是3位有效数字。 注意：进行单位换算时，有效数字的位数不变。 2.数值的科学记数法 数据过大或过小时，可以用科学表达式。 某电阻值为20000（欧姆），保留三位有效数字时写成 2.00?104? 又如数据为0.0000325m，使用科学记数法写成3.25?10-5m 3.有效数字与仪器的关系 有效数字的位数 测量值本身的大小、仪器的准确度 20分度游标卡尺 L=2.525cm （四位有效数字） 螺旋测微计 L=2.5153cm （五位有效数字） 米尺 L=2.52cm （三位有效数字） 4.不确定度的表达 σ取一个有效数字， σ决定N的有效位 5.相对误差的表达 2位有效数 1位有效数 三、直接测量有效数字的确定 ——如何读数 （1）用米尺测长度 读数的一般规则： 读至仪器误差所在的位置 当物体长度在24㎜与25㎜之间时， 读数为24.*㎜ 当读数正好为24㎜时读数为24.0㎜ 被测物体 三、直接测量有效数字的确定 ——如何读数 （1）用米尺测长度 （2）用0.1级量程为100mA电流表测电流 读数的一般规则： 读至仪器误差所在的位置 △仪= 100mA×0.1% = 0.1mA 指针在82mA与83mA之间：读为82.* mA 指针正好在82mA上：读为82.0mA 对于0.1级表： △仪=100mA×1.0%=1mA 对于1.0级表 指针在82mA与84mA之间： 可读为82mA、83mA或84mA 指针正好在82mA上：读为82mA 例 1 62 . 5 + 1. 234 = 63 . 7 62.5 + 1.234 ————— 63.734 – – – – – – – 结果为 63.7 – 例 2 63 . 7 - 5. 43 = 58 . 3 63. 7 - 5. 43 ————— 58. 27 – – – – – – – 结果为 58.3 – 其中： 试确定N的有效数字。 解： （1）求出N的不确定度 （2） （3）用误差（估计误差范围的不确定度）决定 结果的有效数字 例 4 3.21 ? 6.5 = 21 3.21 ? 6.5 ————— 1605 – – – – – – 结果为 21 – – 1926 ————— 20.865 – – – – – – – 其中： 试确定N的有效数字。 解： （2）计算不确定度 （1）先计算N （3）根据误差（不确定度）决定有效数字，有： 结果的有效数字与其底或被开方数的有效数字位数相同。 如： 错误 正确 运算规则： 1002=100?102 ? ? 100=10.0 ? ? ? ? 49 = 7.0 49 = 7 4.02=16 4.02=16.0 (1)对数函数 lgx的尾数与x的位数相同 例 7 lg 100 = 2.000 lg 1.983 = 0.297322714 ? 0.2973 lg 1983 = 3 ? 3.2973 (2)指数函数 10x或ex的位数和x小数点后的位数相同（包括紧接小数点后面的0） 例 8 106.25=1778279.41 ?1.8?106 100.0035=1.0080961?1.008 四、间接测量量有效数字的确定 ——有效数字的运算法则 1.加减法 2.乘除法 3.乘方与开方 4.函数运算 5.自然数与常量 ①自然数不是测量值，不存在误差， 故有效数字是无穷位。 ②常数?、e等的位数可与参加运算的 量中有效数字位数最少的位数相同 或多取一位。 如在D=2R中，2不是一位有效数字，而是无穷位 例 9 L=2?R 其中R=2.35?10-2m ?就应取3.14(或3.142)