检测数值读和数值修约概要.pptVIP

测量数值读取与数值修约 有效数字与检测结果的关系(1 检测过程往往由多个分过程组成,每个分过程 生一组或一个数据,对每个检测分过程得到 数据进行数据处理得到检测结果,因此,检测 过程数据读取(读取位数的确定)和数据处理是 检测过程的必须环节。 检测数据含有误差,测量结果误差与检测数据 误差有关。因此,检测数据或测量结果的有效 位数的取舍应适宜,太多会使人误认为测量精 度很高,同时也会带来计算上的繁琐;太少则 会损失测量准确度 有效数字与检测结果的关系(2) ·检测数据的有效数字位数反映了测量结果 的精确度,它直接与测量的精密度有关。 因此,在检测过程中正确记录有效数字 是检测人员保证检测质量的重要内容 有位数字读取举例(1) ·实验室购置一台液晶显示数字的千分之一天平, 天平生产厂家为了体现其高分辨力或高灵敏性, 显示的输出的数据全部取位到满位,如称量约 1克重量时的显示为:1012346512, 问题提出: 1如何读取记录数据? 2精度为千分之一,是否应该要像常规的读数 样估读到精度位数的下一位? 3不需要的位数应该如何舍入? 有位数字读取举例(2) 解决方法: 仪器读数的有效位数跟精度位数相同,不 再显示下一位,多余位数将其按一定原则 舍入。 精度为百分之一仪器:读数为:1.01 精度为千分之一仪器:读数为:1012 精度为万分之一仪器:读数为:10123 精度为十万分之一仪器:读数为:101235; 可知测量数据或仪器显示数值读数的取位 是否合理,其具有系统和规范的要求 拟从以下两个方面徐述: 测量结果的有效位数的规定 ·二多余位数如何修约 1测量、测量结果 测量是以确定量值为目的的一组操作 量值是由一个数(值)乘以测量单位所表 示的特定量的大小。 测量不可避免的存在误差,测量读数 由准确数字和可疑数字组成,仪器的 精度和最小刻画所标识的数字均为可 准确测度数据的最小数字,比此数字 小的均为可疑数字。 2有效数字(1 有效数字指在分析和测量中所能得到的有 实际意义的数字。测量结果是由有效数字 组成(前后定位用的“0除外) 有效数字组成中除最后一位是可疑数字或 不确切值外,其余的前面位数都是准确数 字。有效数字由准确数字和可疑数字组成。 除有效数字外其余数字为多余数字。 2有效数字(2) 例 ·用万分之一天平称量物品,从刻度盘或数 字显示读数为1.0123,前几位数字1、0、1 2都是称量读到的准确数字,最后一位数字 3则是在没有刻度的情况下佔读出来的(即 读数指针位于两刻度之间的估值),是不 准确的或者说可疑的。