网站大量收购闲置独家精品文档,联系QQ:2885784924

有效数字和数值的修约及其运算标准操作规程.docVIP

有效数字和数值的修约及其运算标准操作规程.doc

  1. 1、本文档共6页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
有效数字和数值的修约及其运算标准操作规程

文件名称 有效数字和数值的修约及 其运算标准操作规程 文件编号 SOP-QC-01-003/02 编 制 人 审 核 人 批 准 人 编制日期 审核日期 批准日期 颁发部门 分 发 号 生效日期 发送单位 档案室、质量部、化验室 变更历史 2009年9月因厂址搬迁进行第一次修订; 2012年6月因新版GMP、公司名称和组织机构变动进行第二次修订 一、目的: 建立有效数字和数值的修约及其运算标准操作规程,确保有效数字和数值的修约及其运算结果的准确性。 二、适用范围: 适用于有效数字和数值的修约及其运算操作。 三、责任:QC检验人员负责本规程的实施,QA负责人、QC负责人监督检查。 四、内容: 1.有效数字的基本概念 1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。 1.2有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。 1.3有效位数 1.3.1在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×103 或3.5×104。 1.3.2在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032均为两位有效位数,0.320为三位有效位数、10.00为四位有效位,12.490为五位有效位数。 1.3.3非连续型数值(如个数、分数、倍数)是没有准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、е和系数2等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/l)······”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。 1.3.4 PH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如PH=11.26([H+]=5.5×10-12mol/l),其有效位数只有两位。 1.3.5有效数字的首位是8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。 2. 数值修约及其进舍规则。 2.1数值修约:是指对似修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。 2.2修约间隔:是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值应为该数值的整数倍。例如指定修约间隔为0.1,作约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。 2.3确定修约位数的表达方式 2.3.1指定数位 2.3.1.1指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。 2.3.1.2指定修约间隔为1,或指明将数值修约到个数位。 2.3.1.3指定修约间隔为10n(n为正整数)或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”······数位。 2.3.2指定将数值修约成n位有效位数(n为正整数)。 2.4进舍规则 2.4.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例:将12.1498修约到一位小数(十分位),得12.1。 将12.1498修约成两位有效位数,得12。 2.4.2拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。 例:将1268修约到百数位,得13×102。 将1268修约到三位有效位数,得127×10。 将10.502修约到个数位,得11。 2.4.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10-1) 拟修约数值 修约值 1.050 1.0 0.350 0.4 例2:修约间隔为1000(或103) 拟修约数值 修约值 2500 2×103 3500 4×103 例3:将下列数字修约成两位有效位数 拟修约数值 修约值 0.0325

文档评论(0)

panguoxiang + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档