有效数字修约及运算.docVIP

  1. 1、本文档共4页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
有效数字修约及运算.doc

目 的 正确地进行有效数字判定、修约及运算 规范取样规则 依 据 药典“凡例” 国家标准《数值修约规程》 《 中国药品检定标准操作规范》 适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。 主要内容 1、有效数位的判断 1.1有效数字的基本概念 有效数字系指在药检工作中所能得到有实际意义的数值。是由可靠数字和最后一位不确定数字组成的。最后一位数字的欠准程度通常只能是上下差1单位。? 1.2有效数位的判断 1.2.1从非零数字最左一位向右数得到的位数减去无效零。 例: 350×102 保留三位有效数,两个无效零。 35×103? 保留二位有效数,三个无效零。 1.2.2从非零数字最左一位向右数而得到的位数。 例: 3.2 两位有效数字 0.032 两位有效数字 0.0320 三位有效数字 1.2.3有效位数可视为无限多位的 1.2.3.1 非连续型数值(如个数、分数、倍数) 1.2.3.2 常数π,e和系数√2 1.2.3.3 (0.1 mol/L)滴定液的名义值 1.2.3.4 规格、标示量 1.2.4 pH值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。 例: pH=11.26([H+]=5.5×10-12 mol/L),其有效位数只有两位。? 1.2.5有效数字的首位数字为8或9时,其有效位数可以多计一位。 例: 85% 三位有效位数 115% 三位有效位数 99.0% 四位有效数字 101.0% 四位有效数字。? 2、数值的修约及取舍规则 进舍规则:四舍六入五考虑。五后非零则进一, 五后全零看五前,五前偶舍奇进一, 不论数字多少位,都要一次修约成。 RSD修约:只进不舍 例: 0.163% 修约成2位有效数位 →0.17% 不许连续修约:拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。 ? 例:修约15.4546,修约间隔为 ?1? ? 正确的做法为:15.4546—15;? 不正确的做法为:15.4546→15.455→15.46→15.5→16 ? 修约间隔为0.5(熔点值修约)? 50.8、50.9 修约值为51 50.1、50.2 修约为50。 50.3、50.4、50.5、50.6、50.7修约值均为50.5 修约间隔为1(熔点值修约)?,则按照四舍六入五成双修约。 2.1数值修约? 是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数保留最后一位数或最后几位数。? 2.2修约间隔 是确定修约保留位数的一种方式,是修约值的最小数值单位。修约间隔为0.1时,数值修约至小数点后一位,修约值应为该数值的整数倍。 2.3确定修约位数的表达方式一,指定修约位数? 2.3.1指定修约间隔10-n,或将数值修约到小数点后n位; 2.3.2指定修约间隔为1,修约到个位; 2.3.3指定修约间隔为10n,‘十”“百”“千”…数位。? 2.4 确定修约位数的表达方式二,指定修约有效位数?(n为正整数) 例: 按照标准规定指标修约。应≤0.3 3.运算规则 相加减时 以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准 相乘除时 以诸数值中相对误差最大(即有效位数最少)的数值为准 在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。 →3步走: 一、判定有效数位   二、过程多保留1位 三、结果修约 例1? 13.65+0.00823+1.633=?? ? ? ? 本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其它各数均暂先保留至千分位。 ? ? ??即把0.00823修约成0.008,1.633不变, 进行运算: 13.65+0.008+1.633=15.291? 最后对计算结果进行修约,15.291 应只保留至百分位,而修15.29 。? ? ? ? 例2? 14.131×0.07654÷0.78=? ? ? ? 本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。? 计算;? ? ? 14.131×0.07654÷0.78? =14.1×0.0765÷0.78 ? =1.08÷

您可能关注的文档

文档评论(0)

caijie1982 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档