- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
第3节-2 有效数字与其与误差的关系
注意: 计算机对任何实数的舍入相对误差与实数本身无关,只与计算机字长t有关,通常定义数eps=0.5×β1-t为计算机精度。 由于计算机的精度只与字长有关,计算机字长t越大,其精度越高,有些数值要用双字长处理,双字长数据也称双精度数。 * * §3 有效数字及其与误差的关系 一、有效数字 例如:对无穷小数或着循环小数,可用四舍五入的办法来取其 近似值 若按四舍五入取四位小数,则可得其近似值3.1416 若取五位小数则得到其近似值为3.14159 这种近似值取法的特点是误差限为其末位的半个单位。 定义:当近似值x*的误差限是其某一位上的半个单位 时,我们就称其“准确”到这一位,且从该位起直到前 面第一位非零数字为止的所有数字都称为有效数字。 五位有效数字,精确到0.0001 203和0.0203都是具有三位有效数字的有效数. 0.0203和0.020300: 其中0.0203具有三位有效数字,精确到0.0001, 0.020300具有五位有效数字,精确到0.000001. 可见,两者的精确程度大不相同,后者比前者精确.注:有效数字尾部的零不可随意省去,以免损失精度. 二、有效数字与误差的关系 上式表达了有效数字与相对误差之间的关系,由此 可见,有效数字的位数反映了近似值的相对精确度。 三.计算机舍入误差
您可能关注的文档
最近下载
- 海口市美兰区健身俱乐部会员健身现状的调查与研究.doc VIP
- 第2讲《办好中国的事情关键在党》(课件)《学生读本(小学高年级)》.pptx VIP
- 第1讲《伟大事业都始于梦想》(课件)《学生读本(小学高年级)》.ppt VIP
- 2017初中生物会考最全知识点复习资料(必过).doc VIP
- 儿童呼吸系统疾病雾化治疗合理应用专家共识.pptx VIP
- 铝厂熔铸车间安全常识.pptx VIP
- 《中华人民共和国国家安全法》培训与解读课件.pptx VIP
- 第六章 学习法治思想提升法治素养练习题及答案.docx VIP
- 五年级上册小学高年级学生读本第2讲《办好中国的事情关键在党》教案.doc VIP
- 《公共安全教育》课件.ppt VIP
文档评论(0)