情報科学LectureWikiPukiWiki.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
情?科学 第6回 数?解析1 1数??算とは?代数演算 ? 等式を一定の??のもとに?形して解析的に 求める数??算 ? 反??算によって“近似的に”解を求める ? 解析的に求めることが困?な方程式を解く? 合に用いる 例) 物理学、化学、天文学などにおける数??分 や微分方程式の解法など 2数?解析1トピック数??算における?差数??分微分方程式の解法 31. 数??算における?差?数デ?タ表? ? 浮?小数点表?丸め?差 ? 0.1の2?数表?? ?精度表??倍精度表?桁落ち情?落ち打切り?差 ? Taylor展???数展?の高次?の影? 4?数デ?タ表??算?内の数?デ?タは,有限?のビット列 で表?される大きな数や小さな数を表?するためには, 符号部と指数部,?数部をもった?数表? 浮?小数点表?が利用される IEEE 754 ?数表?に?する?格 符号 ?数 指数 この表?は、例えば、1.0101…010を2?数として解?するという意味である 5 バイアス(指数が?の?をとれるようにするため)?精度と倍精度 IEEE 754 ?数表?に?する?格?精度 32ビットで?数を表?倍精度 64ビットで?数を表? 指数部と?数部がすべて0の?数は0(±0)を意味する このほかにも±?限大などの表?が可能 6 整数の大小比?回路がそのまま使える丸め?差10?数を2?数で表?する?合、有限桁では 近似的にしか表せないことに起因する?差 例) -4 -5 -8 -9 0.1 2 + 2 + 2 + 2 +… 10 00.000110011… x 2 2 -4 1.10011… x 2 2 0.1 は有限桁では近似的にしか表?できない 10 10?数の小数で1/3や1/7を表す?合に相当) 1/3 0.333333… 1/7 0.142857… 7Ruby 丸め?差の例 # irbで以下を?してみる 0.1*30.3 # 上?と同じことを??するのに以下の?き方もある 0.1*3-0.3.zero? これは0.1の3倍が0.3に等しいかどうかを真?で??するための表?で 数学的には真trueという?果になるはずであるが、??は?falseとなる01 1 1 1 1 1 101 110234 2 0.11.1 0 01 1 21 .1 0 01 12 10 2 2 符号部 指数部 ?数部 0?1入 [0, 01111111011, …110011010] 倍精度表?では 0?1入3 1 1 [0, 01111111101, 001100110011 10 2 01 1 1 1 1 1 12 ?差 0. 31.0 01 121.0 01 12 2 10 2 [0, 01111111101, 0011001100…1100110011]254 丸め?差は 00.0122 # (??)irbで以下を?してみよ 2 0.1*3-0.3 8 0が52? 2**-54 ?0?1入01100110101100110100.001100111000110100 9?精度表??数部23ビット 指数部8ビット ?数の表???は有?桁数は24ビット これは10?数で7桁程度の精度しかないことを意味する -23 -7 1.00…0 1 から1.11…1 2 - 2 ≈ 2 - 1.2 x 10 ≈ 2 2 2 -38 38 指数の表???は 1.2 x 10 から1.7 x 10-127 -126 -38-127 2 22 2 ≈ 1.2 x 10 2 と、-127 2 2 は-127 127 38 2 特?な意味を持つので 2 2 ≈ 1.7 x 10 除外してある 127 128 38 最大?の限界は ≈ 2 x 2 2 ≈ 3.4 x 10 となる 10倍精度表??数部52ビット 指数部11ビット ?数の表???は有?桁数は53ビット これは10?数で16桁程度の精度 -52 -16 1.00…0 1 から1.11…1 2 - 2 ≈ 2 - 2.2 x 10 ≈ 2 2 2 -308 307 指数の表???は 2.2 x 10 から9.0 x 10 000…000 -1023 000…01 -1023 -1022 -308 2 22 と 2 2 ≈ 2.2 x 10 111…111 -1023 2 2 は 111…10 -1023 1023 307 特?な意味を持つので 22 2 ≈ 9.0 x 10 除外してある 1023 1024 308 11 最大?の

文档评论(0)

精品文档专区 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档