- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
情?科学
第6回 数?解析1
1数??算とは?代数演算
? 等式を一定の??のもとに?形して解析的に
求める数??算
? 反??算によって“近似的に”解を求める
? 解析的に求めることが困?な方程式を解く?
合に用いる
例) 物理学、化学、天文学などにおける数??分
や微分方程式の解法など
2数?解析1トピック数??算における?差数??分微分方程式の解法
31. 数??算における?差?数デ?タ表?
? 浮?小数点表?丸め?差
? 0.1の2?数表?? ?精度表??倍精度表?桁落ち情?落ち打切り?差
? Taylor展???数展?の高次?の影?
4?数デ?タ表??算?内の数?デ?タは,有限?のビット列
で表?される大きな数や小さな数を表?するためには, 符号部と指数部,?数部をもった?数表?
浮?小数点表?が利用される
IEEE 754 ?数表?に?する?格
符号 ?数 指数
この表?は、例えば、1.0101…010を2?数として解?するという意味である
5
バイアス(指数が?の?をとれるようにするため)?精度と倍精度
IEEE 754 ?数表?に?する?格?精度 32ビットで?数を表?倍精度 64ビットで?数を表?
指数部と?数部がすべて0の?数は0(±0)を意味する
このほかにも±?限大などの表?が可能
6
整数の大小比?回路がそのまま使える丸め?差10?数を2?数で表?する?合、有限桁では
近似的にしか表せないことに起因する?差
例)
-4 -5 -8 -9
0.1 2 + 2 + 2 + 2 +…
10
00.000110011… x 2
2
-4
1.10011… x 2
2
0.1 は有限桁では近似的にしか表?できない
10
10?数の小数で1/3や1/7を表す?合に相当)
1/3 0.333333…
1/7 0.142857…
7Ruby
丸め?差の例
# irbで以下を?してみる
0.1*30.3
# 上?と同じことを??するのに以下の?き方もある
0.1*3-0.3.zero?
これは0.1の3倍が0.3に等しいかどうかを真?で??するための表?で
数学的には真trueという?果になるはずであるが、??は?falseとなる01 1 1 1 1 1 101 110234
2
0.11.1 0 01 1 21 .1 0 01 12
10 2 2
符号部 指数部 ?数部
0?1入
[0, 01111111011, …110011010]
倍精度表?では
0?1入3 1 1 [0, 01111111101, 001100110011
10 2 01 1 1 1 1 1 12
?差
0. 31.0 01 121.0 01 12
2
10 2 [0, 01111111101, 0011001100…1100110011]254
丸め?差は 00.0122
# (??)irbで以下を?してみよ
2 0.1*3-0.3
8
0が52?
2**-54
?0?1入01100110101100110100.001100111000110100
9?精度表??数部23ビット 指数部8ビット
?数の表???は有?桁数は24ビット
これは10?数で7桁程度の精度しかないことを意味する
-23 -7
1.00…0 1 から1.11…1 2 - 2 ≈ 2 - 1.2 x 10 ≈ 2
2 2
-38 38
指数の表???は 1.2 x 10 から1.7 x 10-127 -126 -38-127
2
22 2 ≈ 1.2 x 10 2 と、-127
2
2 は-127 127 38
2
特?な意味を持つので
2 2 ≈ 1.7 x 10
除外してある
127 128 38
最大?の限界は ≈ 2 x 2 2 ≈ 3.4 x 10 となる
10倍精度表??数部52ビット 指数部11ビット
?数の表???は有?桁数は53ビット
これは10?数で16桁程度の精度
-52 -16
1.00…0 1 から1.11…1 2 - 2 ≈ 2 - 2.2 x 10 ≈ 2
2 2
-308 307
指数の表???は 2.2 x 10 から9.0 x 10
000…000 -1023
000…01 -1023 -1022 -308
2
22 と
2 2 ≈ 2.2 x 10
111…111 -1023
2
2 は
111…10 -1023 1023 307
特?な意味を持つので
22 2 ≈ 9.0 x 10
除外してある
1023 1024 308
11
最大?の
文档评论(0)