浮動小数点型変数で遊ぼっ！-わんくま同盟.ppt

* * * * さっきのかけっこでズルしたっしょ？ fld QWORD PTR __real@4341c37937e08000 fld QWORD PTR __real@3fb999999999999a add esp, 12 mov eax,$LN3@main: sub eax, 1 fadd ST(1), ST(0) fadd ST(1), ST(0) fadd ST(1), ST(0) ： ST0 = +1.0000000000000000e-0001 ST1 = +1.0000000000000000e+0016 ST0 = +1.0000000000000000e-0001 ST1 = +1.0000000000000000e+0016 ST0 = +1.0000000000000000e+0016 遊び足りない？ double d1 = 0.1234567; double d2 = 0.1234566; double dd = d1 - d2; d1 = 1.234567016363144e-001 d2 = 1.234565973281860e-001 dd = 1.043081283569336e-007　???有効桁数が小さくなる 浮動小数点数値を減算するときに発生する誤差：桁落ち * * * * * * * * * * * * * * * * * * * * * * * * * * * * * わんくま同盟 大阪勉強会 #20 浮動小数点型変数で遊ぼっ！ 　　　　　　　　　　　　　花子 誰と遊ぶ？ それ、どんな子？ 双子もいるの？　区別つくかなぁ。。。 どこで遊ぶ？ かけっこしよっ！ 限界超えて遊ぶぞっ！　朝までオール？ でもオールは疲れるよ。。。 違う公園も行こー！ さっきのかけっこでズルしたっしょ？ 遊び足りない？ そろそろお寺の鐘もなるし。。。おかたづけ 誰と遊ぶ？ C#ちゃん、VBくんとは遊びません。 Visual C++ 2008だけです。 （Professional Edition 90日間お試し版ですが。。。） 浮動小数点型は??? 　　float, double, long double 　　C言語には　　_Complex ：複素数型 　　　　　　　　　　　_Imaginary：虚数型 今回は、実数の浮動小数点型について それ、どんな子？ 言語仕様では、相対的な精度だけ決まってます。 　　　float≦double≦long double 符号部 指数部 仮数部 単精度 1ビット 8ビット 23ビット 倍精度 1ビット 11ビット 52ビット 拡張単精度 1ビット 11ビット以上 31ビット以上 拡張倍精度 1ビット 15ビット以上 63ビット以上 IEEE 754：浮動小数点演算に関する規格 それ、どんな子？ Visual C++ 2008では??? 　　float ：単精度（32bit） 　　double ：倍精度（64bit） 　　long double：doubleに変換される（64bit） 16ビット版Visual C++では、 拡張倍精度（80bit） それ、どんな子？ 指数部：バイアス（127/1023）を足した値を設定 仮数部：暗黙の１で、精度を１ビット上げる 0.1をfloatにしてみると??? 　　0.0001100110011001100110011001100??? 1.10011001100110011001101×2の-4乗 符号部：0 指数部：-4に127を足して 0111 1011 仮数部：１を取って 100 1100 1100 1100 1100 1101 双子もいるの？　区別つくかなぁ。。。 大丈夫！違う服を着ています。 int main(void) long double ll = 0.1L; float ff = ll; ? ‘long double’ から ‘float’ への変換です。 データが失われる可能性があります。 double dd = ll; ? OK } long doubleはdoubleに変換される Visual C++ 2008では、 精度は同じだけど、型は違う 双子もいるの？　区別つくかなぁ。。。