情報科学-lecture.ecc.u.pptVIP

情報科学 第６回　数値解析(1) 数値計算とは？ 代数演算 等式を一定の規則のもとに変形して解析的に求める 数値計算 反復計算によって”近似的に”解を求める 解析的に求めることが困難な方程式を解く場合に用いる 数値解析(1)トピック 数値計算における誤差 数値積分 微分方程式の解法 1.数値計算における誤差 実数データ表現 浮動小数点表現 丸め誤差 0.1の2進数表記? 単精度表現?倍精度表現 桁落ち 情報落ち 打切り誤差 Taylor展開?級数展開の高次項の影響 実数データ表現 計算機内の数値データは，有限長のビット列で表現される 大きな数や小さな数を表現するためには， 符号部と指数部，仮数部をもった実数表現　　(浮動小数点表現)が利用される 単精度と倍精度 単精度　32ビットで実数を表現 倍精度　64ビットで実数を表現 丸め誤差 10進数を2進数で表現する場合、有限桁では近似的にしか表せないことに起因する誤差 丸め誤差の例 ..0110011010 ..1100110100 ------------------- ..0011001110 .単精度表現 仮数部23ビット 指数部8ビット 倍精度表現 仮数部52ビット 指数部11ビット 桁落ち 計算機の数値計算では誤差が拡大する可能性がある 桁落ち誤差と情報落ち誤差がある 桁落ち誤差 近い数値間の