Ｃ言語を用いて実験データ処理用のプログラムを作成する。
いま、double型変数 a、b に２つの測定データが格納されて
いる。a、b の値はともに有効桁数が７桁あり、それぞれ次の
範囲内にあることがわかっている。
3 < a < 3.0001 2.9999 < b < 3
次の演算を行ったときに、もとのa、b と比べて演算結果の
有効桁数が最も失われるものはどれか。
① a + b
② a - b
③ a * b
④ a / b
⑤ sqrt (a * a + b * b)
例えば a = 3.000001、 b = 2.999999 として計算すると
① a + b = 6.000000
② a - b = 0.000002
③ a * b = 8.999999
④ a / b = 1.000001
⑤ sqrt (a * a + b * b) = 4.242641
②以外は有効桁数が７桁のままであるが、
②は有効桁が１桁となる。
このように有効桁数が極端に失われることを桁落ちという。
EXCELのマクロのご相談なら ファーストマクロ へ
タグ：有効桁数
