2020年10月10日

令和元年度 技術士第一次試験問題(再) 情報工学部門 V−10

V−10

コンピュータで数値計算を実施する場合に、誤差が生じることがある。いま、0.01をコンピュータ内部で表現した値を100回足したところ答えが1にはならなかった。プログラム自体に誤りは無いとすると、1にならなかった原因の誤差として最も適切なものはどれか。なお、コンピュータ内部では数値を2進数で扱っており、0.01は2進数では循環小数で表現するものとする。

@ 丸め誤差

A 情報落ち誤差

B 桁落ち誤差

C オーバーフロー

D 打切り誤差




答えはこちら
タグ:丸め誤差
posted by ファーストマクロ at 09:49| Comment(0) | R01技術士一次試験[再](情報工学)