浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
丸め誤差は有限桁ゆえの四捨五入等で生じる誤差
選択肢
- ア演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- イ数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。
- ウ乗除算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- エ絶対値がほぼ等しい数値の加減算において,上位の有効数字が失われることによって生じる誤差である。
正解と解説
正解:イ 数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。
丸め誤差は、扱える桁数に限りがあるために、表現しきれない下位の部分を四捨五入・切上げ・切捨てで処理した結果生じる誤差である。浮動小数点数では仮数部の桁数が有限なので必ず起こりうる。桁あふれや情報落ち、桁落ちとは発生の原因が異なるので区別する。
選択肢ごとの解説
- ア扱える最大値を超えて生じるのはオーバフロー(けたあふれ)である。
- イ桁数の制限で下位部分を丸めることによって生じる、丸め誤差の説明。
- ウ指数部の差が大きく小さい値の下位が消えるのは情報落ちである。
- エ近い値どうしの引き算で有効数字が失われるのは桁落ちである。
同じ分野の他の問題
- 16進小数0.Cを10進小数に変換したものはどれか。2023年度 公開問題 科目A 問1
- 負数を2の補数で表すとき、8ビットの2進正数nに対し-nを求める式はどれか。ここで、+は加算を表し、ORはビットごとの論…2022年度 公開問題 科目A 問1
- H.264/MPEG-4 AVCの説明として、適切なものはどれか。2019年度 秋期 午前 問24
- 音声のサンプリングを1秒間に11,000回行い、サンプリングした値をそれぞれ8ビットのデータとして記録する。このとき、5…2019年度 春期 午前 問25
- 10進数の演算式7÷32の結果を2進数で表したものはどれか。2019年度 春期 午前 問1
最終更新:2026-08-25/解説・選択肢ごとの解説は資格暗記が独自に作成しています。問題文と選択肢の出典は上記のとおりです。