固定小数点数と数値の表現範囲とは?
固定小数点数と数値の表現範囲とは、小数点の位置をあらかじめ固定して数値を表す方式。nビットの2の補数なら −2^(n−1)〜2^(n−1)−1 を表せる。応用情報では表現範囲の計算、桁あふれが起きる条件、浮動小数点との使い分けの判断が問われる。
こていしょうすうてんすうとすうちのひょうげんはんい
固定小数点数と数値の表現範囲の意味
小数点の位置をあらかじめ固定して数値を表す方式。nビットの2の補数なら −2^(n−1)〜2^(n−1)−1 を表せる。応用情報では表現範囲の計算、桁あふれが起きる条件、浮動小数点との使い分けの判断が問われる。
固定小数点数と数値の表現範囲の具体例
16ビット符号付きで下位8ビットを小数部に割り当てると、刻み幅は1/256≒0.0039、範囲は−128〜約127.996。FPUを持たない組込み機器では、センサ値をこの形式で持ち整数演算だけで処理することが多い。
固定小数点数と数値の表現範囲は試験でどう引っ掛けられる?
固定小数点は「精度が低い」のではなく、絶対精度が全域で一定。浮動小数点は相対精度が一定で、値が大きいほど絶対誤差も大きくなる。範囲の広さと精度の一定性はトレードオフの関係にある。
固定小数点数と数値の表現範囲と関連する用語
最終更新:2026-08-25/解説は資格暗記が独自に作成しています。 過去問の出典は各問題に記載のとおりです。