16進数の小数0.248を10進数の分数で表したものはどれか。
16進小数は各桁に16^-nを掛けて足し、分母は2の累乗になる
選択肢
- ア31/32
- イ31/125
- ウ31/512
- エ73/512
正解と解説
正解:エ 73/512
16進小数の各桁は16^-1、16^-2、16^-3の重みをもつ。2/16+4/256+8/4096を通分すると512/4096+64/4096+8/4096=584/4096となり、8で約分して73/512が得られる。分母が2の累乗(512=2^9)になる点も手掛かりになる。
選択肢ごとの解説
- ア約分結果が31/32では値が0.97前後になり、0.248(16)=約0.1426とかけ離れる。
- イ分母125は5の累乗で、16進小数からは決して現れない。
- ウ分母は正しいが分子が誤りで、値が小さすぎる。
- エ2/16+4/256+8/4096=584/4096を約分した正しい値。
同じ分野の他の問題
- 浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。2025年度 公開問題 科目A 問2
- 16進小数0.Cを10進小数に変換したものはどれか。2023年度 公開問題 科目A 問1
- 負数を2の補数で表すとき、8ビットの2進正数nに対し-nを求める式はどれか。ここで、+は加算を表し、ORはビットごとの論…2022年度 公開問題 科目A 問1
- H.264/MPEG-4 AVCの説明として、適切なものはどれか。2019年度 秋期 午前 問24
- 音声のサンプリングを1秒間に11,000回行い、サンプリングした値をそれぞれ8ビットのデータとして記録する。このとき、5…2019年度 春期 午前 問25
最終更新:2026-08-25/解説・選択肢ごとの解説は資格暗記が独自に作成しています。問題文と選択肢の出典は上記のとおりです。