丸め誤差の増幅
47.1%とは？
意味
丸め後の差は0.0001、真の差は0.000068。相対誤差は約47.1%。
?応用情報技術者試験での問われ方
有効数字5桁の十進浮動小数点で、x=1.234567、y=1.234499を丸めてからx−yを計算する。真の差に対する相対誤差は約何%か。
答え：47.1%
✓覚え方
近い数の差は、丸め誤差が大きく見える。
「47.1%」を、演習で定着させる。
無料ではじめる →応用情報技術者試験の過去問を、一問ごとの8-ways解説つきで。まずは無料で。
ukamiru 用語集 · 応用情報技術者試験