情報科学序論

2014年度
プログラミングⅠ
~ シフト演算・数値データ ~
担当教員: 幸山 直人
2014年度 プログラミングⅠ
数値データに関する注意事項



固定小数点表示による四則演算の誤差の評価は容
易である(主にオーバーフローとアンダーフローが起
きる;除算では、商の小数点以下の値が誤差となる)。
解決するには浮動小数点表示を用いれば良い。
イクセス表現を用いると数値の絶対的な大きさを瞬
時に判別できる(大小判別、加算、減算に有利)。
浮動小数点表示による四則演算の誤差の評価はか
なり難しい(一歩間違えると非常に大きな誤差を生じ
たり、意図しない値が結果として表示される)。プログ
ラミングでは、これらを回避するために様々な手法が
取り入れられる(人が手で計算するのとは勝手が違
う)*詳細についてはプログラミングⅡの授業で扱う