情報科学序論

2012年度
情報科学序論
~ シフト演算・数値データ ~
担当教員: 幸山 直人
2012年度 情報科学序論
指数部におけるイクセス表現



機械的に数値の絶対的な大きさを瞬時に判別できる
(大小判別、加算、減算に有利)。
固定小数点表示による四則演算の誤差の評価は容
易である(主にオーバーフローとアンダーフローが起
きる;除算では、商の小数点以下の値が誤差となる)。
解決するには浮動小数点表示を用いれば良い。
浮動小数点表示による四則演算の誤差の評価はか
なり難しい(一歩間違えると非常に大きな誤差を生じ
たり、意図しない値が結果として表示される)。プログ
ラミングでは、これらを回避するために様々な手法が
取り入れられる(人が手で計算するのとは勝手が違
う)*詳細については情報科学の授業で扱う