2014年度 プログラミングⅠ ~ シフト演算・数値データ ~ 担当教員: 幸山 直人 2014年度 プログラミングⅠ 数値データに関する注意事項 固定小数点表示による四則演算の誤差の評価は容 易である(主にオーバーフローとアンダーフローが起 きる;除算では、商の小数点以下の値が誤差となる)。 解決するには浮動小数点表示を用いれば良い。 イクセス表現を用いると数値の絶対的な大きさを瞬 時に判別できる(大小判別、加算、減算に有利)。 浮動小数点表示による四則演算の誤差の評価はか なり難しい(一歩間違えると非常に大きな誤差を生じ たり、意図しない値が結果として表示される)。プログ ラミングでは、これらを回避するために様々な手法が 取り入れられる(人が手で計算するのとは勝手が違 う)*詳細についてはプログラミングⅡの授業で扱う
© Copyright 2024 ExpyDoc