こんにちはゲストさん。会員登録(無料)して質問・回答してみよう!

締切り済みの質問

Excelの演算誤差について教えてください。

1000以下の数値を切り捨てる場合の演算誤差を無くす方法はありますか?
ありましたら、教えてください。

投稿日時 - 2018-01-17 13:35:09

QNo.9419347

困ってます

このQ&Aは役に立ちましたか?

0人が「このQ&Aが役に立った」と投票しています

回答(3)

ANo.3

Excelの数値計算は、14桁以内の整数(小数点を含まない数)を扱う限り、演算誤差は発生しません。

投稿日時 - 2018-01-17 14:20:15

誤差って計算機上の問題で、2進数の小数点は近似値で表示してます。
Excel のツールバーで ←.0 か、セルの書式設定で、表示形式、数値、小数点以下の数字でいじれます。

セルに 0.15 を入力。←.0 をクリック、0.2 って表示になります。

これは「まるめ」ではありませんが、表示上の問題として考えても、体験可能です。

「切捨」なので、演算誤差は考えなくて良いと思います。

「四捨五入」で、小数点以下3桁なら 10000倍して「5」を足し、10000分の1にすれば、誤差は無いと思います。

投稿日時 - 2018-01-17 14:17:26

ANo.1

数値を切り捨てる場合の、演算誤差を無くす方法はありません。
数値を切り捨てるということは、必ず演算誤差がでるということです。

投稿日時 - 2018-01-17 13:42:45