--------(--)

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。
2007-08-17(Fri)

誤差

昨日、まちから仕事中のEXCELについてのこんな話を聞いた。
「81.4-80.1の計算結果が小数点表示を増やしていくと途中でおかしくなる」

実際に出してみました。



おぉ、確かに本来なら計算結果は3.7000・・・と続いていくはずが、14桁目を表示
させたところから3.7ではなくなる。。
まぁMicroSo・・・だからなぁと思いつつも調べてみると、こんなお言葉が。
難しいことを延々と書いてますなぁ。。
要はEXCELで計算をする時は15桁以上の計算をすると正確でなくなる・・・という
ことみたいですな(全てではないですが)。
今回の件は、この計算結果をランク付けしようとした時にセルの表示数値が
同じなのに順位が同じにならないというところで偶然発見したようです。
必ずこのような誤差が生まれるということではないみたいですが・・・
普段ならそんな桁の計算をするわけではないので、知りませんでした。
昔だったら生徒さんに聞かれてもおかしくない質問だなや・・・。あぶない。
・・・ftさんも色々やりますな~。
まぁ小数点や%辺りを計算している時は注意・・・めんどくさい。
スポンサーサイト

comment form

管理者にだけメッセージを送る

comment

Unknown

珍しく人の勝利☆

Unknown

まち>

ってかMic・・・の敗北!?
アクセスカウンター
最近の記事
最近のコメント
月別アーカイブ
カテゴリー
カレンダー
09 | 2017/10 | 11
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30 31 - - - -
Ken
ブログ内検索
RSSフィード
リンク
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。