
Excel 2007/2010 では、次のような奇妙な動作が発生します。
Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000
14DP あたりに奇妙な余分な「2」があります。なぜこのようなことが起こるのか説明してくれる人はいますか?
答え1
コメントで述べたように、これはないこれはバグです。これは、値を保存するために使用できるビット数が限られているため、浮動小数点演算の不正確さが避けられないことによるもので、表示するために選択した桁数が多いほど、近似表現が明らかになります。
役に立つ記事をいくつかご紹介します: