Dígito Extra Estranho do Excel

Question

No Excel 2007/2010, recebo este comportamento estranho:

Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000

'2' extra estranho com cerca de 14DP. Alguém pode explicar por que isso está acontecendo, por favor?

Answer 1

Como mencionado nos comentários, isso énãoum inseto. Isso se deve à inevitável imprecisão da aritmética de ponto flutuante devido ao número finito de bits disponíveis para armazenar valores, resultando em uma representação aproximada que se torna aparente quanto mais dígitos significativos você escolhe exibir.

Aqui estão alguns artigos úteis para você:

• Ponto flutuante IEEE

• Precisão numérica no Microsoft Excel

• Horror de codificação - Por que os computadores são péssimos em matemática?

• Como corrigir erros de arredondamento na aritmética de ponto flutuante

• A aritmética de ponto flutuante pode fornecer resultados imprecisos no Excel

• O que todo cientista da computação deve saber sobre aritmética de ponto flutuante

• Compreendendo a precisão do ponto flutuante, também conhecido como “Por que o Excel me dá respostas aparentemente erradas?”(Versão arquivada com imagens)