
En Excel 2007/2010, aparece este comportamiento extraño:
Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000
Extraño '2' adicional sobre 14DP. ¿Alguien puede explicar por qué sucede esto, por favor?
Respuesta1
Como se menciona en los comentarios, esto esnoun insecto. Se debe a la inevitable inexactitud de la aritmética de coma flotante debido al número finito de bits disponibles para almacenar valores, lo que da como resultado una representación aproximada que se hace evidente cuanto más dígitos significativos se elige mostrar.
Aquí hay algunos artículos útiles para usted:
Coding Horror: ¿Por qué las computadoras apestan en matemáticas?
Cómo corregir errores de redondeo en aritmética de punto flotante
La aritmética de punto flotante puede dar resultados inexactos en Excel
Lo que todo informático debería saber sobre la aritmética de punto flotante
Comprender la precisión del punto flotante, también conocido como "¿Por qué Excel me da respuestas aparentemente incorrectas?"(Versión archivada con imágenes.)