Respuesta corta: los cálculos binarios en la computadora producen pequeños errores.
Explicación:
Excel usa aritmética de coma flotante. Eso significa que cada número se representa como [matemática] 2 ^ t \ cdot n [/ matemática] donde [matemática] t, n [/ matemática] son enteros.
Por otro lado, está utilizando el sistema decimal [matemático] 10 ^ t \ cdot n [/ matemático].
- ¿Es un conjunto vacío lo mismo que "no existe"?
- ¿Hay alguna lógica falsa en matemáticas?
- 1/4 del dinero de Nikhil es igual a 1/6 del dinero de Yogesh. Si ambos juntos tienen Rs. 600, ¿cuál es la diferencia entre sus cantidades?
- La línea K pasa por (1, 1) y (5, 2). La línea M es perpendicular a la línea K. 1) La pendiente de la línea K 2) La pendiente de la línea M ¿Cuál de ellas es mayor? (1 o 2)?
- ¿Por qué se usa X en matemáticas y no en ninguna otra letra del alfabeto?
No todos los números fraccionarios en decimal tienen una representación finita en binario. Por ejemplo, [math] 10.6 = 10 ^ {- 1} \ cdot 106 [/ math] no tiene una representación binaria exacta.
Entonces las computadoras trabajan con una aproximación. En este caso, los números de entrada se almacenan como un número de coma flotante de 64 bits, que está ligeramente fuera de los números que pretendía. Luego se realizan los cálculos. Se pierde algo más de precisión durante la división, etc. (ya que los números de coma flotante se redondean al número re-presentable más cercano después de cada operación aritmética). Finalmente, el número de salida se convierte a decimal con un poco más de redondeo. Entonces su respuesta final está ligeramente desviada.