Probablemente Excel te oculta que x no tiene el valor exacto de 1 en esa celda. Calcule el valor de x-1. Y tu verás.
La razón es que 0.1 o 0.01, etc., que agregó al limpiar varias celdas no se almacenan exactamente.
Esto se debe a que los números se almacenan en binario y 0.1 es una fracción recurrente en binario, por lo que NO PUEDE almacenarse exactamente.
1/2 es exactamente 0.1 binario
Pero 1/5 es 0.00110011 recurrente como con decimales recurrentes
0.0011 binario recurrente es
0011/1111 binario o 3 / (15) decimal o 1/5
Entonces 1/10 se almacena como el producto de 1/2 y 1/5 es decir
____
0.00011
Pero, por supuesto, los decimales recurrentes no se pueden almacenar en un número o bits finitos, creo que 63 bits en Excel, lo que da una precisión de 1 en 2 ^ 62 aprox.
Aproximadamente 1 de cada 10 ^ 18
Pero este error aumentará a medida que se sumen los números
- ¿Soy demasiado estúpido para las matemáticas si he estado atrapado por un concepto simple como la regla de la cadena en el cálculo durante 6 días?
- ¿Se puede relacionar la identidad de Euler con la proporción áurea?
- ¿Qué son las caracterizaciones de funciones analíticas reales distintas de la definición?
- ¿La economía está fuertemente basada en las matemáticas?
- ¿Cuál es el operador de Laplace en términos de "laico"?
En mi prueba, agregando 100 valores aumentando en .01 obtuve una precisión de aproximadamente 1 en 10 ^ 15, que es aproximadamente 1 en 2 ^ 50
Si es importante para usted obtener los números lo más precisos posible sin errores redondeados acumulados, entonces lo que debe hacer es configurar una columna que diga A que solo cuenta 1,2,3, etc. y luego calcular x usando x = A / 100 o similar. Creo que obtendrás x saliendo exactamente como 1.
Como antes, se puede ver el valor exacto (ya sea cambiando el formato o) restando uno y mostrando solo el error (si lo hay)
Mathsfolk
