Qué grupo de mediciones es el más preciso: 3g, 4g, 5; 3,0 g, 4,0 g, 5,0 g; 3,10 g, 3,20 g, 3,23 g; o 3.0g, 4.0g, 5.0g, 6.0g?

Esta pregunta sobre la precisión debe hacerse con mayor precisión. Hay [al menos] dos interpretaciones razonables, según el contexto.

  1. La precisión de una medición individual se basa aproximadamente en la cantidad de dígitos significativos a los que se expresa: cuanto más significativos sean los dígitos, más precisa será la precisión. (Existen otras formas estrechamente relacionadas, pero no idénticas, de evaluar cuál tiene la “mejor” precisión, como el valor posicional del dígito menos significativo que se muestra). Cada valor en el primer grupo de la pregunta se expresa en 1 dígito significativo y al 1 g más cercano; los grupos 2 y 4 tienen valores con 2 dígitos significativos y al 0.1 g más cercano; el grupo 3 tiene valores con 3 dígitos significativos y medidos al 0.01 g más cercano. (Tenga en cuenta que 3.0 gy 0.0030 kg se miden con el mismo nivel de precisión, ambos con 2 dígitos significativos y ambos con 0.0010 kg = 1.0 g más cercano). Por lo tanto, en esta categoría de sentidos, el grupo 3 tiene las mediciones más precisas [ individualmente].
  2. Para una colección de mediciones, la precisión generalmente se usa para indicar qué tan cerca están las mediciones entre sí, no con qué precisión se expresa cada valor. Esto normalmente se evalúa a través de la desviación estándar de los valores, a menudo en comparación relativa a la media, por lo que uno podría referirse a la precisión como tantas partes por millón de precisión relativa, por ejemplo. El Grupo 3 tiene la colección de medidas más compacta, por lo que es la más precisa en este sentido.

Con los conjuntos de datos dados en esta pregunta, ambas formas de ver la precisión consideraban al grupo 3 como la precisión más fina. Los dos métodos no siempre están de acuerdo. Un desacuerdo a veces indica que los valores de datos individuales pueden no expresarse en un número apropiado de dígitos significativos. Una regla general es que los niveles de incertidumbre (a menudo indicados por una evaluación de la desviación estándar de la media de una colección de valores) deben expresarse en dos dígitos significativos y la medida media debe expresarse en el mismo nivel de valor posicional. Por ejemplo, el “mejor” valor actual para la constante de Planck a menudo se escribe como:
h = 6.626 070 040 (81) × 10⁻³⁴ J · s,
que es notación abreviada para:
6.626 070 040 × 10⁻³⁴ J · s ±
0,000 000 081 × 10⁻³⁴ J · s,
para el cual la primera línea es el mejor valor determinable actualmente y la segunda línea es la incertidumbre como una desviación estándar; observe los 2 dígitos significativos en la incertidumbre, el menos significativo de los cuales está en el lugar de 10⁻⁴¹ J · s, entonces el el valor determinado para h también se escribe en el lugar 10⁻⁴¹ J · s más cercano.
Esta determinación de h tiene una incertidumbre relativa de 1.2 × 10⁻⁸ y 10 dígitos significativos.

En la ciencia experimental, usamos la palabra “precisa” de una manera especial, y la distinguimos de una definición especial de “precisa”.

En este uso especializado del lenguaje, la precisión es una indicación del número de cifras significativas reportadas. Entonces 3.14 es menos preciso que 3.14159. En este caso, también es una estimación menos precisa de pi.

Por otro lado, 3.14000000000 es más preciso que 3.1416 y, sin embargo, es menos preciso.

En las publicaciones de física, generalmente está mal visto dar más decimales de los que garantiza la precisión de la medición. Hacerlo puede engañar al lector o al público. Puede dar la impresión errónea de que el resultado es más preciso de lo que realmente es. Esto lo vemos con frecuencia en las encuestas informadas, en las que un candidato puede adelantarse en 2 puntos porcentuales; luego una nota al pie indica que la precisión de las encuestas se estima en 3 puntos porcentuales. En otras palabras, el candidato principal en las encuestas podría estar rezagado en la realidad.

Por otro lado, si tiene muchos números para promediar, a menudo tiene sentido informar un valor con cifras más significativas que las justificadas por la precisión. Hacer eso reduce el peligro de “error de redondeo”. Entonces, los científicos generalmente informarán un dígito adicional.

Una convención comúnmente utilizada es poner los dígitos inciertos entre paréntesis. Por lo tanto, si hiciera un cálculo impreciso de pi, podría escribir pi = 3.141 (44). El lector sabe que desconfía de los dos últimos dígitos. Y, sin embargo, en este caso, si los incluyera, obtendría un resultado más preciso que el simple 3.141.

En el uso general de los no científicos, no existe una gran diferencia entre “preciso” y “preciso”. Un periodista que los usa indistintamente no está equivocado; el periodista simplemente no está adoptando la convención de los científicos.

Si miro su conjunto de números, el tercer conjunto es el más preciso. Si supongo (no dices esto) que todos representan nuevas mediciones del mismo peso, entonces el tercer conjunto de mediciones es el más coherente y, por lo tanto, puede ser el más preciso. Pero eso podría no ser cierto. Podría ser que la escala informa más dígitos, pero se atascó y no los informa con precisión a pesar de que son consistentes entre sí. Eso se llama un error sistemático . Para ver si ese es el caso, se requieren mediciones con pesos calibrados y otras medidas para reducir la posibilidad de sesgo sistemático.

Cuando mi amigo Steve Koonin visitó el laboratorio de Pons y Fleishman, los científicos de Utah que habían informado sobre el descubrimiento de la “fusión en frío”, les preguntó cómo calibraban sus instrumentos. Le dijeron que no lo habían hecho. Tomó eso como una fuerte indicación para sospechar de su trabajo. De hecho, su descubrimiento informado resultó no ser repetible por otros laboratorios más cuidadosos, y ahora está generalmente desacreditado.

Este grupo de números tiene la mayor precisión:

  • 3.10g, 3.20g, 3.23g

No interpreto ninguno de los grupos de medidas como medidas del mismo elemento. Los tomo como medidas de la masa de diferentes artículos.

La razón por la cual estos son los más precisos es porque el último dígito de la lista implica que la medición podría variar en más o menos un dígito en ese lugar. Entonces, estas mediciones tienen una precisión de ± 0.01 g de una magnitud de aproximadamente 3 g. Esa es una precisión de aproximadamente 1 en 300.

El primer grupo,

  • 3g, 4g, 5g

tiene una precisión de aproximadamente 1 en 4.

Los otros dos grupos

  • 3.0g, 4.0g, 5.0g
  • 3.0g, 4.0g, 5.0g, 6.0g

tienen una precisión de aproximadamente 1 en 40. Esto se debe a que enumeran el 0 después del lugar decimal, lo que implica que podrían variar en ± 0.1.

La precisión se refiere a la desviación estándar, o extensión, de un conjunto de medidas. Cuanto más pequeña es la desviación estándar, más precisa es la medición. La precisión se refiere a qué tan cerca está el promedio de un conjunto de mediciones del valor real. Cuanto más cercano esté el promedio al valor real, más precisa será la medición.

Puede tener mediciones muy precisas que son completamente inexactas. La extensión es pequeña, pero el instrumento puede estar defectuoso o no calibrado. Del mismo modo, puede tener una medición precisa, pero con una gran extensión.

Se considera que un conjunto de valores es más preciso cuando la diferencia entre el valor mínimo y el valor máximo es mínima. Por lo tanto, iré por el tercer set.