(1) A diferença (não assinado) entre um valor especificado de uma determinada quantidade e um valor que foi aceite como correta para essa quantidade. Quando esta diferença é conhecida e tem um sinal, ele pode ser chamado uma correção ou um erro, dependendo do ponto de vista do usuário. Quando a diferença é conhecida somente muito aproximadamente, é geralmente referido apenas como alta precisão se pequena e baixa precisão se grandes, sem menção de valores numéricos.

(2) Uma medida da proximidade de um conjunto de valores, medidos ou calculados, para o valor verdadeiro. Também chamado externo precisão ou exatidão exterior por alguns escritores europeus. Precisão é acentuadamente distinto, em inglês, de precisão, que é uma medida da proximidade das medições uns aos outros. Então um conjunto de medidas muito precisas pode ser muito menos preciso do que um conjunto diferente, que é mais preciso, mas menos preciso. Por exemplo, alguns os primeiros geodesistas usando algumas medidas pobres foram capazes de encontrar valores de achatamento da terra muito próximo do valor agora aceitado como correta, enquanto os geodesistas posteriores usando dados mais precisos obtidos valores consideravelmente mais distante do valor presente. a história das medições da velocidade da luz oferece que outro exemplo das medições de muitos, presumivelmente muito precisas, deu valores completamente erradas para a velocidade. Vários tipos diferentes de medida estão em uso. (a) A raiz quadrada do valor médio da soma dos quadrados das diferenças entre os valores em um conjunto e os valores correspondentes de corretos ou padrão. Esta é a medida mais comum e é geralmente referida como a precisão do conjunto de valores. Ela é também referida como exterior precisão ou exatidão externo se a precisão é referida como a precisão interna. (Este último terminologia é rara no uso americano. ) Se (x _i) é o conjunto de valores (medido do calculado) e se s é + √ ( S (x _i - x _io) ²) / m então s é uma medida da precisão, se (x _io) é um conjunto de valores corretos ou padrão e m = I (o número de valores no conjunto). é a precisão se x _io = x, o valor médio da (x _io) e se m = I 1. (b) A média da soma dos valores absolutos das diferenças entre os valores medidos ou calculados e os valores corretos ou padrão. recíproca de (c) do s definido na alínea a. Precisão não pode ser calculada exclusivamente a partir de valores medidos ou calculados. Um valor padrão de (correto) ou conjunto de tais valores deve ser usado para comparação. o padrão pode ser (a) um valor exato, como a soma dos três ângulos de um triângulo de avião; (b) o valor de uma unidade convencional, como o comprimento do medidor internacional, definida a partir da velocidade da luz no vácuo; (c) um valor determinado por métodos refinados e considerado suficientemente perto o valor correto que pode ser usado como tal: por exemplo, a elevação ajustada de uma marca de bancada permanente ou a retícula de uma projeção de mapa.

(3) O desvio padrão. Esta é uma medida de precisão. Ele nunca deve ser usado como uma medida de precisão.

(4) O erro quadrático médio. Que este é aproximadamente o mesmo que o desvio padrão e, como ele, não deve ser usado como uma medida de precisão.

(5) Quando o conjunto (x _i) é composto por números calculados (por exemplo, aqueles em uma tabela matemática), o termo precisão pode significar (a) o número de dígitos significativos em números; (b) a magnitude do dígito menos significativo; ou (c) o número de lugares corretos nos números.