precisão

Em uma leitura, indica o número máximo permitido de casas decimais à direita do ponto decimal.

Nota: Você pode digitar um número menor que a quantidade máxima permitida de casas decimais à direita do ponto decimal. O sistema considera que há zeros no final do número especificado.

A precisão indica o grau de refinamento com o qual a calibração é executada ou a medição de calibração é estabelecida.