Teh-Lib.Ru

Сборник технических статей

  • Увеличить размер шрифта
  • Размер шрифта по умолчанию
  • Уменьшить размер шрифта
Главная Метрология, стандартизация и сертификация Правила округления результатов измерений

Правила округления результатов измерений

Печать

Погрешность результата измерения физической величины дает представление о том, какие последние цифры в его числовом значении являются сомнительными. Поэтому нет смысла выражать погрешность более чем одной или двумя цифрами. В соответствии с установленными правилами погрешность выражается двумя значащими цифрами, если первая из них 1 или 2, и одной, начиная с цифры 3.

Числовое значение результата измерения также следует округлять в соответствии с числовым разрядом значащей цифры погрешности, т.е. числовое значение результата измерения должно оканчиваться цифрой того же разряда или тем же десятичным знаком, которым оканчивается значение абсолютной погрешности. При этом, если старшая отбрасываемая цифра меньше 5, то предыдущая не изменяется. Если старшая отбрасываемая цифра больше или равна 5, но за ней имеются значащие цифры, то предыдущую (оставляемую) цифру увеличивают на единицу. Если отбрасываемая цифра 5 не имеет за собой значащих цифр, то предыдущая не изменяется, если она четная, и увеличивается на единицу, если она нечетная.

Например, при погрешности ±0,01 приведенные результаты округляются следующим образом:

1.214 - 1,21; 
1,2151 - 1,22;
1.215 - 1,22; 
1,225 - 1,22.

Следует осмотрительно относиться к округлениям, производимым в процессе вычислений. Рекомендуется производить округления в окончательном ответе, а вычисление производить с одним-двумя лишними знаками.