Измерения и округление чисел

 

Сколько цифр нужно включать в результат?

Количество отбрасываемых цифр выбирают  
1. Исходя из заданного интервала округления
2. Исходя из правил представления погрешности

 


Значение величин в соответствии с правилом 1 представляют в соответствии с ИСО 31-0:1992 Приложение А. Руководство по округлению чисел.

Пример:

Заданный интервал округления Исходное число Округленное число
0,1 12,233 12,2
10 1222,3 1220

Как правильно округлять?

Первая из отбрасываемых цифр Исходное число Округленное число
Меньше 5 0,143 0,14
Больше 5 0,0117 0,012
Равна 5-впреди четн. цифра 70,5 0,065 70 0,06
Равна 5-впреди нечетн. цифра 199,5 0,095 200 0,10

Значение величин в соответствии с правилом 2 представляют согласно

СТ СЭВ 543-77.

Например: Запись 382 означает, что все цифры верны. Если за последнюю

цифру ручаться нельзя, то число должно быть записано 3,8×102.

 


ОКРУГЛЕНИЕ ПОГРЕШНОСТИ ИЗМЕРЕНИЙ

Округление погрешностей производят в соответствии с МП 1317-2004 ГСП.

Результаты и характеристики погрешности измерений.

Характеристики погрешности выражаю числом, содержащим не более 2-х

значащих цифр. Погрешность указывается двумя значащими цифрами, если

первая из них < 3 и одной если первая цифра ≥ 3.
Пример. Правильно: (12,0±0,4); (0.088±0,018);

.............. Неправильно: (12,00±0,40); (0.0877±0,0180);

 



Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: