Как правильно округлить и записать результат

Полученный результат необходимо округлить, так как излишне большое число десятичных знаков создает ложное впечатление о большой точности результата. Например, среднее значение измеряемой величины á m ñ = 7,628 кг. Это совсем не значит, что мы нашли величину с точностью до грамма (цифр на табло калькулятора могло оказаться и больше).

Ноокругляют результат только после расчета и округления абсолютной погрешности.

Абсолютную погрешность округляют до одной, редко двух значащих цифр, а полученный результат округляют в соответствии с погрешностью, т. е. так, чтобы число знаков после запятой в записи среднего значения и погрешности было одинаковым. Например, если оказалось, что D m = ±0,0259 кг, значит погрешность таится уже во втором знаке после запятой, он и должен быть последним в записи результата. В этом случае и среднее значение и погрешность следует округлить до сотых и результат представить в виде

m = (7,63 ± 0,03) кг.

Другой пример. Предположим, что в результате расчетов получили á V ñ = 1758,68 мм3, а D V = ± 42,51 мм3. Так как погрешность составляет десятки кубических миллиметров, то и погрешность, и среднее значение округляют до десятков кубических миллиметров. Результат в этом случае можно записать как в виде

V = (1760 ± 40) мм3,

так и в виде

V = (1,76 ± 0,04)×103 мм3.

Однако вторая запись предпочтительней, потому что при первом же взгляде на результат ясен порядок измеренной величины, а именно видно, что измеренный объем составляет тысячи кубических миллиметров.
Когда значение величины дается готовым (берется из таблицы) без указания погрешности, то погрешность берется равной единице последнего разряда (редко его половине). Например, в таблице r = 7,86×103 кг/м3. Следовательно, Dr = 0,01×103 кг/м3 или Dr = 0,005×103 кг/м3.

Итак: 1) значение измеренной величины округляют после расчета и округления погрешности, тем не менее, переписывать все цифры с табло калькулятора не следует, но оставить 3–4 значащих цифры после запятой имеет смысл;; 2) до запятой предпочтительно оставлять один знак, чтобы при первом же взгляде на результат был ясен порядок измеренной величины.

Значащие цифры в приближенных вычислениях – все цифры числа, начиная с первой слева, отличной от нуля, до последней, за правильность которой можно ручаться. Например, в записи результата взвешивания 0,03020 кг значащими цифрами являются 3, 0, 2 и 0.


Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: