Точность вычислений

В итоге измерений или вычислений получается число, в котором различают цифры верные, не содержащие ошибок, и сомнительные, в которых содержатся погрешности.

Абсолютная погрешность показывает, в каком знаке определяемой величины содержится неточность. Поэтому абсолютная погрешность должна быть вычислена с точностью до первой значащей цифры, а численное значение искомой величины должно оканчиваться на этом знаке.

Например, . Округляем: , соответственно . Окончательный результат: .

В промежуточных вычислениях пишут ещё одну цифру, что даёт возможность более точно округлить окончательный результат.