Некоторые наиболее часто встречающиеся ошибки

Пример 1:

Пусть ;

; ; .

Результат вычислений х записан с избыточной точностью. Количество цифр в ответе не должно превышать наименьшее число значащих цифр, среди чисел подставляемых в рабочую формулу. (Значащими цифрами являются все цифры в десятичном изображении, кроме нулей, стоящих в начале числа). В данном случае наихудшая точность у – 3 значащие цифры.

Правильно будет записать .

Пример 2:

При измерениях диаметра цилиндра штангельциркулем получено:

мм, мм, мм.!

В третьей записи ошибка, правильно мм, т.к. штангельциркуль позволяет проводить измерения с точностью до десятой доли миллиметра. (В результатах измерений записывают все цифры, которые показывает прибор, даже если эти цифры нули)

При вычислении среднего записано:

мм.!

Правильная запись: мм, необходимо округлять до трех значащих цифр, в соответствии с точностью проведенных измерений. (В результатах вычислений записывают все точно известные цифры и одну известную не совсем верно. В приведённом примере точно известными нужно считать первые две цифры 1 и 3, т.к. они повторяются во всех измерениях).