Закрепим пройденный учебный материал

Необходимо соблюдать правила обращения со значащими цифрами [11].

Как уже отмечалось, з начащими цифрами в числах принято называть все цифры 1, 2, 3,…9, в также нуль, но только в тех случаях, когда он стоит в середине или в конце числа; если же нули стоят в десятичной дроби с левой стороны для указания разряда остальных цифр, то они значащими не являются. Так, в дробях 1,017; 0 ,17; 0,0 17 и 0,00 17 первая из них имеет четыре значащие цифры, а три последние – по две значащие цифры. Это станет ясным, если три последние дроби написать в таком виде: 17 ^. 10^-2, 17 ^. 10^-3 и 17 ^. 10^-4.

Следует твердо помнить, что сохранение большого количества значащих цифр (превышающего точность определения) характеризует не точность результатов, а лишь неумение исполнителя обращаться с результатами измерений.

При расчетах всегда необходимо учитывать точность, с которой ведутся измерения физико-химических величин. Одной из грубейших и часто встречающихся ошибок при вычислениях является излишняя, неоправданная точность вычислений.

Например, масса m вещества определена на технических весах с точностью до 0,01 г, а объем W измерен мензуркой с точностью до 0,1 мл. При этом получено:

m = 28,34 г; W= 8,4 мл.

При определении плотности ρ нет надобности в делении с точностью до четвертого знака, например:

ρ = 28,34 / 8,4 = 3,3738, нужно ρ = 28,34 / 8,4 = 3,4.

При математических операциях с величинами, измеренными с разной точностью, необходимо строго придерживаться следующих правил:

1. Число знаков в результате, полученном при опыте, должно указывать на точность измерения, причем предпоследний знак должен быть точным, а последний – приближенным.

Например, из ряда наблюдений определено среднее значение плотности ρ = 0,9345 г/см³, квадратическая ошибка среднего составляет 0,00 24 (две значащие цифры). Следовательно, уже третья цифра является приближенной, и должен получиться ответ

ρ = 0,9345 0,002 г/см³.

2. При арифметических действиях над приближенными числами поступают следующим образом:

а) при сложении (и вычитании) сохраняют после запятой столько значащих цифр, сколько их имеется в числе, измеренном с наименьшей точностью;

б) при умножении и делении сохраняют столько значащих цифр, сколько их имеется в числе, измеренном с наименьшей точностью;

в) при возведении в степень и извлечении корня сохраняют в результате столько значащих цифр, сколько их имеется в возводимом в степень или подкоренном числе;

г) при логарифмировании в результате вычисления сохраняют в мантиссе столько значащих цифр, сколько имеется их в логарифмируемом числе.

Например, при сложении чисел 0,28 4; 25,86 и 3,58 94 необходимо оставить в каждом числе два знака после запятой:

0,28+25,86+3,59 = 29,73.

Для приведенного ранее примера определения плотности в результате измерения следует оставить только две значащие цифры:

ρ = 28,34 / 8,4 = 3,4.

Вычисляя это выражение с помощью логарифмов, следует записать:

lg ρ = lg 28,34 - lg 8,4 = 1,45 – 0,92 = 0,53. ρ = 3,4.

Очевидно, что проводить арифметические действия по указанному выше правилу необходимо только до получения цифры, оставляемой по правилу знаков (подсчета цифр).

3. При округлении приближенных чисел или результатов действий над ними различают два случая:

а) если отбрасывается цифра меньше 5, то предшествующая, остающаяся в результате цифра, не изменяется;

б) если отбрасываемая цифра равна или больше 5, то остающуюся в результате цифру увеличивают на единицу.

При записях результатов необходимо следить за тем, чтобы все числовые значения были приемлемы по порядку величины.

Например, 2,05; 2,06; 2,10; 2 (неверно); 2,00; 2,3 (неверно); 2,30; 2,411 (неверно); 2,41 [11].