1. Перед обработкой результатов измерений необходимо задать значение доверительной вероятности α (обычно 0,9 или 0,95).
2. Проанализировать таблицу записи результатов и выявить возможные промахи. Результаты, содержащие промахи, следует отбросить.
3. Вычислить среднее арифметическое значение серии измерений:
(1)
где n – число измерений, Ai – результат i -го измерения.
4. Найти погрешности отдельных измерений:
Δ Аi = Аi – ‹А›. (2)
5. Вычислить среднеквадратичную погрешность среднего арифметического результата серии измерений:
(3)
6. Оценить вклад случайных погрешностей в полуширину доверительного интервала:
Δ А с = t (n, α) S (A), (4)
где t (n, α) – коэффициент Стьюдента (таблица 1).
Таблица 1 - Коэффициент Стьюдента при различных значениях доверительной вероятности α и различном количестве опытов n
α | Количество опытов, n | ||||||||||||||
0,9 | 6,3 | 2,9 | 2,4 | 2,1 | 2,0 | 1,9 | 1,9 | 1,9 | 1,8 | 1,8 | 1,8 | 1,7 | 1,7 | 1,7 | 1,7 |
0,95 | 12,7 | 4,3 | 3,2 | 2,8 | 2,6 | 2,4 | 2,4 | 2,3 | 2,3 | 2,2 | 2,2 | 2,1 | 2,1 | 2,0 | 2,0 |
0,99 | 63,7 | 9,9 | 5,8 | 4,6 | 4,0 | 3,7 | 3,5 | 3,4 | 3,3 | 3,2 | 3,1 | 2,9 | 2,8 | 2,8 | 2,7 |
7. Определить погрешность прибора Δ А пр (абсолютная погрешность прибора указана в паспорте прибора или рассчитывается на основании класса точности прибора).
8. Найти полуширину доверительного интервала (абсолютную погрешность) измеряемой величины по приближенной формуле:
(5)
(Более точные формулы для обработки результатов прямых измерений приведена, например, в [2]).
9. Записать результат измерений в виде доверительного интервала:
А= (‹A› ± Δ А) ед.изм., α = … (6)
10. Определить относительную погрешность:
(7)