Исключить грубые погрешности (промахи)

При числе наблюдений n> 20 используют, как правило, критерий трех сигм (критерий Райта). По этому критерию, промахом считается результат наблюдения х_i, который отличается от среднего более чем на , т.е. . Вероятность такого результата .

Таблица 4 -– Измерения механическим штангенциркулем

0,02	-0,18	0,02	0,42
0,17	-0,03	-0,08	0,02
0,12	0,02	0,02	-0,03
0,22	-0,23	0,07	-0,03
-0,03	-0,23	0,02	-0,13
0,02	-0,23	-0,13	0,07
0,37	-0,08	-0,08	-0,13
-0,23	-0,03	-0,13	0,02
-0,08	-0,08	-0,13	0,02
0,02	-0,08	-0,03	-0,03
0,02	-0,18	-0,13	-0,03
0,42	-0,08	-0,13	-0,08
0,37	0,02	-0,13	0,07
-0,03	0,37	-0,03	-0,03
0,02	0,02	-0,08	-0,08
0,02	-0,03	-0,03	0,02
-0,03	0,02	-0,13	-0,13
0,37	-0,13	-0,03	0,17
0,02	-0,13	0,02	0,07
0,37	0,37	0,07	-0,08
0,02	0,02	-0,03	-0,08
0,42	0,02	0,02	-0,03
0,02	0,17	-0,23	-0,23
0,02	-0,03	-0,18	0,37
-0,03	-0,08	-0,23	-0,03

Таблица 5 -– Измерения электронным штангенциркулем

-0,07	-0,02	-0,12	0,01
-0,08	-0,07	0,07	-0,05
-0,09	0,14	-0,05	-0,12
-0,17	0,09	0,07	-0,05
-0,03	0,00	-0,04	0,01
-0,22	0,12	0,28	-0,07
0,17	0,00	0,26	0,07
-0,20	-0,08	0,03	0,08
-0,05	-0,02	-0,04	-0,08
0,05	-0,02	-0,08	-0,07
-0,04	0,04	0,24	0,03
0,12	-0,04	0,12	0,00
0,00	-0,08	0,00	-0,03
-0,05	-0,13	-0,06	-0,04
0,02	-0,17	0,36	0,09
-0,11	-0,04	0,00	-0,09
0,03	-0,08	-0,04	0,04
-0,09	-0,04	0,07	0,10
-0,13	0,04	0,31	0,01
0,14	0,13	-0,04	-0,21
0,27	0,06	-0,14	-0,05
0,03	-0,02	-0,13	0,05
0,03	0,11	-0,12	-0,08
0,07	-0,04	-0,06	-0,01
-0,09	0,23	-0,04	-0,16

3 для механического штангенциркуля: 0,033743

3 для электронного штангенциркуля: 0,047123

Определим границы доверительного интервала, в котором с заданной вероятностью (обеспеченностью) находится случайная погрешность среднеарифметического значения измеряемой величины. Формула расчета –

При числе наблюдений n> 20 значения коэффициента t определяют по таблицам функции Лапласа.

для механического штангенциркуля: все значения =0.

Таблица 6 –Измерения для электронного штангенциркуля

	0,000007854
-0,000007854	-0,000007854
	-0,000007854
-0,000405266	0,000007854
	-0,000007854	-0,000007854
		0,000007854
	-0,000007854


	0,000007854
		-0,000007854
0,000007854	-0,000405266

Сумма = -0,00087

Оценим относительную погрешность измеряемой физической величины по формуле

Таблица 7 –Измерения bдля электронного штангенциркуля

0,0000000	0,0000000	-0,0000003	-0,0000003
-0,0000003	0,0000003	0,0000000	0,0000003
0,0000000	-0,0000003	-0,0000003	0,0000000
-0,0000161	-0,0000003	-0,0000003	0,0000000
0,0000000	-0,0000003	0,0000000	0,0000000
0,0000000	-0,0000003	-0,0000161	0,0000000
0,0000000	-0,0000003	0,0000000	-0,0000003
0,0000000	0,0000003	0,0000000	-0,0000003
0,0000000	-0,0000003	0,0000000	0,0000000
0,0000000	0,0000000	0,0000000

Итого, относительная погрешность измеряемой физической величины равна, при измерении механическим штангенциркулем, 0; при измерении механическим штангенциркулем = -0,0000009.