Грубые ошибки, как правило, вызваны наличием брака или ошибками экспериментатора. Прежде чем исключить грубую ошибку необходимо ее выявить. Наличие ошибок определяется посредством сравнения полученных расчетным путем критериев β1 и β2 с нормированным значением βmax (см. Приложение 2).
; ;
где xmax, xmin – наибольшее и наименьшее значения из n измерений.
Максимальное значение критерия βmax возникающее вследствие статистического разброса, определяется по таблице распределения статистического критерия в зависимости от числа измерений n и заданной доверительной вероятности Рд.
Если β1 > βmax, то значение xmax следует исключить из серии измерений как грубую ошибку. Если β2 > βmax исключается значение xmin. После исключения грубых ошибок определяют новые значения и σ из n-1 или n-2 и т.д. измерений.