Проверка статистических гипотез

Статистической гипотезой называется определенное предположение о свойствах распределения вероятностей, которым описываются наблюдаемые случайные величины.

Пусть, например, мы имеем выборку { x₁, x₂, …, x_n } значений случайной величины X, удовлетворяющей нормальному распределению с математическим ожиданием EX= m и дисперсией DX= s ². Рассматривая выборочные значения x_i, мы можем предположить, например, что m=0. Назовем это предположение основной или нулевой гипотезой Н₀. Наряду с основной обычно рассматривают альтернативную гипотезу Н₁, которая может состоять в отрицании основной (m ≠ 0), но может иметь и другой вид. Если, например, есть веские основания полагать, что m=1, это значение принимаем в качестве гипотезы Н₁.

Располагая выборочными данными, мы можем сделать правильный выбор между конкурирующими гипотезами Н₀ и Н₁ только с большей или меньшей вероятностью. Если мы отвергаем основную гипотезу Н₀, а она на самом деле верна, то мы совершаем ошибку, которую принято называть ошибкой первого рода. Если же мы принимаем гипотезу Н₀, а она не верна, то мы совершаем ошибку второго рода.

Вероятность α отвергнуть основную гипотезу в случае, когда она верна, т.е. совершить ошибку 1-го рода, называется уровнем значимости нулевой гипотезы. Обычно уровень значимости полагают равным 0,05 или 0,01. Если нулевая гипотеза не верна, но мы ее принимаем, то совершается ошибка 2-го рода, вероятность которой обозначается β. Число (1 – β) называется мощностью критерия и указывает на вероятность правильного выбора альтернативной гипотезы Н₁.

Перечисленные варианты выбора основной гипотезы приведены на рис.7.

Рис. 7. Схема вариантов выбора основной гипотезы.

В приведенном примере выбор между гипотезами Н₀: m=0 и Н₁: m=1 сделаем, используя случайную величину

распределенную по нормальному закону x ÎN (0,1), если величина s известна, или случайную величину

имеющей распределение Стьюдента с n-1 степенями свободы, если величина стандартного отклонения s нам неизвестна и оценивается по выборке. В обоих случаях определяем число k, такое что

(14.1)

Если найденное по выборке значение x или h удовлетворяет условию |x|< k или |η|< k, то основная гипотеза Н₀: m=0 принимается с уровнем значимости α. Промежуток [ -k,k ] определяет область принятия основной гипотезы. Если выполняются неравенства

(14.2)

то гипотеза Н₀ отвергается, при этом вероятность ошибки первого рода равна α.

Геометрическая интерпретация наших выводов заключается в том, что площадь под графиком плотности нормального распределения или распределения Стьюдента, ограниченного промежутком [ -k,k ], равна 1-α (рис.8). Вероятность того, что значения x или h удовлетворяют неравенствам (14.2) при условии, что основная гипотеза Н₀ верна, равна a.

Аналогичные рассуждения проводятся в случае парной линейной регрессии

y_i=a+bx_i+e_i, i= 1,2 ,…,n.

Если, например, коэффициент b равен нулю, то зависимость между величинами x и y отсутствует. Примем в качестве основной гипотезы утверждение Н₀: b= 0. Известно, что величина t_b=b̃/S_b имеет распределение Стьюдента с n- 2 степенями свободы. Найдем границу области принятия основной гипотезы k=t(n- 2, α ) из условия P(|t_b|<k)= 1 - α.

Если неравенство |t_b| < k выполняется, то принимаем гипотезу b= 0 с уровнем значимости α. Если же |t_b| ≥ k, то полагаем, что коэффициент b значимо отличен от нуля. Аналогичные рассуждения можно провести для коэффициента a, рассматривая отношение t_a=ã/S_a.

Компьютерные статистические программы, например, Statistica, выводят величину уровня значимости p, т.е. вероятности совершить ошибку первого рода, в точности отвечающего имеющимся данным. В примере с коэффициентом b это означает, что P (| t| ≥ |t_b|) = p.

Рис.8. Область принятия основной гипотезы.

Значимость регрессионной модели определяется также с помощью
F -критерия Фишера. Для этого в случае множественной регрессии вычисляется отношение (см.7.1):

где

n — число наблюдений;

m — число оцениваемых параметров;

R² — коэффициент детерминации;

RSS — сумма квадратов отклонений y_i от среднего `y, объясненная регрессией;

ESS — остаточная сумма квадратов отклонений y_i от расчетных значений (см. §7).

Для парной регрессии m=2, эта формула принимает вид(см.7.2):

Можно сказать, что F -критерий определяет отношение факторной и остаточной дисперсии, рассчитанных на одну степень свободы. В качестве основной гипотезы принимаем, что между переменными x_i и y нет функциональной зависимости. Если эта гипотеза справедлива, то факторная и остаточная дисперсии мало отличаются друг от друга. Для опровержения основной гипотезы необходимо, чтобы факторная дисперсия превышала остаточную в несколько раз.

Величина F имеет распределение Фишера с ν ₁=m и ν ₂=n-m- 1 степенями свободы [4]. Задавая уровень значимости α (в частности, принимая α = 0,05) и находя из таблиц или с помощью пакетов MS Excel, Statistica и др. величину F_табл (ν ₁, ν ₂, α), сравниваем вычисленное значение F и F_табл. Если F > F_табл, то уровень регрессии признается статистически значимым и основная гипотеза отвергается. Если же F < F_табл, то основная гипотеза принимается, т.е. зависимость между x и y считается несущественной.