Критерии согласия

В настоящем п° мы рассмотрим один из вопросов, связанных с проверкой правдоподобия гипотез, а именно—вопрос о согласованности теоретического и статистического распределения.

Допустим, что данное статистическое распределение выравнено с помощью некоторой теоретической кривой f (х) (рис. 7.6.1). Как бы хорошо ни была подобрана теоретическая кривая, между нею и статистическим распределением неизбежны некоторые расхождения. Естественно возникает вопрос: объясняются ли эти расхождения только случайными обстоятельствами, связанными с ограниченным числом наблюдений, или они являются существенными и связаны с тем, что подобранная нами кривая плохо выравнивает данное статистическое распределение. Для ответа на такой вопрос служат так называемые «критерии согласия».

ЗАКОНЫ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ВЕЛИЧИН

[ГЛ. 7

Идея применения критериев согласия заключается в следующем.

На основании данного статистического материала нам предстоит проверить гипотезу Н, состоящую в том, что случайная величина X подчиняется некоторому определенному закону распределения. Этот закон может быть задан в той или иной форме: например, в виде функции распределения F(x) или в виде плотности распределения f (х), или же в виде совокупности вероятностей p_t, где p_t — вероятность того, что величина X попадет в пределы l-то разряда.

Так как из этих форм функция распределения F (х) является наиболее общей и определяет собой любую другую, будем формулировать гипотезу Н, как состоящую в том, что величина X имеет функцию распределения ^(д:).

Для того чтобы принять или опровергнуть гипотезу Н, рассмотрим некоторую величину U, характеризующую степень расхождения теоретического и статистического распределений. Величина U может быть выбрана различными способами; например, в качестве U можно взять сумму квадратов отклонений теоретических вероятностей p_t от соответствующих частот р* или же сумму тех'*же квадратов с некоторыми коэффициентами («весами»), или же максимальное отклонение статистической функции распределения F*(x) от теоретической F(x) и т. д. Допустим, что величина U выбрана тем или иным способом. Очевидно, это есть некоторая случайная величина. Закон распределения этой случайной величины зависит от закона распределения случайной величины X, над которой производились опыты, и от числа опытов п. Если гипотеза Н верна, то закон распределения величины U определяется законом распределения величины X (функцией F(x)) и числом п.

Допустим, что этот закон распределения нам известен. В результате данной серии опытов обнаружено, что выбранная нами мера

7.6]

КРИТЕРИИ СОГЛАСИЯ

расхождения U приняла некоторое значение а. Спрашивается, можно ли объяснить это случайными причинами или же это расхождение слишком велико и указывает на наличие существенной разницы между теоретическим и статистическим распределениями и, следовательно, на непригодность гипотезы Н? Для ответа на этот вопрос предположим, что гипотеза Н верна, и вычислим в этом предположении вероятность того, что за счет случайных причин, связанных с недостаточным объемом опытного материала, мера расхождения U окажется не меньше, чем наблюденное нами в опыте значение и, т. е. вычислим вероятность события:

Если эта вероятность весьма мала, то гипотезу Н следует отвергнуть как мало правдоподобную; если же эта вероятность значительна, следует признать, что экспериментальные данные не противоречат гипотезе Н.

Возникает вопрос о том, каким же способом следует выбирать меру расхождения £/? Оказывается, что при некоторых способах ее выбора закон распределения величины U обладает весьма простыми свойствами и при достаточно большом п практически не зависит от функции F(x). Именно такими мерами расхождения и пользуются в математической статистике в качестве критериев согласия.

Рассмотрим один из наиболее часто применяемых критериев согласия— так называемый «критерий у?» Пирсона.

Предположим, что произведено га независимых опытов, в каждом из которых случайная величина X приняла определенное значение. Результаты опытов сведены в k разрядов и оформлены в виде статистического ряда:

л		^xi> X3	'...
* Pi	* Pi	Рг	• • •	p\

Требуется проверить, согласуются ли экспериментальные данные с гипотезой о том, что случайная величина X имеет данный закон распределения (заданный функцией распределения F (х) или плотностью f(x)). Назовем этот закон распределения «теоретическим».

Зная теоретический закон распределения, можно найти теоретические вероятности попадания случайной величины в каждый из разрядов:

Pv Рг /V

Проверяя согласованность теоретического и статистического распределений, мы будем исходить из расхождений между теоретическими вероятностями p_t и наблюденными частотами р*. Естественно

выбрать в качестве меры расхождения между теоретическим и статистическим распределениями сумму квадратов отклонений (р* — /?,), взятых с некоторыми «весами» c_t:

Коэффициенты c_t («веса» разрядов) вводятся потому, что в общем случае отклонения, относящиеся к различным разрядам, нельзя считать равноправными по значимости. Действительно, одно и то же по абсолютной величине отклонение р* — p_t может быть мало значительным, если сама вероятность p_t велика, и очень заметным, если она мала. Поэтому естественно «веса» с₁ взять обратно пропорциональными вероятностям разрядов р_г

Далее возникает вопрос о том, как выбрать коэффициент пропорциональности.

К. Пирсон показал, что если положить

то при больших п закон распределения величины U обладает весьма простыми свойствами: он практически не зависит от функции распределения F(х) и от числа опытов я, а зависит только от числа разрядов k, а именно, этот закон при увеличении я приближается к так называемому «распределению х²» ')•

При таком выборе коэффициентов c_t мера расхождения обычно обозначается х^2;

Для удобства вычислений (чтобы не иметь дела с дробными величинами с большим числом нулей) можно ввести я под знак суммы

') Распределением х² с г степенями свободы называется распределение суммы квадратов г независимых случайных величин, каждая из которых подчинена нормальному закону с математическим ожиданием, равным нулю, и дисперсией, равной единице. Это распределение характеризуется плотностью

и, учитывая, что где т₁ — число значений в 1-й разряде,

привести формулу (7.6.3) к виду:

если мы требуем только того, чтобы сумма частот была равна единице (это требование накладывается во всех случаях);

если мы подбираем теоретическое распределение с тем условием, чтобы совпадали теоретическое и статистическое средние значения;

Распределение х² зависит от параметра г, называемого числом «степеней свободы» распределения. Число «степеней свободы» г равно числу разрядов k минус число независимых условий («связей»), наложенных на частоты р*. Примерами таких условий могут быть

если мы требуем, кроме того, совпадения теоретической и статистической дисперсий и т. д.

Для распределения х² составлены специальные таблицы (см. табл. 4 приложения). Пользуясь этими таблицами, можно для каждого значения х² и числа степеней свободы г найти вероятность р того, что величина, распределенная по закону х²> превзойдет это значение. В табл. 4 входами являются: значение вероятности р и число степеней свободы г. Числа, стоящие в таблице, представляют собой соответствующие значения х²-

Распределение х² Д^ает возможность оценить степень согласованности теоретического и статистического распределений. Будем исходить из того, что величина X действительно распределена по эакону F(x). Тогда вероятность р, определенная по таблице, есть вероятность того, что за счет чисто случайных причин мера расхождения теоретического и статистического распределений (7.6.4) будет не меньше, чем фактически наблюденное в данной серии опытов значение х²- Если эта вероятность р весьма мала (настолько мала, что событие с такой вероятностью можно считать практически невозможным), то результат опыта следует считать противоречащим гипотезе Н о том, что закон распределения величины X есть F{x). Эту

154 ЗАКОНЫ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ВЕЛИЧИН [ГЛ. 7

гипотезу следует отбросить как неправдоподобную. Напротив, если вероятность р сравнительно велика, можно признать расхождения между теоретическим и статистическим распределениями несущественными и отнести их за счет случайных причин. Гипотезу Н о том, что величина X распределена по закону F (х), можно считать правдоподобной или, по крайней мере, не противоречащей опытным данным.

Таким образом, схема применения критерия у_² к оценке согласованности теоретического и статистического распределений сводится к следующему:

1) Определяется мера расхождения у? по формуле (7.6.4).

2) Определяется число степеней свободы г как число разрядов к
минус число наложенных связей s:

r = k — s.

3) По г и х² ^с помощью табл. 4 определяется вероятность того,
что величина, имеющая распределение у² с г степенями свободы, пре
взойдет данное значение у². Если эта вероятность весьма мала, гипо
теза отбрасывается как неправдоподобная. Если эта вероятность
относительно велика, гипотезу можно признать не противоречащей
опытным данным.

Насколько мала должна быть вероятность р для того, чтобы отбросить или пересмотреть гипотезу, — вопрос неопределенный; он не может быть решен из математических соображений, так же как и вопрос о том, насколько мала должна быть вероятность события для того, чтобы считать его практически невозможным. На практике, если р оказывается меньшим чем 0,1, рекомендуется проверить эксперимент, если возможно — повторить его и в случае, если заметные расхождения снова появятся, пытаться искать более подходящий для описания статистических данных закон распределения.

Следует особо отметить, что с помощью критерия х² (^или любого другого критерия согласия) можно только в некоторых случаях опровергнуть выбранную гипотезу Н и отбросить ее как явно несогласную с опытными данными; если же вероятность р велика, то этот факт сам по себе ни в коем случае не может считаться доказательством справедливости гипотезы Н, а указывает только на то, что гипотеза не противоречит опытным данным.

С первого взгляда может показаться, что чем больше вероятность р, тем лучше согласованность теоретического и статистического распределений и тем более обоснованным следует считать выбор функции F(x) в качестве закона распределения случайной величины. В действительности это не так. Допустим, например, что, оценивая согласие теоретического и статистического распределений по критерию х², мы получили р = 0,99. Это значит, что с вероятностью 0,99 за счет чисто случайных причин при данном числе опытов

7.61

КРИТЕРИИ СОГЛАСИЯ

должны были получиться расхождения большие, чем наблюденные. Мы же получили относительно весьма малые расхождения, которые слишком малы для того, чтобы признать их правдоподобными. Разумнее признать, что столь близкое совпадение теоретического и статистического распределений не является случайным и может быть объяснено определенными причинами, связанными с регистрацией и обработкой опытных данных (в частности, с весьма распространенной на практике «подчисткой» опытных данных, когда некоторые результаты произвольно отбрасываются или несколько изменяются).

Разумеется, все эти соображения применимы только в тех случаях, когда количество опытов п достаточно велико (порядка нескольких сотен) и когда имеет смысл применять сам критерий, основанный на предельном распределении меры расхождения при п— >оо. Заметим, что при пользовании критерием у} достаточно большим должно быть не только общее число опытов п, но и числа наблюдений т₁ в отдельных разрядах. На практике рекомендуется иметь в каждом разряде не менее 5—10 наблюдений. Если числа наблюдений в отдельных разрядах очень малы (порядка 1 — 2), имеет смысл объединить некоторые разряды.

Пример 1. Проверить согласованность теоретического и статистического распределений для примера 1 п° 7.5 (стр. 137, 146).

Решение. Пользуясь теоретическим нормальным законом распределения с параметрами

т = 0,168, а = 1,448,

находим вероятности попадания в разряды по формуле

*.<ь1 *1 — т

где Х[, xi₊₁ — границы г-го разряда.

Затем составляем сравнительную таблицу чисел попаданий в разряды rrt[ и соответствующих значений npi (п = 500).

//	-4; -3	-3; -2	-2; -1	-1;0	0; 1	1; 2	2; 3	3; 4
пц
npi	6,2	26,2	71,2	122,2	131,8	90,5	38,2	10,5

По формуле (7.6.4) определяем значение меры расхождения

Определяем число степеней свободы как число разрядов минус число наложенных связей s (в данном случае s = 3):

г = 8 — 3 = 5.

ЗАКОНЫ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ВЕЛИЧИН

[ГЛ. 7

По табл. 4 приложения находим для г = 5:

при х² = 3,00 р = 0,70; при х² = 4,35 р = 0,50.

Следовательно, искомая вероятность р при х² = 3,94 приближенно равна 0,56. Эта вероятность малой не является; поэтому гипотезу о том, что величина X распределена по нормальному закону, можно считать правдоподобной.

Пример 2. Проверить согласованность теоретического и статистического распределений для условий примера 2 п° 7.5 (стр. 149).

Решение. Значения pi вычисляем как вероятности попадания на участки (20; 30), (30; 40) и т. д. для случайной величины, распределенной по закону равномерной плотности на отрезке (23,6; 96,9). Составляем сравнительную таблицу значений mi и npi (п. = 400):

h	20; 30	30; 40	40; 50	50; 60	60; 70	70; 80	80; 90	90; 100
mi
"Pi	34,9	54,6	54,6	54,6	54,6	54,6	54,6	38,0

По формуле (7.6.4) находим х²:

Число степеней свободы:

г = 8 — 3 = 5. По табл. 4 приложения имеем:

при х² = 20,5 и г = 5 р = 0,001,

Следовательно, наблюденное нами расхождение между теоретическим и статистическим распределениями могло бы за счет чисто случайных причин появиться лишь с вероятностью р я 0,001. Так как эта вероятность очень мала, следует признать экспериментальные данные противоречащими гипотезе о том, что величина X распределена по закону равномерной плотности.

Кроме критерия /², для оценки степени согласованности теоретического и статистического распределений на практике применяется еще ряд других критериев. Из них мы вкратце остановимся на критерии А. Н. Колмогорова.

В качестве меры расхождения между теоретическим и статисти
ческим распределениями А. Н. Колмогоров рассматривает максималь
ное значение модуля разности между статистической функцией рас
пределения F* (х) и соответствующей теоретической функцией рас
пределения: _п _

Основанием для выбора в качестве меры расхождения величины D является простота ее вычисления. Вместе с тем она имеет достаточно

простой закон распределения. А. Н. Колмогоров доказал, что, какова бы ни была функция распределения F (х) непрерывной случайной величины X, при неограниченном возрастании числа независимых на-

Ллтппрний п прппятнпгть HenaRpHCTRa

стремится к пределу

Значения вероятности Р(Х), подсчитанные по формуле (7.6.5), приведены в таблице 7.6.1.

	Р(\)		PW		Р(Ц
0,0	1,000	0,7	0,711	1,4	0,040
од	1,000	0,8	0,544	1,5	0,022
0,2	1,000	0,9	0,393	1,6	0,012
0,3	1,000	1,0	0,270	1,7	0,006
0,4	0,997	1,1	0,178	1,8	0,003
0,5	0,964	1,2	0,112	1,9	0,002
0,6	0,864	1,3	0,068	2,0	0,001