Тема 24. Центральная предельная теорема

Многие задачи ТВ связаны с изучением суммы независимых случайных величин, которая при определенных условиях имеет распределение, близкое к нормальному. Эти условия выражаются центральной предельной теоремой (ЦПТ).

Пусть ξ _1, ξ ₂, …, ξ _n, …– последовательность независимых случайных величин. Обозначим

n η = ξ 1 + ξ 2 +…+ ξ n. Говорят, что к последовательности ξ _1, ξ ₂, …, ξ _n, … применима ЦТП,

если при n → ∞ закон распределения η_n стремится к нормальному:

Суть ЦПТ: при неограниченном увеличении числа случайных величин закон распределения их суммы стремится к нормальному.

Центральная предельная теорема Ляпунова

Закон больших чисел не исследует вид предельного закона распределения суммы случайных величин. Этот вопрос рассмотрен в группе теорем, называемых центральной предельной теоремой. Они утверждают, что закон распределения суммы случайных величин, каждая из которых может иметь различные распределения, приближается к нормальному при достаточ-но большом числе слагаемых. Этим объясняется важность нормального закона для практичес-ких приложений.

Характеристические функции.

Для доказательства центральной предельной теоремы используется метод характеристичес-ких функций.

Определение 14.1. Характеристической функцией случайной величины Х называется функция

g (t) = M (e^itX) (14.1)

Таким образом, g (t) представляет собой математическое ожидание некоторой комплексной случайной величины U = e^itX, связанной с величиной Х. В частности, если Х – дискретная случайная величина, заданная рядом распределения, то

. (14.2)

Для непрерывной случайной величины с плотностью распределения f (x)

(14.3)

Пример 1. Пусть Х – число выпадений 6 очков при одном броске игральной кости. Тогда по формуле (14.2) g (t) =

Пример 2. Найдем характеристическую функцию для нормированной непрерывной случайной величины, распределенной по нормальному закону . По формуле (14.3) (использовалась формула и то, что i ² = -1).

Свойства характеристических функций.

1. Функцию f (x) можно найти по известной функции g (t) по формуле

(14.4)

(преобразование (14.3) называется преобразованием Фурье, а преобразование (14.4) – обратным преобразованием Фурье).

2. Если случайные величины Х и Y связаны соотношением Y = aX, то их характеристические функции связаны соотношением

g_y (t) = g_x (at). (14.5)

3. Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций слагаемых: для

(14.6)

Теорема 14.1 (центральная предельная теорема для одинаково распределенных слагае-мых). Если Х ₁, Х ₂,…, Х_п,… - независимые случайные величины с одинаковым законом распределения, математическим ожиданием т и дисперсией σ ², то при неограниченном увеличении п закон распределения суммы неограниченно приближается к нор-мальному.

Доказательство.

Докажем теорему для непрерывных случайных величин Х ₁, Х ₂,…, Х_п (доказательство для дискретных величин аналогично). Согласно условию теоремы, характеристические функции слагаемых одинаковы: Тогда по свойству 3 характеристическая функция суммы Y_n будет Разложим функцию g_x (t) в ряд Маклорена:

, где при .

Найдем

Если предположить, что т = 0 (то есть перенести начало отсчета в точку т), то .

(так как т = 0). Подставив полученные результаты в формулу Маклорена, найдем, что

Рассмотрим новую случайную величину , отличающуюся от Y_n тем, что ее дисперсия при любом п равна 0. Так как Y_n и Z_n связаны линейной зависимостью, достаточно доказать, что Z_n распределена по нормальному закону, или, что то же самое, что ее характе-ристическая функция приближается к характеристической функции нормального закона (см. пример 2). По свойству характеристических функций

Прологарифмируем полученное выражение:

где

Разложим в ряд при п → ∞, ограничившись двумя членами разложения, тогда ln(1 - k) ≈ - k.

Отсюда

, где последний предел равен 0, так как при . Следовательно, , то есть - характеристическая функция нормального распределения. Итак, при неограниченном увеличении числа слагаемых характеристическая функция величины Z_n неограниченно приближается к характеристической функции нормального закона; следова-тельно, закон распределения Z_n (и Y_n) неограниченно приближается к нормальному. Теорема доказана.

А.М.Ляпунов доказал центральную предельную теорему для условий более общего вида:

Теорема 14.2 (теорема Ляпунова). Если случайная величина Х представляет собой сумму очень большого числа взаимно независимых случайных величин, для которых выполнено условие:

, (14.7)

где b_k – третий абсолютный центральный момент величины Х_к, а D_k – ее дисперсия, то Х имеет распределение, близкое к нормальному (условие Ляпунова означает, что влияние каждого слагаемого на сумму ничтожно мало).

Практически можно использовать центральную предельную теорему при достаточно небольшом количестве слагаемых, так как вероятностные расчеты требуют сравнительно малой точности. Опыт показывает, что для суммы даже десяти и менее слагаемых закон их распределения можно заменить нормальным.

Тема 27.

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

Ц.П.Т. Линдеберга (J. W. Lindeberg)

Пусть независимые случайные величины определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: . Как и прежде построим частичные суммы . Тогда в частности, . Наконец, пусть выполняется условие Линдеберга:

Тогда

по распределению при .

Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины { X_i } имеют конечный третий момент. Тогда определена последовательность

. Если предел