Закон больших чисел (теорема Чебышева).
В данном n° мы докажем одну из простейших, но вместе с тем наиболее важных форм закона больших чисел—теорему Чебышева. Эта теорема устанавливает связь между средним арифметическим наблюденных значений случайной величины и ее математическим ожиданием.
Предварительно решим следующую вспомогательную задачу.
Имеется случайная величина с математическим ожиданием и дисперсией . Над этой величиной производится я независимых опытов и вычисляется среднее арифметическое всех наблюденных значений величины . Требуется найти числовые характеристики этого среднего арифметического - математическое ожидание и дисперсию- и выяснить, как они изменяются с увеличением .
Обозначим:
— значение величины в первом опыте;
—значение величины во втором опыте, и т. д.
Очевидно, совокупность величин представляет собой независимых случайных величин, каждая из которых распределена по тому же закону, что и сама величина. Рассмотрим среднее арифметическое этих величин:
Случайная величина есть линейная функция независимых случайных величин. Найдем математическое ожидание и дисперсию этой величины. Согласно свойствам математического ожидания и дисперсии для определения числовых характеристик линейных функций получим:
Итак, математическое ожидание величины не зависит от числа опытов и равно математическому ожиданию наблюдаемой величины . Что касается дисперсии величины , то она неограниченно убывает с увеличением числа опытов и при достаточно большом может быть сделана сколь угодно малой. Мы убеждаемся, что среднее арифметическое есть случайная величина со сколь угодно малой дисперсией и при большом числе опытов ведет себя почти как не случайная.
Теорема Чебышева и устанавливает в точной количественной форме это свойство устойчивости среднего арифметического. Она формулируется следующим образом:
При достаточно большом числе независимых опытов среднее арифметическое наблюденных значений случайной величины сходятся по вероятности к ее математическому ожиданию.
Запишем теорему Чебышева в виде формулы. Для этого разъясним смысл термина «сходится по вероятности». Говорят, что случайная величина сходится по вероятности к величине ,если при увеличении вероятность того, что и будут сколь угодно близки, неограниченно приближается к единице, а это значит, что при достаточно большом
где—произвольно малые положительные числа.
Запишем в аналогичной форме теорему Чебышева. Она утверждает что при увеличении среднее арифметическое
сходится по вероятности к , т. е.
(6.7)
Докажем это неравенство.
Доказательство. Выше было показано, что величина
имеет числовые характеристики
Применим к случайной величине Y неравенство Чебышева, полагая :
Как бы мало ни было число, можно взять таким большим, чтобы выполнялось неравенство
где — сколь угодно малое число.
Тогда
откуда, переходя к противоположному событию, имеем:
что и требовалось доказать.
Известная теорема Я.Бернулли, устанавливающая связь между частотой события и его вероятностью, может быть доказана как прямое следствие закона больших чисел.
Пусть производится n независимых опытов, в каждом из которых может появиться или не появиться событие А, вероятность появления которого в каждом опыте равна р. Теорема Я. Бернулли утверждает, что при неограниченном числе опытов n частота события А сходится по вероятности к его вероятности р.
Обозначим частоту события А в n опытах через Ри запишем теорему Бернулли в виде формулы
, (6.8)
где и - сколь угодно малые положительные числа.
Требуется доказать справедливость этой формулы при достаточно большом n.
Доказательство. Рассмотрим независимые случайные величины:
Х1 – число появлений события А в первом опыте;
Х2 – число появлений события А во втором опыте, и т.д.
Все эти величины дискретны и имеют один и тот же закон распределения, выражаемый рядом вида
q | p |
Здесь q = 1 – p. Математическое ожидание каждой из этих величин Хi равно р, а ее дисперсия pq (см Л3-п3.2).
Частота Р представляет собой не что иное, как среднее арифметическое величин Х1, Х2,..., Х n:
Р = i / n,
и, согласно закону больших чисел, сходится по вероятности к общему математическому ожиданию этих случайных величин. Отсюда и следует справедливость неравенства (6. 1).