Законы больших чисел

Типичным примером применения на практике ЗБЧ является следующая задача об измерениях в условиях помех.

Предположим, что производится измерение некоторой физической величины . При этом в действительности результат измерения есть значение СВ , где - погрешность измерения, которую естественно считать СВ с . Для повышения точности измерения величины на практике всегда поступают следующим образом. Измерения производят как можно в большем количестве и в одинаковых условиях, стараясь обеспечить независимость измерений друг от друга. Получают при этом результаты (значения СВ ). В качестве приближенного значения величины принимают среднее арифметическое результатов измерений:

. (4.16)

ЗБЧ позволяют:

- указать точный смысл приближенного равенства (4.16);

- ответить на вопрос о точности приближенного равенства (4.16);

- указать условия, при которых утверждения типа приближенного равенства (4.16) справедливы.

Определение. Говорят, что последовательность СВ имеющих конечные математические ожидания подчиняется закону больших чисел (ЗБЧ), если для любого

(4.17),

или, более кратко,

Важно выделить частный случай, когда все СВ в последовательности имеют одинаковые математические ожидания .Тогда утверждение ЗБЧ(4.17) принимает вид:

то есть

(в частности, утверждение типа ЗБЧ, имеет вид для одинаково распределенных СВ).

Рассмотрим несколько вариантов ЗБЧ, причем начнем с наиболее общего из них.

Теорема 1(Маркова) (ЗБЧ для зависимых, разнораспределенных СВ).

Пусть - последовательность СВ, имеющих конечные математические ожидания и дисперсии и выполняется условие:

. (условие Маркова)

Тогда эта последовательность СВ подчиняется ЗБЧ, то есть выполняется соотношение (4.17).

▲ Обозначим . Тогда по свойствам математического ожидания и дисперсии имеем:

В силу неравенства Чебышева (4.15)

Но по условию Маркова . Поэтому, переходя в последнем соотношении к пределу при , получаем, что для любого , то есть (лемма о двух милиционерах) ■.

Теорема 2(Чебышева) (ЗБЧ для некоррелированных, разнораспределен-ных СВ).

Пусть - последовательность попарно некоррелированных (в частности, попарно независимых) СВ, дисперсии которых равномерно ограничены, то есть

Тогда эта последовательность СВ подчиняется ЗБЧ, то есть выполняется соотношение (4.17).

▲Снова обозначим . Тогда , а по свойствуаддитивности дисперсии для попарно некоррелированных СВ имеем:

В силу неравенства Чебышева (4.15)

Переходя далее к пределу при , получаем, что для любого , то есть ■.

Замечание 1. Теорема Чебышева является фактически следствием теоремы Маркова, поскольку из равномерной ограниченности дисперсий СВ следует выполнение условия Маркова (что и было продемонстрировано при доказательстве).

Замечание 2. Утверждение теоремы Чебышева остается справедливым и при более слабом, чем равномерная ограниченность дисперсий, условии:

Теорема 3 (ЗБЧ для независимых, одинаково распределенных СВ).

Если СВ в последовательности являются независимыми, одинаково распределенными и имеют конечные математические ожидания и дисперсии , то эта последовательность СВ подчиняется ЗБЧ, то есть

▲ Обозначим по-прежнему . Тогда

Из неравенства Чебышева (4.15) получаем:

Переходя в последнем соотношении к пределу при , получаем, что для любого , то есть ■.

Замечание 1. Теорема 3 является очевидным следствием теоремы Чебышева и ее можно было бы не доказывать. Доказательство приведено здесь только для того, чтобы утверждению теоремы придать самостоятельность.

Вернемся теперь к задаче об измерениях в условиях помех.

Проведение независимых наблюдений над СВ , где , эквивалентно проведению одного наблюдения над независимыми, распределенными также как СВ . При этом для любого . В силу Теоремы 3 такая последовательность СВ подчиняется ЗБЧ, то есть

Таким образом, среднее арифметическое результатов измерений при больших мало отличается от измеряемой величины с вероятностью, близкой к 1. Это и есть точный смысл приближенного равенства (4.16).

Точность приближенного равенства (4.16) характеризуется величиной дисперсии среднего арифметического измерений

которая оказывается в раз выше, чем точность одного измерения, равная . Этот факт и объясняет требование к проведению на практике как можно большего числа измерений в условиях, обеспечивающих их независимость друг от друга.

Теорема 4 (Бернулли).

Относительная частота появления события в независимых испытаниях, проводимых по схеме Бернулли, сходится по вероятности при к вероятности наступления события в одном испытании, то есть для любого

или, кратко

при .

▲ Обозначим - число появлений события А в -ом испытании. СВ принимает два значения 1 и 0, вероятности которых равны:

Все СВ , являются независимыми и одинаково распределенными, причем для любого

В силу Теоремы 3 последовательность СВ подчиняется ЗБЧ, то есть

Осталось заметить, что и поэтому ■.

Замечание. Пусть . Поскольку СВ - число успехов в независимых испытаниях по схеме Бернулли, то ее можно представить в виде:

, (4.18)

где - СВ из доказательства теоремы Бернулли (их называют еще бернуллиевскими). Из представления (4.18), свойств математического ожидания и дисперсии и того, что , имеем:

Это есть более простой способ нахождения числовых характеристик биномиальной СВ, чем просто по определению (как это делалось ранее).

Теорема Бернулли является обоснованием статистического определения вероятности, в соответствии с которым за неизвестную вероятность события принимается его известная относительная частота появления в независимых испытаниях. Теорема Бернулли утверждает, что действительно вероятность неравенства для сколь угодно малого может быть при достаточно большом числе испытаний сделана как угодно близкой к 1.

Физическая суть ЗБЧ состоит в том, что различные по алгебраическим знакам случайные отклонения независимых (или слабо зависимых) СВ , от их общего среднего значения при большом в массе своей взаимно погашаются. Поэтому, хотя сами величины , и случайны, но их среднее при достаточно большом практически уже неслучайно.

Из ЗБЧ также следует, что путем усреднения наблюдаемых значений любой СВ можно достаточно точно определить ее математическое ожидание (если оно неизвестно). Такого типа задачи решаются в математической статистике.

Замечание. Заметим, что во всех приведенных теоремах 1 – 4 справедлива на самом деле и более сильная сходимость в среднем квадратическом.

Действительно,

Пример. Пусть - последовательность случайных величин, дисперсии которых ограничены одной и той же постоянной , а коэффициент корреляции любых случайных величин и , не являющихся соседними в последовательности, равен нулю. Подчиняется ли эта последовательность случайных величин закону больших чисел?

Решение. Проверим выполнение условия в теореме Маркова:

Из свойств дисперсии следует, что где - корреляционный момент случайных величин и . Но для , по условию, , если . Следовательно, в сумме равны нулю все слагаемые кроме, может быть, (их ровно ).