Центральная предельная теорема

Закон больших чисел.

Теорема. Пусть – последовательность независимых одинаково распределенных случайных величин (i.i.d.r.v.) с , , и . Тогда

т.е.

Доказательство. Пусть

Тогда фиксированного

и

следовательно,

таким образом,

и, следовательно,

Теорема доказана.

Теорема. Пусть – последовательность независимых одинаково распределенных случайных величин (i.i.d.r.v.), невырожденных с , и . Тогда при

Доказательство. Пусть , и ,

При фиксированном и

но – характеристическая функция , так как

Теорема доказана.

Для вектора характеристическая функция

Теорема. Компоненты вектора независимы тогда и только тогда, когда характеристическая функция вектора равна произведению характеристических функций его компонент.

Доказательство. Необходимость очевидна.
Докажем достаточность.

Пусть .

Следовательно, . Теорема доказана.

Для гауссовского вектора с плотностью

и некоррелированность компонент эквивалентна их независимости.

6. Условные математические ожидания

Условная вероятность относительно конечного разбиения

Условная вероятность простой случайной величины

где

Данная формула, очевидно, обобщается на случай произвольной интегрируемой случайной величины.

Предложение. Для случайной величины с – оптимальная в среднеквадратическом смысле проекция на т.е., если – оценка , то

Доказательство. Для произвольной функции

Тогда

Так как это точка экстремума, то

Следовательно,

следовательно,

Построим для -алгебры (пример ) .

Обобщая

с

на случай (когда нельзя говорить об ) введем

Определение. Условным математическим ожиданием случайной величины относительно называется случайная величина такая, что

 1) (т.е. -измерима)

 2) .