Нормальная, или классическая, линейная модель парной реn грессии (регрессии с одной переменной) строится исходя из слеГ дующих предположений:
1) факторный признак xi является неслучайной или детермиn
нированной величиной, не зависящей от распределения слуn чайной ошибки уравнения регрессии e
2) математическое ожидание случайной ошибки уравнения регрессии равно нулю во всех наблюдениях:
E(
i)=0,
где i =1, n;
3) дисперсия случайной ошибки уравнения регрессии являетn ся постоянной для всех наблюдений:
D (
i)=E(2)=
G 2=const;
4) случайные ошибки уравнения регрессии не коррелированы между собой, т. е. ковариация случайных ошибок любых двух разных наблюдений равна нулю:
Cov (
i,
j)=E(
i j)=0, где
i ¹
j.
Это предположение верно в том случае, если изучаемые данные не являются временными рядами;
5) основываясь на 3 и 4nм предположениях, добавляется услоn вие о том, что случайная ошибка уравнения регрессии являетn ся случайной величиной, подчиняющейся нормальному закоn ну распределения с нулевым математическим ожиданием и дисперсией
G 2/
i ~
N (0,
G 2).
Исходя из указанных предпосылок нормальную линейную моГ дель парной регрессии можно записать в следующем виде:
yi = 0+ 1
xi +
i, (1)
где yi —значениязависимойпеременной, i =1, n; xi — значения независимой переменной;
b, b — коэффициенты уравнения регрессии, подлежащие
оценке;
i — случайная ошибка уравнения регрессии.
Матричная форма нормальной линейной модели парной регрессии:
Y = b X + e, (2)
где
æ y ö
Y ç
y 2÷ ç
yn ÷
— вектор значений зависимой переменной размер ности n ´ 1;
æ1 X = 1
ç1
x 1ö x 2 ÷
÷
xn ø
— вектор значений независимой переменной размерности n ´ 2. Первый столбец является единичным, так как в уравнении регрессии паn
раметр b умножается на 1;
b=çb ÷1
æeöeçe÷
ç ÷ è
n ø
— вектор коэффициентов уравнения регресn сии размерности 2 ´ 1;
— вектор случайных ошибок уравнения регресn сии размерности n ´ 1.
Предположения о модели, записанные в матричном виде:
1) факторный признак x является неслучайной или детермиn нированной величиной, не зависящей от распределения слуn чайной ошибки уравнения регрессии e;
2) математическое ожидание случайной ошибки уравнения регрессии равно нулю во всех наблюдениях:
ç0÷
E()= =0;
è0ø
3) предположения о том, что дисперсия случайной ошибки уравнения регрессии является постоянной для всех наблюдеn ний и ковариация случайных ошибок любых двух разных набn
людений равна нулю, можно записать с помощью ковариациn онной матрицы случайных ошибок нормальной линейной моn дели парной регрессии:
æ 2
S = 0
ç 0
0 0ö G 2 0÷
÷
0 G 2ø
(3)
Данную
ковариационную матрицу можно преобразовать следуюГ
щим образом:
æ1
S = 2ç0
ç
0ö
0÷
G 2
n,
÷
где
G2 — дисперсия случайной ошибки уравнения регрессии e; I
n — единичная матрица размерности
n ´
n.
Ковариация — это показатель тесноты связи между изучаемыn
ми переменными, которая вычисляется по формуле:
Cov (x, y)= x y − x y,
где xy — среднее арифметическое значение произведения факторного и результативного признаков:
n
xiy xy =
i =1
n.
На диагонали ковариационной матрицы случайных ошибок нормальной линейной модели парной регрессии располагаетn ся дисперсия случайных ошибок, так как ковариация переn менной с самой собой равна дисперсии переменной. Таким образом:
Cov (e)=
G 2();
4) случайная ошибка уравнения регрессии имеет нормальный закон распределения:
~
N (0,
G 2I
n).
ЛЕКЦИЯ № 3. Методы оценивания