Основные гипотезы. Модель множественной регрессии

Модель множественной регрессии

Естественным обобщением линейной регрессионной модели с двумя переменными является многомерная регрессионная модель, или модель множественной регрессии:

Y_t = b₁ + b₂ x_t2 +…+ b_kx_tk + e_t, t = 1,2,…,n,

или (43)

Y_t = b₁x_t1 + b₂x_t2 +…+ b_kx_tk + e_t, t = 1,2,…,n,

где X_tp – значения регрессора X_p в наблюдении t, а через X₁ обозначен вектор, состоящий из одних единиц (1, …, 1). С учетом этого в дальнейшем мы не будем различать модели вида (43) со свободным членом или без него.

Гипотезы, лежащие в основе модели множественной регрессии, являются естественным обобщением модели парной регрессии:

1. Y_t=b₁x_t1+b₂x_t2+…+b_kx_tk+e_t, t=1,2,…,n – спецификация модели.

2. X_t1, ……,X_tk – детерминированные величины. Векторы

X₁,……..,X_k – линейно независимы в Rⁿ.

3а. Ee_t = 0, E (e_t²) = V (e_t) = s² – не зависит от t.

3б. E (e_t e_s) = 0 при t ¹ s - статистическая независимость (некоррелированность) ошибок для разных наблюдений.

3в. e_t ~ N (0, s²), т.е. e_t – нормально распределенная случайная величина со средним 0 и дисперсией s².

В этом случае модель называется нормальной линейной регрессионной.

Гипотезы, лежащие в основе множественной регрессии, удобно записать в матричной форме, которая главным образом и будет использоваться в дальнейшем.

Обозначим через Y nх1 – вектор-столбец (y_1,…,y_n); b=(b_1,…,b_k), – kх1 – вектор коэффициентов; e=(e_1,…,e_n)^` – nх1 – вектор ошибок;

– nхk – матрица объясняющих переменных.

Столбцами матрицы X являются nх1 векторы регрессоров X_s=(X_1s,…,X_ns)^`, s = 1,2,…,k. Условия 1-3 в матричной записи выглядят следующим образом:

1. Y = xb + e – спецификация модели.

2. X – детерминированная матрица, имеющая максимальный ранг k.

3а,б. E(e) = 0; V(e) = E(ee`) = s²In,

3в. e ~ N (0,s²In), т.е. e – нормально распределенный случайный вектор со средним 0 и матрицей ковариаций s²In (нормальная линейная регрессионная модель).