Обобщенная линейная модель множественной регрессии. Обобщенный метод наименьших квадратов

Обобщенная линейная модель множественной регрессии имеет вид

,

где 1) ε – случайный вектор; X – неслучайная (детерминированная) матрица; 2) М (ε)=0; 3) , где Ω – положительно определенная матрица; 4) , где m – число объясняющих переменных; п — число наблюдений.

В отличие от классической, в обобщенной модели ковариации и дисперсии объясняющих переменных могут быть произвольными.

Для оценки параметров модели можно применить обычный метод наименьших квадратов. Оценка

остается справедливой и в случае обобщенной модели. Оценка   по-прежнему несмещенная и состоятельная.

Однако, полученная ранее формула для ковариационной матрицы вектора оценок  оказывается неприемлемой в условиях обобщенной модели.

Оценка , хотя и будет состоятельной, но не будет оптимальнойв смысле теоремы Гаусса—Маркова. Для получения наиболее эффективной оценки нужно использовать другую оценку, получаемую так называемым обобщенным методом наименьших квадратов.

Вопрос об эффективности линейной несмещенной оценки вектора β для обобщенной регрессионной модели решается с помощью следующей теоремы.

Теорема Айткена. В классе линейных несмещенных оценок вектора β для обобщенной регрессионной модели оценка

имеет наименьшую ковариационную матрицу.

Нетрудно проверить, что в случае классической модели оценка обобщенного метода наименьших квадратов  совпадает с оценкой «обычного» метода. Следует также отметить, что для обобщенной регрессионной модели, в отличие от классической, коэффициент детерминации, вычисленный по формуле

не является удовлетворительной мерой качества модели.

В общем случае  может выходить даже за пределы интервала [0;1], а добавление (удаление) объясняющей переменной не обязательно приводит к его увеличению (уменьшению). Поэтому коэффициент детерминации  в обобщенной модели может использоваться лишь как весьма приближенная характеристика качества модели.

В заключение отметим, что для применения обобщенного метода наименьших квадратов необходимо знание ковариационной матрицы вектора возмущений Ω, что встречается крайне редко в практике эконометрического моделирования. Если же считать все  элементов симметричной ковариационной матрицы Ω неизвестными параметрами обобщенной модели (в дополнении к  параметрам β), то общее число параметров значительно превысит число наблюдений n, что сделает оценку этих параметров неразрешимой задачей. Поэтому для практической реализации обобщенного метода наименьших квадратов необходимо вводить дополнительные условия на структуру матрицы Ω.