Вопрос. Основные предпосылки и методика применения МНК

При оценке параметров уравнения регрессии применяется МНК. Этот метод дает возможность при заданном виде зависимости переменных выбрать ее параметры так, чтобы получаемая кривая наилучшим образом отражала экспериментальные данные. При этом делаются опреде­ленные предпосылки относительно случайной составляющей ε.

Предпосылки МНК:

1. случайный характер остатков

2. Нулевая средняя величина остатков не зависит от х_i

3. гомоскедастичность – дисперсия каждого отклонения ε_i одинакова при всех значениях х_i

4. отсутствие автокорреляции остатков. Значе­ния остатков ε_i распределены независимо друг от друга.

5. остатки подчиняются нормальному распре­делению.

6. модель должна быть линейной относительно параметров.

Рассмотрим задачу наилучшей аппроксимации набора наблюдений (x_t,y_t), t=1,2,..,n линейной функции f(x)=a+bx в смысле минимизации функционала:

Запишем необходимые условия экстремума: (находим частные производные функционала по параметрам и приравниваем к 0)

Раскроем скобки и получим стандартную форму нормальных уравнений:

(*)

Решение системы (*):

Замечание: из первого уравнения системы (*) следует что - уравнение прямой линии полученное в результате min-ции функ­ционала (*) проходит через (.) (х-,у-)

(х-,у-)-выборочные средние значения пере­менных X_t, Y_t

Замечание: мы предполагаем здесь что среди X_t не все числа одинаковые.