Оценка коэффициентов классической линейной модели множественной регрессии

Рассматривается линейная модель множественной регрессии:

Оценку коэффициентов β уравнения регрессии можно искать исходя из требований минимума модуля отклонения наблюденных значений от "значений" функции регрессии, либо из критерия минимума суммы квадратов отклонений наблюденных значений от "значений" функции регрессии (метод наименьших квадратов) более удобного с позиции технической реализации.

Перейдем к оценке коэффициентов методом наименьших квадратов (МНК). Выпишем квадратичный функционал, обозначив через оценку вектора β

Воспользовавшись необходимым условием существования экстремума, найдем

В силу предположения о справедливости условий Гаусса-Маркова, в частности (rangХ=k+1), матрица – не вырождена и получим МНК-оценки для вектора β:

и, следовательно, оценку уравнения регрессии