Линейные уравнения регрессии (классическая модель)

Линейная регрессия — используемая в статистике регрессионная модель зависимости одной переменной «у» {\displaystyle y}от другой или нескольких других переменных(факторов,регрессоров,независимых переменных) «х»{\displaystyle x} с линейной функцией зависимости.

Модель линейной регрессии является часто используемой и наиболее изученной в эконометрике. А именно изучены свойства оценок параметров, получаемых различными методами при предположениях о вероятностных характеристиках факторов, и случайных ошибок модели.

Класс. подход к оцениванию параметров лин. модели регрессии (т.е. к определению числового значения коэфф. а₀, а₁, …, а_n) основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при кот. сумма квадратов отклонений фактич.значений результативного признака от расчетных минимальна: . Модель регрессии или уравнение регрессии позволяет количест. оценить взаимосвязь между исследуемыми переменными.

Рассмотрим на примере парной регрессии. Оценка параметров парной регрессии производится путем миним.показателя .

Необходимым условием минимума функции 2-х переменных явл. равенство нулю ее частных производных . Приравнивая частные производные к нулю и сокращая на 2, получаем СИ двух лин.урав-ний с двумя неизвестными a₀ и a₁: Раскрывая скобки, и после соответствующих преобразований получаем:

Эти уравнения называются нормальными уравнениями, решение которых дает искомые значения a₀ и a₁. Для уравнения множественной регрессии вида СИ нормальных уравнений образуется также путем миним. суммы квадратов отклонений стат. знач-я результативного признака от его прогнозного значения, рассчитанного с помощью выбранного уравнения регрессии: здесь y – стат. знач-е результ. признака.

Если продифференцировать параметр I последовательно по кажд.коэфф.: a₀, а₁, а₂,…, а_p и приравнять полученные производные нулю, то получим следующую СИ уравнений: Решив СИ уравнений одним из известных способов, получим параметры регрессии.