Два класса нелинейных уравнений регрессии

Все виды нелинейных регрессионных моделей можно разбить на два класса:

1) нелинейные относительно факторных переменных, но линейные по оцениваемым параметрам;

2) нелинейные по оцениваемым параметрам.

Отличие этих классов друг от друга состоит в том, что функции, линейные по параметрам, представляют собой линейную комбинацию отдельных функций, для каждой из которых все параметры известны.

В свою очередь, нелинейные по параметрам функции делят на два подкласса:

а) модели, которые можно подвергнуть линеаризации (см. далее) – так называемые внешне нелинейные, но внутренне линейные;

б) модели, которые нельзя подвергнуть линеаризации (внутренне нелинейные) – в них для оценки параметров используются численные итеративные процедуры.

Из рассмотренных выше функций к линейным по параметрам относятся все полиномы и гиперболическая функция.

Например, рассмотрим полином второй степени, т.е. квадратическую функцию y = ax² + bx + c. Эта функция нелинейна, но ее можно представить как линейную комбинацию x², x и 1 (эти выражения не содержат неизвестных параметров) с весами a, b и c. Эти веса и есть неизвестные параметры, по которым модель линейна.

Если взять в качестве примера гиперболическую функцию у = a/x +
+ b, то она представляет собой линейную комбинацию 1/x и 1 с весами a и b. Здесь оцениваемые параметры - a и b.

Функция вида y = ax₁x₂ + b – пример полиномиальной множественной регрессии, и она тоже линейна по оцениваемым параметрам (линейно комбинируются x₁x₂ и 1 с весами a и b).

К классу моделей, нелинейных по параметрам, относятся степенная и показательная функции, модифицированная экспонента и т.п. Их невозможно представить в виде линейных комбинаций функций с известными параметрами.

Проводить эконометрическое исследование с нелинейными функциями часто бывает неудобно, поэтому обычно находят способы преобразовать их в линейные. Преобразование нелинейной функции в линейную называют линеаризацией.

Можно условно выделить два типа линеаризации – через замену переменных и через логарифмирование, хотя эти подходы можно и сочетать.

Преобразование путем замены переменных

Обычно этот подход применяют к функциям, линейным по параметрам.

Рассмотрим его на примере гиперболической функции (ее еще иногда называют обратной). В уравнении гиперболы у = a/x + b осуществим замену переменных z = 1/x. После этого уравнение станет линейным: у = az + b. Неизвестные параметры этого уравнения a и b можно найти с помощью МНК.

В качестве еще одного примера рассмотрим функцию y = ax₁x₂ + b. Осуществим замену переменных следующим образом: x₃ = x₁x₂. Тогда функция примет линейный вид: y = ax₃ + b.

Логарифмическое преобразование

Этот подход обычно применяют к функциям, нелинейным по параметрам, но внутренне линейным, в результате чего они становятся линейны по параметрам. Затем к ним применяют замену переменных и получают линейные функции.

ИЛИ