Линеаризация внутреннелинейных форм уравнений

Два класса нелинейных уравнений регрессии

Все виды нелинейных регрессионных моделей можно разбить на два класса:

1) нелинейные относительно факторных переменных, но линейные по оцениваемым параметрам;

2) нелинейные по оцениваемым параметрам.

Отличие этих классов друг от друга состоит в том, что функции, линейные по параметрам, представляют собой линейную комбинацию отдельных функций, для каждой из которых все параметры известны.

В свою очередь, нелинейные по параметрам функции делят на два подкласса:

а) модели, которые можно подвергнуть линеаризации (см. далее) – так называемые внешне нелинейные, но внутренне линейные;

б) модели, которые нельзя подвергнуть линеаризации (внутренне нелинейные) – в них для оценки параметров используются численные итеративные процедуры.

Из рассмотренных выше функций к линейным по параметрам относятся все полиномы и гиперболическая функция.

Например, рассмотрим полином второй степени, т.е. квадратическую функцию y = ax² + bx + c. Эта функция нелинейна, но ее можно представить как линейную комбинацию x², x и 1 (эти выражения не содержат неизвестных параметров) с весами a, b и c. Эти веса и есть неизвестные параметры, по которым модель линейна.

Если взять в качестве примера гиперболическую функцию у = a/x +
+ b, то она представляет собой линейную комбинацию 1/x и 1 с весами a и b. Здесь оцениваемые параметры - a и b.

Функция вида y = ax₁x₂ + b – пример полиномиальной множественной регрессии, и она тоже линейна по оцениваемым параметрам (линейно комбинируются x₁x₂ и 1 с весами a и b).

К классу моделей, нелинейных по параметрам, относятся степенная и показательная функции, модифицированная экспонента и т.п. Их невозможно представить в виде линейных комбинаций функций с известными параметрами.

Проводить эконометрическое исследование с нелинейными функциями часто бывает неудобно, поэтому обычно находят способы преобразовать их в линейные. Преобразование нелинейной функции в линейную называют линеаризацией.

Можно условно выделить два типа линеаризации – через замену переменных и через логарифмирование, хотя эти подходы можно и сочетать.

Преобразование путем замены переменных

Обычно этот подход применяют к функциям, линейным по параметрам.

Рассмотрим его на примере гиперболической функции (ее еще иногда называют обратной). В уравнении гиперболы у = a/x + b осуществим замену переменных z = 1/x. После этого уравнение станет линейным: у = az + b. Неизвестные параметры этого уравнения a и b можно найти с помощью МНК.

В качестве еще одного примера рассмотрим функцию y = ax₁x₂ + b. Осуществим замену переменных следующим образом: x₃ = x₁x₂. Тогда функция примет линейный вид: y = ax₃ + b.

Логарифмическое преобразование

Этот подход обычно применяют к функциям, нелинейным по параметрам, но внутренне линейным, в результате чего они становятся линейны по параметрам. Затем к ним применяют замену переменных и получают линейные функции.

Отличия между регрессионным и корреляционным анализом.

Задачей КОРРЕЛЯЦИОННОГО АНАЛИЗА является исследование тенденций ВЗАИМНОГО ИЗМЕНЕНИЯ ДВУХ ИЛИ БОЛЕЕ СЛУЧАЙНЫХ ВЕЛИЧИН. Если исследуется взаимная тенденция изменения двух случайных величин, то говорят об ОДНОМЕРНОМ КОРРЕЛЯЦИОННОМ АНАЛИЗЕ, если более двух - о МНОЖЕСТВЕННОМ КОРРЕЛЯЦИОННОМ АНАЛИЗЕ.

Задачей РЕГРЕССИОННОГО АНАЛИЗА является построение ЗАВИСИМОСТИ МАТЕМАТИЧЕСКОГО ОЖИДАНИЯ ОДНОЙ ИЛИ НЕСКОЛЬКИХ СЛУЧАЙНЫХ ВЕЛИЧИН ОТ ОДНОЙ ИЛИ НЕСКОЛЬКИХ НЕСЛУЧАЙНЫХ ВЕЛИЧИН.

Если строят зависимость МО одной случайной величины от одной неслучайной, то говорят о ПРОСТОЙ или ОДНОМЕРНОЙ РЕГРЕССИИ.

При построении зависимости МО одной случайной величины от нескольких неслучайных говорят о МНОЖЕСТВЕННОЙ РЕГРЕССИИ.

Построение зависимости МО нескольких случайных величин от нескольких неслучайных является предметом МНОГОМЕРНОГО РЕГРЕССИОННОГО АНАЛИЗА.

Хотя вычисления в регрессионном и корреляционном анализах весьма схожи, между этими методами есть существенная разница. НЕСЛУЧАЙНОСТЬ В РЕГРЕССИОННОМ АНАЛИЗЕ ОЗНАЧАЕТ ИЗМЕРЕНИЕ БЕЗ ОШИБОК (С АБСОЛЮТНОЙ ТОЧНОСТЬЮ).

• Связь как синхронность (согласованность) – корреляционный анализ.

• Связь как зависимость (влияние) – регрессионный анализ (причинно-следственные связи).

Сравнение коэффициентов корреляции и регрессии

Коэффициент корреляции

• Принимает значения в диапазоне от -1 до +1

• Безразмерная величина

• Показывает силу связи между признаками

• Знак коэффициента говорит о направлении связи

Коэффициент регрессии

• Может принимать любые значения

• Привязан к единицам измерения обоих признаков

• Показывает структуру связи между признаками

• Знак коэффициента говорит о направлении связи