Нелинейная регрессия

Иногда, при проведении анализа линейной модели, исследователь получает данные о ее неадекватности. В этом случае его по-прежнему интересует зависимость между предикторными переменными и откликом, но для уточнения модели в ее уравнение добавляются некоторые нелинейные члены. Самым удобным способом оценивания параметров полученной регрес­сии является нелинейное оценивание. Например, его можно использовать для уточнения зависимости между стажем работы и производительностью труда, стоимостью дома и временем, необходимым для его продажи и т.д.

Нелинейное оценивание оставляет выбор характера зависимости за исследователем. Например, вы можете определить зависимую переменную как логарифмическую функцию от предикторной переменной, как степенную функцию или как любую другую композицию элементарных функций от предикторов.

Если позволить рассмотрение любого типа зависимости между предикторами и переменной отклика, возникают два вопроса.
Во-первых, как истолковать найденную зависимость в виде простых практических рекомендаций. С этой точки зрения линейная зависимость очень удобна, так как позволяет дать простое пояснение: чем больше X (т.е. чем больше цена дома), тем больше У (тем больше времени нужно, чтобы его продать), и, задавая конкретные приращения X, можно ожидать пропорциональное приращение У. Нелинейные соотношения обычно нельзя так просто проинтерпретировать и выразить словами. Второй вопрос - как проверить, имеется ли на самом деле предсказанная нелинейная зависимость.

Формально говоря, нелинейное оценивание является универсальном аппроксимирующей процедурой, оценивающей любой вид зависимостимежду переменной отклика и набором независимых переменных.

В общем случае, все регрессионные модели могут быть записаны в виде формулы:

y = F(x₁,x₂,...,х_п).

При проведении регрессионного, а в частности нелинейного регрес­сионного анализа, исследователя интересует, связана ли и если да. то как, зависимая переменная и набор независимых переменных. Выражение F(x) в выписанном выше выражении означает, что переменная отклика у является функцией от независимой переменной х.