Системы нормальных уравнений для нелинейных моделей регрессии

Рассмотрим применение МНК для случая полинома второго порядка. Применение МНК для оценки параметров второй степени приводит к следующей системе нормальных уравнений:

Решить её можно методом определителя (Крамера): а=Δа/Δ; b=Δb/Δ; c=Δc/Δ.

Δ – определитель системы; Δа, Δb, Δс – определители, полученные заменой соответствующего столбца на столбец свободных членов.

С помощью замены z=1/x, для равносторонней гиперболы получим уравнение регрессии y=a+bz, для оценки параметров которого применим МНК и получим следующую систему нормальных уравнений:

При b>0 имеем обратную зависимость, которая при x→ ∞, характеризуется минимальным значением Y, оценкой которого является a. При b<0 имеем медленно повышающуюся функцию с верхней асимптотой а при x→ ∞.

Рассмотрим теперь модели нелинейные по оцениваемым параметрам. Эти модели подразделяются на два типа: нелинейные модели внутренне линейные и нелинейные модели внутренне нелинейные. Если нелинейная модель внутренне линейна, то она с помощью соответствующих преобразований (логарифмирования обеих частей уравнения) может быть приведена к линейному виду, тогда можно использовать МНК. Если нелинейная модель внутренне нелинейна, то она не может быть сведена к линейной функции.