Определение параметров уравнения регрессии в стандартизованном масштабе

Возможен и иной подход к определению параметров множественной регрессии, когда строится уравнение регрессии в стандартизованном масштабе:

t_y = b ₁ × t_{x 1} + b ₂ × t_{x 2} + … + b_k × t_xk + e,

где t_y, t_{x 1},…, t_xp – стандартизованные переменные: , для которых среднее значение равно нулю, а среднее квадратическое отклонение равно единице: s_ty = s_tx = 1; b – стандартизованные коэффициенты регрессии.

Применив МНК к уравнению множественной регрессии в стандартизованном масштабе, после соответствующих преобразований можно получить систему нормальных уравнений вида

Решая её, найдем параметры – стандартизованные коэффициенты регрессии (b -коэффициенты).

Стандартизованные коэффициенты регрессии показывают, на сколько сигм изменится в среднем результат, если соответствующий фактор x_j изменится на одну сигму при неизменном среднем уровне других факторов. В силу того, что все переменные заданы как центрированные и нормированные, стандартизованные коэффициенты регрессии b_j сравнимы между собой. Сравнивая их друг с другом, можно ранжировать факторы по силе их воздействия на результат. В этом основное достоинство стандартизованных коэффициентов регрессии в отличие от коэффициентов «чистой» регрессии, которые несравнимы между собой.

В парной линейной регрессии стандартизованный коэффициент регрессии есть не что иное, как линейный коэффициент корреляции r_yx. Подобно тому, как в парной зависимости коэффициенты регрессии и корреляции связаны между собой, так и во множественной регрессии коэффициенты «чистой» регрессии b_j связаны со стандартизованными коэффициентами регрессии b_j, а именно

(3.6)

Это позволяет от уравнения регрессии в стандартизованном масштабе

t_y = b₁ × t_x1 + b₂ × t_x2 + … + b_k × t_xk (3.7)

переходить к уравнению регрессии в натуральном масштабе переменных

y = b ₀ + b ₁ × x ₁ + b ₂ × x ₂ + … + b_k × x_k.

Параметр b₀ определяется как

. (3.8)

Содержание стандартизованных коэффициентов регрессии позволяет использовать их при отсеве факторов – из модели исключаются факторы с наименьшим значением b_j.