Коэффициент детерминации

Коэффициент детерминации R² характеризует качество регрессионной модели. Другими словами коэффициент детерминации показывает, какая доля общей вариации выходной переменной y обусловлена зависимостью её от входной переменной.

Напомним, что значения различных величин, полученных расчетами, мы условились обозначать «?».

В случае парной регрессии значения y_i = a + bx_i выражают ординаты точек (x_i,y?_i), лежащих на линии регрессии, в то время как точки с координатами (x_i,y_i), вообще говоря, на этой прямой не лежат. Имеет место равенство

.

Для суммы квадратов отклонений y_i от среднего ` y:

(TSS — total sum of squares) имеем равенство TSS = RSS + ESS, где

— сумма квадратов отклонений, объясненная регрессией (RSS — regression sum of squares),

— остаточная сумма квадратов (ESS — error sum of squares).

Коэффициент детерминации определяется по формуле:

(6.1)

Из (6.1) видно, что R ²Î [0,1] и чем меньше R² отличается от 1, тем лучше регрессионная модель.

В математической статистике вводится выборочный коэффициент корреляции

между данными наблюдений (x_i,y_i), i = 1, 2, …, n. Напомним (см. 4.5), что

Поскольку (см. 4.6)

величину r можно представить в виде

С другой стороны y_i = a + bx_i, y = a + bx, откуда следует, что

Поэтому

т.е. коэффициент детерминации равен квадрату выборочного коэффициента корреляции.

Заметим, что попутно мы познакомились и с суммами квадратов из последней строчки таблицы из таблицы §5.