Ридж-регрессия

Ридж-регрессия или гребневая регрессия предполагает оценку параметров по следующей формуле:

Добавление параметра решает проблему плохой обусловленности матрицы . Эти оценки смещены, в отличие от МНК-оценок. Однако доказано, что существует такое , при котором эти оценки более эффективны, чем оценки МНК (МНК наиболее эффективны среди несмещенных оценок). Тем не менее, четких правил выбора этого параметра нет.