Пусть анализируемая случайная величина X имеет размерность p и матрицу ковариаций . Находятся все собственные значения этой матрицы λ1, …, λp (для этого из диагональных значений матрицы ковариаций вычитаем λ, считаем определитель полученной матрицы, приравниваем его к нулю и решаем полученное уравнение относительно λ). Полученные собственные значения λ1, …, λp ранжируются по убыванию их величины. После этого строятся собственные вектора, соответствующие этим собственным значениям: l1, …, lp. Далее, зная эти собственные вектора, составляем линейные комбинации с X, которые и будут являться главными компонентами.
Основные числовые характеристики главных компонент
1. Математическое ожидание вектора главных компонент равно нулю.
2. Ковариационная матрица вектора главных компонент выглядит следующим образом: по диагонали стоят собственные значения в порядке убывания, все остальные элементы матрицы – нули.
3. Сумма дисперсий исходных признаков равна сумме дисперсий всех главных компонент.