Нелинейные дискриминантные функции

ЛДФ — это простейшие ДФ, но часто приходится использовать нелинейные ДФ (НЛДФ). Квадратическая функция имеет следующий вид:

Первый набор весов в (2.3.1) в правой части состоит из n весов
w_ij= 1,2,…, n, второй набор w_jk j=1,2,…, n-1, k = 2,3,…,n, состоит из n(n-1)/2 весов, и третий - w_jj, j=1,2,…, n – из n весов, и последний набор w_n+1 – только один коэффициент. Отсюда следует, что полное число весов d(x) равно (n+1)(n+2)/2. Выражение 2.31 можно представить в матричной форме.

Отметим, что если все собственные числа λ матрицы А положительны, то квадратичная форма x^TAx никогда не будет отрицательной и x^TAx=0, если = 0. Это значит, что матрица А — положительно определенная и квадратичная форма тоже положительно определенная. Однако, если один или более λ равно 0, в то время как другие положительны, матрица А будет положительно полуопределенной.

Вспомним, что решающая поверхность определяется как

d_j(x) = d_i(x)

или

d_j(x) - d_i(x) = 0

Для квадратического случая квадратическая разделяющая поверхность определяется уравнением

Варианты квадратической поверхности будут определяться матрицей А=(A_i-A_j). Если А положительно определена, то решающая поверхность будет гиперэллипсоидом с осями в направлении собственных чисел. Если А=aI - единичная матрица, то реш. поверхность будет гиперсферой. Если A – положительно полуопределена решающая поверхность есть гиперэллипсоидальный цилиндр, состоящий из пересекающихся областей в виде гиперэллипсоидов меньшей чем n размерности с осями в направлении ненулевых собственных векторов. В другом случае (когда А отрицательно определена) – решающая поверхность – гиперболоид.