Признаковое пространство

Признаком называется отображение f: X → D_f, где D_f – множество допустимых значений признака. Если заданы признаки f ₁, f ₂, … f_n, то вектор x = f (x)₁, f (x)₂, … f_n (x) называется признаковым описанием объекта x Х. Признаковые описания допустимо отождествлять с самими объектами. При этом множество X = D_f1 × D_f2 ×…× D_fn называют признаковым пространством.

В зависимости от множества D_f признаки делятся на следующие типы:

· бинарный признак: D_f = {0, 1};

· номинальный признак: D_f – конечное множество;

· порядковый признак: D_f – конечное упорядоченное множество;

· количественный признак: D_f – множество действительных чисел.

Часто встречаются прикладные задачи с разнотипными признаками, для их решения подходят далеко не все методы.

Типы описаний объекта

1. Признаковое описание является наиболее распространенным случаем. Каждый объект описывается набором своих характеристик, называемых признаками. Признаки могут быть числовыми, текстовыми или качественными.

2. Матрица расстояний между объектами. Каждый объект описывается расстояниями до всех остальных объектов обучающей выборки. С этим типом данных работают некоторые методы, в частности метод ближайших соседей и метод потенциальных функций.

3. Временной ряд или сигнал представляет собой последовательность измерений во времени. Каждое измерение может быть представлено числом, вектором, а в общем случае – признаковым описанием исследуемого объекта в данный момент времени.

4. Изображение или видеоряд.

5. Сложное описание, когда данные представляют в виде графов, текстов, результатов запросов к базе данных и т.д. Путем предварительной обработки и извлечения признаков это описание, как правило, приводится к первому или второму типу.

Типы классов

1. Непересекающиеся классы А ₁, А ₂ – классы, S – объект классификации

2. Пересекающиеся классы. Объект в этом случае может относиться одновременно к нескольким классам

3. Нечеткие классы. Требуется определить степень принадлежности объекта к каждому из классов. Обычно это действительное число от 0 до 1.

При дискретном рассмотрении каждый признак F_k может принимать одно значение из совокупности

F _к = { F ₁, F ₂, …, F_k, …, F_t },

где, например F ₁ – длина карандаша; F ₂ – цвет; F ₃ –твердость.

Каждая конкретная реализация (объект) а_j задается совокупностью значений признаков:

F_k = { F ₁, F ₂, …, F_k, …, F_t } – класс свойств (признаков);

N_k = { N ₁, N ₂, …, N_l, …, N_t } – множество классов параметров.

Область распознавания можно представить следующей математической структурой:

S (A) = { A, F, N };

S (a) = { a, F (a), N (a)}.

Решение задачи распознавания образов состоит из двух этапов:

1. Обучение распознаванию по некоторому количеству эталонных образов, принадлежность которых к классу известна.

2. Распознавание, когда требуется определить, к какому классу относится представленный объект.

При обучении распознаванию можно использовать параметрический и непараметрический методы распознавания.

В параметрическом методе вид решающего правила известен и требуется определить в процессе обучения параметры этого решающего правила.

В непараметрическом методе определены вид и параметры решающего правила.

Одним из непараметрических методов является геометрический метод, предполагающий анализ расположения точек в пространстве. Обучение сводится к линейной и нелинейной деформации пространства.

Этот метод имеет следующие недостатки:

1. Геометрически можно описать ограниченное число объектов.

2. Трудно определить, к какому классу относится объект (точка S на рисунке).

К параметрическим относится Байесовский метод, использующий многомерные законы распределения вероятностей, которые имеют бесконечные интервалы.

Рассмотрим пример применения моделей распознавания образов для решения практических задачБайесовским методом.

Пусть имеется полная группа n несовместных образов, которые могут рассматриваться как объекты для распознавания. Представим их в виде неупорядоченного множества А:

А = { A ₁, A ₂, …, A_i, …, A_n }.

Известны априорные распределения вероятностей этих образов, т.е. известно, с какой вероятностью появляется данный образ:

P ₁(A ₁), P ₂(A ₂), …, P_n (A_n).

Если группа полная, то сумма априорных вероятностей всей группы равна единице:

= 1

B = { B ₁, B ₂, …, B_j, …, B_m }.

В данном случае таким событием является появление конкретных реализаций объекта.

По теореме умножения вероятностей:

P (B_j ô A_i) = P (B_j)· P (A_i ô B_j) = P (A_i)· P (B_j ô A_i).

Отбрасывая левую часть, получаем:

P (A_i ô B_j) = P (A_i)· P (B_j ô A_i)/ P (B_j)

Выразим вероятность P (B_j) с помощью формулы для полной вероятности. Заметим, что образы А_i несовместимы, а событие-объект B_i может появиться только совместно с одним образом A_i:

B_i = A ₁ B_j + A ₂ B_j + … + A_mB_j (теоретико-множественная формула).

Так как события A_i несовместимые, то и события A_iB_j тоже несовместимые, поэтому

P (B_j) = · P (B_j ô A_i).

Выразив P (B_i), получим формулу Байеса:

P (A_i ô B_j) = .