Конкурентное обучение

Основной целью карт самоорганизации Кохонена является преобразование поступающих векторов сигналов, имеющих произвольную размерность, в одно- или двухмерную дискретную карту. При этом такое преобразование осуществляется адаптивно, в топологически упорядоченной форме. На рисунке 8.2 показана схематическая диаграмма двумерной решетки нейронов. Все нейроны этой решетки связаны со всеми узлами входного слоя. Эта сеть имеет структуру прямого распространения с одним вычислительным слоем, состоящим из нейронов, упорядоченных в столбцы и строки.

Рисунок 8.2 – Двумерная карта самоорганизации с прямоугольной решёткой.

Также используют треугольную сетку или случайное расположение нейронов. От расположения нейронов зависит их кооперация (см.ниже).

Алгоритм, ответственный за формирование самоорганизующихся карт, начинается с инициализации синаптических весов сети. Обычно это происходит с помощью назначения синаптическим весам малых значений, сформированных генератором случайных чисел. При таком формировании карта признаков изначально не имеет какого-либо порядка признаков. После этого в течение каждой эпохи сеть проходить через следующие этапы обучения.

1. Конкуренция. Нейроны в сети конкурируют между собой за право быть активированными. Нейроном-победителем объявляется тот нейрон, для которого евклидово расстояние между вектором весов и вектором входных сигналов оказалось минимальным, как в формуле 8.2.

2. Кооперация. Победивший нейрон формирует на массиве нейронов топологическую область, соответствующую характеристикам входного вектора.

3. Адаптация. Производятся корректировки синаптических весов таким образом, чтобы отклик нейрона-победителя на последующее поступление аналогичных примеров усиливался.

Кооперация и адаптация может происходить в соответствие с одним из двух принципов:

– нейрон-победитель забирает всё: активность всех нейронов, кроме нейрона-победителя i*, подавляется и только нейрон-победитель корректирует свои веса:

;

– нейрон-победитель забирает не всё: в выражение вводят функцию соседства, которая равна 1 для нейрона победителя и уменьшает значение до 0 по мере удаления от нейрона-победителя до заданного радиуса:

.

Рисунок 8.4 – Выбор элементов для обновления.

Параметры функции соседства и скорости обучения зависят от времени. Обычно, с каждой новой эпохой, радиус окружности вокруг нейрона-победителя уменьшается с 2/3 от радиуса всей сети до 0.

МОДУЛЬ № 3 – Гибридные интеллектуальные технологии

Тема 9. Нечёткие нейронные сети