Самоорганизованные сети Кохонена

Многослойные сети.

Рисунок - Схема многослойного персептрона

Устанавливаются связи только между нейронами соседних слоев. Каждый слой соединен модифицированной связью с любым нейроном соседних слоев. Между нейронами одного слоя связей нет. Каждый нейрон может посылать сигнал только в вышестоящий слой и принимать выходной сигнал только из нижестоящего слоя. Выходные сигналы подаются на нижний слой, а выходной вектор определяется путем последовательных вычислений уравнений активных элементов каждого слоя снизу вверх с использованием уже известных значений активных элементов предшествующих слоев.

При распознавании образов входной вектор соответствует наибольшему признаку, а выходной- распознаваемым образам:

4-7-4-3

Число нейронов в следующем слое в два раза меньше, чем предыдущем.

Простой персептрон формирует границы области решений в виде гиперплоскости. Двухслойный персептрон выполняет множество функций.

Рекуррентные сети.

Эти сети содержат образы связей. Благодаря им становится возможным получать отличные значения при одних и тех же входных данных.

 

Рисунок - Схема рекуррентной сети

 

Особенность способа заключается в представлении появления новых объектов.

 

Модель Хопфилда.

В данной модели также используются правила Хебба. Основана на простом предположении, которое заключается в том, если два нейрона возбуждены вместе, то сила связи возрастает, если порознь, то уменьшается связь. Сеть Хопфилда строится с учетом следующих условий:

1. Все элементы связаны со всеми;

2. Прямые и обратные связи симметричны;

3. Диагональные элементы матрицы связей равны 0, т.е. исключаются обратные связи с выходом на входе одного нейрона.

Сеть Хопфилда может выполнять функции ассоциативной памяти,

обеспечивая сходность к тому образу, в область которого попадает начальный образец. Этот подход привлекателен тем, что нейронная сеть запрограммирована без обучения итераций.

Хопфилд выявил функции энергии нейронной сети.

Это функциональное описание поведения сети через стремление к минимуму энергии, которое соответствует заданному набору образов. Веса связей вычисляются на основе вида функции энергии.

Машина Больцмана развивает теорию Хопфилда. Ее предложили Хинтон и Земел. Используется для решения комбинаторных задач. Эти сети получили применение в основе реализации подсистем более сложных. Эти сети также имеют определенные недостатки. Недостатки заключаются в:

1) Предположении о симметричности связи между элементами, без которых нельзя ввести понятие энергии.

2) Нейронная сеть – это устройство для запоминания и обработки информации. Закон энергии играет вспомогательную роль, а не устраивает минимизацию энергии. Сеть Хопфилда поддерживает много лишних связей. В реальности система этого не поддерживает. Происходит освобождение от сильных связей за счет их структуризации. При этом вместо органов связи всех со всеми используется многослойная иерархическая система связи.

Самоорганизованные сети Кохонена.

Идея сетей с самоорганизацией на основании конкуренции между нейронами базируется на применении специальных алгоритмов самообучения(ИНС).

Сети Кохонена обычно содержат один выходной слой обработки элементов с пороговой передаточной функцией. Число нейронов в выходном слое соответствует комплексному распознаванию классов.

Настройка параметров межнейронных соединений проводится автоматически на основе меры близости векторов - весовых коэффициентов настраиваемых связей к вектору входного сигнала в евклидовом пространстве. В конкурентной борьбе побеждает нейрон со значениями весов наиболее близком к нормализованным векторов входных сигналов. Кроме того в самоорганизованных сетях возможна классификация входных образцов.