Модель Хопфилда

В данной модели также используются правила Хебба. Основана на простом предположении, которое заключается в том, если два нейрона возбуждены вместе, то сила связи возрастает, если порознь, то уменьшается связь. Сеть Хопфилда строится с учетом следующих условий:

1. Все элементы связаны со всеми;

2. Прямые и обратные связи симметричны;

3. Диагональные элементы матрицы связей равны 0, т.е. исключаются обратные связи с выходом на входе одного нейрона.

Сеть Хопфилда может выполнять функции ассоциативной памяти, обеспечивая сходность к тому образу, в область которого попадает начальный образец. Указанный подход привлекателен тем, что нейронная сеть запрограммирована без обучения итераций.

Хопфилд выявил функции энергии нейронной сети. При выявлении выполнено функциональное описание поведения сети через стремление к минимуму энергии, которое соответствует заданному набору образов. Веса связей вычисляются на основе вида функции энергии.

Машина Больцмана развивает теорию Хопфилда. Ее предложили Хинтон и Земел. Используется для решения комбинаторных задач. Указанные сети получили применение в основе реализации подсистем более сложных. Представленные сети также имеют определенные недостатки, которые заключаются в:

1) Предположении о симметричности связи между элементами, без которых нельзя ввести понятие энергии.

2) Нейронная сеть – это устройство для запоминания и обработки информации. Закон энергии играет вспомогательную роль, а не устраивает минимизацию энергии. Сеть Хопфилда поддерживает много лишних связей. В реальности система этого не поддерживает. Происходит освобождение от сильных связей за счет их структуризации. При этом вместо органов связи всех со всеми используется многослойная иерархическая система связи.