Лекция 4.Сети с обратным распространением ошибки. Основной элемент сети обратного распространения. Алгоритмы обучения и функционирования

Обратное распространение – это систематический метод для обучения многослойных искусственных нейронных сетей.

В качестве основного строительного блока в сетях обратного распространения используется обычная модель искусственного нейрона, а в качестве активационной функции –сигмоидальная функция

OUT = 1/(1- e-^NET) (10)

Эта функция удобна, т.к. имеет простую производную, что используется при реализации алгоритма обратного распространения:

∂ OUT/∂NET = OUT (1-OUT) (11)

Рис.14. Двухслойная сеть обратного распространения.

На рис.14 изображена многослойная сеть, которая может обучаться с помощью процедуры обратного распространения. Первый слой нейронов служит лишь в качестве распределительных точек, суммирования входов здесь не производится. Каждый нейрон последующих слоев выдает сигналы NET и OUT.