Многослойный персептрон

Самой известной и, возможно, наиболее распространенной моделью НС является многослойный персептрон (МПн). Элементы МПн разделены на несколько слоев (число их произвольно), внутри слоя элементы можно считать линейно упорядоченными и не взаимодействующими между собой. Каждый элемент сети (кроме элементов первого слоя) получает входной сигнал от каждого элемента предыдущего слоя, и выходной сигнал элемента (кроме элементов последнего слоя) поступает на вход элементов последующего слоя (рис. 3.20). Количество нейронов в слоях может быть произвольным. Обычно во всех скрытых слоях одинаковое количество нейронов. В таких сетях нет обратных связей, поэтому они относятся к классу сетей прямого распространения.

Матрица W^k организована следующим образом: столбцы – это вектора w_ik (веса каждого нейрона k-го слоя)

.

Активность нейрона чаще всего задается нелинейной функцией от синаптического возбуждения.

Наиболее распространенная процедура обучения для многослойного персептрона – обучение на основе обратного распространения ошибки (back propagation error) – ВР-алгоритм.

Сложноть задач, решаемых МСП, существенно зависит от количества слоев и нейронов в слоях. С увеличением количества слоев вследствие нелинейности пороговых функций потенциальные классификационные свойства персептрона возрастают.

На рис. 3.21 представлены выпуклые области.

Пусть имеется двухслойная сеть, состоящая из трех нейронов (рис. 3.22). Чтобы порог был превышен и на выходе появилась единица, требуется, чтобы оба нейрона первого уровня на выходе имели единицу. Таким образом, выходной нейрон реализует логическую функцию И. В такой сети каждый нейрон первого слоя разбивает плоскость входных значений х₁-х₂ на две полуплоскости, один обеспечивает единичный выход для входов ниже верхней линии, другой – для входов выше нижней линии. На рис. 3.22 показан результат такого разбиения, где выходной сигнал нейрона второго слоя равен единице только внутри V-образной области. Следует отметить, что не все выходные области первого слоя должны пересекаться.

Если в первом слое использовать три нейрона, то можно задать область треугольной формы. Т.о., с увеличением числа нейронов во входном слое возрастает число граней выпуклого многоугольника. Точки, не составляющие выпуклой области, не могут быть отделены от других точек плоскости двухслойной сетью.