Персептрон Адалина

Одним из простейших обучающихся нейронов является адаптивный линейный Элемент (ADALINE), предложенный Б. Уидроу.Отличительной особенностью сетей Видроу и Хоффа, которые стали называть адалинами (Adaline), оказалось правило обучения. В основу этих сетей легло более надежное с математической точки зрения "дельта-правило", благодаря чему появилась возможность обучать сети поиску наилучшей из всех возможных аппроксимаций решения задачи, а не просто любого решения. В настоящее время в обучении нейронных сетей наиболее широко используется именно это правило.

Структурно адалина весьма напоминает нейрон Маккаллоха-Питтса с активационной сигнум-функцией и состоит из двух основных частей: адаптивного линейного ассоциатора и нелинейной активационной функции. Адалина имеет n +1 входов – x1……xn и два выхода – аналоговый uj и бинарный jy. Кроме того, имеется дополнительный вход, на который подается обучающий сигнал dj, показывающий какой должна быть желаемая реакция нейрона на каждый конкретный набор входных сигналов. Аналоговый выход uj представляет собой взвешенную сумму входов xj

а бинарный выход yj может принимать значения +1 или −1 в зависимости от полярности аналогового сигнала uj. Выходной сигнал u j сравнивается с внешним обучающим сигналом d j и возникающий при этом сигнал ошибки ej=dj-uj поступает в алгоритм обучения, который перестраивает синаптические веса так, чтобы минимизировать некоторую функцию ошибки ej, называемую критерием обучения. В качестве такой функции чаще всего используют квадратичную, что позволяет использовать для обучения не только «родной» алгоритм, синтезированный Б. Уидроу и М. Хоффом специально для адалины, но и множество рекуррентных процедур адаптивной идентификации.

Адалина может использоваться как в качестве элементарного нейрона в составе ИНС, так и самостоятельно в задачах распознавания образов, обработки сигналов, реализации логических функций