Модель искусственного нейрона

Искусственная нейронная сеть представляет собой упрощенную модель ткани головного мозга. Схема биологического нейрона приведена на рис. 1.

Рисунок 1 – Схема биологического нейрона

Нервная клетка состоит из тела (сома, ядра) и отростков (дендритов), по которым в нейрон поступают входные сигналы. Один из отростков служит для передачи выходных сигналов данного нейрона другим нервным клеткам. Он называется аксоном. Соединение аксона с дендритом другого нейрона называется синапсом. Нейрон возбуждается и передает сигнал через аксон, если число пришедших по дендритам возбуждающих сигналов больше числа тормозящих. Принятые синапсом тела сигналы подводятся к телу нейрона, причем одни входы стремятся возбудить, другие – напротив.

Каждый нейрон, и искусственный, и естественный, характеризуется функцией преобразования, функцией возбуждения нейрона. Нейроны в сети могут иметь одинаковые или разные функции возбуждения. Сигналы, которые поступают на вход, неравнозначны.

Информация от одного источника может быть более важной, чем от других источников.

Приоритеты входов задаются с помощью так называемых векторов весовых коэффициентов, моделирующих синаптическую силу биологических нейронов (рис. 2).

Рисунок 2 – Модель искусственного нейрона

. (1)

Модель искусственного нейрона представляет собой дискретный преобразователь непрерывной информации.

Информация, поступающая на вход нейрона, суммируется с учетом весовых коэффициентов сигнала.

В соотношении (1) N – размерность пространства входных сигналов; P – потенциал нейрона; f (p) – активационная функция.

Потенциал нейрона P преобразуется с помощью передаточной функции f (p) и передается другим нейронам сети.

В общем случае эта функция может быть ступенчатой (рис. 3), линейной (рис. 4) или нелинейной (рис.5).

Пороговая функция пропускает информацию только в том случае, если алгебраическая сумма входных сигналов превышает некоторую величину.

.

Рисунок 3 – Линейная функция

Рисунок 4 – Ступенчатая (пороговая) функция

Рисунок 5 – Сигмоидальная (логистическая) функция

Пороговая функция не обеспечивает достаточной гибкости искусственной нейронной сети в процессе обучения.

Если значение вычислительного потенциала не достигает заданного порога, то выходной сигнал не формируется (не срабатывает).

Представленная ситуация приводит к снижению интенсивности выходного сигнала нейрона и, как следствие, к формированию невысокого значения потенциала взвешенных входов в следующем слое нейрона.

Линейная функция дифференцирована и легко вычисляется. Подобный эффект в ряде случаев позволяет уменьшить ошибки выходных сигналов сети, т.е. передаточная функция сети также является линейной.

Однако она не универсальна, т.е. не обеспечивает решения многих задач. Компромиссным решением является сигмоидальная функция:

.

Указанная функция наиболее адекватно моделирует истинную характеристику биологического нейрона.

Коэффициент k определяет крутизну нелинейной функции.

Подобно ступенчатой функции, сигмоидальная функция позволяет выделять в пространстве признаков различные множества – невыпуклые, несвязанные.

При этом сигмоидальная функция не имеет разрывов.

Пик функции переноса выбирается с учетом конкретной задачи, решаемой с применением нейронных сетей.

В задачах аппроксимации и классификации предпочтение отдают логистической (сигмоидальной) функции.