Особенности искусственных нейронных сетей

Скорость срабатывания (реакции) одного нейрона на 5-6 порядков меньше скорости срабатывания кремниевых логических элементов! Современные цифровые вычислительные машины превосходят человека по способности производить числовые и символьные вычисления. Однако человек может без усилий решать сложные задачи восприятия внешних данных (например, узнавание человека в толпе только по его промелькнувшему лицу) с такой скоростью и точностью, на которые не способен даже мощнейший в мире компьютер. В чем причина столь значительного различия в их производительности?

Во-первых, нейронов много (около триллиона (10¹¹-10¹²)) и взаимосвязей между нейронами огромное количество (квадриллион (от 10¹⁴ до 10¹⁵)).

Во-вторых, при рождении мозг имеет совершенную структуру, позволяющую строить собственные правила на основании того, что мы называем «опытом». Опыт накапливается с течением времени. Развитие мозга продолжается до последних дней жизни человека. Понятие развития нейронов связано с понятием пластичности мозга, т.е. способности настройки нервной системы в соответствии с окружающими условиями.

В-третьих, нейронные сети обучаются, а не программируются. Процедура, используемая для обучения, называется алгоритмом обучения. Эта процедура выстраивает в определенном порядке синаптические веса НС для обеспечения необходимой структуры взаимосвязей нейронов.

В-четвертых, архитектура биологической нейронной системы совершенно не похожа на архитектуру машины фон Неймана (табл. 1.1).

Таблица 1.1

Сравнение машины фон Неймана с биологической нейронной системой

Несмотря на перспективность параллельных ЭВМ и, в частности, нейронных сетей, для их создания пока нет элементной базы. Поэтому, вместо моделирования НС на параллельных машинах, большая часть исследований проводится двумя способами:

1) моделирование НС на обычных последовательных ЭВМ;

2) создание специализированных нейроплат и нейропроцессоров для ускорения работы ЭВМ с нейронными сетями.

Попытки использовать оптические, химические, биологические и другие технологии для создания НС, несмотря на перспективность, пока не имеют практического применения.

Большое влияние на разработку теории искусственных нейронных сетей оказал коннекционизм (connection – связь). Коннекционизм – это раздел искусственного интеллекта, связанный с со­зданием, исследованием и развитием моделей мозга (мышления) человека. С точки зрения коннекционизма (connection - связь) в основу концепции ИНС по­ложена идея о том, что нейроны можно моделировать довольно простыми ав­томатами, а вся сложность сети, гибкость ее функционирования и другие важнейшие качества определяются связями между нейронами. Каждая связь представляется как простой элемент, служащий для передачи сигнала и его линейного усиления или ослабления.

С точки зрения коннекционизма модель НС имеет следующие важные свойства:

1) однородность системы;

2) надежность системы;

3) «голографичность» системы.

Обучение обычно строится так: существует набор примеров с заданными ответами. Эти примеры предъявляются системе. Нейроны получают по входным связям сигналы – "условия примера", преобразуют их, несколько раз обмениваются преобразованными сигналами и, наконец, выдают ответ – также набор сигналов. Отклонение от правильного ответа штрафуется. Обучение состоит в минимизации штрафа как (неявной) функции связей.

Неявное обучение приводит к тому, что структура связей становится "непонятной". Это явление называют "логической непрозрачностью" нейронных сетей, обученных по неявным правилам.

Если обучить нейронную сеть решать какую-либо задачу, а затем вырезать из нее все связи, кроме необходимых, без которых эту задачу не решить, то получается очень полезное явное представление знаний о способе решения.

Из данных, использованных для обучения, получаем явные знания. Например, обучая сеть предсказывать социально-политическую ситуацию, получаем полезную политологическую теорию, заложим обработку экономических данных – получим экономические знания и т.д.

В заключении этого раздела дадим некоторые определения из нейроинформатики. Работы, связанные с разработкой устройств переработки информации на основе принципов работы естественных нейронных систем (структурный подход) относится к области нейроинформатики или нейровычислений (нейрокомпьютинга). Термины эти появились недавно - в середине 80-х годов.

Нейроинформатика – это способ решения различных задач с помощью искусственных нейронных сетей, реализованных программным или аппаратным способами.

Искусственные нейронные сети – это сети, требующие обучения и состоящие из связанных между собой простых элементов – формальных нейронов. Работа сети состоит в преобразовании входных сигналов во времени, в результате чего меняется внутреннее состояние сети и формируются выходные воздействия.

Нейрокомпьютеры - это системы, построенные на основе принципов параллельной обработки информации в распределенных нейронных сетях.