Обучение с учителем

Цель обучения

Обучение искусственных нейронных сетей

Основные этапы нейросетевого анализа. Классификация известных нейросетевых структур по типу связей и типу обучения и их применение.

Этап 1: выбор типа архитектектуры нейронной сети a) Выбор типа нейрона со своей активационной формой b) Выбор количества входов/выходов, что четко связано с постановкой задачи. c) Выбор количества слоев и нейронов в каждом слое

В рамках известных архитектур может решаться вопрос о варьировании количества слоев и нейронов в каждом слое. Этот вопрос уточняется на этапе обучения нейросети.

Этап 2: подготовка данных a) Кодирование входов/выходов b) Нормировка данных c) Обеспечение независимости между входами нейросети

Этап 3: процесс обучения нейросети.

Этап 4: выбор нейросети, которая наилучшим образом подходит по результатам обучения для решения задачи.

Этап 5: оценка значимости ошибки, которую дает нейронная сеть для решения поставленной задачи.

Типовые структуры и решаемые задачи

  Обучение «с учителем» Обучение «без учителя»
Без обратной связи Многослойный Персептрон (классификация, аппроксимация) Карты Кохонэна, соревнова-тельные сети (кластеризация, сжатие данных)
С обратной связью Рекуррентные аппроксима-торы (предсказание временных рядов) Сети Хольфильда (кластеризация, оптимизация, ассоциативная память)

Среди всех интересных свойств искусственных нейронных сетей ни одно не захватывает так воображения, как их способность к обучению. Их обучение до такой степени напоминает процесс интеллектуального развития человеческой личности, что может показаться, будто нами достигнуто глубокое понимание этого процесса. Но, проявляя осторожность, следует сдерживать эйфорию. Возможности обучения искусственных нейронных сетей ограничены, и нужно решить много сложных задач, чтобы определить, находимся ли мы на правильном пути.

Сеть обучается, чтобы для некоторого множества входов давать желаемое (или, по крайней мере, сообразное с ним) множество выходов. Каждое такое входное (или выходное) множество рассматривается как вектор. Обучение осуществляется путем последовательного предъявления входных векторов с одновременной подстройкой весов в соответствии с определенной процедурой. В процессе обучения веса сети постепенно становятся такими, чтобы каждый входной вектор вырабатывал выходной вектор.

Различают алгоритмы обучения с учителем и без учителя. Обучение с учителем предполагает, что для каждого входного вектора существует целевой вектор, представляющий собой требуемый выход. Вместе они называются обучающей парой. Обычно сеть обучается на некотором числе таких обучающих пар. Предъявляется выходной вектор, вычисляется выход сети и сравнивается с соответствующим целевым вектором, разность (ошибка) с помощью обратной связи подается в сеть, и веса изменяются в соответствии с алгоритмом, стремящимся минимизировать ошибку. Векторы обучающего множества предъявляются последовательно, ошибки вычисляются и веса подстраиваются для каждого вектора до тех пор, пока ошибка по всему обучающему массиву не достигнет приемлемо низкого уровня.


Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: