Короткі теоретичні відомості

Пакет Neural Networks Toolbox (нейронні мережі) містить засоби для проектування, моделювання, навчання і використання безлічі відомих парадигм апарата штучних нейронних мереж (НМ): від базових моделей персептрона до найсучасніших асоціативних мереж, що самоорганізуються. Пакет може бути використаний для розв’язання безлічі всіляких завдань, таких як обробка сигналів, нелінійне керування, фінансове моделювання і подібне.

До пакета включено більше 15 відомих типів мереж і навчальних правил, що дозволяють користувачеві вибирати найбільш відповідну для конкретного застосування або дослідного завдання парадигму. Для кожного типу архітектури і навчальних правил є функції ініціалізації, навчання, адаптації, створення і моделювання, демонстрації та приклад додатка мережі.

За допомогою нейронних мереж розв’язують ряд задач.

Класифікація образів. Задача полягає у зазначенні належності вхідного образу, що представлений вектором ознак, до одного чи до декількох попередньо визначених класів. До відомих додатків належать розпізнавання букв, розпізнавання мови, класифікація сигналу електрокардіограми, класифікація клітин крові та ін.

Кластеризація / категоризація. При розв’язанні задачі кластеризації, яка відома як класифікація образів «без вчителя», відсутня навчальна вибірка з позначками класів. Алгоритм кластеризації оснований на подібності образів і переносить близькі образи в один кластер.

Апроксимація функцій. Припустимо, що є навчальна вибірка ((x¹, y¹), (x², y²), …, (x^N, y^N)) (пари даних «вхід–вихід»), яка генерується невідомою функцією F(x), що зашумлена. Задача апроксимації полягає в знаходженні оцінки невідомої функції F(x). Апроксимація функцій необхідна при розв’язанні багато-чисельних інженерних і наукових задач моделювання.

Передбачення / прогноз. Нехай задано n дискретних відгуків {y(t₁), y(t₂), …, y(t_k)} у послідовні моменти часу t₁, t₂, …, t_k. Задача полягає в передбаченні значення y(t_k+1) у деякий майбутній момент часу t_k+1. Передбачення / прогноз чинять значний вплив на прийняття рішень у бізнесі, науці і техніці.

Оптимізація. Багаточисельні проблеми в математиці, техніці, науці, медицині та статистиці можуть розглядатися як проблеми оптимізації. Задачею алгоритму оптимізації є знаходження такого розв’язку, який задовольняє систему обмежень і максимізує або мінімізує цільову функцію.

Керування. Розглянемо динамічну систему, задану сукупністю {u(t), y(t)}, де u(t) є вхідним керуючим впливом, а y(t) – виходом системи в момент часу t. У системах керування з еталонною моделлю метою керування є розрахунок такого вхідного впливу u(t), при якому система рухається по бажаній траєкторії, що диктується еталонною моделлю.

Огляд пакета прикладних програм Neural Networks Toolbox

Виклик пакета здійснюється командою nntool з командного рядка MATLAB або з вікна запуску додатків з розділу Neural Network Toolbox.

Після запуску пакета відкривається вікно Network/Data Manager – керування мережею та даними (рис. 3.1).

Призначення кнопок у менеджері наступне:

- Help – кнопка виклику вікна підказки Network/Data Manager Help;

- New Data... – кнопка виклику вікна формування даних Create New Data (рис. 3.2);

- New Network... – кнопка виклику вікна створення нової нейронної мережі Create New Network (рис. 3.3);

- Import... – кнопка виклику вікна для імпорту або завантаження даних Import or Load to Network/Data Manager;

- Export... – кнопка виклику вікна для експорту або запису даних у файл Export or Save from Network/Data Manager.

Щоб створити нейронну мережу, необхідно виконати наступні операції:

- сформувати послідовності входів і цілей (кнопка New Data) або завантажити їх з робочої області системи MATLAB чи з файла (кнопка Import);

- створити нову нейронну мережу (кнопка New Network) або завантажити її з робочої області системи MATLAB чи з файла (кнопка Import);

- вибрати тип нейронної мережі та натиснути кнопку Train..., щоб відкрити вікно для задання параметрів процедури навчання;

- відкрити вікно Network для перегляду, ініціалізації, моделювання, навчання й адаптації мережі.

Рисунок 3.1 – Вікно Network/Data Manager

Вікно Create New Data

Вікно Create New Data (рис. 3.2) включає 2 ділянки редагування тексту для запису імені даних, що вводяться (ділянка Name), і введення самих даних (ділянка Value), а також 6 кнопок для вказівки типу даних, що вводяться.

Рисунок 3.2 – Вікно Create New Data

Розрізняють наступні типи даних:

Inputs (Входи) – послідовність значень входів;

Targets (Цілі) – послідовність значень цілей;

Input Delay States (Стан лінії затримки входу) – початкові умови лінії затримки на вході;

Layer Delay States (Стан лінії затримки шару) – початкові умови лінії затримки в шарі;

Outputs (Виходи) – послідовність значень виходу мережі;

Errors (Помилки) – різниця значень цілей і виходів.

Вікно Create New Network

Вікно Create New Network (рис. 3.3) включає поля для задання параметрів створюваної мережі. Залежно від типу мережі кількість полів і їх назв
змінюються.

Рисунок 3.3 – Вікно Create New Network

У вікні Create New Network розташовані наступні поля:

- Network Name (Ім'я мережі) – стандартне ім'я мережі, що присвоюється GUI-інтерфейсом NNTool;

- Network Type (Тип мережі) – список мереж, доступних для роботи з інтерфейсом NNTool;

- Input ranges (Діапазони входу) – припустимі межі входів, які або призначаються користувачем, або визначаються автоматично за ім’ям вхідної послідовності, що вибирається зі списку Get from Inp...;

- Training function (Функція навчання) – список навчальних функцій;

- Adaption learning function (Функції настроювання для режиму адаптації) – список функцій настроювань;

- Performance function (Функція якості навчання) – список функцій оцінки якості навчання;

- Number of layers (Кількість шарів) – кількість шарів нейронної мережі;

- Properties for (Властивості) – список шарів: Layer 1 (Шар 1), Layer 2 (Шар 2);

- Number of neurons (Кількість нейронів) – кількість нейронів у шарі;

- Transfer function (Функція активації) – функція активації шару.

Діалогова панель Network

Діалогова панель Network (рис. 3.4)відкривається тільки в тому випадку, коли у вікні Network/Data Manager виділена створена мережа й потім була натиснута одна із кнопок View, Initialize, Simulate, Train, Adapt.

Панель має 6 закладок:

- View (Перегляд) – структура мережі;

- Initialize (Ініціалізація) – задання початкових ваг і зсувів;

- Simulate (Моделювання) – моделювання мережі;

- Train (Навчання) – навчання мережі;

- Adapt (Адаптація) – адаптація й настроювання параметрів мережі;

- Weights (Ваги) – перегляд установлених ваг і зсувів.

Рисунок 3.4 – Діалогова панель Network

Огляд функцій пакета Neural Networks Toolbox

До складу пакета Neural Networks входять більше 150 різних функцій, утворюючи собою своєрідну макромову програмування і дозволяючи користувачеві створювати, навчати і використовувати різноманітні НМ. Дані функції за своїм призначенням діляться на ряд груп:

- функції активації (передавальні функції) і пов'язані з ними функції;

- функції навчання нейронних мереж;

- функції настроювання шарів нейронів;

- функції одновимірної оптимізації;

- функції ініціалізації шарів і зсувів;

- функції створення нейронних мереж;

- функції перетворення входів мереж;

- функції ваг і відстаней;

- функції розміщення нейронів (топологічні функції);

- функції використання нейронних мереж;

- графічні функції та ін.