- 11.1. Завдання навчання нейромережі методом трасування
- 11.2. Формування навченої нейромережі на основі заданої множини нейроподібних елементів
Анотація: Пропонуються: алгоритм навчання-трасування нейронної мережі при первісному відсутності синапсичну зв'язків, алгоритм оптимального закріплення подій за рецепторами і загальний алгоритм трасування нейронної мережі з урахуванням складної структури логічних виразів.
"Щоб шаленою танцем землю овіть,
нудну, як банка консервів,
давайте весняних метеликів ловити
мережею непотрібних нервів! "
В.В. Маяковський. "Гімн здоров'ю"
11.1. Завдання навчання нейромережі методом трасування
Під навчанням нейромережі розумітимемо накладення необхідної структури (навченої) нейромережі на задану графічну структуру.
За логічного опису СПР ми складаємо логічну схему і "оголошуємо" її нейромережею, назвавши такий підхід "схемотехническим". Однак він стосувався навчання узагальненим стандартам, тобто відтворення потенційно одношарових нейромереж. Там потрібно забезпечити лише проходження імпульсу збудження від рецептора до нейрона вихідного шару.
Узагальнимо метод трасування, зорієнтувавши його на довільно структуроване (що використовує дужки) логічне опис СПР, зокрема, - на його дистрибутивну форму.
Почнемо з розгляду аналогій.
Завдання трасування з'єднань в логічній матриці для побудови електронної схеми можна уявити в двох варіантах.
- На платі розміщені логічні елементи. Серед них задані вхідні і вихідні. Необхідно поєднати елементи так, щоб отримати необхідну функціональний пристрій. (При орієнтації на технології виготовлення електронних плат, наприклад друкованих, враховують додаткові вимоги мінімізації числа перетинів зв'язків.)
- На платі розміщені логічні елементи і в деякій конфігурації введені зв'язку між ними. Топологія зв'язків, при виділенні входів і виходів, може бути як випадковою, так і регулярної. Необхідно підтвердити існування деяких зв'язків і ліквідувати інші так, щоб сформувати необхідну функціональний пристрій. При цьому може допускатися введення мінімальної кількості відсутніх зв'язків.
Як правило, при таких постановках задачі трасування не розглядаються зворотні зв'язки.
Виходячи з аналогій, обумовлених загальною логічною базою, сформулюємо і вирішимо дві задачі побудови навченої (навчання) нейронної мережі відповідно до її спеціалізацією в складі СПР.
Використовуючи запропоновану нам для навчання нейромережа, дозволимо її модифікацію - введення відсутніх зв'язків (відкинути непридатну мережу - значить, розраховувати на випадок), якщо очевидно, що без таких зв'язків правильного функціонування домогтися неможливо.
11.2. Формування навченої нейромережі на основі заданої множини нейроподібних елементів
Під нейроподібні елементом, який ми домовилися називати нейроном, мається на увазі не тільки матеріалізований образ - електронний аналог, програмний модуль і ін., Скільки реалізована їм передавальна функція.
Нехай задано безліч нейронів X = {x1, ..., xm} і логічне опис СПР в дистрибутивної формі 1 За "логічної" технології, обґрунтованої раніше, необхідно сформувати зв'язку між нейронами так, щоб при одиничних значеннях вірогідності, що збігаються з одиничними булеві значеннями змінних, максимального збудження на вихідному шарі при даної передавальної функції досягав той нейрон, який закріплений за рішенням, обумовленим одиничним значенням відповідної йому логічної функції.
Дужковий запис задає послідовність формування навченої нейромережі. Процес такого формування (навчання) полягає в рекурсивної комутації підструктур - термів на основі вмісту дужок відповідно до їх вкладеністю.
Продовжимо розгляд прикладу на основі логічного опису (10.1). Перепишемо його, використовуючи символ узагальненої операції, яка реалізується функцією передачі, але зберігши дужки:
Перш за все з безлічі Х необхідно виділити нейрони вхідного - рецепторного - і вихідного шарів. Виходячи з цього, а також, задавши кількість необхідних і передбачуваних нейронів різного функціонального призначення, закріпимо і переобозначив нейрони: Х = {X1, ..., X15, 1, ..., 11, R1, ..., R5}. Нейрони 1, ..., 11 в майбутніх побудовах виконають роль нейронів прихованих шарів - прихованих нейронів.
Складемо матрицю проходження, спочатку містить "порожні" елементи. на Мал. 11.1 представлена така матриця S, відповідна вже отриманого рішення. Однак поки не слід враховувати поодинокі елементи: їх необхідно сформувати в процесі виконання завдання.
Для зручності користування і з огляду на, що дана матриця при відсутності зворотного зв'язку - трикутна, вона виконана у вигляді "шахматки", де діагональні елементи відзначені.
Отже, щоб сигнали збудження направлено проходили від вхідних нейронів до вихідних, необхідно сформувати зв'язку з одиничними вагами, використовуючи приховані нейрони. Нехай приховані нейрони утворюють ресурс - безліч М вільних нейронів, спочатку M = {1, ..., 11}.
Мал.11.1.
Матриця проходження після навчання нейромережі
Організуємо послідовний аналіз виразів (11.1).
При перегляді першого виразу, аналізуючи відкривають та закривають дужки, знайдемо першу дужку найвищого рівня вкладеності. Вона відповідає виразу (Х1 & Х7). Закріпимо за ним перший вільний нейрон 1 з М, припустивши тим самим, що він виконує аналог операції, зазначеної в дужках. Сформуємо уточнену рядок матриці проходження S, відповідну нейрона 1, записавши ваги зв'язків, рівні одиниці, в стовпці, що відповідають нейронам Х1 і Х7.
Позначимо досліджену "дужку" ім'ям нейрона 1 і перепишемо логічне вираз:
Продовжимо пошук "дужок" найвищого рівня вкладеності.
Знаходимо "дужку" (Х3 & Х5). У загальному випадку така "дужка" могла зустрітися раніше, і за нею міг бути закріплений прихований нейрон. З метою економії нейронів сформуємо уточнену рядок матриці проходження, записавши одиниці в стовпці, що відповідають нейронам Х3 і Х5. Однак, перш ніж помістити рядок на її місце, перевіримо, чи немає в S ідентичною рядки? В даному випадку такого рядка немає. Тоді співвіднесемо отриманий рядок з черговим вільним нейроном 2 і помістимо її в S.
Перепишемо логічне вираз, замінивши оброблену "дужку":
(1 & 2) & (Х10 & Х13) -> R1.
Продовжуючи так само, закріпимо нейрон 3 за "дужки" (Х10 & Х13) і сформуємо відповідну цього нейрона рядок матриці S. Запис логічного виразу набуде вигляду
(1 & 2) & 3 -> R1.
Наступний огляд цього запису призводить до заміни "дужки" 
ім'ям нейрона 4 і до формування рядка матриці проходження, відповідної цьому нейрона. Цей рядок містить одиниці в рядках, відповідних нейронам 1 і 2. Запис логічного виразу набуде вигляду
4 & 3 -> R1.
Відсутність дужок говорить про необхідність введення зв'язків 4 -> R1 і 3 -> R1. Таким чином, рядок, що відповідає нейрону R1 вихідного шару, містить одиниці в стовпці, що відповідають нейронам 3 і 4.
Трасування рішення R1 закінчена.
Аналізуємо логічне вираз
((X1 & X7) & (X4 & X6)) & (X2 & X12 & X14) -> R2.
Рядок матриці S, сформована за "дужки" (Х1 & Х7), збігається з рядком, що відповідає нейрону 1. Значить, можна "заощадити", повторно використавши цей нейрон. Перетворимо запис:
(1 & (X4 & X6)) & (X2 & X12 & X14) -> R2.
За такою "дужкою" (Х4 & Х6) закріпимо нейрон 5, сформувавши для нього рядок матриці S, і запис набуде вигляду
(1 & 5) & (X2 & X12 & X14) -> R2.
Продовживши її огляд, отримаємо новий вид запису (1 & 5) & 6 -> R2, а потім 7 & 6 -> R2. Сформовані при цьому рядки матриці S показані на малюнку. Аналогічно аналізуються інші логічні вирази (11.1), що не вносить нових особливостей в неформально викладений алгоритм.
Нейросеть, представлена матрицею проходження S, близька до нейромережі, показаної на Мал. 10.2 .
5. Однак, перш ніж помістити рядок на її місце, перевіримо, чи немає в S ідентичною рядки?