Розділ нейромережі як інтелектуальний елемент інформаційної системи




Скачати 367.81 Kb.
НазваРозділ нейромережі як інтелектуальний елемент інформаційної системи
Сторінка7/10
Дата конвертації01.03.2013
Розмір367.81 Kb.
ТипДокументы
uchni.com.ua > Інформатика > Документы
1   2   3   4   5   6   7   8   9   10
^

Мережі прямого поширення для часової обробки


Задачі:

  1. Прогнозування (prediction) та моделювання часових рядів

  2. Шумоподавленння (noise cancellation), в якому потрібно використовувати первинні сенсори (отримують бажаний сигнал, забруднений шумом) і сенсори посилань(reference sensor) (отримують корельовано версію шуму)

  3. Адаптивне зрівняння (adaptive equalization) невідомого каналу зв'язку

  4. Адаптивне управління (adaptive control)

  5. Ідентифікація систем (system identification)

Архітектура NETtalk вперше продемонструвала велику паралельну розподілену мережу, яка перетворювала англійську розмовну мову в фонеми (фонема – це базова лінгвістична одиниця). На Рисунок2.21 показана схематична діаграма системи NETtalk, яка основана на багатошаровому персептроні з вхідним шаром, що складається з 203 сенсорних вузлів, 80 нейронів прихованого шару і 26 нейронів вихідного шару. Всі нейрони використовують сигмоїдальної (логістичні) функції активації. Синаптичні зв'язки цієї мережі визначаються в цілому 18629 вагами, включаючи змінний поріг (threshold) для кожного нейрона, рівний зсуву (bias), узятий з протилежним знаком. Для навчання мережі використовувався стандартний алгоритм зворотного поширення (рисунок 2.21) [34].



Рисунок 2. – Архітектура мережі NETtalk

Нейронні мережі з затримкою по часу

Популярною мережею, яка для тимчасової обробки використовує звичайні затримки, є так звана нейронна мережа з затримкою по часу (time delay neural network – TDNN) [35]. TDNN – це багатошарова мережа прямого поширення, приховані і вихідні нейрони якої реплікуються за часом (replicated acrosstime). У цій роботі було запропоновано за допомогою спектрограми витягувати в явному вигляді принципи симетрії, яка зустрічається у відокремленому слові (фонемі). Спектрограма (spectrogram) – це двовимірний малюнок, в якому вертикальний вимір відповідає частоті, а горизонтальний – часу. Інтенсивність (яскравість) точок на спектрограмі відповідає енергії сигналу.

На рисунку 2.22 показана версія TDNN з одним прихованим шаром. Вхідний шар складається з 192 (16x12) сенсорних вузлів, що кодують спектрограму. Прихований шар містить 10 копій 8-ми прихованих нейронів, а вихідний – 6 копій 4-х нейронів. Різні копії прихованого нейрона застосовують одну і ту ж множину синаптичних ваг до вузьких (шириною в 3 кроки за часом) вікон спектрограми. Аналогічно, різні копії вихідного нейрона застосовують вузькі (шириною в 5 кроків за часом) вікна псевдоспектрограми, обчисленої прихованим шаром.



Рисунок 2. – Мережа, приховані і вихідні нейрони якої репліковані за часом (а), представлення нейронноїмережі з затримкою за часом (TDNN) (б)

Задачі

Класифікація тимчасових образів

^ Фокусовані мережі прямого поширення з затримкою по часу

При структурному розпізнаванні образів (structural pattern recognition) прийнято використовувати статичні нейронні мережі. На противагу цьому тимчасове розпізнавання образів (temporal pattern recognition) вимагає обробки образів, що змінюються в часі, і генерації відгуку в конкретний момент часу, який залежить не тільки від поточного, але і від кількох попередніх його значень. На рисунок 2.23 показана блочна діаграма нелінійного фільтра, створеного на основі статичної нейронної мережі. Ця мережа стимулюється за допомогою короткочасної пам'яті.


Рисунок 2. – Нелінійний фільтр, створений на статичній нейронній мережі

Мережі прямого поширення з затримкою по часу (TLFN)

Елемент тимчасової обробки на рисунок 2.24 складається з пам'яті на основі лінії затримки з відводами, відводи якої з'єднані з синапсами нейрона. Ця пам'ять добуває тимчасову інформацію, що міститься у вхідному сигналі, яка, в свою чергу, передається синаптичними вагами в нейрон. Елемент обробки на рисунок 2.24 називають фокусованим нейронним фільтром (focused neuronal filter).



Рисунок 2. – Фокусований нейронний фільтр

Переходячи до рисунок 2.25 на якому показана фокусована мережа прямого поширення з затримкою за часом (focused time lagged feed forward network – TLFN), ми бачимо більш потужний нелінійний фільтр, що складається з пам'яті на основі лінії затримки з відводами порядку р і багатошарового персептрона. Для навчання цього фільтра можна використовувати стандартний алгоритм зворотного поширення.



Рисунок 2. – Фокусована мережа прямого поширення з затримкою по часу (TLFN). Для спрощення представлення, рівні зміщення (bias) опущені

^ Розподілені мережі прямого поширення з затримкою по часу

Універсальний алгоритм міопічного відображення, який забезпечує математичне обґрунтування фокусованої TLFN, обмежений тільки тими відображеннями, які інваріантні до зміщення. Значення цього обмеження полягає в тому, що фокусовані TLFN застосовні тільки в стаціонарних (інваріантних за часом) середовищах. Це обмеження можна обійти, використовуючи розподілені мережі прямого поширення з затримкою за часом (TLFN). Тут під розподіленістю мається на увазі те, що неявний вплив часу розподілений по всій мережі. Конструкція такої мережі ґрунтується на застосуванні нейронного фільтру з кількома входами (див. рисунок 2.26) в якості просторово-часової моделі нейрона.



Рисунок 2. – Нейронний фільтр здекількома входами

Навчання

Алгоритм зворотнього поширення за часом

^ Гібридні нейронні мережі

Кожен різновид систем штучного інтелекту має свої особливості, наприклад, за можливостями навчання, узагальнення і формування висновків, що робить її більш придатною для вирішення одного класу завдань і менш придатною для іншого.

Наприклад, нейронні мережі хороші для задач розпізнавання образів, але дуже незручні для з'ясування питання, як вони це розпізнавання здійснюють. Вони можуть автоматично здобувати знання, але процес їх навчання часто відбувається досить повільно, а аналіз навченої мережі вельми складний (навчена мережа зазвичай – чорний ящик для користувача). При цьому будь-яку апріорну інформацію (знання експерта) для прискорення процесу її навчання в нейронну мережу ввести неможливо.

Системи з нечіткою логікою, навпаки, хороші для пояснення отриманих з їх допомогою висновків, але вони не можуть автоматично здобувати знання для використання їх в механізмах висновків. Необхідність розбивки універсальних множин на окремі області, як правило, обмежує кількість вхідних змінних в таких системах невеликим значенням.

ANFIS (Adaptive neuro fuzzy inference system) зображено на рисунку 2.27.



Рисунок 2. – Структура гібридної нейронної мережі (архітектура ANFIS)

Дана мережа може бути описана наступним чином.

  1. Шар 1 (Layer 1). Виходи вузлів цього шару представляють собою значення функцій належності при конкретних (заданих) значеннях входів.

  2. Шар 2 (Layer 2). Виходами нейронів цього шару є степені істинності передумов кожного правила бази знань системи, які обчислюються за формулами:



(2.1)
,
,
.


  1. Шар 3 (Layer 3). Нейрони цього шару (позначені літерою N) обчислюють величини



(2.2)
, , .


  1. Шар 4 (Layer 4). Нейрони даного шару виконують операції:



(2.3)
, , .

(2.4)
5. Шар 5 (Layer 5). Єдиний нейрон цього шару обчислює вихід мережі:
.

1   2   3   4   5   6   7   8   9   10

Схожі:

Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ нейромережі як інтелектуальний елемент інформаційної системи
Структура інформаційних систем з інтелектуальною підтримкою прийняття рішень
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ інформаційні системи з інтелектуальною підтримкою принять рішень
Структуру інформаційної системи становить сукупність окремих її частин, які називаються підсистемами
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconДосвід розробки земельно-інформаційної системи м. Чугуєва Ткаченко В. П
Гіс, програмні та архітектурні особливості, а також інтерфейсний та інформаційний простір системи. Наприкінці статті наведено новизну...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ методологія побудови інформаційної системи з інтелектуальною...

Розділ нейромережі як інтелектуальний елемент інформаційної системи icon1 Проектування інформаційної системи Проектування інформаційної системи...
На цій стадії розробляють проектну документацію — технічний, робочий або техноробочий проекти
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ методологія побудови інформаційної системи з інтелектуальною підтримкою прийняття рішень
Структурно-параметричний синтез включає в себе два основних етапи: структурну ідентифікацію та параметричну ідентифікацію
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconТема Визначення бази даних як автоматизованої системи
...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconКонтекстний розвиток інформаційної компетентності педагогів професійної...
Анотація. Автори повідомляють про технологію контекстного розвитку інформаційної компетентності педагогічних працівників системи...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconПлан Вступ 1 Становлення банківської системи України 2 Національний...
Сучасною тенденцією розвитку банківського сектору є поступове злиття банківського та промислового капіталу, що створює передумови...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconОсобливості створення географічної інформаційної системи для екологічного моніторингу

Додайте кнопку на своєму сайті:
Школьные материалы


База даних захищена авторським правом © 2014
звернутися до адміністрації
uchni.com.ua
Головна сторінка