Розділ нейромережі як інтелектуальний елемент інформаційної системи




Скачати 367.81 Kb.
НазваРозділ нейромережі як інтелектуальний елемент інформаційної системи
Сторінка8/10
Дата конвертації01.03.2013
Розмір367.81 Kb.
ТипДокументы
uchni.com.ua > Інформатика > Документы
1   2   3   4   5   6   7   8   9   10
^

Рекурентні мережі


Модель Хопфілда

Мережа (модель) Хопфілда складається з множини нейронів і відповідного набору одиничних затримок, що формують систему з множиною зворотніх зв'язків (multiple-loop feedback system) (рисунок 2.28). Кількість зворотних зв'язків дорівнює кількості нейронів. Як правило, вихід кожного нейрона замикається через елемент одиничної затримки на всі інші нейрони мережі. Іншими словами, нейрон цієї мережі не має зворотних зв'язків із самим собою.



Рисунок 2. – Структурний граф мережі Хопфілда, що містить N = 4 нейрони

Задачі

  1. Реалізація асоціативної пам'яті, яка включає в себе відновлення збережених образів при пред'явленні пам'яті неповних або зашумленних їх версій. Для цього додатка, як правило, використовується "дискретна" модель Хопфілда, яка основана на нейроні Мак-Каллока-Пітца (тобто на нейроні, що використовує жорстко обмежену функцію активації). Розглядаючи цю модель в обчислювальному контексті, можна сказати, що ця пам'ять має досить тривіальну конструкцію. Тим не менш, модель Хопфілда асоціативної пам'яті є важливою, оскільки вона пояснює зв'язок між динамікою і обчисленнями абсолютно новаторським способом. Зокрема, модель Хопфілда пояснює наступні властивості, що мають нейробіологічну релевантність.

  • Динаміка цієї моделі визначається великою кількістю точкових атракторів у просторі станів великої розмірності.

  • Розглянутий точковий атрактор (тобто комірка фундаментальної пам'яті) може бути знайдений за допомогою простої ініціалізації моделі неточним описом місця розташування цього атрактора. Після цього динаміка сама переведе стан моделі до найближчого точкового атрактора.

  • Навчання (тобто обчислення вільних параметрів моделі) відбувається увідповідності до постулату навчання Хебба. Більш того, цей механізм навчання дозволяє додавати в модель нові точки атракторів, якщо це необхідно.

  1. Комбінаторні задачі оптимізації (combinatorial optimization problem), які вважаються в математиці найскладнішими. Цей клас задач оптимізації включає в себе відому задачу комівояжера (TravellingSalesmanProblem-TSP), що вважається класичною.

^ Модель BSB

У своїй основі модель BSB є системою з позитивним зворотнім зв'язком з амплітудним обмеженням (positive feedback system with amplitude limitation) [36]. Вона складається з множини взаємозв’язаних нейронів, які замкнуті зворотним зв'язком самі на себе. Ця модель використовує вбудовані зворотні зв'язки для посилення (amplify) вхідного образу до тих пір, поки всі нейрони мережі не досягнуть насичення. Таким чином, модель ВSB можна розглядати як пристрій класифікації, в якому аналоговому входу дається цифрове представлення, яке визначається деяким стійким станом моделі (рисунок 2.29).



Рисунок 2. – а) Блочна діаграма моделі BSB; б) граф передачі сигналу лінійного асоціатора з матрицеювагів W

Модель BSB має внутрішню здатність до кластеризації, яку можна успішно використовувати для представлення даних і формування понять (concept formation). Найбільш цікавим застосуванням моделі BSB є, мабуть, використання її в якості основного обчислювального елемента в мережі мереж (network of networks) – правдоподібної моделі, яка описує різні рівні системної організації в мозку. У цій моделі обчислювальні елементи формують локальні мережі, які розподілені в двовимірному масиві (це і є причиною назви "мережа мереж"). Замість взаємодії стовпців тільки на рівні середніх значень ці локальні мережі сконструйовані для взаємодії з іншими локальними мережами за допомогою образів (векторів) активності (activity pattern). На місці синаптичних ваг між нейронами, присутніх у звичайних мережах, в них знаходиться множина матриць взаємодії, які описують зв'язки між атракторами двох локальних мереж. Локальні мережі формують кластери і рівні, основані на їх взаємних зв'язках, в результаті чого анатомічна зв'язність (anatomical connectivity) розріджується. Це означає, що локальні мережі більш тісно пов'язані всередині кластерів, ніж між кластерами. Тим не менш функціональна зв'язність (functional connectivity) між кластерами має багату динаміку, частково завдяки тимчасовій корельованості роботи локальних мереж.

Задачі

Природним застосуванням моделі BSB є кластеризація (clustering). Це випливає з того факту, що стійкі кути одиничного гіперкуба виступають в ролі точкових атракторів з чітко визначеними басейнами атракції. Ці басейни ділять простір станів на відповіднумножину чітко окреслених областей. Отже, модель BSB може використовуватися в якості алгоритму кластеризації без вчителя (unsupervised clustering algorithm), в якому всі стійкі кути одиничного гіперкуба являють собою "кластери" розглянутих даних.

^ Нейронна мережа Хеммінга

Мережа вибирає еталон з мінімальною хеммінговою відстанню від пред'явленого вхідного вектора шляхом активації тільки одного виходу мережі (нейрона вихідного шару), відповідного цьому еталону (рисунок 2.30).

Перевагою в порівнянні з мережею Хопфілда є менші витрати на пам'ять і обсяг обчислень.



Рисунок 2. – Структура нейронної мережі Хеммінга

^ Двонаправлена асоціативна пам’ять

Як і мережі Хопфілда та Хеммінга, двонаправлена асоціативна пам'ять (ДАП) або, інакше, нейронна мережа Коско, здатна до узагальнення, виробляючи правильні реакції, незважаючи на спотворені входи. Однак на відміну від цих типів нейронних мереж, ДАП вирішує завдання гетероасоціативної пам'яті, тобто вхідний образ може бути асоційований з іншим, не корелюючим з ним образом. Реалізується це внаслідок того, що вихідний вектор формується на іншому наборі нейронів, ніж відповідний йому вхідний (рисунок 2.31).



Рисунок 2. – Структура двонаправленої асоціативної пам’яті
1   2   3   4   5   6   7   8   9   10

Схожі:

Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ нейромережі як інтелектуальний елемент інформаційної системи
Структура інформаційних систем з інтелектуальною підтримкою прийняття рішень
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ інформаційні системи з інтелектуальною підтримкою принять рішень
Структуру інформаційної системи становить сукупність окремих її частин, які називаються підсистемами
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconДосвід розробки земельно-інформаційної системи м. Чугуєва Ткаченко В. П
Гіс, програмні та архітектурні особливості, а також інтерфейсний та інформаційний простір системи. Наприкінці статті наведено новизну...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ методологія побудови інформаційної системи з інтелектуальною...

Розділ нейромережі як інтелектуальний елемент інформаційної системи icon1 Проектування інформаційної системи Проектування інформаційної системи...
На цій стадії розробляють проектну документацію — технічний, робочий або техноробочий проекти
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconРозділ методологія побудови інформаційної системи з інтелектуальною підтримкою прийняття рішень
Структурно-параметричний синтез включає в себе два основних етапи: структурну ідентифікацію та параметричну ідентифікацію
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconТема Визначення бази даних як автоматизованої системи
...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconКонтекстний розвиток інформаційної компетентності педагогів професійної...
Анотація. Автори повідомляють про технологію контекстного розвитку інформаційної компетентності педагогічних працівників системи...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconПлан Вступ 1 Становлення банківської системи України 2 Національний...
Сучасною тенденцією розвитку банківського сектору є поступове злиття банківського та промислового капіталу, що створює передумови...
Розділ нейромережі як інтелектуальний елемент інформаційної системи iconОсобливості створення географічної інформаційної системи для екологічного моніторингу

Додайте кнопку на своєму сайті:
Школьные материалы


База даних захищена авторським правом © 2014
звернутися до адміністрації
uchni.com.ua
Головна сторінка