Адаптивне навчання узагальненої регресійної нейронної мережі для обробки нестаціонарних багатовимірних послідовностей даних
Узагальнення регресійних нейронних мереж Д. Шпехта, які отримали широке розповсюдження для вирішення задач прогнозування та ідентифікації. Навчання мережі, що відбувається шляхом установлення центрів активаційних функцій у точках з координатами векторів.
| Рубрика | Программирование, компьютеры и кибернетика |
| Вид | статья |
| Язык | русский |
| Дата добавления | 19.06.2018 |
| Размер файла | 36,6 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Размещено на http://www.allbest.ru/
Харківський національний університет радіоелектроніки
Адаптивне навчання узагальненої регресійної нейронної мережі для обробки нестаціонарних багатовимірних послідовностей даних
Бодянський Є. В., Дейнеко А. О., Плісс І. П
Узагальнені регресійні нейронні мережі Д. Шпехта [1] отримали досить широке розповсюдження для вирішення задач прогнозування та ідентифікації, завдяки своїм високим інтерполяційним якостям та простоті і швидкості навчання згідно із принципом «нейрони в точках даних». Ці мережі мають досить просту архітектуру, сформовану -нейронами, двома блоками підсумовування та одним блоком ділення, при цьому багатовимірний вхідний сигнал (тут -номер спостереження у навчальній вибірці або поточний дискретний час) у шарі образів, сформованому -нейронами з ядерними активаційними функціями (зазвичай ґавсіанами) , переводиться у простір підвищеної розмірності, після чого за допомогою блоків підсумовування та ділення формується вихідний сигнал мережі . Оскільки навчання цієї мережі відбувається миттєво шляхом установлення центрів активаційних функцій у точках з координатами векторів навчальної вибірки, реакція мережі на довільний вхідний сигнал може бути записана у вигляді
нейронний прогнозування ідентифікація вектор
(1)
де , - зовнішній навчальний сигнал, -параметр рецепторного поля ядерної активаційної функції.
Нескладно помітити, що навчання мережі відбувається у on-line режимі в міру надходження спостережень навчальної вибірки , , при цьому кількість -нейронів у мережі дорівнює . При значній кількості даних у навчальній вібірці, мережа становиться занадто громіздкою, що утруднює її чисельну реалізацію.
Для скорочення кількості нейронів у мережі Д. Шпехтом запропоновано проводити попереднє кластерування даних за допомогою методу -середніх, а в процесі подальшого надходження даних на обробку проводити уточнення координат центроїдів сформованих кластерів за допомогою експоненційного згладжування.
Досить просто і ефективно обмежити кількість нейронів можна в on-line режимі або за допомогою ковзного вікна, сформованого з останніх вимірів, при цьому замість (1) використовується оцінка
, (2)
що є модифікацією процедури, введеної в [2, 3], або за допомогою правила самонавчання Т. Когонена [4], також реалізованого на вікні. Тоді, якщо мережа містить нейронів, при надходженні -го спостереження відбувається корекція одного з центрів активаційних функцій :
(3)
При цьому згідно із принципом «Переможець отримує все», найближчий до центр «підтягується» до останнього спостереження на величину кроку . Цікаво також помітити, що, якщо центри активаційних функцій розглядати як прототипи кластерів, правило (3) перетворюється в звичайний алгоритм навчання самоорганізовної мапи Т. Когонена, яка в процесі свого настроювання збігається до оцінок -середніх:
(4)
де параметр кроку обирається згідно умовам стохастичної апроксимації. При цьому центри активаційних функцій мережі визначаються координатами центрів кластерів, які уточнюються у реальному часі на відміну від пакетної процедури кластерізації, використаної Д. Шпехтом.
Таким чином, використання процедур (2), (3), (4) дозволяє проводити навчання узагальненої регресійної мережі з обмеженою кількістю нейронів у шарі образів у on-line режимі без попередньої пакетної обробки вихідних даних навчальної вибірки.
Введена у розгляд мережа є «гібридом» узагальненої регресійної нейронної мережі та самоорганізовної мапи, навчається у режимі як з «вчителем», так і «без вчителя» та крім традиційних задач ідентифікації, інретполяції та екстраполяції вирішує і задачу сегментації багатовимірних даних, що послідовно надходять на обробку.
Список літератури
1. Specht D. F. A general regression neural network // IEEE Trans. on Neural Networks - 1991. - 2. - P. 568-576.
2. Бодянський Є.В. Еволюційна нейронна мережа з ядерними функціями активації та адаптивний алгоритм її навчання. / Бодянський Є.В., Дейнеко А.О., Тесленко Н.О. // Наукові праці - Вип. 148. - Т. 160. - Комп'ютерні технології. - Миколаїв: Вид-во ЧДУ ім..// Петра Могили, - 2011. - С. 53-58.
3. Бодянский Е.В. Адаптивное обучение комбинированной эволюционной нейронной сети. / Бодянский Е.В., Тесленко Н.А., Дейнеко А.А. - Матеріали міжнародної наукової конференції «Інтелектуальні системи прийняття рішень та проблеми обчислювального інтелекту». - Херсон. - 1. - 2011. - С. 215-220.
4. Kohonen T. Self-Organizing Maps / Kohonen T. - Berlin: Springer-Verlag. - 1995. - 362 p.
Размещено на Allbest.ru
...Подобные документы
Навчання штучних нейронних мереж, особливості їх використання для вирішення практичних завдань. Рецепторна структура сприйняття інформації. Перцептрон як модель розпізнавання. Задача моделювання штучної нейронної мережі з розпаралелюванням процесів.
дипломная работа [2,8 M], добавлен 24.07.2013Вимоги до програмного виробу та функціональних характеристик. Опис інтерфейсу програмного виробу, процедур і функцій. Мережі зі зворотним розповсюдженням. Алгоритм навчання з вчителем (алгоритм зворотного розповсюдження багатошарових нейронних мереж).
курсовая работа [1,1 M], добавлен 20.01.2009Топології нейронної мережі та їх застосування, варіанти вибору архітектури мереж, число проміжних шарів і число елементів, архітектури мереж користувачів. Мережі для задач з багатьма класами, операція додавання матриці втрат, багатошаровий перцептрон.
контрольная работа [227,3 K], добавлен 21.06.2011Специфіка застосування нейронних мереж. Огляд програмних засобів, що використовують нейронні мережі. Побудова загальної моделі згорткової нейронної мережі. Реалізація нейромережного модулю розпізнавання символів на прикладі номерних знаків автомобілів.
дипломная работа [3,4 M], добавлен 15.03.2022Характеристика особливостей побудови біологічних та штучних нейронних мереж. Вивчення їх активіаційних функцій: порогової бінарної, лінійної обмеженої, гіперболічного тангенса. Персептрони і зародження штучних нейромереж. Багатошарові нейронні мережі.
реферат [1,2 M], добавлен 11.06.2010Аналіз локальних мереж та характеристика мережі доступу за технологією 802.11АС. Створення та проектування мережі в Державній установі "Науково-методичний центр вищої та фахової передвищої освіти" та її захист. Переваги бездротової мережі передачі даних.
дипломная работа [4,6 M], добавлен 14.06.2021Поняття комп'ютерної мережі як спільного підключення окремих комп’ютерів до єдиного каналу передачі даних. Сутність мережі однорангової та з виділеним сервером. Топології локальних мереж. Схема взаємодії комп'ютерів. Проблеми передачі даних у мережі.
курсовая работа [605,0 K], добавлен 06.05.2015Розробка системи підтримки прийняття рішень для проектування комп’ютерної мережі. Матричний алгоритм пошуку найменших шляхів. Програма роботи алгоритму в MS Excel. Розробка програми навчання нейронної мережі на основі таблиць маршрутизації в пакеті Excel.
курсовая работа [2,8 M], добавлен 12.12.2013Бібліотека Pcap та її реалізація WinPcap під платформу Windows. Аспекти робот з бібліотекою WinPcap. Штучні нейронні мережі. Застосування бібліотеки Winpcap для захоплення мережевого трафіку. Реалізація нейронної мережі Кохонена для аналізу заголовків.
дипломная работа [2,2 M], добавлен 09.06.2012Обладнання безпровідних мереж. Стандартні і додаткові швидкості в Ethernet: частотний діапазон, швидкість радіо, захисний інтервал. Коротка характеристика головних переваг та недоліків бездротової мережі Wi-Fi. Забезпечення стійкості мережі до злому.
презентация [355,0 K], добавлен 14.08.2013Характеристика інструментів MatLab - пакету прикладних програм для числового аналізу. Основні функції та можливості програмного комплексу. Скриптова мова програмування. Побудова моделі штучної нейронної мережі за допомогою команди NNTool та її тестування.
лабораторная работа [215,8 K], добавлен 11.06.2015Класифікація комп'ютерних мереж. Забезпечення функціонування локальної мережі за допомогою сервера. Топологія локальної мережі. Оптоволоконний інтерфейс до розподілених даних FDDI. Бездротові технології Wi-Fi, Bluetooth, GPRS. Мережеві апаратні засоби.
реферат [561,2 K], добавлен 15.03.2013Аналіз технічного завдання: призначення розробки, відомості про LAN-мережі. Принципи ідентифікації вузлів комп’ютерної мережі в багатозадачних операційних системах. Проектування компонентів програми. Аналіз синтаксису Bash. Результати тестування.
курсовая работа [645,6 K], добавлен 23.01.2012Поняття та види векторів. Прості математичні операції над ними. Векторний добуток, його геометричні та алгебраїчні властивості. Визначення та реалізація програмного класу багатовимірних векторів. Перевантажені оператори та дружні оператор-функції.
курсовая работа [110,1 K], добавлен 15.01.2012Часовий ряд як сукупність значень будь-якого показника за декілька послідовних моментів або періодів часу. Знайомство з методами для прогнозування часового ряду за допомогою штучних нейронних мереж. Розгляд головних задач дослідження часового ряду.
контрольная работа [1,1 M], добавлен 14.09.2014Теоретичні основи технології віртуалізації як інструменту навчання, проектування мереж та системного адміністрування. Планування складу комп’ютерної мережі, вибір платформи та операційної системи, установка і налаштування програм. Питання охорони праці.
дипломная работа [5,9 M], добавлен 24.04.2014Набір можливостей CS-1 - перше покоління інтелектуальних мереж. Усунення недоліків у пакеті CS-2. Роль інтелектуальної мережі у процесі конвергенції IP і телефонії. Функціональна архітектура підтримки послуг, що надаються телефонними та IP-мережами.
контрольная работа [570,6 K], добавлен 15.01.2011Особливості та переваги проведення тестувань в мережі інтернет з метою дистанційного навчання чи оцінювання знань. Створення web-сайту з розширеними можливостями та системи дистанційного тестування. Реляційна схема бази даних конструктора тестів.
дипломная работа [2,1 M], добавлен 25.11.2012Застосування нейронних мереж при вирішенні різних технічних проблем. Архітектура штучних нейронних мереж. Дослідження штучного інтелекту. Гіпотеза символьних систем. Представлення за допомогою символів. Синтаксичний та семантичний аналіз розуміння мови.
курсовая работа [985,8 K], добавлен 14.01.2010Представлення типів даних при роботі нейронними мережами. Корисні вхідні змінні, їх тестування методом спроб та помилок. Генетичний алгоритм відбору вхідних даних. Нелінійне пониження розмірності, пропущені значення. Створення нового набору даних.
реферат [1,1 M], добавлен 09.07.2011
