Статистичні методи моделювання багатовимірних лінійних систем в умовах структурної невизначеності

Размещено на http://www.allbest.ru/

МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ НАЦІОНАЛЬНА МЕТАЛУРГІЙНА АКАДЕМІЯ УКРАЇНИ

Спеціальність 01.05.02 - математичне моделювання та обчислювальні методи

УДК 519.25:681.5

Автореферат

дисертації на здобуття наукового ступеня доктора технічних наук

СТАТИСТИЧНІ МЕТОДИ МОДЕЛЮВАННЯ БАГАТОВИМІРНИХ ЛІНІЙНИХ СИСТЕМ В УМОВАХ СТРУКТУРНОЇ НЕВИЗНАЧЕНОСТІ

Саричев Олександр

Павлович

Дніпропетровськ 2009

Дисертацією є рукопис.

Робота виконана в відділі системного аналізу і проблем керування Інституту технічної механіки Національної академії наук України і Національного космічного агентства України, м. Дніпропетровськ.

Науковий консультант: доктор технічних наук, старший науковий співробітник Степашко Володимир Семенович завідувач відділом інформаційних технологій індуктивного моделювання Міжнародного науково-навчального центру інформаційних технологій і систем НАН України і МОН України, м. Київ

Офіційні опоненти: доктор технічних наук, професор Бодянський Євгеній Володимирович професор кафедри штучного інтелекту Харківського національного університету радіоелектроніки МОН України, м. Харків доктор технічних наук, професор Дивак Микола Петрович декан факультету комп'ютерних інформаційних технологій Тернопільського національного економічного університету МОН України, м. Тернопіль доктор фізико-математичних наук, професор Когут Петро Ілліч професор кафедри диференційних рівнянь Дніпропетровського національного університету МОН України, м. Дніпропетровськ Захист відбудеться " 21 " жовтня 2009 р. о 1230 годинi на засiданнi спецiалiзовано вчено ради Д 08.084.01 при Національної металургійної академії України за адресою: 49600, м. Дніпропетровск, просп. Гагаріна, 4.

З дисертацiю можна ознайомитись у бiблiотецi Національної металургійної академії України за адресою: 49600, м. Дніпропетровск, просп. Гагаріна, 4.

Автореферат розiсланий " 09 " вересня 2009 р.

Вчений секретар спецiалiзовано вчено ради Д 08.084.01 О.І. Дерев'янко

1. ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ

Актуальність теми. Статистичні методи математичного моделювання технічних систем, для яких відсутні точні апріорні гіпотези, є найпоширенішим сучасним інструментом наукових та інженерних досліджень з метою оцінювання та прогнозування стану таких систем.

Як об'єкти математичного моделювання технічні системи можуть бути розділені на два класи. До першого належать об'єкти, для яких дослідник може вибрати структуру моделі, тобто апріорно задати модель із точністю до невідомих параметрів, тоді задачу побудови моделей називають задачею параметричної ідентифікації. До другого класу належать об'єкти, для яких не можна однозначно апріорно вибрати структуру моделі, тоді задачу побудови моделей називають задачею структурно-параметричної, або просто структурної ідентифікації.

Поширеним класом моделей у задачах структурної ідентифікації є клас систем регресійних рівнянь, лінійних за параметрами. Моделі цього класу дозволяють описувати й прогнозувати стани об'єктів, нелінійних за вхідними змінними: для цього необхідно від початку розширити множину вхідних змінних за рахунок нелінійних функцій. Крім цього, такий клас моделей можна застосовувати і при моделюванні динамічних систем у сталих режимах функціонування.

Можливі два основних види структурної невизначеності при моделюванні в класі систем регресійних рівнянь. До першого виду належить невизначеність за ступенем статистичної залежності між випадковими складовими різних вихідних змінних об'єкта. Якщо така залежність існує, а коваріаційна матриця випадкових складових різних вихідних змінних невідома, задача оцінювання коефіцієнтів зводиться до задачі мінімізації функціонала, що являє собою логарифм визначника коваріаційної матриці залишків регресійних рівнянь. Відомим методом розв'язання цієї задачі є так званий “двокроковий” метод: на першому кроці параметри регресійних рівнянь оцінюються за методом найменших квадратів незалежно для кожної вихідної змінної, а на другому вони оцінюються сумісно з використання оцінки коваріаційної матриці випадкових складових вихідних змінних, отриманої на першому кроці за залишками регресійних рівнянь. Цей метод є евристичним, і його аналітичне обґрунтування та узагальнення є актуальною задачею.

До другого виду структурної невизначеності належить невизначеність щодо кількості та складу вхідних змінних у регресійних рівняннях. Відомим критерієм якості для систем регресійних рівнянь є багатовимірний аналог інформаційного критерію Акаіке. Його недолік полягає в тому, що він побудований у припущенні, що всі вихідні змінні об'єкта визначаються спільною однаковою множиною вхідних змінних. У прикладних задачах можуть зустрічатися об'єкти більш широкого класу, коли вихідні змінні можуть визначатися, загалом кажучи, різними підмножинами вхідних змінних. Тому актуальною задачею є побудова та обґрунтування критерію структурної ідентифікації для систем регресійних рівнянь такого класу.

Відомий підхід до побудови критеріїв якості статистичних моделей в умовах структурної невизначеності застосовується в методі групового урахування аргументів (МГУА), що його розробив академік НАН України О.Г. Івахненко. Підхід заснований на розбитті вибірки даних на навчальну й перевірну частини: на навчальній підвибірці оцінюються коефіцієнти моделі, а на перевірній оцінюється якість моделі. Істотний внесок у розвиток цього підходу зробили D.M. Allen, A.R. Barron, S.J. Farlow, R.R. Hocking, H.R. Madala, J.-A. Muller, F. Lemke, R.D. Snee, M. Stone, Ю.П. Зайченко, В.С. Степашко та інші.

Подальшому розвитку цього підходу присвячена ця дисертаційна робота.

Модель із класу систем регресійних рівнянь дозволяє чисельно оцінити очікувані значення вихідних змінних об'єкта за заданими значеннями його вхідних змінних. Такий підхід до опису стану об'єкта є характерним для задач оцінювання стану.

Іншим можливим підходом до опису стану об'єкта є віднесення стану, що аналізується, до відомого класу станів. Цей підхід є характерним, як правило, для задач технічної діагностики. Задача опису та прогнозування стану об'єкта технічної діагностики як задача статистичної класифікації може характеризуватися структурною невизначеністю щодо кількості та складу змінних (ознак), які необхідно включати в класифікаційне правило.

Поширеним класом моделей статистичної класифікації на основі дискримінантного аналізу є клас дискримінантних функцій, лінійних за параметрами. У прикладних задачах популярні два способи порівняння дискримінантних функцій, які побудовані на різних множинах ознак: спосіб з розбиттям спостережень кожного класу на навчальні й перевірні підвибірки та спосіб ковзного контролю. Причому в літературі обидва способи традиційно трактуються як евристичні методи. Існування в цих способах оптимальної підмножини ознак є відомим фактом з досвіду розв'язання прикладних задач і неодноразово підтверджувався за допомогою методу статистичних випробувань, але аналітичного обґрунтування цих способів не існує. Тому актуальною задачею є аналітична побудова критеріїв якості дискримінантних функцій для способу з розбиттям вибірок спостережень кожного класу на навчальні й перевірні підвибірки, а також для способу ковзного контролю.

Таким чином, актуальність теми дисертації визначається її спрямованістю на вирішення важливої науково-прикладної проблеми підвищення якості прогнозування станів технічних систем в умовах структурної невизначеності.

Зв'язок роботи з науковими програмами, темами. Статистичні методи моделювання технічних систем в умовах структурної невизначеності розроблялися автором при виконанні таких наукових тем:

- тема 1.3.2.274 НАН України “Розробка методології досліджень транспортних космічних систем з урахуванням комерціалізації космічної діяльності” (номер державної реєстрації 0101U001600, Інститут технічної механіки НАН України і НКА України, керівник НДР проф. А.П. Алпатов, 2001-2005 рр.);

- тема III-42-06 НАН України “Розробка комплексних моделей механіки руху, функціонування й ефективності космічних систем і системний аналіз напрямків інноваційного розвитку ракетно-космічної техніки України” (номер державної реєстрації 0106U001729, Інститут технічної механіки НАН України і НКА України, керівник НДР проф. А.П. Алпатов, 2006-2008 рр.);

- тема 0.74.09.02НII ДКНТ і АН СРСР “Взяти участь у розробці прогностичної напівемпіричної моделі магнітосферно-іоносферної взаємодії та модернізації алгоритмів розрахунку прогнозних характеристик іоносферних радіотрас з урахуванням розроблених нових моделей поширення радіохвиль у полярних областях” (номер державної реєстрації 0186U096697, Інститут кібернетики ім. В.М. Глушкова АН УРСР, керівники НДР Г.І. Кротов, член-кор. АН УРСР О.Г. Івахненко, 1986-1990 рр.);

- проект INTAS-OPEN “Computer Assisted Neurophysiology by Distributed Java

Program”, мета проекту - створення апаратно-програмного комплексу “Віртуальна нейролабораторія” (Ref. № INTAS 97-0168, Інститут нейрофізіології Університету м. Лозанна, Швейцарія, керівник проекту проф. А.Е.Р. Вілла, 1998-2000 рр.).

Мета дисертації - розроблення та удосконалення статистичних методів побудови багатовимірних математичних моделей технічних систем в умовах структурної та параметричної невизначеності.

Об'єкт дослідження - багатовимірні структурно і параметрично невизначені технічні системи.

Предмет дослідження - статистичні методи математичного моделювання багатовимірних лінійних систем в умовах структурної та параметричної невизначеності на базі методу групового урахування аргументів.

Методи досліджень. У процесі розробки нових і вдосконалення існуючих статистичних методів моделювання в умовах структурної та параметричної невизначеності в дисертації застосовуються: математичний аналіз, багатовимірний статистичний аналіз, теорія матриць, регресійний аналіз, дискримінантний аналіз, метод групового урахування аргументів, метод статистичних випробувань.

Основні задачі досліджень. 1. Аналітичний огляд і класифікація типових задач моделювання багатовимірних лінійних систем і формулювання актуальних задач структурно-параметричної ідентифікації моделей таких систем в умовах структурної та параметричної невизначеності.

2. Обґрунтування критерію регулярності МГУА у схемі повторних спостережень і усередненого критерію регулярності МГУА як критеріїв структурної ідентифікації.

3. Розробка методу параметричної ідентифікації та критерію структурної ідентифікації в задачі моделювання об'єктів з багатовимірним виходом у класі систем регресійних рівнянь із детермінованими коефіцієнтами.

4. Розробка методу параметричної ідентифікації та критерію структурної ідентифікації в задачі моделювання об'єктів з багатовимірним виходом у класі систем регресійних рівнянь із випадковими коефіцієнтами.

5. Розробка критеріїв якості дискримінантних функцій у задачі статистичної класифікації на основі дискримінантного аналізу для двох випадків: з розбиттям спостережень на навчальні й перевірні вибірки та для ковзного іспиту.

6. Застосування розроблених методів для розв'язання реальних прикладних задач моделювання технічних систем в умовах структурної невизначеності.

Наукова новизна отриманих результатів. У дисертації розроблено нові методи параметричної ідентифікації та критерії структурної ідентифікації, які в сукупності вирішують важливу науково-прикладну проблему підвищення якості прогнозування станів технічних систем в умовах структурної та параметричної невизначеності.

І. Нові наукові результати, які розвивають теорію критеріїв структурної ідентифікації в методі групового урахування аргументів:

1. Вперше обґрунтовано застосування критерію регулярності МГУА в схемі повторних спостережень і усередненого критерію регулярності МГУА як критеріїв структурної ідентифікації в задачі моделювання об'єктів із одновимірним виходом. Досліджено залежність математичного сподівання цих критеріїв від складу множини регресорів і доведено існування моделей оптимальної складності.

2. Вперше побудовано за принципами МГУА та досліджено у схемі повторних спостережень критерій структурної ідентифікації для моделювання в класі систем регресійних рівнянь. Для моделей з класу систем регресійних рівнянь із детермінованими коефіцієнтами та класу систем з випадковими коефіцієнтами отримано умови редукції (спрощення) оптимальних за складом регресорів систем регресійних рівнянь.

3. Вперше побудовано за принципами МГУА та аналітично досліджено два критерії якості дискримінантних функцій у задачі статистичної класифікації на основі дискримінантного аналізу: критерій з розбиттям спостережень на навчальні й перевірні вибірки та критерій ковзного контролю.

ІІ. Нові наукові результати, які є обґрунтуванням і розвитком “двокрокових” методів параметричної ідентифікації систем регресійних рівнянь із детермінованими та з випадковими коефіцієнтами:

4. Розроблено метод параметричної ідентифікації в задачі моделювання об'єктів з багатовимірним виходом у класі систем регресійних рівнянь, у яких адитивні випадкові складові можуть бути статистично залежними, а множини вхідних змінних можуть бути різними.

5. Розроблено метод параметричної ідентифікації в задачі моделювання об'єктів із багатовимірним виходом у класі систем регресійних рівнянь, у яких коефіцієнти є залежними випадковими величинами, а множини вхідних змінних можуть бути різними.

ІІІ. Подальший розвиток теорії статистичної класифікації:

6. Розроблено метод статистичної класифікації в задачі діагностики стану об'єкта, що може знаходитись у двох класах станів, кожен з яких описується своєю системою регресійних рівнянь. Метод розроблено для двох класів систем регресійних рівнянь: із детермінованими та з випадковими коефіцієнтами.

Достовірність отриманих теоретичних результатів - методів параметричної ідентифікації та критеріїв структурної ідентифікації для моделювання багатовимірних лінійних систем в умовах структурної та параметричної невизначеності - забезпечено коректним застосуванням математичного аналізу та багатовимірного статистичного аналізу. Достовірність та ефективність обчислювальних ітераційних процедур параметричної ідентифікації для класів систем із детермінованими та з випадковими коефіцієнтами підтверджено методом статистичних випробувань.

Теоретичні результати, у яких доведено існування статистичних моделей оптимальної складності, встановлено можливість та отримано умови їхній редукції (спрощення), підтверджено результатами розв'язання кількох реальних задач моделювання. Ефективність побудованих моделей у розв'язаних прикладних задачах перевірена на контрольних вибірках спостережень.

Практичне значення отриманих результатів. Застосування розроблених методів параметричної ідентифікації та критеріїв структурної ідентифікації дозволяє підвищити якість прогнозування станів технічних систем в умовах структурної та параметричної невизначеності.

Розроблені методи реалізовані в вигляді комп'ютерних програм. Розв'язання реальних прикладних задач математичного моделювання технічних систем показало ефективність побудованих моделей у порівнянні з моделями, що отримані за існуючими методами. Результати досліджень впроваджені:

- в Національному космічному агентстві України (м. Київ, 2005 р., методика оцінювання енергетичних можливостей і вартості пусків носіїв за їхніми технічними характеристиками на основі системи регресійних моделей);

- в Державному підприємстві “Конструкторське бюро “Південне” ім. М.К. Янгеля” (м. Дніпропетровськ, 2007 р., регресійна модель для оцінки впливу температурного градієнта навколишнього середовища на величину оцінки негерметичності випробуваного виробу);

- в виробничому об'єднанні “Добропіллявугілля” (Дніпропетровська обл., 1995 р., регресійні моделі для оцінювання грошових витрат на експлуатацію підземного виробітку вугілля);

- в Придніпровському науковому центрі НАН України й Міністерства освіти та науки України (м. Дніпропетровськ, 2003 р., регресійні моделі залежності захворюваності населення м. Дніпропетровська від рівня забруднення району проживання);

- в Придніпровській гідрогеологічній партії Казенного підприємства “Півден-укргеологія” Державної геологічної служби Міністерства охорони навколишнього природного середовища України (м. Павлоград, 2007 р., система регресійних моделей рівня підземних вод і програма для їхньої побудови);

- на Таджицькому алюмінієвому заводі (м. Душанбе, 1988 р., метод прогнозування технологічного порушення “анодний ефект” в електролітичному процесі виробництва алюмінію);

- в Арктичному й Антарктичному науково-дослідному інституті (ААНДІ) Державного комітету СРСР з гідрометеорології та контролю природного середовища (м. Ленінград, 1990 р., моделі для прогнозування якості радіозв'язку в полярних областях);

- в рамках проекту INTAS-OPEN (Ref. № INTAS 97-0168) “Computer Assisted Neurophysiology by Distributed Java Program”, мета проекту - створення апаратно-програмного комплексу “Віртуальна нейролабораторія” (Інститут нейрофізіології Університету м. Лозанна, Швейцарія, 2000 р., метод і комплекс програм для багатоальтернативного розпізнавання типів взаємодії нейронів у нейрофізіології).

Результати роботи використано в навчальному процесі при викладанні дисциплін “Інформаційні системи підприємств” і “Комп'ютерні системи медичної діагностики” (кафедра інформаційних технологій і кібернетики Українського державного хіміко-технологічного університету, м. Дніпропетровськ, 2001-2005 рр.).

Особистий внесок здобувача. У роботах, що відображають основні результати дисертації й написані у співавторстві [2, 4, 5, 10, 14, 15, 16, 17, 18, 30], авторові належить наступне. У статті [2] - постановка задачі прогнозування технологічного порушення ”анодний ефект” як задачі дискримінантного аналізу; спосіб формування множини ознак - спектрів часових рядів анодної напруги; розробка й програмна реалізація алгоритму вибору оптимальної множини ознак. У статтях [4, 5] - розробка й реалізація алгоритму об'єктивної комп'ютерної кластеризації, його застосування для пошуку “аналогів” - ділянок досліджуваного часового ряду, “схожих” на ділянку часового ряду, утвореною його останніми спостереженнями. В [10, 14] - побудова критеріїв якості дискримінантних функцій; дослідження математичних сподівань цих критеріїв залежно від складу ознак, які включено у дискримінантну функцію. В [15] - застосування усередненого критерію регулярності для формування оптимальної множини регресорів. У статтях [16, 17, 18] - розробка, реалізація, дослідження та тестування методу й комплексу програм для багатоальтернативного розпізнавання типів взаємодії нейронів за кроскореляціоними гістограмами їхньої активності. В [30] - побудова регресійних моделей на основі розроблених критеріїв, алгоритму й програми структурної ідентифікації.

Апробація результатів дисертації. Результати дисертації апробовані на таких науково-технічних конференціях, семінарах, симпозіумах:

III Польсько-радянська науково-технічна конф. "Комплексна автоматизація промисловості" (1988 р., Вроцлав, Польща); Науково-технічна конф. "Математичні методи планування експерименту в лабораторних і промислових дослідженнях" (1989 р.; 1991 р., Київ); IV Всесоюзна конф. "Математичні методи розпізнавання образів" (1989 р., Рига); Всесоюзна науково-технічна конф. "Застосування статистичних методів у виробництві й керуванні" (1990 р., Перм); IV Міжнародна науково-технічна конф. "Проблеми комплексної автоматизації" (1990 р., Київ); Перша Всесоюзна конф. "Розпізнавання образів і аналіз зображень: нові інформаційні технології" (1991 р., Мінськ); Всеукраїнська конф. "Обробка сигналів і зображень та розпізнавання образів" (Перша - 1992 р., Друга - 1994 р., Київ); The 31-st Annual General Meeting of the European Brain and Behaviour Society EBBS (1999, Rom, Italy); Міжнародна конф. з управління “Автоматика” (VIII - 2001 р., Одеса; X - 2003 р., Севастополь; XI - 2004 р., Київ; XII - 2005 р., Харків; XIII - 2006 р., Вінниця; XIV - 2007 р., Севастополь; XV - 2008 р., Одеса); Міжнародна науково-технічна конф. "Контроль і управління в складних системах (КУСС)" (VI - 2001 р., VIII - 2005 р., Вінниця); Міжнародна конф. з індуктивного моделювання “ICIM-2002” (2002 р., Львів);

Міжнародна науково-технічна конф. "Штучний інтелект. Інтелектуальні системи" (V - 2004 р., Кацивелі; VI - 2005 р., сел. Дивноморське, Росія; VII - 2006 р., Кацивелі; VIII - 2007 р., сел. Дивноморське, Росія; IX - 2008 р., Кацивелі); Міжнародна науково-практична конф. "Математичне та програмне забезпечення інтелектуальних систем (MPZIS)" (II - 2004 р., III - 2005 р., IV - 2006 р., V - 2007 р., VI - 2008 р., Дніпропетровськ); VII Міжнародна науково-технічна конф. “Системний аналіз та інформаційні технології” (2005 р., Київ); Міжнародний семінар з індуктивного моделювання “IWIM-2005” (2005 р., Київ); International Workshop on Inductive Modelling “IWIM-2007” (2007, Prague, Czech Republic); Міжнародна науково-практична конф. “Інформаційні технології в керуванні складними системами” (2008 р., Дніпропетровськ); International Conference on Inductive Modelling “ICIM-2008” (2008, Kyiv, Ukraine).

Публікації. Результати дисертації опубліковано загалом у 80 наукових працях. Основні результати дисертації опубліковано у монографії та 36 статтях, з них 30 статей (25 без співавторів) у журналах і збірниках, що входять до затвердженого ВАК України Переліку наукових видань; 6 статей опубліковано у закордонних виданнях англійською мовою.

Структура та обсяг роботи. Дисертація складається зі вступу, шести розділів, висновків, списку використаних джерел (257 посилань на 18 сторінках), актів впровадження (обсяг додатка - 8 сторінок). Загальний обсяг дисертації - 358 сторінок, з них 298 сторінок основного тексту, 25 рисунків і 9 таблиць.

2. ОСНОВНИЙ ЗМІСТ РОБОТИ

В вступі подано загальну характеристику роботи, обґрунтована актуальність розробки критеріїв якості статистичних моделей і розвитку статистичних методів моделювання технічних систем в умовах структурної невизначеності. Сформульовано мету і задачі дослідження, зазначені наукова новизна і практична цінність отриманих результатів.

У першому розділі проаналізовані задачі математичного моделювання технічних систем, відмінною рисою яких є постановка в умовах структурної невизначеності, коли точні апріорні гіпотези про об'єкти дослідження відсутні.

Виділено два підходи до опису та прогнозування стану технічних систем: 1) оцінювання стану об'єкта моделювання на основі моделі в класі систем регресійних рівнянь, 2) віднесення стану об'єкта моделювання до одного з класів станів на основі дискріминантної функції. В рамках першого підходу розглянуто такі задачі оцінювання стану.

1) Оцінювання негерметичності виробу за результатами його випробувань на пристрої контролю герметичності. Перевірка герметичності різних технічних об'єктів (ємностей, трубопроводів та ін.) є важливою технічною задачею. Особливістю виникаючої задачі моделювання є те, що зміна тиску в робочій камері може викликатися двома причинами: можливим витоком і зміною температури навколишнього середовища. Для виділення складової зміни тиску, обумовленої витоком, необхідно розв'язати задачу побудови регресійної моделі залежності зміни тиску, обумовленого зміною температури зовнішнього середовища. Задача поставлена в умовах структурної невизначеності, оскільки апріорно невідомо, від яких саме змінних, що описують температуру навколишнього середовища, вирішальною мірою залежить зміна тиску в досліджуваному виробі, і яким є вигляд цієї залежності.

2) Оцінювання грошових витрат на експлуатацію підземного виробітку вугілля. Кількісне оцінювання очікуваних грошових витрат є важливою задачею в організації та плануванні роботи шахти при видобуванні вугілля. Розв'язання задачі ускладнюється тією обставиною, що апріорно невідомо, яка підмножина параметрів виробітку з наявних тринадцяти, що характеризують умови і технологію виробітку, найбільшою мірою обумовлюють грошові витрати, тобто задача моделювання поставлена в умовах структурної невизначеності.

3) Оцінювання енергетичних можливостей ракет-носіїв і вартості пусків за їх основними технічними характеристиками є однією з актуальних задач у рамках прогнозування тенденцій і перспектив розвитку ракетно-космічної техніки. Задачу побудови системи регресійних рівнянь необхідно розв'язати в умовах структурної невизначеності, оскільки, по-перше, апріорно невідомо, які саме з основних технічних характеристик впливають на енергетичні можливості ракет-носіїв і вартість їхніх пусків, і, по-друге, невідомо, статистично залежні чи ні адитивні випадкові складові в системі регресійних рівнянь.

В рамках другого підходу розглянуто три задачі технічної діагностики.

4) Діагностика технологічного процесу виробництва алюмінію з метою прогнозування порушення “анодний ефект” є актуальною задачею у виробництві алюмінію електролітичним способом - електролізом глинозему, розчиненого в розплаві кріоліту. Основні труднощі при розв'язанні цієї задачі технічної діагностики полягають у тому, що статистична класифікація передаварійних і нормальних часових рядів анодної напруги електролізера має здійснюватися в умовах структурної невизначеності: апріорно невідомо, які саме частоти спектра часових рядів варто враховувати.

5) Діагностика стану радіоканалу за оперативними іонограмами похилого зондування є актуальною задачею забезпечення стійкого радіозв'язку. Особливість задачі діагностики стану радіоканалу полягає в структурній невизначеності її постановки: невідомо, які саме характеристики з множини тих, що знімаються з оперативних іонограм похилого зондування, варто включати в дискримінантну функцію.

6) Створення апаратно-програмного комплексу для багатоальтернативного розпізнавання типів взаємодії нейронів за кроскореляційними гістограмами. Кроскореляційна гістограма являє собою емпіричний розподіл часової затримки імпульсів активності одного нейрона щодо імпульсів активності іншого нейрона, яке побудовано в часовому діапазоні від 0 до 500 мс із кроком у 1 мс. Задача розпізнавання типів взаємодії нейронів має велике значення в нейрофізіології: дослідження взаємодії нейронів дозволяють краще зрозуміти роботу головного мозку і запропонувати нові методи лікування хвороб нервової системи. Особливість цієї задачі статистичної класифікації полягає в невизначеності щодо кількості та складу характерних ознак гістограм для різних типів взаємодій нейронів.

Проведено аналіз наявних результатів, отриманих при побудові систем регресійних рівнянь і дискримінантних функцій в умовах структурної невизначеності. Аналіз показав, що в цьому напрямку математичного моделювання існують невирішені наукові задачі, і їх розв'язання підвищить якість опису та прогнозування станів технічних систем в умовах структурної невизначеності. Для розв'язання прикладних задач моделювання технічних систем, поставлених в умовах структурної невизначеності, необхідно розв'язати наукові задачі розвитку статистичних методів моделювання.

1. У задачі моделювання об'єктів з одновимірним виходом в умовах невизначеності щодо складу вхідних змінних обґрунтувати критерій регулярності МГУА у схемі повторних спостережень та усереднений критерій регулярності МГУА як критерії структурної ідентифікації.

2. У задачі моделювання об'єктів з багатовимірним виходом у класі систем регресійних рівнянь із детермінованими коефіцієнтами розробити метод параметричної ідентифікації та критерій структурної ідентифікації в умовах невизначеності щодо ступеня статистичної залежності між адитивними випадковими складовими у рівняннях і складу вхідних змінних.

3. У задачі моделювання об'єктів з багатомірним виходом у класі систем регресійних рівнянь з випадковими коефіцієнтами розробити метод параметричної ідентифікації та критерій структурної ідентифікації в умовах невизначеності щодо ступеня статистичної залежності між випадковими коефіцієнтами різних регресійних рівнянь і складу вхідних змінних.

4. В задачі статистичної класифікації на основі дискримінантного аналізу в умовах невизначеності щодо складу ознак розробити критерії якості дискримінантних функцій для двох випадків: з розбиттям спостережень на навчальні й перевірні вибірки та ковзного контролю.

В другому розділі обґрунтовано критерій регулярності МГУА в схемі повторних спостережень і усереднений критерій регулярності МГУА як критерії структурної ідентифікації. Перший з них - критерій регулярності - заснований на розбитті спостережень на навчальні й перевірні вибірки, які сформовано за результатами повторних спостережень: на навчальній вибірці оцінюються коефіцієнти моделі, а на перевірній - якість моделі. Показано, що при такому способі порівняння оптимальна за складом регресорів модель є -оптимальною. Для критерію сформульовано умови редукції (спрощення) оптимальної моделі, побудовано статистичний критерій перевірки гіпотези про те, що оптимальна за складністю модель у схемі повторних спостережень не редукована. В другому критерії - усередненому критерії регулярності (ковзного контролю) - як перевірні виступають спостереження, що по черзі виключаються з навчальної вибірки. Досліджено залежність математичного сподівання усередненого критерію регулярності від складу множини регресорів, які включені у регресійну модель, і показано існування моделі оптимальної складності.

Нехай закон функціонування досліджуваного об'єкта має вигляд

,

де - вихід об'єкта, що спостерігається; - точний вихід об'єкта, що не спостерігається; - адитивна випадкова складова (не спостерігається) виходу об'єкта; - j-й вхід об'єкта з множини входів , що беруть участь у формуванні виходу об'єкта ( - порожня множина); - число входів у множині ; - вектор невідомих, не рівних нулю параметрів. Множина входів невідома; відомо лише, що , де - деяка множина точно вимірюваних входів об'єкта, - їхнє число.

Нехай у результаті спостереження об'єкта отримані: 1) - -матриця спостережень входів множини , що має повний ранг ; 2) - -вектор спостережень виходу .

Відповідно до закону функціонування об'єкта виконується рівняння:

,

де - -вектор значень точного виходу об'єкта; --матриця спостережень входів ; - -вектор значень адитивної випадкової складової вимірюваного виходу. Нехай відносно виконано припущення , , де - знак математичного сподівання; - нульовий -вектор; - невідома скінченна дисперсія; - одинична -матриця.

За результатами спостережень об'єкта потрібно знайти: 1) множину регресорів , 2) оцінку невідомого вектора , 3) оцінку дисперсії .

Нехай -матриця спостережень входів, що належать множині - їхнє число. Умовимося називати -матрицю матрицею спостережень усіх регресорів, -матрицю - матрицею істинного набору регресорів, а -матрицю - матрицею поточного набору регресорів, оскільки множина входів змінюється в ході генерації різних структур. В класі регресійних моделей, лінійних за входами і параметрами, структура моделі визначається складом підмножини входів , а складність моделі - їхнім числом.

Розглянуто загальний випадок розбіжності матриці поточного набору регресорів з матрицею істинного набору регресорів: де -матриця надлишкових регресорів (“” - від англ. “redundant” - надлишковий); -матриця пропущених регресорів (“” - від англ. “missing” - відсутній, пропущений); -матриця істинних регресорів, така, що ; - цілі числа такі, що , . Множина входів відрізняється від множини входів тим, що в підмножину істинних входів заміщено підмножиною надлишкових входів , які не беруть участь у формуванні виходу об'єкта.

Розглянуто J-функціонал якості моделі (в рамках МГУА J-функціонал отримав назву “ідеальний зовнішній критерій”):



де - вихід регресійної моделі, побудованої на множині входів методом найменших квадратів (МНК); - МНК-оцінка -вектора коефіцієнтів регресії; - ідемпотентна матриця.

Розглянуто критерій регулярності МГУА в схемі незалежних повторних спостережень. В цій схемі є можливість для заданого -вимірного входу об'єкта робити не одно, а два незалежних спостережень виходу об'єкта. Перше з пари спостережень віднесено до вибірки A, а друге - до вибірки B. Результатами спостережень є -вимірні вектори , і матриця всіх регресорів повного рангу (), причому один із стовпців матриці складається з одиниць. Відповідно до закону функціонування об'єкта для вибірок і виконано

,

де и - випадкові -вектори, для яких

, , ,

де - нульова -матриця.

Нехай -вектор - деяка оцінка коефіцієнтів регресії вихідної змінної за вхідними змінними множини , яку отримано на виборці A:

,

де - -вектор так званих “залишків” регресійного рівняння.

Нехай - МНК-оцінка -вектора коефіцієнтів регресії на підвибірці A:

.

Розглянуто випадкову величину, що називається в МГУА критерієм регулярності:

,

де - вектор залишків на підвибірці B регресійного рівняння, оцінки коефіцієнтів якого отримані на підвибірці A.

Для математичного сподівання критерію регулярності у схемі повторних спостережень виконується

.

Досліджено поведінку члена при різних сполученнях надлишкових і пропущених регресорів у поточній множині і показано, що в загальному випадку поєднання в матриці надлишкових і пропущених регресорів квадратична форма додатна.

Порівняння (2.7) і J-функціонала (2.1) показало, що

,

тобто множина регресорів, для якої приймає мінімальне значення, є J-оптимальною множиною регресорів.

Означення 2.1. AR*-оптимальною множиною регресорів називається така множина входів , для якої

.

Застосування критерію регулярності для пошуку AR*-оптимальної множини регресорів у схемі повторних спостережень дає можливість статистичної перевірки гіпотези відносно того, що отримана модель є нередукованою.

Розглянуто випадкову величину

,

,

,

де і

- ідемпотентні матриці; - число регресорів в AR*-оптимальній множині регресорів .

Теорема 2.1. Якщо виконується гіпотеза : , то випадкова величина має розподіл Фішера з і ступенями свободи:

.

Аналогічні результати отримано й для симетричного критерію регулярності МГУА, в якому вибірки і по черзі виступають в якості навчальної й перевірної.

Досліджено також усереднений критерій регулярності (УКР), що застосовується в тих випадках, коли неможливе розбиття вхідної вибірки спостережень на навчальну і перевірну підвибірки в зв'язку з її малого обсягу.

У третьому розділі розроблено метод параметричної ідентифікації та критерій структурної ідентифікації в задачі моделювання в класі систем регресійних рівнянь із детермінованими коефіцієнтами. Розглянуто умови структурної невизначеності двох видів: за ступенем статистичної залежності між адитивними випадковими складовими вихідних змінних в системі та за складом множини вхідних змінних для кожної з вихідних змінних.

Розглянуто два рівні невизначеності відносно коваріаційної матриці адитивних випадкових складових вихідних змінних . У першому випадку, коли невідома, отримано умови оптимальності та запропоновано ітераційну процедуру обчислення коефіцієнтів системи регресійних рівнянь. В другому випадку, коли (множник невідомий, а матриця задана), отримано аналітичні формули для оцінок коефіцієнтів і досліджено їхні властивості. В умовах структурної невизначеності щодо складу множини регресорів (для кожної з вихідних змінних) розроблено критерій якості системи регресійних рівнянь і доведено існування системи регресійних рівнянь, оптимальної за складом включених у неї регресорів.

Нехай закон функціонування досліджуваного об'єкта має вигляд

,

де - номер виходу об'єкта; - число виходів; - вимірюваний з помилкою -й вихід; - незашумлений (не спостерігається) -й вихід об'єкта; - адитивна випадкова складова -го виходу; - -й вхід об'єкта з множини входів , що беруть участь у формуванні -го виходу об'єкта; - вектор невідомих ненульових коефіцієнтів; - число входів в .

Нехай у результаті спостереження об'єкта для кожного його -го виходу отримано: 1) - -матриця спостережень входів множини , що має повний ранг ; 2) - -вектор відповідних спостережень виходу . Тоді відповідно до закону (3.1) виконується

де - -вектор значень незашумленого -го виходу, що не спостерігається; - -вектор адитивної випадкової складової -го виходу. Нехай відносно виконано:

,

де - знак математичного сподівання за всіма можливими реалізаціями випадкових векторів і ; - невідома скінченна коваріація випадкових величин і . Якщо позначити

,

то (3.2)-(3.3) можна записати в узагальненому вигляді

, .

Нехай - деякі оцінки коефіцієнтів . Для -векторів так званих залишків регресійних моделей і виконується

,

,

Якщо позначити

то (3.6) і (3.7) можна записати в узагальненому вигляді

, .

Об'єднаємо оцінки в матрицю: . Оскільки розміри векторів у загальному випадку різні, то для коректності запису покладемо, що матриця - матриця розміру , де , і її стовпці при необхідності доповнено нулями.

Означення 3.1. SJ-функціоналом якості системи регресійних рівнянь називається

Функціонал (3.10) представляє собою багатовимірний (системний) аналог J-функціоналу якості одновимірної регресійної моделі (2.1). У прикладних задачах цей функціонал не може бути використаний ні для параметричної ідентифікації, ні для структурної ідентифікації, оскільки матриця визначається через матрицю , що не виміряється. Але за ним можна порівнювати методи параметричної ідентифікації й критерії структурної ідентифікації аналітично або методом статистичних випробувань. Заміна матриці матрицею виходів об'єкта , що спостерігаються, приводить до функціоналу, який можна застосовувати на практиці для розв'язання задачі параметричної ідентифікації:

.

Означення 3.2. SA-оптимальною називається система регресійних рівнянь, для коефіцієнтів якої виконується

Потрібно за результатами спостережень об'єкта, для яких виконуються умови (3.1)-(3.9), знайти SA-оптимальну систему регресійних рівнянь.

Отримано умови SA-оптимальності оцінок коефіцієнтів.

Теорема 3.1. Для похідних функціонала по елементах матриці , виконується

З теореми 3.1 і виконання вимоги , випливають умови SA-оптимальності оцінок коефіцієнтів у системі:



Запис таких рівнянь для усіх , являє собою систему рівнянь з невідомими. Знайти аналітичний розв'язок такої системи не вдалося, але запропоновано ітераційний метод її розв'язання. З цією метою ця система перетворена до зручного для розробки ітераційної процедури вигляду:

,

де - МНК-оцінка коефіцієнтів k-ої моделі; ; - матриця проектування.

Нехай , де - невідомий скалярний множник, а матрицю задано. Це припущення дозволило з умови SA-оптимальності (3.15) одержати аналітичний вираз для оцінок коефіцієнтів SA-оптимальної системи та аналітично досліджувати їхні властивості. З урахуванням уведених позначень

,

для оцінок коефіцієнтів виконується

,

де блокові матриці і такі, що для -го "блокового рядка" матриці і для -го "блокового рядка" матриці виконується:

,

, ,

де розмір блокової матриці дорівнює блоків (або елементів), а розмір блокової матриці дорівнює блоків (або елементів, ). Досліджено властивості оцінок коефіцієнтів (3.17)-(3.19): обчислено математичне сподівання і коваріаційна матриця оцінок коефіцієнтів, а також коваріаційна матриця залишків регресійних рівнянь.

Отримані результати застосовано в задачі структурної ідентифікації - побудови оптимальної системи регресійних рівнянь в умовах невизначеності за складом регресорів. Нехай множина - деяка аналізована множина регресорів у системі регресійних рівнянь (, - задана множина регресорів, така, що ), а - матриця спостережень регресорів

множини на вибірці . Розглянуто матрицю

,

де - матриця спостережень вихідних змінних на вибірці ; - матриця виходів системи моделей на перевірній вибірці , яку розраховано за системою регресійних рівнянь, оцінки коефіцієнтів якої отримано на навчальній

вибірці по (3.16)-(3.19) для множини регресорів :

.

Означення 3.3. Випадкова величина

називається системним критерієм регулярності МГУА.

Означення 3.4. -оптимальною множиною регресорів називається така множина , для якої

Означення 3.5. -оптимальною за кількістю та складом регресорів називається система регресійних рівнянь, побудована на множині .

Для -оптимальної системи регресійних рівнянь отримано умову редукції за числом включених до неї регресорів у схемі повторних спостережень.

Результати параметричної ідентифікації, отримані для випадку невідомої коваріаційної матриці, узагальнено на випадок моделювання в класі систем авторегресійних рівнянь. Перевагу розробленого методу SAD-оцінювання в порівнянні з методом найменших квадратів доведено методом статистичних випробувань для (див. рис. 3.3-3.5 і табл. 3.1). Якість моделей у кожному випробуванні оцінювалося середньоквадратичним відхиленням модельних виходів від “точних” виходів, які в умовах методу статистичних випробувань нам відомі:

, ,

де - номер рівняння в системі; - обсяг виборці; - максимальне число попередніх станів об'єкта, які можуть впливати на його поточний стан. Емпіричні розподіли цих двох статистик по всіх випробуваннях наведені на мал. 3.3-3.5, на яких результатам МНК-оцінювання відповідають гістограми з темних стовпчиків, а результатам SAD-оцінювання - гістограми зі світлих стовпчиків.

У першому та другому рядках табл. 3.1. приведені середні значення і , у третьому та четвертому - середньоквадратичне відхилення цих величин по всіх випробуваннях.

Таблиця 3.1 Порівняння розробленого методу параметричної ідентифікації системи авторегресійних рівнянь з методом найменших квадратів

Характеристики оцінок J-оптимальності окремих рівнянь	Номер рівняння в моделі
	1	2	3
Середнє	0,1101	0,1248	0,1260
Середнє	0,0956	0,1112	0,1072
Середньоквадр. відхилення	0,0352	0,0379	0,0373
Середньоквадр. відхилення	0,0304	0,0340	0,0316

У четвертому розділі розроблено метод параметричної ідентифікації і критерій структурної ідентифікації в задачі моделювання в класі систем регресійних рівнянь з випадковими коефіцієнтами. Задачу розглянуто в умовах структурної невизначеності двох видів: за ступенем статистичної залежності між випадковими коефіцієнтами в рівняннях для різних вихідних змінних і невизначеності за складом множини вхідних змінних для кожної з вихідних змінних.

Задачу оцінювання коефіцієнтів поставлено як задачу умовної оптимізації. Розглянуто випадки статистично незалежних і статистично залежних коефіцієнтів регресійних моделей для різних вихідних змінних. Розглянуто два рівні невизначеності відносно коваріаційних матриць статистичної залежності між випадковими коефіцієнтами різних рівнянь системи. В першому випадку, коли ці матриці невідомі, отримано умови оптимальності і запропоновано ітераційну процедуру оцінювання математичних сподівань коефіцієнтів. У другому випадку, коли коваріаційні матриці відомі з точністю до скалярного множника, отримано аналітичні формули для оцінок математичних сподівань коефіцієнтів і досліджено їхні властивості. В умовах невизначеності за складом множини регресорів (для кожної з вихідних змінних) розроблено критерій якості системи регресійних рівнянь з випадковими коефіцієнтами і доведено існування системи регресійних рівнянь, оптимальної за складом включених до неї регресорів.

Нехай досліджуваний статичний об'єкт має входів - , виходів - , і кожне -е спостереження, , виходу об'єкта з номером , формується за правилом

де - -вектор -го спостереження множини регресорів , що беруть участь у формуванні виходу об'єкта ; Ш; - -матриця спостережень входів множини , яка має повний ранг ; - -вектор відповідних спостережень виходу ; - випадковий -вектор коефіцієнтів, що не

спостерігається:

В (4.2) - невідомий детермінований -вектор; - випадковий -вектор:

 ;

де E{} - знак математичного сподівання за усіма можливими реалізаціями випадкових векторів и ; - невідома коваріаційна -матриця; - нульова -матриця.

З урахуванням (4.2) правило (4.1) можна записати у вигляді співвідношення. ідентифікація моделювання регресійний невизначеність

, або

, .

Для математичного сподівання випадкової величини і для коваріацій випадкових величин і з урахуванням (4.3) маємо

.

Нехай .

Тоді (4.6)-(4.7) можна записати в узагальненому вигляді:

, ,

.

Як випливає з (4.7) і (4.8), задача оцінювання невідомих векторів і відновлення матриці (що не спостерігається) за результатами спостережень в умовах (4.1)-(4.8) має особливість, що полягає в неоднорідності адитивної випадкової складової в (4.6), тобто її дисперсія залежить від номера спостереження. Це істотно ускладнює розв'язання задачі. Іншим фактором, що визначає спосіб розв'язання задачі, є природа випадкових коефіцієнтів, які можуть бути для різних виходів об'єкта як статистично незалежними, так і статистично залежними.

Розглянуто задачу оцінювання коефіцієнтів у системі регресійних моделей (4.1)-(4.8) за умови, що випадкові коефіцієнти для різних вихідних змінних об'єкта статистично залежні, тобто в (4.3) .

Нехай , - деякі оцінки коефіцієнтів . Для залишків регресійних моделей , виконується

,

,

де - реалізація випадкового вектора . Якщо позначити

,

,

,

то і можна записати в узагальненому вигляді: , .

Для зручності викладу вектори оцінок невідомих коефіцієнтів у системі регресійних рівнянь об'єднані в одну матрицю , аналогічно тому, як це було зроблено у третьому розділі.

Означення 4.1. SRCJ-функціоналом якості системи регресійних рівнянь з випадковими коефіцієнтами називається функціонал

,

при обмеженнях ()

де коефіцієнти задано, причому .

Функціонал (4.12) названо SRCJ-функціоналом, оскільки він є системним аналогом для системи регресійних рівнянь з випадковими коефіцієнтами (random coefficients) J-функціонала (2.1). У прикладних задачах цей функціонал не може бути використаний ні для параметричної ідентифікації, ні для структурної ідентифікації, оскільки в ньому й в обмеженнях (4.13) присутня матриця , що не виміряється. Але за ним можна порівнювати методи параметричної ідентифікації й критерії структурної ідентифікації аналітично або методом статистичних випробувань. Заміна матриці матрицею виходів об'єкта , що спостерігаються, приводить до функціоналу, який можна застосовувати на практиці для розв'язання задачі параметричної ідентифікації:

при обмеженнях ()

.

Означення 4.2. SARC-оптимальною називається система регресійних рівнянь з випадковими коефіцієнтами, для оцінок коефіцієнтів якої при обмеженнях (4.15) виконується

.

Система рівнянь (4.19)-(4.21) дає умови оптимальності оцінок коефіцієнтів у задачі умовної оптимізації (4.14)-(4.15). Одержати аналітичний розв'язок цієї системи не вдалося, але запропоновано ітераційний метод її розв'язання. Перевагу розробленого методу в порівнянні з методом найменших квадратів доведено методом статистичних випробувань.

Розглянуто випадок, коли коваріаційні матриці випадкових коефіцієнтів у (4.3) відомі з точністю до скалярних множників. Ця апріорна інформація дозволяє з умов SARC-оптимальності (4.19)-(4.21) одержати аналітичний вираз для оцінок коефіцієнтів SARC-оптимальної системи регресійних рівнянь і аналітично досліджувати їхні властивості: обчислити математичне сподівання і коваріаційну матрицю оцінок коефіцієнтів, а також коваріаційну матрицю залишків регресійних рівнянь.

Ці результати застосовано в задачі структурної ідентифікації - побудови оптимальної системи регресійних рівнянь в умовах структурної невизначеності за складом регресорів на основі запропонованого системного критерію регулярності МГУА. Для оптимальної за складом регресорів системи регресійних рівнянь з випадковими коефіцієнтами отримано умову редукції за числом включених до неї регресорів у схемі повторних спостережень.

У п'ятому розділі розроблено критерії якості дискримінантних функцій у задачі статистичної класифікації на основі дискримінантного аналізу в умовах структурної невизначеності за кількістю і складом ознак, а також розв'язано задачу класифікації станів об'єкта, які описуються системами регресійних рівнянь.

В рамках МГУА аналітично досліджено два способи порівняння якості дискримінантних функцій, побудованих на різних множинах ознак. Перший з них заснований на розбитті спостережень на навчальні та перевірні вибірки: за навчальними вибірками оцінюються коефіцієнти дискримінантної функції (ДФ), а на перевірних вибірках оцінюється її якість класифікації. Другий спосіб - спосіб ковзного контролю, в якому як перевірні виступають спостереження, що по черзі виключаються з навчальних вибірок. У літературі обидва способи традиційно трактуються як евристичні прийоми, хоча факт існування в них оптимальної множини ознак неодноразово підтверджувався методом статистичних випробувань. Для кожного з цих способів запропоновано критерій якості ДФ, досліджено залежність математичного сподівання критерію від складу множини ознак, включених у ДФ, і показано існування для нього моделі оптимальної складності.

Нехай - вибірка незалежних спостережень -вимірного випадкового вектора з генеральної сукупності , який має -вимірний нормальний розподіл з невідомим математичним сподіванням і невідомою невиродженою коваріаційною матрицею : , де - номер або генеральних сукупностей і , причому . Іншими словами, , , , де - незалежні випадкові вектори: ; ; .

Нехай апріорні ймовірності появи спостережень з генеральних сукупностей і відомі й рівні відповідно і , причому . Нехай - ціна помилкової класифікації спостереження з сукупності як спостереження з сукупності , а - ціна помилкової класифікації спостереження з сукупності як спостереження з сукупності . Правильна класифікація не оцінюється.

За спостереженнями и потрібно визначити множину компонентів, яку необхідно включати до ДФ, і оцінити коефіцієнти лінійної дискримінантної функції в просторі цих компонентів.

Нехай на етапі з номером алгоритму повного перебору сполучень ознак до ДФ може бути включено тільки компонентів із множини , що складають поточну аналізовану множину . Нехай множині компонентів відповідають: 1) - - і -матриці спостережень з і ; 2) і - -вектори математичних сподівань для спостережень з і ; 3) - коваріаційна -матриця.

...