Системний підхід до відновлення функціональних залежностей нестаціонарних часових рядів різної структури

Размещено на http://www.allbest.ru

НАЦІОНАЛЬНИЙ ТЕХНІЧНИЙ УНІВЕРСИТЕТ УКРАЇНИ

“КИЇВСЬКИЙ ПОЛІТЕХНІЧНИЙ ІНСТИТУТ”

Зражевський Олексій Григорович

УДК 519.6:519.81

СИСТЕМНИЙ ПІДХІД ДО ВІДНОВЛЕННЯ ФУНКЦІОНАЛЬНИХ ЗАЛЕЖНОСТЕЙ НЕСТАЦІОНАРНИХ ЧАСОВИХ РЯДІВ РІЗНОЇ СТРУКТУРИ

01.05.04 - Системний аналіз і теорія оптимальних рішень

Автореферат

дисертації на здобуття наукового ступеня

кандидата технічних наук

Київ - 2011

Загальна характеристика роботи

Актуальність теми. Формалізація даних шляхом побудови часових рядів використовується в багатьох галузях практичної діяльності та теоретичних дослідженнях. Методи моделювання і прогнозування часових рядів активно розвиваються на протязі останніх десятиліть. Значні досягнення в цій галузі обумовлені стрімким розвитком обчислювальної техніки та інформаційних технологій. Технології, що базуються на аналізі часових рядів, використовуються в природничих та гуманітарних сферах життєдіяльності, починаючи від медицини та соціології, закінчуючи теорією сигналів та синергетикою.

Моделі, побудовані на основі часових рядів, використовуються для опису та детермінізації складних систем. Передбачення поведінки складних систем шляхом моделювання та прогнозування є важливим кроком в плануванні системного прийняття рішень. При розв'язуванні задач аналізу даних важливою в теоретичному та практичному плані є проблема оцінювання якості метода побудови відновлюваних функцій, що полягає у знаходженні залежності між якістю метода та складністю розподілу, складністю застосованого класу апроксимуючих функцій і об'ємом навчаючої вибірки.

Існує великий обсяг робіт, присвячених використанню відновлення функціональних залежностей часових рядів різної структури та природи, стосовно практичних аспектів застосування результатів моделювання в різних галузях науки та практики. До них відносяться роботи вітчизняних та закордонних вчених: Бідюка П.І., Вапніка В.Н., Єфіменко С.М., Згуровського М.З., Панкратової Н.Д., Раудиса Ш.Ю., Червоненкіса А.Я., Anthony M., Beran J., Leland W., Pollard D., Shawe-Taylor J., Stoev S., Taqqu M., Teverovsky V, Willinger W. та ін.

Важливою проблемою, яку необхідно враховувати при аналізі часових рядів, є коректне оцінювання структури і параметрів моделі, яка в подальшому буде використовуватись для прогнозування та дослідження процесу, що моделюється.

На сьогоднішній день існує проблема недостатньо розробленого математичного апарату для розв'язання задач, що пов'язані із відновленням функціональних залежностей нестаціонарних часових рядів специфічної структури. Зокрема, це стосується випадків формалізації недетермінованих залежностей, коли часовий ряд має стохастичну структуру і може бути описаний як випадковий процес. В ряді важливих теоретичних та практичних застосувань існують проблеми, пов'язані із недостатністю апріорної інформації, неможливістю врахування достатньої кількості причинних факторів, обмеженістю емпіричних даних, що призводять до необхідності систематизації, удосконалення відомих та розробки нових методів, підходів, алгоритмів відновлення функціональних залежностей часових рядів. Це аргументує актуальність досліджень, проведених у роботі.

У зв'язку з цим, робота, що присвячена розробці математичного забезпечення аналізу та моделюванню часових рядів різної структури та має на меті обґрунтування відомих та побудову нових методів та алгоритмів відновлення функціональних залежностей, є актуальною.

Зв'язок роботи з науковими програмами, планами, темами. Робота виконувалась згідно з планами наукових досліджень ІПСА в рамках тем:

· «Розробка інтегрованої технології системного проектування, управління безпекою і технічного діагностування складних технічних об'єктів в умовах невизначеності та багатофакторних ризиків» (реєстраційний № 0109U000302),

· «Системні дослідження та застосування засобів діагностики для аналізу впливу вибухів на залізорудних кар'єрах Кривого Рогу на будівлі» (реєстраційний № 0109U000303).

Мета і задачі дослідження. Метою дисертації є розробка системного підходу до відновлення функціональних залежностей нестаціонарних часових рядів різної структури із залученням методології, удосконалення, розробкою та математичного обґрунтування статистичних методів моделювання часових рядів із сильною залежністю та у випадку обмеженості емпіричної інформації. Зокрема:

1. Розробка методу прогнозування часових рядів із сильною залежністю на основі авторегресійних моделей нескінченного порядку.

2. Формування методів оцінювання параметричних моделей часових рядів в умовах обмеженості емпіричної інформації.

3. Розробка методів покрокового визначення оптимального набору регресорів із апріорно заданого класу.

4. Узагальнення теорії рівномірної збіжності емпіричного функціоналу ризику до теоретичного на випадок часткового покриття класу регресорів -сіткою.

5. Визначення рівномірної збіжності емпіричного функціоналу ризику до теоретичного у випадку, коли клас регресорів може бути наближений класом функцій зі скінченною ємністю.

Об'єкт дослідження - часові ряди, які задані скінченним набором своїх спостережень у фіксовані моменти часу, та можуть бути представлені за допомогою стохастичних моделей.

Предмет дослідження - статистичні методи та моделі для аналізу часових рядів із сильною залежністю, методи регресійного аналізу для вибору оптимального набору регресорів, теорія рівномірної збіжності емпіричного функціоналу ризику до теоретичного за різних умов щодо функціонального класу регресорів.

Методи дослідження - методи системного аналізу, статистичні методи регресійного аналізу, теорія прийняття рішень, теорія лінійного і нелінійного оцінювання. часовий ряд нестаціонарний емпіричний інформація

Наукова новизна отриманих результатів. У процесі розв'язання задач відповідно до мети роботи в межах системного підходу отримано такі результати:

1. Вперше запропоновано метод побудови моделі часового ряду з сильною залежністю на базі авторегресії нескінченного порядку через оцінку параметру Херста та шляхом редукування системи нормальних рівнянь.

2. Запропоновано новий метод для однокрокового прогнозування часових рядів із сильною залежністю, що може бути використаний, зокрема, для прогнозування фінансових інструментів.

3. Запропоновано та обґрунтовано метод поетапного регресування часових рядів на класах трендових та циклічних регресорів на основі аналізу статистичних властивостей залишків регресійних рівнянь.

4. Розвинуто теорію відновлення функціональної залежності часових рядів на основі регресійних моделей із врахуванням швидкості збіжності емпіричного функціоналу ризику до теоретичного у випадку, коли функціональний клас регресорів не має скінченної ємності або не може бути покритий скінченною -сіткою. Ця теорія дає змогу контролювати складність моделі.

5. Доведено існування рівномірної збіжності емпіричного функціоналу ризику до теоретичного у випадку часткового покриття класу регресорів -сіткою та коли клас регресорів може бути наближений класом функцій зі скінченною ємністю.

6. Вперше запропоновано та обґрунтовано метод вибору оптимальної складності функції регресії у випадку її нелінійності по параметру, який базується або на частковому покритті класу регресорів скінченною -сіткою, або на апроксимації функцій регресії поліномами скінченного степеню.

Практичне значення одержаних результатів. У дисертаційній роботі розроблено системний підхід до відновлення функціональних залежностей нестаціонарних часових рядів із сильною залежністю та у випадку обмеженості емпіричної інформації. Створено комплекс програмних модулів, які реалізують методи та алгоритми обробки і аналізу даних на основі строгих математично обґрунтованих результатів, отриманих в даній роботі. Розроблено нові інформаційні технології аналізу фінансових даних на основі моделей нестаціонарних часових рядів, що мають задані властивості, зокрема, сильну залежність. Окрім того, розроблені інформаційні технології дозволяють більш повно використовувати апріорну інформацію щодо моделі та можуть бути застосовані у випадку недостатньої апріорної інформації. Запропоновані теоретичні наробки були використані при викладанні лекційних курсів «Основи системного аналізу» та «Аналіз часових рядів»; розроблені у вигляді програмного комплексу інформаційні технології впроваджено в учбовий процес для виконання лабораторних робіт у ННК "ІПСА" НТУУ "КПІ" для студентів зі спеціальності «Системний аналіз та управління» 8.080203. Їх можна також застосувати для розв'язання таких задач: статистичне прогнозування показників діяльності комерційних банків, а саме статей активів\пасивів та доходів\розходів в повному обсязі, в розрізі філіалів і відділень; вирівнювання сумарних співвідношень шляхом використання оптимізаційних алгоритмів; розробці методів автоматичної корекції результуючих планових значень для статей активів та пасивів на основі факторних моделей із врахуванням експертних даних.

Особистий внесок здобувача. Всі наукові результати, представлені в дисертації, отримані здобувачем самостійно. Зокрема, розроблено та математично обґрунтовано метод для моделювання та прогнозування часових рядів із сильною залежністю на основі авторегресії нескінченного порядку. Розроблено та математично обґрунтовано метод поетапного регресування часових рядів на класах трендових та циклічних регресорів. Проведені теоретичні дослідження в теорії відновлення функціональної залежності часових рядів на основі регресійних моделей із врахуванням швидкості збіжності емпіричного функціоналу ризику до теоретичного у випадках часткового покриття класу регресорів -сіткою та коли клас регресорів може бути наближений класом функцій зі скінченною ємністю. Теоретично обгрунтована методологія була конкретизована шляхом побудови методів визначення оптимальної складності моделей у випадках наближення класів регресорів поліномами Бернштейна та поліномами рівномірного найкращого наближення, а, також, часткового покриття нелінійного по параметру поліноміального класу регресорів - сіткою. Застосування розроблених у роботі методів було апробовано на штучно змодельованих часових рядах та застосовано до відновлення функціональної залежності реальних фінансових часових рядів.

Апробація результатів дисертації. Наукові та практичні результати були розглянуті на семінарах та конференціях. Основні результати по темі дисертаційної роботи доповідались та обговорювались на міжнародних та всеукраїнських науково-практичних конференціях: IV та VI міжнародні науково-практичні конференції студентів, аспірантів та молодих вчених «Шевченківська весна» (Київ, 2006, 2008); одинадцята, дванадцята та тринадцята міжнародні наукові конференції імені академіка М. Кравчука (Київ, 2006, 2008, 2010); міжнародна конференція «Сучасна стохастика: теорія і застосування» (Київ, 2006); International summer school «Insurance and finance: science, practice and education» (Foros, 2006, 2007); Четвертая всеукраинская научно-практическая конференция «Современные задачи прикладной статистики, промышленной, актуарной и финансовой математики» (Донецк, 2008); XII міжнародна науково-технічна конференція «Системний аналіз та інформаційні технології» (Київ, 2010); V всеукраинская научно-практическая конференция «Информационно-компьютерные технологии в экономике, образовании и социальной сфере» (Симферополь, 2010); Humboldt Kolleg “Mathematics and life sciences: Possibilities, interlacements and limits” (Кiev, 2010).

Публікації. Основні результати дисертаційної роботи опубліковано в 5 статтях наукових фахових журналів [1-5] та в 12 тезах міжнародних і всеукраїнських конференцій [6-17].

Структура та обсяг дисертації. Дисертація складається зі вступу, п'яти розділів, висновків, списку використаних джерел із 126 найменувань, 6 додатків. Загальний обсяг дисертації становить 171 сторінок, з них 146 сторінок займає основний текст. Робота містить 25 рисунка, 9 таблиць.

Основний зміст роботи

У вступі обґрунтовано актуальність теми дисертації, сформульовано її мету і задачі дослідження, наукову новизну та практичне значення отриманих результатів, описано структуру й обсяг дисертації.

У першому розділі наводиться огляд літератури за тематикою даної роботи та спорідненими питаннями; висвітлені результати щодо схожих проблем, які були отримані іншими авторами. Зокрема, розглянуто та проаналізовано теорію та методологію регресійного аналізу; основні моделі стохастичних процесів, що використовуються в аналізі часових рядів; методи та підходи до відновлення функціональної залежності із врахуванням складності моделі та різноманітної апріорної інформації; практичні методи та алгоритми моделювання та прогнозування поведінки часових рядів. Висвітлено основні проблеми та недоліки існуючих методів та вказано можливі напрями їх подальшого удосконалення. Важливість розглянутих в цьому розділі питань аргументує актуальність та практичну важливість проведених у дисертаційній роботі досліджень.

У другому розділі запропоновано системний підхід до відновлення функціональних залежностей, загальна структурна схема якого наведена на рис. 1.



Згідно із запропонованим підходом, використовуючи апріорну інформацію, вибирається стохастична модель для опису часового ряду. В залежності від специфіки вибраної моделі пропонується використовувати розроблені в роботі відповідні методологічні підходи, які висвітлені в другому, третьому та четвертому розділах.

Зокрема, в другому розділі наведені основні результати щодо моделювання та прогнозування часових рядів, які можуть бути описані стохастичними моделями з сильною залежністю. В якості стохастичної моделі розглянуто авторегресійні моделі.

Розв'язання зазначеної задачі включає наступні етапи: оцінювання параметра Херста; оцінювання коефіцієнтів авторегресійної моделі шляхом розв'язання редукованої системи нормальних рівнянь; моделювання та прогнозування часового ряду на основі оціненої моделі; перевірка якості моделі.

У роботі розглядається задача визначення сильної залежності часового ряду, що зводиться до побудови оцінки параметра Херста . Якщо параметр Херста належить до інтервалу (0.5, 1), то робиться висновок про наявність сильної залежності. В літературі приведено різні методи для побудови , зокрема: метод нормованого розмаху, метод вибіркової дисперсії агрегованої послідовності, метод автокореляційної функції, метод періодограм, метод Робінсона та інші. Вказані методи були проаналізовані та порівняні при побудові оцінки параметра Херста у випадку процесу авторегресії з дробово інтегрованого ковзного середнього (FARIMA(p,d,q)), що, як відомо, є сильно залежним. При цьому, параметр Херста визначається параметрами моделі, зокрема, якщо похибки мають симетричний - стійкий розподіл, то . Було згенеровано часовий ряд для процесу FARIMA(0,0.1,0) з симетричними -стійкими похибками з показником стійкості 1.5 (). Відносні похибки оцінок параметра Херста, отримані за стандартними методами, в порівнянні із справжнім значенням не перевищували 6%.

В деяких випадках періодограма не може бути використана для отримання задовільної оцінки спектральної щільності. Зокрема, це стосується сильно залежних процесів з параметром Херста рівним 0.5. Отже, методи, що грунтуються на періодограмах в часовій області, як і в області параметрів перетворення Фур'є, не є результативними для побудови оцінки параметра Херста. Для вирішення цієї проблеми в роботі запропоновано метод періодограм із кореляційними вікнами.

На наступному етапі відновлювалась функціональна залежність часового ряду за умови сильної залежності на основі авторегресійної моделі. Оскільки авторегресійна модель скінченного порядку не задовольняє умову сильної залежності, то виникла необхідність у використанні авторегресійних моделей нескінченного порядку

, , (1)

де - незалежні, однаково розподілені випадкові величини (н.о.р.в.в.).

Стандартним підходом до оцінювання авторегресійних коефіцієнтів моделі (1) є розв'язання системи нормальних рівнянь

, (2)

, .

Оскільки у випадку сильної залежності система нормальних рівнянь (2) не є регулярною, то пряме редукування системи неможливе. В роботі запропоновано метод редукції, що основується на використанні асимптотичних властивостей кореляційної функції. В роботі доведена наступна теорема.

Теорема 2.1. Існує єдиний розв'язок системи (2), що задовольняє умові

, , (3)

та він може бути знайдений шляхом розв'язання редукованої системи рівнянь

, , (4)

де

При цьому .

Згідно з результатами теореми 2.1, в якості оцінок коефіцієнтів авторегресійної моделі (1) можна використовувати розв'язки системи рівнянь (4). Для вибору значень та в роботі запропонована практична поетапна процедура на основі якості оцінок коефіцієнтів моделі. Надалі вважаємо .

Теоретичні дослідження дозволили сформулювати наступний алгоритм для однокрокового прогнозування часових рядів із сильною залежністю.

Алгоритм 2.2

1. Побудова оцінки параметра Херста .

2. Визначення оцінок параметрів регресійної моделі для автокореляційних коефіцієнтів

, , , (5)

.

3. Екстраполяція регресійної моделі (5)

.

4. Побудова оцінки вектора коефіцієнтів авторегресії шляхом розв'язання редукованої системи нормальних рівнянь (4).

5. Моделювання та прогнозування часового ряду

, .

Алгоритм 2.2 застосовано до моделювання та прогнозування часового ряду цін тікера MSFT та їх приростів. Для визначення сильної залежності та оцінювання параметра Херста були застосовані стандартні методи. На основі отриманих результатів було зроблено висновок, що часовий ряд цін тікера MSFT є сильно залежним з параметром Херста . Для часового ряду приростів у випадку, коли параметр Херста близький до граничного значення, стандартні методи не дозволили побудувати оцінку достатньої якості. Для оцінювання параметра Херста був застосований розроблений в роботі метод на основі періодограмних оцінок з кореляційними вікнами Бартлета та Т'юкі. За отриманими результатами часовий ряд приростів тікера MSFT є сильно залежним з параметром Херста .

За алгоритмом 2.2 були змодельовані та спрогнозовані значення часового ряду цін тікера MSFT. Емпіричні значення часового ряду було поділено на дві вибірки: навчаючу (довжиною 4096) та тестову (довжиною 256). Шляхом порівняння прогнозних значень із тестовою вибіркою були обраховані наступні характеристики якості: середньоквадратична похибка MSE=0.0113, середньоабсолютна процентна похибка MAPE=14.36 %, коефіцієнт невідповідності U=0.02.

Метод прогнозування, сформульований у вигляді алгоритму 2.2, був порівняний із стандартним методом прогнозування часових рядів, який полягає у екстраполяції авторегресійної моделі скінченного порядку. Було показано, що при врахуванні інформація, щодо наявності сильної залежності, якість прогнозних значень є кращою.

У третьому розділі, в рамках наведеного на рис. 1 системного підходу, розглянута задача моделювання та прогнозування часових рядів на основі лінійних регресійних моделей з наборами регресорів, що є функціями часу. Розглянута задача побудови оптимальної моделі на основі поетапного регресування із аналізом залишкової інформації.

Для аналізу часового ряду , що заданий спостереженнями у фіксовані моменти часу ,…, , в роботі розглядалася наступна регресійна модель

, , (6)

де - незалежні однаково розподілені випадкові величини (н.о.р.в.в.), , , - функція регресії з певного, наперед заданого класу , яка зображає залежність часового ряду від часового індексу.

Задача відновлення функціональної залежності полягає у визначенні оптимального набору регресорів та побудові оцінок параметрів моделі , що їм відповідають. Вважалось, що на класі регресорів можна апріорно задати структуру , для якої і+1-ий клас має перевагу перед і-им з точки зору можливості його застосування: .

Для вирішення цієї задачі в роботі запропоновано метод поетапного виділення регресійних компонент з аналізом залишків регресування, що сформульований у вигляді алгоритму.

Алгоритм 3.1

1. Клас регресорів розбивається на скінченну кількість підкласів із ієрархічною структурою: .

2. Будуються оцінки параметрів для регресійного рівняння (6) із регресорами, що належать до .

3. Вибирається оптимальний, в сенсі деякого критерію, набір регресорів з першого класу: .

4. Аналізуються залишки регресування на наявність корисної інформації. Якщо інформація присутня, то переходимо до пункту 5. Інакше алгоритм закінчується.

5. Повторюються кроки 2-4 на залишках регресування із набором регресорів з .

6. Проходимо кроки 2-5 необхідну кількість разів. Кінцева модель записується, як лінійна комбінація отриманих регресійних рівнянь.

В роботі розглянуто теоретичний приклад застосування алгоритму 3.1 до відновлення функціональних залежностей у випадку, коли клас регресорів складається із трендових та циклічних складових наступного виду

, ,

.

Оцінки для параметрів лінійних регресійних рівнянь (6) знаходились за допомогою методу найменших квадратів (МНК). В якості критерію для вибору оптимального набору регресорів з пункту 3 запропоновано критерій на основі тестів перевірки адекватності моделі

, (7)

де - значення тестів Фішера, Стьюдента, Дарбіна-Ватсона та тесту на основі метода складеного ножа відповідно; - статистика Дарбіна-Ватсона; - вагові коефіцієнти.

У роботі доведено, що процеси, визначені регресійнім рівнянням (6) із регресорами, що належать до , мають додатну автокореляцію. Отже, у випадку, коли залишки регресійної моделі із регресорами із мають додатну автокореляцію, їх можна застосовувати в якості залежних змінних у регресійних рівняннях із класом регресорів із . Також у роботі доведено, що при цьому середньоквадратична похибка не збільшиться одночасно із автокореляцією. На основі отриманих результатів, сформульовано критерій пункту 4 алгоритму 3.1.

Розроблена теорія була застосована до відновлення функціональної залежності часового ряду кредитів суб'єктів господарювання в Донецькій області, який заданий своїми значеннями за 12 місяців 2007 року. На першому етапі було виділено трендову складову. За аналізом залишків було прийнято рішення про необхідність повторного регресування. Результуюча модель, яка є лінійною комбінацією побудованих на різних ітераціях оптимальних (в сенсі критерію (7)) регресійних рівнянь, була використана для прогнозування часового ряду. В якості тестової вибірки було використано перші 4 значення часового ряду за 2008 рік. Характеристики якості прогнозу наступні: MSE=1029.94, MAPE=3.757%, U=0.028.

Окрім задачі моделювання та прогнозування одного часового ряду, в роботі була розглянута задача прогнозування набору часових рядів із апріорно заданими обмеженнями щодо результуючих значень. Результати були використані для побудови планів показників банківської діяльності. При цьому, окрім зазначених раніше вимог щодо класу регресорів, накладено додаткові обмеження на результуючі значення. За постановкою задачі набір часових рядів поділявся на два підкласи: часові ряди першого та другого рівнів. Кожен часовий ряд першого рівня є сумою деякого фіксованого набору часових рядів другого рівня (умова балансу). Прогнозні значення часових рядів мають задовольняти умові балансу на прогнозному періоді часу та задовольняти індивідуальним обмеженням (експертним оцінкам). Для розв'язання поставленої задачі в роботі були використані методи опуклого програмування.

В якості числового прикладу, в роботі розглядалася задача прогнозування набору часових рядів, що зображають вимоги банків по кредитам, наданим суб'єктам господарювання в 26 регіонах України за 2007 рік. За часовий ряд першого рівня було обрано сумарний часовий ряд кредитів суб'єктів господарювання в Україні. Після прогнозування кожного часового ряду за допомогою алгоритму 3.1, результуючі значення були скоректовані шляхом формулювання та розв'язання задачі опуклого програмування. Шляхом порівняння отриманих значень із значеннями відповідних часових рядів за 2008 рік, були розраховані характеристики якості, які свідчать про високу якість результатів. Зокрема, характеристики якості прогнозу часового ряду кредитів суб'єктів господарювання в Донецькій області: MSE=807.246, MAPE=2.456%, U=0.022. Як видно, після корекції прогнозні значення результатів поліпшилися з точки зору їх відповідності тестовій вибірці.

Результати, отримані за допомогою алгоритму 3.1, були порівняні із результатами, отриманими за допомогою методу, який базується на повному переборі всіх можливих регресійних рівнянь із апріорно заданим класом регресорів. Оскільки при використанні методу повного перебору не було в повному обсязі враховано специфіку походження часового ряду та постановку задачі, відповідні характеристики якості прогнозних значень погіршились в порівнянні з результатами, які дали застосування алгоритму 3.1.

У четвертому розділі, відповідно до системного підходу, загальна схема якого приведена на рис. 1, представлені результати щодо моделювання та прогнозування часових рядів на основі регресійних моделей оптимальної складності в припущенні існування рівномірної збіжності емпіричного функціоналу ризику до теоретичного.

В численних фінансових застосуваннях однією із проблем є недостатність емпіричної інформації, що призводить до необхідності доповнення її апріорною. Так в розділах 2 та 3 були введені припущення щодо асимптотичної поведінки автокореляції та апріорна структура на класі регресорів. Іншим способом введення апріорної інформації є припущення щодо існування рівномірної збіжності емпіричного функціоналу ризику до теоретичного. За цим підходом оптимальна регресійна модель вибирається із загального класу без припущення про асимптотичні властивості досліджуваних процесів.

Аналогічно до розділу 3, зроблено припущення, що часовий ряд може бути описаний за допомогою регресійної моделі (6). Клас регресорів може бути як лінійний, так і нелінійний. Задача відновлення функціональної залежності при умові існування рівномірної збіжності емпіричного функціоналу ризику до теоретичного полягає у виборі , що мінімізує емпіричний функціонал ризику

, (8)

за умови, що має місце рівномірна по параметру збіжність

, , (9)

де - теоретичний функціонал ризику.

У літературі доведено існування рівномірної збіжності (9) у випадках, коли клас регресорів має скінченну ємність або може бути покритий скінченною -сіткою. На практиці іноді вникає необхідність у використанні класів функцій, які не задовольняють зазначеним вимогам. У роботі розглянуто використання класів функцій, які або можуть бути наближені класом функцій зі скінченною ємністю, або можуть бути частково покриті скінченною -сіткою, що доповнює класичні результати. У роботі доведено існування рівномірної збіжності та побудовані оцінки її швидкості за зазначених умов щодо класів регресорів. Результати сформульовано у вигляді наступних двох теорем в припущенні, що виконується умова обмеженості можливих викидів

. (10)

Теорема 4.12. Припустимо, що функції можна наблизити поліномом ступеня на і при цьому має місце наступна оцінка:

. (11)

Нехай виконана умова (10).

Тоді має місце рівномірна збіжність (9) і з імовірністю та при виконується:

 (12)

де .

Зауваження. В роботі також доведено (наслідок 4.1), що нерівність (12) буде мати місце, якщо замість використати - емпіричний функціонал ризику (8), в якому замість функцій регресії (які можуть бути і не задані апріорно) використовуються апроксимуючі поліноми. При цьому до правої частини нерівності (12) слід додати .

Теорема 4.13. Нехай множина функцій покрита скінченною - сіткою по параметру : , а по параметру (при фіксованому значенні ) або має скінченну ємність, або задовольняє умовам теореми 2. Нехай виконується умова (10).

Тоді має місце рівномірна збіжність (9) та:

1. Якщо має скінченну ємність при довільному фіксованому значенні , то з ймовірністю виконується:

. (13)

2. Якщо функції з класу можна наблизити поліномом степеня на із оцінкою апроксимації (11) при довільному фіксованому значенні , то з ймовірністю виконується:

(14)

, де - функція, яка мінімізує емпіричний функціонал ризику, , де - найближчий до елемент - сітки, - степінь апроксимуючого полінома.

Зауваження. За результатами теореми 4.12, оцінки параметрів шукаються із умови мінімізації емпіричного ризику: . Задача мінімізації емпіричного ризику не завжди є тривіальною, зокрема у випадку, коли параметр входить до функції нелінійно. У роботі доведено, що за умов теореми 4.13 ця задача може бути зведена до мінімізації лише по , а значення параметра шукається лише на елементах - сітки (наслідок 4.5). При цьому мають місце нерівності (13) та (14), якщо до правих частин додати .

У роботі запропоновані алгоритми 4.2 та 4.3 для розв'язання задачі відновлення функціональної залежності якщо виконуються умови теорем 4.12 та 4.13 відповідно.

Алгоритм 4.2-4.3.

1. Вводиться клас зі скінченною ємністю:

• За умов теореми 4.12 - клас апроксимуючих поліномів (для алгоритму 4.2).

• За умов теореми 4.13 - часткова - сітка така, що, при фіксації вузла, ємність класу - скінченна (для алгоритму 4.3).

2. Задається структура на класі : з відповідними скінченними ємностями:

3. Для всіх функцій із кожного підкласу складається регресійне рівняння (6) та знаходяться значення оцінок теоретичного функціоналу ризику (12) (для алгоритму 4.2) або (13) (для алгоритму 4.3).

4. Шукається підклас за критерієм якості на основі оцінок теоретичного функціоналу ризику.

5. Будуються оцінки параметрів моделі, при яких емпіричний функціонал ризику, побудований на основі функцій з , досягає свого мінімального значення.

Алгоритм 4.2 для відновлення функціональних залежностей часових рядів, що можуть бути описані регресійною моделлю (6) із тригонометричним класом регресорів, було конкретизовано для випадків, коли функції регресії апроксимуються: 1. поліномами Бернштейна; 2. поліномами найкращого рівномірного наближення. В обох випадках були побудовані оцінки функціоналу теоретичного ризику, визначені теоремою 4.12, та на основі методу впорядкованої мінімізації ризику були сформульовані критерії для вибору апроксимуючого поліному оптимального степеню та вказано метод для оцінювання параметрів моделі.

Алгоритм 4.3 при умові, що мають місце результати теореми 4.13, конкретизовано у випадку, коли клас регресійних функцій є поліноміального типу і містить нелінійність по параметру. Після побудови скінченної сітки по параметру, що входить у модель нелінійно, шляхом використання алгоритму 4.3 були побудовані оцінки функціоналу середнього ризику та сформульовано критерій для визначення оптимального степеню полінома.

У п'ятому розділі розглянута практична реалізація запропонованого у роботі системного підходу до відновлення функціональних залежностей часових рядів за умови коротких вибірок. Наводиться практичне застосування розроблених у розділах 3 та 4 методів, та продемонстровано ефективність запропонованого у роботі системного підходу до вирішення практичних задач аналізу часових рядів як на прикладах штучно змодельованих даних, так і на трьох економічних часових рядах кредитів, наданих суб'єктам господарювання у Херсонській та Сумській областях і в АР Крим. Використання розроблених методів надало можливості побудувати довгострокові прогнози, якість яких підтверджена статистичними та економічними характеристиками якості та шляхом порівняння із результатами, отриманими за стандартними методами.

Метод відновлення функціональних залежностей часових рядів, що базується на апроксимації функцій регресії за допомогою поліномів Бернштейна (алгоритм 4.2), був апробований на штучно змодельованому періодичному часовому ряді із адитивною випадковою похибкою. На основі розробленого критерію було вибрано поліном степеню 6. Характеристики якості спрогнозованого часового ряду за відновленою функцією наступні: для перших 12 значень MSE=0.09, MAPE=29.5%; для перших 24 значень MSE=0.295, MAPE=31.4%. Як видно, із збільшенням прогнозного періоду, якість прогнозу погіршується. У розглянутому прикладі в якості критерію для вибору оптимального степеня полінома Бернштейна було використано отриману в теоремі 4.12 оцінку функціоналу теоретичного ризику. Альтернативно був застосований інформаційний критерій Акаіке для визначення оптимального степеню полінома Бернштейна (AIC) в припущенні нормального розподілу похибки. В результаті було вибрано поліном степеню 5. При цьому, результати прогнозування погіршилися в порівнянні із результатами, отриманими при використанні алгоритму 4.2. Це пояснюється тим, що при використанні AIC оптимальна складність моделі визначалася без врахування інформація про те, що функція регресії має бути періодичною.

Аналогічно до попереднього прикладу, алгоритм 4.2 за умови, що клас регресійних функцій може бути наближений поліномами найкращого рівномірного наближення, був апробований на штучно змодельованому періодичному часовому ряді із адитивною випадковою похибкою. При цьому за алгоритмом 4.2 було вибрано поліном 6-го степеню. Змодельовані значення були порівняні із фактичними: MSE=0.814, MAPE=17.16%.

Алгоритм 4.2 був застосований для відновлення функціональної залежності залишків часових рядів (після виділення тренду), що зображають вимоги банків по кредитам, наданим суб'єктам господарювання в АР Крим. Оскільки клас функцій регресорів апріорно не заданий, то в якості апроксимуючих поліномів використовувалися поліноми найкращого рівномірного наближення. За алгоритмом 4.2 було вибрано поліном степеня 5. Отримані за відновленою функцією результати були порівняні із фактичними. Результати показали достатньо високу якість моделювання.

Алгоритм 4.3 у випадку, коли клас регресійних функцій є поліноміального типу і містить нелінійність по параметру, був апробований на штучно змодельованому часовому ряді та застосований до відновлення функціональної залежності часових рядів вимог банків за кредитами, наданими суб'єктам господарювання у Херсонській та Сумській областях. Отримані моделі для фінансових часових рядів були порівняні із моделями, побудованими за алгоритмом 3.1. У першому випадку за критерієм якості на основі оцінки функціоналу середнього ризику була обрана модель із мінімально допустимою складністю (степінь полінома рівний 0), що призвело до вибору кінцевої моделі із класу функцій, які апріорно були задані при аналізі часового ряду за допомогою алгоритму 3.1. При цьому, в якості критерію фактично використовувався критерій на основі залишкової суми квадратів (емпіричного функціоналу ризику), який не спроможній достатньо повно описати якість моделі в порівнянні із використаними в алгоритмі 3.1 критеріями. Це призвело до погіршення якості моделі в порівнянні з моделлю, отриманою за алгоритмом 3.1, що демонструється погіршенням характеристик якості прогнозів часового ряду: для моделі, відновленої за алгоритмом 4.2, MSE=218.45, MAPE=6.33%, U=0.05; для моделі, відновленої за алгоритмом 3.1, MSE=155.48, MAPE=4.55%, U=0.04. В другому випадку на основі алгоритму 4.2 була вибрана модель із степенем полінома рівним 1. Врахування складності моделі та відмова від апріорного задання класу регресорів призвело до суттєвого покращення якості моделі: для моделі, відновленої за алгоритмом 4.2, MSE=62.42, MAPE=2.19%, U=0.01; для моделі, відновленої за алгоритмом 3.1, MSE=170.7, MAPE=5.89%, U=0.05.

Висновки

У дисертаційній роботі запропоновано системний підхід до відновлення функціональних залежностей нестаціонарних часових рядів різної структури із сильною залежністю та у випадку обмеженості емпіричної інформації, застосування якого дозволяє підвищити ефективність і точність обробки даних, поліпшити якість моделей та прогнозів, розширити область застосування відомих методів, закласти математичне підґрунтя для розробки новітніх інформаційних технологій. В межах системного підходу виконано наступне:

1. Розроблено та математично обґрунтовано метод для моделювання та прогнозування часових рядів з сильною залежністю на основі авторегресії нескінченного порядку. Цей метод включає:

· оцінювання параметра Херста, зокрема і у випадках, коли він приймає граничні значення (0.5001-0.51);

· редукування системи нормальних рівнянь, яка за умов сильної залежності не є нормальною та регулярною, що в порівнянні із стандартними підходами дає можливість покращити якість прогнозів в середньому на 30%.

2. Розроблено та математично обґрунтовано метод поетапного регресування часових рядів на класах трендових та циклічних регресорів. Цей метод включає:

· введення ієрархічної структури на класі регресорів, що дозволяє максимально повно враховувати специфіку походження даних та вимоги щодо подальшого застосування моделей;

· послідовну процедуру використання залишків регресування та гнучку систему критеріального відбору, що дозволяє покращити результати прогнозування у порівнянні із стандартними методами в середньому на 23%;

3. Проведені теоретичні дослідження в теорії відновлення функціональної залежності часових рядів на основі регресійних моделей із врахуванням швидкості збіжності емпіричного функціоналу ризику до теоретичного у випадках, що доповнюють класичні результати. Зокрема розроблена теорія, яка дозволяє використовувати стандартні підходи оцінювання швидкості збіжності у випадках:

· часткового покриття класу регресорів -сіткою;

· коли клас регресорів може бути наближений класом функцій зі скінченною ємністю.

4. Теоретично обгрунтована методологія була конкретизована шляхом побудови методів визначення оптимальної складності моделей у випадках наближення класів регресорів поліномами Бернштейна та поліномами рівномірного найкращого наближення, а також, часткового покриття нелінійного по параметру поліноміального класу регресорів - сіткою.

5. На основі строгих математично обґрунтованих результатів, отриманих в даній роботі, створено комплекс програмних модулів, які реалізують методи та алгоритми обробки і аналізу даних. Розроблені інформаційні технології дозволяють більш повно використовувати апріорну інформацію щодо моделі. Наводиться практичне застосування запропонованого у роботі системного підходу до вирішення практичних задач аналізу часових рядів як на прикладах штучно змодельованих даних, так і на трьох економічних часових рядах кредитів, наданих суб'єктам господарювання у Херсонській та Сумській областях і в АР Крим. Запропоновані інформаційні технології були використані в програмному комплексі, що був розроблений у ННК "ІПСА" НТУУ "КПІ" для виконання лабораторних та магістерських робіт для студентів зі спеціальності «Системний аналіз та управління» 8.080203 при викладенні курсів «Основи системного аналізу» та «Аналіз часових рядів» і дозволив суттєво спростити та підняти на новий якісний рівень професійну підготовку студентів.

Рекомендується подальше використання отриманих результатів при вирішенні практичних задача різної природи, розробці методів побудови моделей на основі часових рядів. В якості прикладу розв'язання конкретних практичних задач з використанням отриманих результатів, можна розглянути стратегічне планування показників діяльності банків.

Список опублікованих праць за темою дисертації

1. Панкратова Н.Д. Восстановление функциональной зависимости временных рядов в случае частичного покрытия класса регрессоров конечной -сетью / Н.Д. Панкратова, А.Г. Зражевский // Кібернетика і системний аналіз - 2011. - № 2, С 77-87.

Дисертантом доведено рівномірну збіжність у випадку, коли клас регресорів може бути частково покритий скінченною -сіткою та наведено практичний приклад.

2. Панкратова Н.Д. Восстановление функциональной зависимости временных рядов с использованием классов регрессоров бесконечной емкости / Н.Д. Панкратова, А.Г. Зражевский // Кібернетика і системний аналіз - 2011. - № 1, С 93-103.

Дисертантом доведено рівномірну збіжність у випадку, коли клас регресорів може бути наближений класом поліномів скінченного степеня та наведено практичний приклад.

3. Зражевський О.Г. Методи побудови моделей для довгострокового прогнозування фінансових часових рядів / О.Г. Зражевський // Системні дослідження та інформаційні технології. - 2010. - № 1. - С.123-142.

4. Moklyachuk M. P. Analysis and forecasting of self-similar financial time series / M. P. Moklyachuk, O.G. Zrazhevsky // Theory of Stochastic Processes. - 2006. - V.12 (28), №3-4, p. 122-131.

Дисертантом розроблено алгоритм для прогнозування сильно залежних часових рядів та на його основі побудовано довгостроковий прогноз для часового ряду цін тікера MSFT.

5. Moklyachuk M. P. Long-range dependence of time series for MSFT data of shares and returns / M. P. Moklyachuk, O.G. Zrazhevsky // Random Operators and Stochastic Equations. - 2006. - V.14, №4, p. 393-403.

Дисертантом проведено практичний аналіз часових рядів тікера MSFT та доведено, що вони можуть бути описані за допомогою процесів із сильною залежністю.

6. Зражевський О.Г. Відновлення функціональної залежності часових рядів із пам'яттю в умовах коротких вибірок / О.Г. Зражевський // Тринадцята міжнародна наукова конференція імені академіка М. Кравчука, 13-15 травня 2010 р., Київ: Матеріали конф. - К.: Національний технічний університет України «КПІ», 2010. - С. 704.

7. Зражевський О.Г. Відновленої функціональної залежності у випадку нескінченної ємності класу регресорів / О.Г. Зражевський // Системний аналіз та інформаційні технології: XII Міжнародна науково-технічна конференція, 25-29 травня 2010 р., Київ: Матеріали конф. - К.: ННК «ІПСА» НТУУ «КПІ», 2010. - С. 93.

8. Зражевський О.Г. Рівномірна збіжність емпіричного функціоналу ризику до теоретичного для випадку часткового покриття класу апроксимуючих функцій - сіткою/ О.Г. Зражевський // Информационно-компьютерные технологии в экономике, образовании и социальной сфере: V всеукраинская научно-практическая конференция, 13-14 мая 2010 р., Симферополь: Сборник тезисов докладов. - Симферополь: КРП «Крымучпедгиз», 2010. - С. 47-49.

9. Zrazhevsky A.G. The uniform convergence in the case of the wrapping of regression class by the polynomial type functions / A.G. Zrazhevsky // Humboldt Kolleg “Mathematics and life sciences: Possibilities, interlacements and limits”: Book of Abstracts.- Кiev, 2010. - P. 106-107.

10. Zrazhevsky A.G. Long-range prediction of financial time series / A.G. Zrazhevsky // Дванадцята міжнародна наукова конференція імені академіка М. Кравчука, 15-17 травня 2008 р., Київ: Матеріали конф. - К.: Національний технічний університет України «КПІ», 2008. - С. 57.

11. Zrazhevsky O.G. Linear regression approach to financial time series prediction / O.G. Zrazhevsky // Современные задачи прикладной статистики, промышленной, актуарной и финансовой математики: Четвертая всеукраинская научно - практическая конференция, 23-25 апр. 2008 г.: сборник тезисов докладов. - Донецк, 2008. - С. 14.

12. Zrazhevsky O.G. Serial correlation of residuals in regression analysis of time series / O.G. Zrazhevsky // Шевченківська весна: VI міжнародна науково-практична конференція, 20-24 бер. 2008 р.: матеріали конф. - К., 2008. - С. 123.

13. Moklyachuk M.P. Time series model selection of the FARIMA class in financial mathematics / M.P. Moklyachuk, A.G. Zrazhevsky // Insurance and finance: science, practice and education: International summer school, 23-30 June 2007 y.: Book of Abstracts. - F., 2007. - P. 23.

Дисертантом узагальнена стандартна методика прогнозування часових рядів на основі FARIMA процесів, шляхом врахування сильної залежності.

14. Зражевський О.Г. Автомодельність часового ряду цін тікера MSFT та ряду доходності тікера MSFT / О.Г. Зражевський // Шевченківська весна: IV міжнародна науково-практична конференція, 2-3 бер. 2006 р.: матеріали конф. - К., 2006. - С. 308-309.

15. Зражевський О.Г. Застосування періодограмних оцінок до аналізу автомодельних часових рядів / О.Г. Зражевський // Сучасна стохастика: теорія і застосування: Міжнародна конференція, 19-23 чер. 2006 р.: матеріали конф. - К., 2006. - С. 32-33.

16. Zrazhevsky A.G. Statistical methods for determine long-range dependent time series / A.G. Zrazhevsky // Одинадцята міжнародна наукова конференція імені академіка М. Кравчука, 18-20 травня 2006 р., Київ: Матеріали конф. - К.: Національний технічний університет України «КПІ», 2006. - С. 704.

17. Моклячук М.П. Аналіз та прогнозування автомодельних часових рядів / М.П. Моклячук, О.Г. Зражевський // Insurance and finance: science, practice and education: International summer school, 25 June-1 July 2006 y.: Book of Abstracts. - F., 2006. - P. 10.

Дисертантом проведені дослідження методів перевірки часових рядів на автомодельність та запропоновано спосіб врахування автомодельності при прогнозуванні.

анотації

Зражевський О.Г. Системний підхід до відновлення функціональних залежностей нестаціонарних часових рядів різної структури. - Рукопис.

Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 01.05.04 - Системний аналіз і теорія оптимальних рішень. - Інститут прикладного системного аналізу, Київ, 2011.

Дисертацію присвячено розробці системного підходу до відновлення функціональних залежностей нестаціонарних часових рядів різної структури із залученням методології, удосконалення, розробок та математичного обґрунтування статистичних методів моделювання часових рядів із сильною залежністю та у випадку обмеженості емпіричної інформації. Сформульовано метод для прогнозування сильно залежних часових рядів. Розроблено та математично обґрунтовано метод поетапного регресування. Узагальнено теорію вибору регресійної моделі оптимальної складності на основі оцінок швидкості рівномірної по параметру збіжності емпіричного функціоналу ризику до теоретичного. Створено комплекс програмних модулів, які реалізують методи та алгоритми обробки і аналізу даних, на основі математично обґрунтованих в роботі результатів. Наводиться практичне застосування запропонованого системного підходу до вирішення практичних задач аналізу часових рядів на прикладах штучно змодельованих даних і часових рядах кредитів, наданих суб'єктам господарювання у Херсонській, Сумській областях і в АР Крим.

Ключові слова: системний підхід, часові ряди, сильна залежність, регресійна модель, рівномірна збіжність.

Zrazhevsky O.G. Systems approach to recovery of functional dependence of non stationary time series with various structures. - Manuscript.

Dissertation submitted for the Candidate of science degree (technical sciences) in specialty 01.05.04 - System analysis and theory of optimal decisions. - Institute for Applied System Analysis, Kiev, 2011.

Dissertation is devoted to the development of systems approach to estimation of functional dependences of non-stationary time series of different structure using methodology, improvement, developments and mathematical foundation of statistical methods of modelling of time series with long-range dependence and in the case of boundedness of empiric information. The method for prediction of long-range dependent time series is formulated. The method of stage-by-stage regression is developed and mathematically grounded. The theory of selection of the optimal regression model complexity, that is based on the estimates of the rate of uniform convergence of the empirical risk functional to the theoretical, is generalized. The complex of program modules, that realizes methods and algorithms of processing and analysis of data on the basis of the results mathematically grounded in the work, is created. Practical application of the offered systems approach is pointed for solving of practical tasks of time series analysis on the examples of the artificial data and time series of credits, given to juristic persons in Kherson, Sumskiy areas and in Crimea.

Key words: systems approach, time series, long-range dependence, regression model, uniform convergence.

Зражевский А.Г. Системный подход к восстановлению функциональных зависимостей нестационарных временных рядов разной структуры. - Рукопись.

Диссертация на соискателя научной степени кандидата технических наук по специальности 01.05.04 - Системный анализ и теория оптимальных решений. - Институт прикладного системного анализа, Киев, 2011.

Диссертация посвящена разработке системного подхода к восстановлению функциональных зависимостей нестационарных временных рядов разной структуры с привлечением методологии, усовершенствования, разработок и математического обоснования статистических методов моделирования временных рядов, с сильной зависимостью и в случае ограниченности эмпирической информации. Для случая сильной зависимости данных была разработана методика восстановления функциональных зависимостей и сформулирован новый метод для прогнозирования временных рядов на основе авторегресионной модели бесконечного порядка путем оценивания параметра Херста и редуцирования системы нормальных уравнений. При решении практических задач, в частности при прогнозировании поведения финансовых инструментов, реализация метода показала его эффективность и преимущества в сравнении со стандартными методами.

В случае предположения зависимости временного ряда от индекса времени в рамках общего системного подхода рассмотрен метод определения оптимальной функции регрессии с учетом ее сложности и априорной информации относительно специфики происхождения данных и требований при применении моделей. В частности, в работе разработан и математически обоснован метод поэтапного регрессирования временных рядов на классах трендовых и циклических регрессоров. Предложенная последовательная процедура использования остатков регрессирования позволяет определять регрессионную модель, которая не только наилучшим образом (в смысле заданного статистического критерия) описывает эмпирические данные, но и учитывает специфику происхождения данных. Эффективность метода была проиллюстрирована путем сравнения со стандартными методами регрессионного анализа на примере прогнозирования временных рядов, которые изображают статьи банковской деятельности. На основе разработанного метода в работе предложена и практически реализована процедура планирования основных статей банковской деятельности с коррекцией прогнозных значений для учета внешних требований относительно результатов планирования.

...