Розробка методів регресійного аналізу, що використовують апріорну інформацію у вигляді обмежень на параметри

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Національна академія наук України

Інститут кібернетики ім. В.М. Глушкова

01.05.01 - Теоретичні основи інформатики і кібернетики

Автореферат дисертації

на здобуття наукового ступеня доктора фізико-математичних наук

Розробка методів регресійного аналізу, що використовують апріорну інформацію у вигляді обмежень на параметри

Корхін Арнольд Самуілович

Київ 2006



Дисертацією є рукопис

Робота виконана в Національному гірничому університеті Міністерства освіти і науки України.

Науковий консультант:

доктор фізико-математичних наук, професор Кнопов Павло Соломонович, Інститут кібернетики ім. В.М. Глушкова Національної академії наук України, завідувач відділу.

Офіційні опоненти:

доктор фізико-математичних наук Андрєєв Микола Варфоломійович, Інститут прикладного системного аналізу Національної академії наук України і Міносвіти і науки України, провідний науковий співробітник

доктор фізико-математичних наук, професор Іванов Олександр Володимирович, Національний технічний університет України ”КПІ”, професор

доктор фізико-математичних наук Шило Володимир Петрович, Інститут кібернетики ім. В.М. Глушкова Національної академії наук України, провідний науковий співробітник.

Провідна установа:

Дніпропетровський національний університет Міністерства освіти і науки України, кафедра обчислювальної математики і математичної кібернетики.

З дисертацією можна ознайомитися в науково-технічному архіві інституту.

Учений секретар спеціалізованої вченої ради Синявський В.Ф.

ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ

Актуальність теми. Регресійні моделі - один з найпоширеніших засобів моделювання процесів в умовах невизначеності. Вони широко використовуються в науці і техніці. Іноді регресія стає єдиним можливим засобом у дослідника отримати математичну модель досліджуваного ним явища. Тому побудові і аналізу різних типів регресійних моделей приділяється багато уваги. У цьому зв'язку слід відзначити роботи С.А. Айвазяна, А.Я. Дороговцева, Ю.М. Єрмольєва, О.В. Іванова, О.Г. Івахненко, П.С. Кнопова, О.Г. Кукуша, О.Г. Наконечного, Й.А. Барда, Дж. Джонстона, Ф. Драймза, А. Зельнера, Е. Маленво, Дж. Себера та інших.

У теперішній час одним із найбільш складних питань регресійного аналізу є оцінювання параметрів регресійної моделі, вигляд якої відомий (модель задана с точністю до її параметрів), та її інтерпретація. Тому більша частина монографій з регресійного аналізу присвячена цій тематиці. При цьому ключовим питанням є підвищення адекватності регресійних моделей процесам, що моделюються.

Важливим засобом вирішення цієї проблеми є використання апріорної інформації, на що вказував в 1962 р. Л.В. Канторович. Слід додати, що використання апріорної інформації при побудові регресійних моделей особливо актуальне для малих вибірок. Тому цій проблемі приділяється все більше уваги як з точки зору методології, так и при вирішенні практичних задач. На відміну від класичних методів регресійного аналізу, методи використання апріорної інформації при створенні регресійних моделей для вирішення практичних задач розроблені недостатньо.

Відомі способи врахування апріорної інформації можна об'єднати у дві групи: імовірні та детерміновані. Перша група методів зводиться до однієї ідеї - байєсовського оцінювання. Через складність одержання доступних для огляду результатів байєсовський метод розроблено досить повно стосовно лінійних статистичних моделей, коли шум в об'єкті - нормальний, а апріорний розподіл параметрів моделі гамма-нормальний. Однак далеко не завжди характеристики процесів, що моделюються, мають нормальні розподіли. Крім того, важко "утиснути" апріорну інформацію в рамки гамма-нормального розподілу. Із зазначених причин байєсовський метод рідко застосовується при вирішенні практичних задач.

Детермінований спосіб опису апріорної інформації складається в задані області допустимих значень параметрів регресійних моделей у вигляді систем рівностей і нерівностей. Розв'язування задачі оцінювання в цьому випадку зводиться до схеми математичного програмування, коли критерій оцінювання - сума квадратів відхилів - найбільш розповсюджений критерій при рішенні практичних задач. Методи розв'язання задач математичного програмування на сьогодні достатньо розроблені. Однак вони не враховують специфіки задач оцінювання. Набагато гірша справа з оцінкою точності моделей. Загальне рішення отримане тільки для обмежень-рівностей. Стосовно оцінювання з обмеженнями-нерівностями є рішення для найпростіших випадків. Проте з практичної точки зору використання обмежень-нерівностей надає більше можливостей для врахування апріорної інформації, ніж використання обмежень-рівностей в силу більшої гнучкості перших.

У роботі розглядається вирішення проблеми врахування апріорної інформації при побудові регресійних моделей у двох аспектах: обчислення оцінок параметрів моделі і визначення точності оцінювання. При цьому пропонується використовувати апріорну інформацію двох видів. Перший: задається деяка множина допустимих значень параметрів регресії, що визначається обмеженнями-рівностями і нерівностями. Далі такі обмеження називаються чіткими. Другий вид - розпливчасте, нечітке завдання допустимої множини у вигляді нечітких обмежень на параметри. Обидва види представлення апріорної інформації, на погляд автора, дають можливість формалізувати всю інформацію, яку має практик, приступаючи до розробки регресійної моделі.

Основний підхід до вирішення сформульованої проблеми полягає в розгляді задач регресійного аналізу як одно- і двокритеріальних задач оптимізації з обмеженнями, в яких коефіцієнти цільової функції залежать від параметра - деякої багатовимірної випадкової величини, що характеризує вплив зовнішнього середовища на об'єкт. Вирішення такої задачі оптимізації знаходиться для кожної реалізації цієї величини. Аналіз параметричного рішення здійснюється з урахуванням невизначеності, обумовленої випадковим параметром.

Зв'язок роботи з науковими програмами, планами, темами. Основні результати дисертації отримані в процесі виконання під керівництвом автора трьох науково-дослідних госпдоговірних робіт, що проводилися в АТ “НДІАчормет” відповідно до тематичного плану інституту в 1994 - 1997р.р., та однієї роботи в Національному гірничому університеті, що проводилася у 2000 - 2001р.р.

Мета роботи - розробка методів створення основних видів регресійних моделей, які враховують апріорну інформацію про об'єкт, що моделюється, у вигляді обмежень, щоб використовувати ці методи для вирішення практичних задач аналізу систем і прогнозування їхнього функціонування.

Для досягнення мети поставлені і вирішені такі комплекси задач.

1. Створення теоретичних основ визначення точності регресійних моделей у залежності від запропонованих способів формалізації апріорної інформації (чітка і нечітка) про об'єкт, що моделюється.

2) Розробка методів обчислення оцінок параметрів регресійних моделей, що враховують специфіку регресійного аналізу.

3) Доведення результатів дослідження до рівня, що дозволяє їх використовувати для вирішення практичних задач (у вигляді алгоритмів і комп'ютерних програм).

Таким чином, у даній роботі поєднується одержання теоретичних результатів з доведенням цих результатів до вирішення практичних задач.

Об'єкт дослідження - регресійні моделі різних видів: лінійні і нелінійні, з постійними і змінними параметрами, без лага і з лагом незалежних змінних (регресорів).

Предмет дослідження - характеристики, що визначують якість моделі: консистентність оцінок параметрів моделі, їхній розподіл, матриця середніх квадратів похибок (с.к.п.), дисперсія залишків, а також методи оцінювання параметрів.

Методи дослідження. У роботі використовуються методи теорії ймовірностей, математичної статистики та математичного програмування.

Як критерій точності оцінювання параметрів регресії використовуються найменші квадрати - найбільш розповсюджений критерій створення регресійних моделей. Однак отримані результати про статистичні властивості оцінок параметрів можна поширити і на випадок інших критеріїв, як це показано П.С. Кноповим.

У роботі реалізовані всі етапи, необхідні для доведення теоретичних результатів до практичного застосування:

1) розробка методології й алгоритмів;

2) перевірка алгоритмів на модельних прикладах;

3) створення комп'ютерних програм.

Наукова новизна отриманих результатів.

1. Розроблені основи теорії статистичних властивостей параметрів регресії, підпорядкованих обмеженням-нерівностям, яка дозволяє розв'язувати задачі стосовно до лінійних та нелінійних регресій з лінійними та нелінійними обмеженнями. Зокрема, вирішені такі задачі.

1.1 Уперше для досить загальних припущень про функцію регресії, обмеження і шум визначені асимптотичні властивості оцінок параметрів регресії для їх скінченного довільного числа.

Показано, що асимптотичний розподіл оцінок параметрів, підпорядкованих нелінійним обмеженням-нерівностям, є усічений багатомірний нормальний розподіл, зосереджений в області, що задається лінійними обмеженнями, які є активними при підстановці у них істинних значень параметрів. Ці лінійні обмеження - результат лінеаризації вихідних обмежень в околі істинних значень параметрів. Указаний результат містить у собі, як окремий випадок, лінійну регресію з лінійними обмеженнями-нерівностями.

Встановлено, що у регресійному аналізі при врахуванні звичайних обмежень-нерівностей є аналогія умові строгої доповнюючої нежорсткості в математичному програмуванні: коли число спостережень прагне до нескінченності, активним обмеженням для істинних значень параметрів відповідає нормований множник Лагранжа з ненульовою дисперсією. Для неактивних обмежень ця дисперсія дорівнює 0.

1.2 Запропоновано консистентну оцінку матриці середніх квадратів похибок оцінок параметрів регресії, доведено консистентність оцінки дисперсії шуму.

1.3 Розроблено ефективний ітеративний метод оцінювання параметрів нелінійної регресії з нелінійними обмеженнями. Метод дозволяє уникнути дроблення кроку, починаючи з деякої ітерації, що підвищує ефективність обчислень у порівнянні з відомими алгоритмами розв'язування загальної задачі нелінійного програмування. Як окремий випадок з нього випливає відомий алгоритм Левенберга-Маркуардта для нелінійного оцінювання без обмежень.

2. Розроблено новий напрямок у регресійному аналізі, що полягає в оцінюванні з урахуванням нечіткої апріорної інформації. Оцінювання зведено до рішення двокритеріальної задачі, на підставі чого введений новий клас P-оцінок, що є узагальненням оцінювання за одним критерієм. Зокрема, отримані такі результати.

2.1 Доведено існування P-оцінок, точність яких вище оцінок метода найменших квадратів (м.н.к.).

2.2 Розроблено новий метод визначення параметра регуляризації, що дозволяє автоматизувати обчислення гребеневих оцінок.

2.3 Запропоновано новий вид оцінок - узагальнених гребеневих (підклас P-оцінок). Розроблено метод їхнього обчислення.

2.4 Виходячи з того, що задачу оцінювання змінних параметрів регресії можна розглядати як задачу з нечіткими обмеженнями-рівностями, запропоновано новий метод оцінювання цих параметрів.

3. Розроблені вперше методи оцінювання параметрів моделі з розподіленим лагом, що використовують як чітку, так і нечітку апріорну інформацію у вигляді обмежень.

Практичне значення одержаних результатів. Результати роботи можуть використовуватися при вирішенні різних задач планування і прогнозування виробничої і комерційної діяльності, керуванні якістю продукції, розробці економетричних моделей і моделей технологічних процесів.

Особистий внесок здобувача полягає у створенні нових методів вирішення проблеми урахування апріорної інформації з метою одержання регресійних моделей із заданими властивостями, упровадженні цих методів для рішення практичних задач. Із 43-х основних робіт за темою дисертації 7 статей надруковано у співавторстві. У цих статтях математичні постановки задач і методи їх розв'язування вирішення належать авторові. Крім того, у статті [10], що написана в співавторстві, використана програма розрахунків автора.

Апробація роботи. Основні результати роботи були представлені на IV Всесоюзній нараді зі статистичних проблем теорії керування (Фрунзе, 1978), Всесоюзному науковому семінарі ”Многомерный статистический анализ и вероятностное моделирование реальних процесів” (Центральний економіко-математичний інститут АН СРСР, 1976, 1978), VIII Всесоюзній нараді з проблем управління (Таллінн, 1980), XVII Міжнародному симпозіумі із застосування ЕОМ і математичних методів у гірничих галузях промисловості (Москва, 1980), на II Всесоюзній науково-технічній конференції ”Применение многомерного статистического анализа в экономике и оценке качества продукции” (Тарту, 1981), науково-технічній конференції ”Проблеми автоматизації металургії України” (Київ, 1995), міжнародній науково-практичній конференції “Проблеми і перспективи розвитку економіки в умовах ринкової трансформації” (Дніпропетровськ, 1999), на II і Ш міжнародних школах зі страхової та фінансової математики (Київ, 1999, Феодосія 2000), Ш українсько-скандинавській конференції з теорії ймовірностей і математичної статистики (Київ, 1999), міжнародній конференції “International Gnedenko Conference” (Kyiev, 2002), міжнародній конференції “Functional Methods in Aproximation Theory, Operator Theory, Stochastic Analysis and Stastics II” (Kyiev, 2004).

Публікації. Основні результати дисертації опубліковані в 43 роботах. Серед них: монографія, 38 статей у наукових журналах і збірниках, 4 тези доповідей.

Структура та обсяг дисертації. Дисертація складається зі вступу, п'яти розділів, висновків, переліку використаних джерел із 192 найменувань на 17 сторінках і трьох додатків на 69 сторінках. Загальний обсяг дисертаційної роботи становить 366 сторінок. Основний текст дисертації містить 4 рисунки на двох сторінках.

ОСНОВНИЙ ЗМІСТ РОБОТИ

У вступі розкрито стан проблеми, обґрунтовано актуальність її вирішення, сформульовано мету і задачі досліджень, викладено загальну характеристику дисертації.

У першому розділі розглянуто детерміновані, ймовірні та інші способи опису апріорної інформації, необхідність в яких виникає при вирішенні різних задач техніки й економіки. На основі зробленого аналізу встановлено, що:

є широке коло проблем моделювання реальних процесів, що не можуть бути вирішені за допомогою класичного апарату регресійного аналізу;

введення апріорних обмежень (чітких і нечітких) дозволяє будувати моделі з потрібними властивостями;

урахування обмежень при побудові моделей є новим напрямком регресійного аналізу.

У розділі описано також загальну методику проведення дослідження. Розглянуто основні аспекти методології врахування чіткої і нечіткої апріорної інформації при побудові регресійних моделей різних видів: статичних, динамічних (розподілені лаги), зі змінними параметрами, з нелінійними і лінійними функціями регресії й обмеженнями. Наведений аналіз прикладних задач показав, що зазначені види моделей, функцій регресії й обмежень дозволяють охопити основні задачі регресійного моделювання.

Пропонується два види врахування нечіткої апріорної інформації: нечіткі обмеження-рівності і нерівності. Задача оцінювання зводиться до двокритеріальної, що є узагальненням оцінювання за одним критерієм - точністю моделі. У зв'язку з цим уводиться новий клас оцінок параметрів регресії - Р-оцінки.

Часто в силу інерційности систем їхні характеристики змінюються досить повільно, причому закон зміни невідомий. На підставі цього міркування побудову моделі зі змінними параметрами пропонується розглядати як оцінювання з урахуванням нечіткої інформації, що дозволяє за єдиною методологічною схемою відслідковувати зміну параметрів при надходженні нових даних чи вважати їх незмінними на деяких відрізках часу (регресійні моделі з перемиканнями), довжина яких на відміну від відомих методів не обмежена знизу.

У другому розділі розглянуто статистичні властивості оцінок параметрів нелінійної регресії, що підпорядковуються нелінійним обмеженням-нерівностям.

Нехай і відомі для. Оцінку знайдемо за умови, при дотриманні апріорних обмежень, які задають допустиму область зміни параметрів . Тут - нульовий - вимірний вектор. В обмеженні і далі означає транспонування. Вектор може задовольняти як обмеженням-рівностям, так і обмеженням-нерівностям:

Відносно функції регресії та шуму використовуються такі основні припущення.

Припущення 2.1 Випадкові величини незалежні та однаково розподілені з нульовими математичними очікуваннями і дисперсією.

Припущення 2.2 А. Функції двічі неперервно диференційовані.

Б. Для усіх та усіх можливих значень регресорів існують такі сталі величини і, де - - та компонента .

В. В околі функції та їх похідні до другого порядку включно обмежені.

Припущення 2.3 Оцінка належить компактній множині, де - куля довільного радіуса з центром, така, що. Для будь-яких є межа, причому збіжність рівномірна і тоді і тільки тоді, коли.

Припущення 2.4 Градієнти, лінійно незалежні.

Припущення 2.5 Матриця де, рівномірно по, де - окіл, збігається до матриці , причому - додатно визначена матриця.

Припущення 2.6 Градієнти лінійно незалежні, де - розв'язок задачі (1), (2),

У розділі встановлено граничний розподіл та граничні властивості множників Лагранжа задачі, з урахуванням наведених припущень. Одержані такі результати (тут і далі формулювання тверджень наводяться з посиланням на основні припущення).

Теорема 2.1 Якщо виконуються припущення 2.1-2.6, то випадкова величина при збігається за розподілом до випадкової величини - розв'язку задачі квадратичного програмування:

Теорема 2.2 Якщо припущення 2.1-2.6 виконуються, то де має розподіл, який є граничним для, - множник Лагранжа задачі.

У математичному програмуванні відомо, що коли виконуються умови строгої доповнювальної нежорсткості, то множник Лагранжа, відповідний активному обмеженню, більший 0, а відповідний неактивному - дорівнює 0. Твердження теореми можна розглядати як аналог цієї властивості множників Лагранжа.

Далі, виходячи з теоремі 2.1, визначається точність оцінювання за припущенням, що шум розподілений нормально. Для обчислення оцінки матриці с.к.п. оцінювання параметрів уведено поняття активного обмеження з точністю до якогось додатного числа. Таке обмеження (нехай його індекс i) задовольняє умові Відповідно i-те неактивне обмеження з точністю до є Числом може бути точність обчислень на комп'ютері. Оцінка враховує при своєму обчисленні тільки активні обмеження (з точністю до ), тому вона названа усіченою. Доведено консистентність.

Тут і вибіркові оцінки відповідно, коли -тe обмеження активне з точністю до, і - у протилежному разі. Неважко побачити, що оцінка дисперсії шуму включає у собі випадки, коли є тільки обмеження-рівності і при їх відсутності.

Описана оцінка названа усіченою тому, що враховує тільки активні обмеження. Для її визначення у загальному випадку пропонується застосовувати метод Монте-Карло.

У розділі також запропоновано метод оцінювання параметрів нелінійної регресії - розв'язок рішення задачі. Алгоритм обчислень такий.

1. Задати початкове наближення і додатні величини. Покласти k=0.

2. Визначити - розв'язок задачі

У наведених формулах - додатно визначена матриця,. Величина задається так, щоб обмеження були сумісними.

3. Якщо, то зупинка. В іншому випадку перехід до наступного кроку.

4. Визначити при множник з умови

5. Покласти

6. Обчислити параметр регуляризації

7. Покласти і перейти до кроку 2

Описаний алгоритм є модифікацією методу лінеаризації, пристосованого для розв'язку задач регресійного аналізу з обмеженнями. Він відрізняється від методу лінеаризації уведенням параметра регуляризації, що поліпшує збіжність. Як неважко побачити, розв'язок задачі (3) має статистичний зміст, а саме - оцінка параметрів, лінеаризованих у точці функцій регресії, що підпорядкована лінеаризованим обмеженням.

Відносно функції регресії та обмежень прийняті такі припущення.

Припущення 2.7 Градієнти функцій та у будь-якій компактній множині задовольняють умові Липшиця.

Припущення 2.8 Існує початкове наближення і константи такі, що задача має розв'язок і сума її множників Лагранжа обмежена.

Доведено, що при виконанні припущень 2.7, 2.8 у будь-якій граничній точці послідовності виконуються обмеження та необхідні умови мінімуму задачі. Крім того, якщо величина достатньо велика, то існує такий індекс, починаючи з якого. Таке явище дозволяє уникнути дроблення кроків поблизу мінімуму, що призводить до неможливості знайти розв'язок із заданою точністю. Ця властивість алгоритму важлива при вирішенні прикладних задач.

Розглянуті також різновидності описаного алгоритму.

Рішення прикладів, наведених у додатку А, показало, що алгоритми мають перевагу у порівнянні з рядом алгоритмів розв'язування загальних задач математичного програмування.

Як окремий випадок, із алгоритмів оцінювання з урахуванням обмежень випливають алгоритми оцінювання параметрів нелінійної регресії без обмежень, які являють собою модифікації алгоритму Левенберга-Маркуардта. Відомо, що цей алгоритм найбільш ефективний для оцінювання параметрів нелінійної регресії.

У розділі вперше для загального випадку одержані асимптотичні властивості оцінок параметрів нелінійної регресії, що підпорядковані обмеженням-нерівностям. Знайдені граничні розподіли оцінок та консистентні оцінки їх матриці середніх квадратів похибок. Таким чином визначені величини, за якими можна судити про точність регресійної моделі, коли апріорна інформація формалізована у вигляді обмежень-нерівностей.

Запропоновані алгоритми враховують специфіку регресійного аналізу і дозволяють ефективно знаходити оцінки параметрів нелінійної регресії, коли на них накладені нелінійні обмеження-нерівності.

У третьому розділі розглядаються статистичні властивості оцінок параметрів лінійної регресії, що підпорядковуються лінійним обмеженням-нерівностям. Розглянута задача - окремий випадок задачі, дослідженої в попередньому розділі. Однак для лінійної (за параметрами) регресії припущення зроблені більш загальними: як регресори розглянуті змінні з трендом, вдалося відмовитися від вимоги однакового розподілу шуму для різних t та ін.

Досліджувана регресія.

Основні припущення щодо функції регресії і шуму.

Припущення 3.1 Випадкові величини - центровані і незалежні. Вони не залежать від мають однакові дисперсії і розподіли.

Припущення 3.2 Матриця не вироджена

Припущення 3.3 Матриця, зіставлена з рядків, має повний ранг.

Припущення 3.4

Припущення 3.5 Є така діагональна матриця з позитивними елементами на головній діагоналі, для якої існує межа матриці;.

Для цих припущень доведено консистентність - оцінки за наявністю лінійних обмежень без вимоги компактності припустимої області, де знаходиться, на відміну від розділу 2, що цілком відповідає формулюванням чіткої апріорної інформації про параметри регресії в практичних задачах.

Теорема 3.1 Якщо виконуються припущення 3.1-3.5 і обмеження мають вигляд (5), то випадкова величина при збігається за розподілом до випадкової величини - розв'язку задачі:

У розділі розглянуто оцінки матриці с.к.п. оцінки параметра регресії, що враховують усі обмеження на оцінки параметрів (на відміну від усіченої оцінки, яка введена для нелінійної регресії). Цілком зрозуміло, що усічена оцінка для лінійних задач - окремий випадок такої оцінки для нелінійної регресії.

Виникає питання, чи потрібна взагалі усічена оцінка? На нього можна відповісти тільки стверджувально. Її позитивом є врахування тільки частини обмежень, що значно спрощує розрахунки, оскільки у загальному випадку треба використовувати метод Монте-Карло, який вимагає значних обчислювальних ресурсів.

Для оцінок, що враховують усі обмеження, доведено їх консистентність для випадків:

1) де - одинична матриця (немає тренда у регресора), шум може бути розподілений не обов'язково нормально і задовольняти припущенню 2.1;

2) у регресора є тренд, шум розподілений нормально, для консистентності оцінки потрібні припущення 3.1-3.5.

У розділі значну увагу приділено точному визначенню оцінки матриці с.к.п. оцінок параметра. Тому розроблений метод, що дозволяє обчислювати цю матрицю для нормального розподілу шуму, якщо розмірність параметра регресії довільна, а кількість обмежень не більше трьох. Метод дозволяє отримувати як усічені оцінки, так і оцінки з урахуванням усіх обмежень, коли їх не більше трьох.

Метод заснований на послідовному лінійному перетворенні простору параметрів. При обчисленні застосовуються кратні інтеграли, кратність яких дорівнює числу врахованих обмежень. У додатку А наведено приклад, що показує підвищення точності оцінювання параметрів регресії, обумовлене врахуванням обмежень-нерівностей.

Розглянуто також задачу прогнозування за наявністю одного обмеження для довільної розмірності параметра регресії. Отримані результати показують, що дисперсія прогнозу з урахуванням обмеження буде меншою або дорівнювати дисперсії прогнозу без урахування обмеження. Наводяться умови для обох випадків.

У розділі уперше визначені асимптотичні властивості лінійної регресії, параметри якої підпорядковуються лінійним обмеженням-нерівностям. При цьому припускається наявність тренда змінних, що дозволяє використовувати отримані результати для моделювання економічних процесів, характерною рисою яких є нестаціонарна поведінка змінних. Розроблено метод для точного обчислення оцінки матриці с.к.п. оцінки параметра регресії, коли кількість обмежень-нерівностей не перевищую трьох. Показано, що введення одного обмеження не збільшує дисперсію прогнозу або її зменшує. Наведені умови, коли дисперсія прогнозу зменшується.

Четвертий розділ присвячено оцінюванню параметрів лінійної регресії з використанням нечітких обмежень. Спочатку досліджується проблема оцінювання параметрів лінійної регресії з урахуванням нечіткої апріорної інформації

В обмеженні можуть бути нечітко задані або. Відносно регресора у виразі використовується таке припущення.

Припущення 4.1 Матриця невироджена

Нехай описане нечітко у формі нечіткої підмножини числової осі функції належності якої мають вигляд, де знаходиться на основі апріорної інформації; - коефіцієнт. У дисертації наводяться формули для обчислення у виразах та як функції.

Опис функції належності показниковими функціями, очевидно, не є єдиним. Його позитивна якість - простота, можливість урахування різноманітних уявлень розробника моделі про область завдання параметрів регресії.

Доведено, що нечітка припустима множина оцінок параметрів регресії О має функцію належності

Оцінки параметрів регресії повинні бути такими, щоб вони мінімізували суму квадратів похибок і в той же час їх степінь належності припустимій множині О був максимальним. Таким чином приходимо до двокритеріальної задачі оцінювання

Як відомо, кращими розв'язками такої задачі є рішення оптимальні за Парето. Далі такі розв'язування або будемо називати P-оцінками параметрів регресії. Вони являють собою розв'язування задачі

Отже, у випадку формалізації апріорної інформації у вигляді нечітких обмежень-нерівностей визначається не одна оцінка параметрів, а деяка їх множина (P-оцінки). Ці оцінки є функцією r, позначимо їх. У просторі параметрів являє собою криву, яку назвемо компромісною (КК), так як її точки - компроміс двох критеріїв у розумінні Парето.

З метою оцінки впливу при (- деяка точка КК) другого критерію на перший, який є головним, уводиться функція.

Показується, що вона строго монотонно зростає за r.

Для аналізу із компромісної кривої пропонується добути деяку підмножину P-оцінок,. Ця множина повинна задовольняти таким вимогам.

1) Величина достатньо близька до - суми квадратів остач, одержаних методом найменших квадратів.

2) Оцінки відповідають апріорній інформації.

3) Критерій відносно слабо впливає на головний критерій S, що формалізується у вигляді умови

У дисертації описується алгоритм визначення і.

Розробнику моделі часто необхідно мати єдину оцінку параметрів регресії. Вона визначається величиною, яка надає максимум функції

Функція (r) уводиться на підставі трактування розв'язуваної задачі як задачі з двома нечіткими цілями вибіру.

Теорема 4.1 Якщо виконується припущення 4.1, то - унімодальна функція.

За даною теоремою максимум (r) знаходиться методом золотого перетину.

Як випливає із сказаного, для визначення єдиної оцінки параметрів регресії необхідно неодноразово обчислювати. Тому розроблено алгоритм, який дозволяє знаходити для фіксованого r за скінченне число кроків.

Припустивши, що регресори можуть мати тренд, розглянуті асимптотичні властивості P-оцінок. Доведено їх консистентність та асимптотична нормальність.

У розділі розглядаються також обмеження на параметри регресії, де або права, або ліва частина рівності задається як величина, що описується у вигляді нечіткої підмножини числової осі. Відносно регресорів використовується припущення 4.1,. а відносно коефіцієнтів лівих частин в обмеженнях прийнято припущення 4.2.

Припущення 4.2 Матриця A, рядками якої є транспоновані вектори i, має повний ранг.

Доведено, що для обмежень-рівностей при заданні їх правих частин у вигляді нечітких множин з функціями належності вигляду, або лівих частин у вигляді нечітких множин з функцією належності, нечітка припустима множина O оцінок параметрів регресії має функцію належності, яка описується виразами.

Оцінки параметрів, коли функція належності має вигляд (10), розглянуті раніше. Далі розглядаються оцінки, що відповідають функції належності.

У даному випадку рішення задачі, що оптимальні за Парето (P-оцінки параметрів), будуть рішеннями задачі

Її рішення - компромісна крива

Наводяться формули для обчислення у функції. Показано, що асимптотичні властивості P-оцінок з урахуванням нечітких обмежень-рівностей ідентичні випадку нечітких обмежень-нерівностей. Також доведено, що для розглядуваного випадку залишається вірною теорема 4.1.

Для скінченої вибірки обсягом T має місце така теорема.

Теорема 4.2 Нехай виконуються припущення 4.1, 4.2. Тоді існує таке число що для матриця додатно визначена, якщо та невід'ємно визначена, якщо.

Із теореми 4.2 видно роль вектора Його уведення дозволяє ”розширити” множину P-оцінок, дисперсія яких менше дисперсії оцінок м.н.к. Ця властивість використана при утворенні алгоритму оцінювання, що описаний нижче.

Уведений клас P-оцінок, який використовує нечіткі обмеження-рівності, дозволив запропонувати новий підхід до побудови гребеневої регресії. Він полягає у використанні алгоритму знаходження єдиної P-оцінки для обмежень-нерівностей.

У розділі описано метод визначення P-оцінки вигляду, коли величина b невідома.

Взаємозалежність критеріїв ураховується функцією, що узагальнює вираз.

Показано, що монотонно зростає за при , коли фіксоване.

Як оцінки можуть бути узяті тільки точки компромісної кривої. Зрозуміло, що КК, що відповідає гребеневій оцінці, може проходити достатньо далеко від. У випадку змінного вектора оцінка вибирається з усього простору параметрів (при відсутності апріорної інформації о них) і з'являється можливість вибрати КК, що проходе в околі.

Таким чином, обчислення оцінки полягає у виборі вектора b (тим самим і КК), а потім деякої точки C (що визначається величиною). Щоб знайти C, достатньо розглянути відрізок КК, який відповідає значенням параметра r із деякого відрізка. Відрізок повинен задовольняти умовам, аналогічним вимогам, при оцінюванні з урахуванням нечітких обмежень-нерівностей, що наведені вище:

1) P-оцінки для узгоджуються з апріорною інформацією про параметри регресії;

2) слабо залежить від. Остання умова має вигляд аналогічний обмеженню: для фіксованого.

Очевидно, бажано вибирати так, щоб відрізок КК проходив в околі. Для формалізації цієї вимоги визначимо область, де; - оцінка м.н.к., таким чином: у площини, яка нормальна до кривої у будь-якій її точці, проведемо n-1-вимірну кулю радіуса з центром у цій точці. При достатньо малій величині кулі не будуть мати спільних точок. Із них складеться область, що включає в себе.

Позначимо оцінку м.н.к.. Нехай величини у виразі незалежні, центровані та нормально розподілені з дисперсією. Тоді n-вимірний випадковий вектор має багатовимірний розподіл Стьюдента.

Уведемо перетворення. Позначимо відрізок КК у новій системі координат. Тоді: Імовірність того, що, визначається співвідношенням, де - щільність багатовимірного розподілу Стьюдента.

Величина може служити мірою близькості кривої до, але вона має недолік: залежить від довільної величини. Щоб його усунути, розглянемо відношення при, де у знаменнику - об'єм n-1-вимірної кулі з радіусом

Теорема 4.3 Якщо виконуються припущення 4.1, то криволінійний інтеграл першого типу, узятий по кривій. Відповідно теоремі можна розглянути як міру близькості до. Тоді маємо умову для визначення оптимального x:

Обчислення оцінки розіб'ємо на два етапи: вибір відрізка КК (визначення) і вибір точки на КК (визначення). Розв'яжемо задачу для випадку m = n.

На основі виразу та вимог до відрізка Z задача визначення вектора b формулюється так:

Задача розв'язується методом випадкового пошуку, запропонованим А.М. Гупалом Гупал А.М. Стохастические методы решения негладких экстремальных задач.- К.: Наукова думка, 1979. - 152 с..

Другий етап оцінювання параметрів регресії (знаходження точки на вибраній КК) полягає в обчисленні за виразами, що узагальнюють формули:

Розв'язування прикладів, що наведені у додатку А, показали перевагу запропонованого методу оцінювання у порівнянні з м.н.к. та гребеневою оцінкою.

У розділі на основі поняття нечітких-обмежень-рівностей розглядається також регресія зі змінними параметрами, яка має вигляд

Відносно регресорів у виразі використовується припущення 4.3.

Припущення 4.3 Вектори - лінійно незалежні.

Існують різні методи, що дозволяють відслідковувати змінювання параметрів моделі, див., наприклад, §11.2 монографії Льюнга Льюнг Л. Идентификация систем.- М.: Наука, 1991. - 432 с.. Вони мають спільну рису: після T+1-го спостереження оцінка не коригується. Такий підхід не завжди прийнятний, так як у ряді застосувань для фіксованого T необхідні оцінки з урахуванням усіх попередніх спостережень (наприклад, для визначення структурних змін у економічному процесі). У розділі розглядається розв'язання цієї задачі, причому величина T може бути невеликою.

Припустимо, що параметри регресії змінюються достатньо повільно, що можна формалізувати у вигляді нечітких обмежень-рівностей де - нечітка величина, функція належності якої зосереджена в околі 0.

Нехай маємо апріорну інформацію про параметри регресії на початку та кінці відрізка спостережень у вигляді векторів. Тоді можна записати, де - нечітка величина з функцією належності також зосередженою в околі 0.

Показується, що у цьому випадку оцінювання параметрів регресії зводиться до розв'язування двокритеріальної задачі

Як і у випадку постійних параметрів регресії Парето-оптимальні рішення задачі, називаються Р-оцінками.

Теорема 4.4 P-оцінка параметрів регресії, що відповідає критеріям, є рішенням задачі при виконанні однієї з таких умов:

1) коли, то і виконується припущення 4.3;

2) принаймні одно,

Запропонована процедура знаходження єдиної P-оцінки A(r) - рішення задачі, аналогічна відповідній процедурі для постійних параметрів регресії.

Запропонований рекурентний алгоритм обчислення Р-оцінки для довільного r. Машинний експеримент продемонстрував, що цей алгоритм має значний виграш у тривалості обчислень. Експеримент також показав, що запропонований алгоритм дозволяє відстежувати змінювання параметрів у часі. регресійний апріорний інформація похибка дисперсія

Алгоритм узагальнено на випадок оцінювання параметрів регресії з перемкненням. При цьому на довжину інтервалів постійності параметрів, які вважаються відомими, не накладається обмеження знизу.

Розглянуто окремий випадок регресії з перемкненнями, коли вважається, що параметри приблизно постійні на малому відрізку часу. При цьому вони досить близькі до оцінок параметрів, одержаних для попереднього відрізку часу. Такий підхід дозволяє оцінювати досить швидку зміну параметрів регресії, що має місце у ряді технічних застосувань. Отримані, так звані багатокрокові алгоритми, де для обчислення кожної оцінки багатовимірного параметра регресії використовується кілька кроків (точок спостереження).

Метод урахування нечіткої апріорної інформації у вигляді нечітких обмежень при оцінюванні параметрів регресії, який описаний у розділі 4, запропонований уперше. Формалізація нечіткої вихідної інформації використовувалась раніш при розв'язуванні задач математичного програмування. На відміну від рішення задачі математичного програмування метою побудови регресійної моделі є не тільки обчислення оцінок її параметрів з найбільшою точністю, але й оцінка цієї точності. Запропоновані алгоритми оцінювання розроблені з урахуванням цієї специфіки. Вони дозволяють знаходити новий клас оцінок параметрів регресії: Парето-оптимальних. Їх обчислення полягає у мінімізації цільової функції, яку можна трактувати як штрафну функцію, що відома у математичному програмуванні. Однак, на відміну від методу штрафних функцій, який досліджує умови збіжності при прямуванні до штрафного множника, розв'язана інша задача: знаходження скінченного значення (у розглядаємому випадку він є ваговим коефіцієнтом у згортанні критеріїв оцінювання). Це забезпечує одержання моделі з урахуванням апріорної інформації. У рамках запропонованого підходу сформульовано новий спосіб побудови гребеневої регресії та її узагальнення.

У даному розділі проблема визначення оцінок змінних у часі параметрів регресії сформульована як задача оцінювання з урахуванням нечітких обмежень-рівностей. Ця задача зведена до двокритеріальної, розв'язаннями якої є Парето-оптимальні оцінки (P-оцінки). Запропонований рекурентний алгоритм обчислення P-оцінок змінних параметрів регресії.

Розглянуто оцінювання параметрів регресії з перемкненнями, коли на довжину інтервалу постійності параметрів не накладається обмеження знизу. Показано, що задача оцінювання полягає у визначенні P-оцінки.

П'ятий розділ присвячений побудові моделей з лагом. Послідовність називається структурою лага.

Звичайно N невідомо. У технічних застосуваннях, як правило,. Далі, коли N скінченне, модель називається моделлю зі скінченною структурою лага, коли - з нескінченною структурою лага.

У даному розділі розглядається оцінювання нескінченної і скінченної структур лага.

Як апріорна інформація розглядається додатність структури лага. Таке обмеження звичайно вводиться при моделюванні інвестиційних процесів, необхідність у ньому виникає при розв'язанні задач ідентифікації промислових об'єктів, наприклад, металургійних печей, електродвигунів.

Для опису процесу з розподіленим лагом з нескінченною структурою використовується її апроксимація у вигляді дробово-раціональної функції оператора зсуву у часі. Припускається, що та мають тренд, який можна усунути взяттям r-ї різниці.

Коефіцієнти передавальної функції лага мають бути такими, щоб забезпечити додатність його структури. У дисертації одержані обмеження на ці коефіцієнти у вигляді нелінійних функцій. Як у роботах з розподіленого лага, так і роботах з методів ідентифікації раніше не розглядалося урахування обмежень при оцінюванні коефіцієнтів передавальної функції.

Припускається, що - процес авто регресії, де - білий шум, - передавальна функція шуму,

Степені поліномів у виразах для та n ,m і p вважаються відомими. В іншому разі вони можуть бути визначені відомими методами.

Нехай і - передавальні функції лага і шуму, коефіцієнти котрих варіюються. Запишемо їх у вигляді векторів:

Оцінки істинних значень коефіцієнтів передавальних функцій лага і шуму є розв'язком задачі

У дисертації наводяться формули для обчислення функцій.

Для розв'язання задачі використовується алгоритм, описаний у розділі 2 зі змінами, які враховують специфіку цільової функції у задачі. Ітеративне обчислення оцінок виконується за формулою, де множина має той же зміст. Тут де визначається відповідно до кроку 6 алгоритму обчислення оцінок параметрів нелінійної регресії в розділі 2, матриця додатно визначена,. Матриця розмірності, де, формується із похідних

Початкова точка ітераційного процесу є оцінкою без урахування обмежень (безумовна оцінка). Розглядається її обчислення та статистичні властивості.

У дисертації пропонується як початкове наближення рішення задачі вибирати безумовні оцінки та. Показується, що вони - консистентні та асимптотично нормальні. Це дозволяє одержати статистичні властивості оцінок, з урахуванням обмежень у задачі.

Показано, що оцінки коефіцієнтів передавальної функції мають асимптотичний розподіл аналогічний розподілу параметрів регресії, наведеному у розділі 2 (теорема 2.1). Цей результат дозволяє одержати оцінку матриці с.к.п. оцінок цих коефіцієнтів методами, розглянутими у розділах 2, 3.

Наводиться також модель визначення оцінок коефіцієнтів лага у частотній області з урахуванням вимог їх додатності.

Далі розглядається модель де N - скінченна невідома величина. Позначимо у цій моделі, де - істинне значення коефіцієнта лага. Дане позначення відрізняється від позначення у виразі, тому що у розв'язуваній нижче задачі безпосередньо оцінюваною величиною є коефіцієнт лага: протягом усієї роботи істинне значення шуканого i-го параметра регресії позначається.

Для урахування додатності коефіцієнтів лага вводяться нечіткі обмеження.

Відповідно розділу 4 шукані оцінки коефіцієнтів лага - Парето-оптимальні рішення двокритеріальної задачі (P-оцінки).

Коли накладається нечітке обмеження на i-й коефіцієнт лага; =0 у іншому разі; (- мале число). Величина невідома, її визначення розглядається далі.

Єдина P-оцінка знаходиться за схемою, яка описана у розділі 4. Спочатку знаходиться вектор з умови, причому величина, що є у цієї цільової функції, обчислюється по - розв'язку задачі. Як обмеження, що накладаються на вектор , використовуються три вимоги до відрізка Z, що наведені у розділі 4. Вони модифіковані з урахуванням розглядуваної задачі.

Крім обмеження на P-оцінки можуть бути накладені інші обмеження. Зокрема, при моделюванні інвестиційного процесу треба, щоб задовольнялась вимога

Сума введених основних фондів у кожному році не повинна перевищувати капітальних вкладень поточного року та попередніх років.

Третя вимога має вигляд. Внаслідок того, що сума коефіцієнтів лага додатна, структура лага може бути нормалізована. Далі всі міркування робляться для такої структури лага, в якої. Виявлено, що компоненти b мають знаходитись у гіперпаралелепіпеді, який визначається довірчими границями для оцінок м.н.к. коефіцієнтів лага. Доведено, що - -а компонента b задовольняє обмеженню

Наводяться формули обчислення цих величин.

Таким чином, визначення b полягає в розв'язанні задачі з функцією мети та обмеженнями із завданням за виразом. На відміну від визначення b за алгоритмом, який описаний у розділі 4, розв'язання задачі, що розглядається, простіше завдяки структурі обмежень на b. Воно полягає у зондажі області пробними точками, які обчислюються по точкам ЛП- послідовності Соболь И.М., Статников Р.Б. ЛП-поиск и задачи оптимального конструирования // Проблемы случайного поиска. - 1972. - №1.- С.117-135.. Такий вибір точок у дозволяє при невеликій їх кількості отримувати достатньо повну інформацію про функцію p(b). Для кожної точки за алгоритмом, який описано у розділі 4, обчислюють величини і , що задовольняють обмеженням.

Для обчислення b треба багаторазово обчислювати P-оцінки , що виконується за алгоритмом розділу 4 за скінченне число кроків.

Після того як визначена компромісна крива (знайдено) знаходиться точка на неї, що визначає єдину оцінку структури лага. Параметр, що задає цю точку, знаходиться у відповідності з виразом.

У розділі вперше поставлена і розв'язана задача побудови моделі процесу з розподіленим лагом з додатною нескінченною структурою (обмеження, що випливає з ряду практичних застосувань). Запропоновані алгоритми оцінювання і визначені асимптотичні властивості оцінок коефіцієнтів передавальної функції.

Отримані асимптотичні властивості оцінок дозволяють обчислювати консистентні вибіркові статистичні властивості у точках локального мінімуму. Це в свою чергу дозволяє відмовитись від обов'язкового трудомісткого знаходження глобального мінімуму.

Описано також алгоритм оцінювання скінченного числа коефіцієнтів лага, яке може бути заздалегідь невідомим. На закон зміни коефіцієнтів не накладається обмежень, крім одного - дуже загального: позитивності структури лага, необхідного для моделювання інвестиційних процесів.

Показано, що задачу можна звести до оцінювання з урахуванням нечітких обмежень-нерівностей. Для її рішення використані методи, що описані у розділі 4.

У додатках розглядається рішення двох прикладних задач, де використовані отримані наукові результати, наводяться описи машинних експериментів, а також пакета програм, що реалізує запропоновані алгоритми, і документи про застосування на практиці виконаних розробок.



ВИСНОВКИ

У дисертації наведене рішення наукової проблеми побудови регресійних моделей з необхідними властивостями, що полягає у використанні апріорної інформації про об'єкт, що моделюється, у зручному для практичних застосувань вигляді. На основі аналізу регресійних моделей технічних і економічних процесів визначені класи задач з різними способами формалізації апріорної інформації у вигляді чітких (звичайних) і нечітких обмежень.

У теперішній час проблема використання апріорної інформації розроблена недостатньо і її рішення мало пристосовані до практичних задач. Відсутні загальні рішення для статистичного аналізу оцінювання з урахуванням обмежень-нерівностей. Немає ефективних алгоритмів оцінювання параметрів нелінійної регресії з урахуванням обмежень на них, що враховують специфіку регресійного аналізу. Що стосується оцінювання з урахуванням нечіткої інформації у вигляді нечітких обмежень, то така постановка задачі в даній роботі робиться вперше. Необхідність звертання до нечіткої інформації викликана вимогами практики, тому що розробник моделі часто має у своєму розпорядженні саме таку інформацію про об'єкт.

Для задач оцінювання з урахуванням різних видів формалізації апріорної інформації запропоновані методи обчислення оцінок параметрів моделей і визначення точності отриманих моделей. Вони враховують різні функції регресії і види шумів у моделі. Одержані наукові результати доведені до виду, що дозволяє використовувати їх для рішення практичних задач.

Основні наукові і практичні результати роботи полягають у наступному.

1. При оцінюванні з урахуванням обмежень-нерівностей для лінійної і нелінійної регресії вперше отримані граничні розподіли оцінок параметрів і множників Лагранжа. Встановлено аналогію між властивостями множників Лагранжа в задачі оптимізації і їхніх граничних розподілів у задачі оцінювання параметрів регресії. Для загального випадку запропоновано метод оцінювання матриці с.к.п. оцінок параметрів, заснований на методі Монте-Карло. Для випадку, коли число параметрів довільне і скінчене, є не більше трьох обмежень, розроблений метод точного обчислення оцінки матриці с.к.п. оцінок параметрів. Для ряду випадків визначено умови, коли точність оцінювання параметрів і прогнозування вище у порівнянні з м.н.к.

Із отриманих співвідношень як окремі випадки випливають відомі результати для обмежень-рівностей і відсутності обмежень.

2. Запропоновано метод визначення оцінок параметрів нелінійної регресії з нелінійними обмеженнями-рівностями і обмеженнями-нерівностями, що заснований на методі лінеаризації. Статистичний зміст запропонованого методу полягає в тому, що на кожній ітерації розв'язується задача оцінювання параметрів лінійної регресії з лінійними обмеженнями. Розглянуто різні модифікації алгоритмів, що реалізують метод.

3. Уведено поняття нечітких обмежень-рівностей і обмежень-нерівностей. Показано, що в цьому випадку визначення оцінок параметрів зводиться до двокритеріальної задачі: перший критерій - мінімум суми квадратів залишків, другий - максимум функції належності нечіткої припустимої множини параметрів регресії. Отримані оцінки, що є Парето-оптимальнимі, названі P-оцінками.

4. Показано, що гребеневу оцінку можна трактувати, як оцінку з нечіткими обмеженнями-рівностями. Виходячи з цього, запропоновано метод визначення параметра регуляризації r у гребеневій регресії.

Розроблено узагальнення гребеневої оцінки, засноване на варіюванні двома параметрами: величиною b, в околі якої зосереджена функція належності правої частини нечіткого обмеження-рівності, і параметром регуляризації r. Запропоновано критерій вибору b і алгоритм визначення b і r.

5. Для випадку нечітких обмежень-нерівностей розроблений алгоритм оцінювання параметрів лінійної регресії за скінченне число кроків. Вивчені властивості P-оцінок.

6. Розроблено метод обчислення оцінок змінних параметрів лінійної регресії і регресії з переключеннями, що заснований на використанні нечітких обмежень-рівностей.

7. Розглянуто моделі з розподіленим лагом, що використовуються при вивченні економічних явищ. Моделі можуть бути двох типів: з нескінченною і скінченною структурою лага. Для першого типу запропоновані алгоритми оцінювання з урахуванням апріорної інформації про позитивність коефіцієнтів лага за наявності корельованого в часі шуму.

Визначені асимптотичні властивості оцінок на основі використання загальних результатів, отриманих для нелінійної регресії з нелінійними обмеженнями.

Для моделі розподіленого лага зі скінченною структурою лага розроблений метод оцінювання, заснований на використанні нечітких обмежень-нерівностей. При цьому вважається невідомим число параметрів регресії.

8. На основі розроблених алгоритмів створено пакет програм для персонального комп'ютера.

9. Отримані результати знайшли застосування при вирішенні практичних задач планування виробництва, статистичного контролю якості продукції на підприємствах України.



ОСНОВНІ РОБОТИ, ЩО ОПУБЛІКОВАНІ ЗА ТЕМОЮ ДИСЕРТАЦІЇ

Корхин А.С. Моделирование экономических систем с распределенным лагом.- М.: Финансы и статистика, 1981.- 160 с.

Корхiн А.С., Литвиненко В.А. Знаходження незалежних довірчих інтервалів для дійсних i уявних частотних характеристик динамічних систем // Автоматика. - 1976. - №3. - С. 3-6.

Корхин А.С. Один метод нелинейного регрессионного анализа при априорных ограничениях на коэффициенты регрессии // В кн.: Исследования по вероятностно-статистическому моделированию реальных систем. - М.: ЦЭМИ АН СССР, 1977. - С. 123-129.

...