Модифіковані методи типу Гаусса-Ньютона розв’язування систем нелінійних рівнянь в сенсі найменших квадратів

Размещено на http://www.allbest.ru/

Міністерство освіти і науки України

Львівський національний університет імені Івана Франка

АВТОРЕФЕРАТ

дисертації на здобуття наукового ступеня кандидата

фізико-математичних наук

МОДИФІКОВАНІ МЕТОДИ ТИПУ ГАУССА-НЬЮТОНА РОЗВ'ЯЗУВАННЯ СИСТЕМ НЕЛІНІЙНИХ РІВНЯНЬ В СЕНСІ НАЙМЕНШИХ КВАДРАТІВ

Чипурко Андрій Іванович

УДК 519.6

Спеціальність 01.01.07 - обчислювальна математика

Львів - 2002

Дисертацією є рукопис

Робота виконана на кафедрі теорії оптимальних процесів у Львівському національному університеті імені Івана Франка Міністерства освіти і науки України.

Науковий керівник :

кандидат фізико-математичних наук, доцент

Бартіш Михайло Ярославович,

завідувач кафедри теорії оптимальних процесів

Львівського національного університету імені Івана Франка.

Офіційні опоненти :

доктор фізико-математичних наук, професор

Слоньовський Роман Володимирович,

професор кафедри прикладної математики

Національного університету “Львівська політехніка”;

доктор фізико-математичних наук, професор

Недашковський Микола Олександрович,

професор кафедри автоматизованих систем та програмування

Тернопільської академії народного господарства.

Провідна установа :

Київський національний університет імені Тараса Шевченка,

кафедра системного аналізу та теорії прийняття рішень.

Захист відбудеться “21” березня 2002 р. о 15.20 год. на засіданні спеціалізованої вченої ради К. 35.051.07 у Львівському національному університеті імені Івана Франка за адресою: 79000, м.Львів, вул. Університетська, 1, ауд. 377.

З дисертацією можна ознайомитися у Науковій бібліотеці Львівського національного університету імені Івана Франка (м. Львів, вул. Драгоманова, 5).

Автореферат розісланий “19” лютого 2002 р.

Вчений секретар спеціалізованої вченої ради М.М.Бокало

ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ

нелінійний рівняння гаусс ньютон

Актуальність теми. Природа більшості прикладних задач є нелінійною. Існує багато нелінійних математичних моделей, розв'язок яких в основному доводиться отримувати чисельно. Слід відзначити, що розвиток обчислювальної техніки дав поштовх інтенсивним дослідженням в галузі побудови моделей доволі складних явищ, їх обгрунтування та знаходження чисельних розв'язків. Разом з тим, побудовано широкі класи алгоритмів розв'язування актуальних задач.

Відомими є задачі, розв'язування яких вимагає багато часу, ресурсів обчислювальної техніки, а значить, і коштів. Крім цього, не завжди вдається вдало вибрати метод розв'язування. Тому і надалі актуальними є проблеми побудови, дослідження та впровадження нових, ефективніших методів обчислювальної математики. Оскільки, говорити про ефективність даного методу можна тільки для певного класу або підкласу задач, то є потреба детального теоретичного обгрунтування та апробації не тільки нових, а й відомих методів.

В дисертаційній роботі розглянуто задачу розв'язування систем нелінійних алгебраїчних рівнянь в сенсі найменших квадратів. Системи нелінійних рівнянь виникають при розв'язуванні задач мінімізації, крайових задач математичної фізики, знаходженні розв'язків деяких класів інтегральних рівнянь. Розв'язування систем нелінійних рівнянь в сенсі найменших квадратів доцільне у випадках перевизначеності або несумісності систем. Крім того, задача найменших квадратів виникає в задачах статистики та оцінки параметрів дослідницьких експериментів. Їй присвячені багаточисельні дослідження. Зокрема, відомими є праці авторів A. Ben-Israel, R. Fletcher, K. Levenberg, D. Marquardt, M.J.D. Powell, P.A. Wedin, J.E. Dennis, Jr., P.E. Gill, W. Murray, E. Bjorck, J. Eriksson та інші.

Базовими методами розв'язування нелінійної задачі найменших квадратів є методи Ньютона, Гаусса-Ньютона та Левенберга-Маркварта. Застосування кожного з цих методів залежить від впливу особливостей задачі на збіжність процесу, трудомісткості, області збіжності тощо. Зокрема, метод Ньютона вимагає значної кількості обчислень. Збіжність методів Гаусса-Ньютона та Левенберга-Маркварта для задач з нульовою нев'язкою є квадратичною, а у випадках несумісних систем суттєво погіршується з ростом величини нев'язки. Відзначимо також, що для реалізації даних методів потрібно мати алгоритми обчислення похідних функцій системи, що не завжди можливо.

В 70-90-х роках М. Бартішем та його учнями запропоновано і досліджено ряд модифікацій методу Ньютона розв'язування операторного рівняння, які покращують швидкісні властивості даного методу. Зокрема, відомими є метод “із збіжністю ” та рекурсивна модифікація методу Ньютона. Крім того, досліджено узагальнену параметричну схему та різницеві модифікації. Параметричні методи об'єднують формули декількох методів та дозволяють проводити дослідження з більш загальної точки зору. Дослідження різницевих аналогів дозволяє робити висновки про збіжність процесів у випадку заміни похідних різницевими операторами.

Оскільки, метод Гаусса-Ньютона є одним з основних методів розв'язування нелінійної задачі найменших квадратів, враховуючи перелічені вище недоліки даного методу щодо порядку збіжності, актуальною є побудова його модифікацій на основі результатів, отриманих М.Бартішем і його учнями.

Зв'язок роботи з науковими програмами, планами, темами. Робота виконана в рамках плану наукових досліджень та держбюджетної тематики кафедри теорії оптимальних процесів Львівського національного університету імені Івана Франка, зокрема:

плану робіт по темі ПО-665Б “Методи розв'язування екстремальних задач і їх застосування”, реєстраційний номер 0193V041432;

плану робіт по темі ПО-783Б “Розробка та дослідження ітераційних методів розв'язування нелінійних функціональних рівнянь та задач на екстремум”, реєстраційний номер 0196V017368.

У складі колективу, що працював над даними проектами, автор дисертаційної роботи виступав як виконавець.

Мета і задачі дослідження. Метою дисертаційної роботи є побудова та дослідження ефективних модифікацій методу Гаусса-Ньютона. Для її досягнення ставляться задачі:

побудувати модифікацію типу методу Гаусса-Ньютона;

побудувати параметричну модифікацію методу Гаусса-Ньютона;

побудувати рекурсивну модифікацію методу Гаусса-Ньютона;

обгрунтувати збіжність та отримати оцінки похибки процесів у випадках задач із нульовою та малою нев'язкою;

обгрунтувати збіжність та отримати оцінки похибки процесів у випадку заміни похідних узагальненими поділеними різницями;

запропонувати та обгрунтувати новий підхід до розв'язування систем нелінійних рівнянь та нерівностей, який базується на зведенні вихідної задачі до задачі найменших квадратів;

провести апробацію запропонованих алгоритмів на тестових і практичних задачах.

Об'єктом дослідження є системи нелінійних рівнянь та нелінійні задачі найменших квадратів.

Предметом дослідження є методи типу Гаусса-Ньютона розв'язування систем нелінійних рівнянь в сенсі найменших квадратів.

Методи досліджень. Для проведення досліджень використано основні результати та методи сучасної обчислювальної математики, зокрема, теорії чисельних методів розв'язування систем нелінійних рівнянь, мінімізації функції багатьох змінних та розв'язування задачі найменших квадратів.

Наукова новизна одержаних результатів. У роботі вперше:

побудовано модифікацію методу Гаусса-Ньютона з порядком збіжності ;

побудовано загальну параметричну модифікацію методу Гаусса-Ньютона;

побудовано рекурсивну модифікацію методу Гаусса-Ньютона;

обгрунтовано збіжність та отримано оцінки похибки методів у випадках задач з нульовою та малою нев'язкою;

обгрунтовано збіжність та отримано оцінки похибки методів у випадку заміни похідних узагальненими поділеними різницями;

запропоновано та обгрунтовано новий підхід розв'язування систем нелінійних рівнянь та нерівностей, базований на зведенні вихідної задачі до задачі найменших квадратів.

Обгрунтованість і достовірність наукових положень, висновків та рекомендацій забезпечуються строгим математичним доведенням теорем про збіжність та ефективність ітераційних процесів, чітким обгрунтуванням запропонованого підходу розв'язування систем рівнянь та нерівностей, порівнянням та аналізом результатів числових експериментів.

Практичне значення отриманих результатів. Результати дисертаційної роботи мають теоретичний характер і можуть бути використані в подальших дослідженнях методів розв'язування задачі найменших квадратів, а також в навчальному процесі. Практичне значення отриманих результатів полягає в тому, що нові модифікації можуть виявитись ефективним набором засобів розв'язування систем рівнянь, задач наближення даних та задач математичного програмування. Теоретичні та числові результати роботи вказують на можливість отримання суттєвої економії ресурсів в порівнянні з класичним методом Гаусса-Ньютона.

Особистий внесок здобувача. Автором дисертаційної роботи самостійно запропоновано модифікації методу Гаусса-Ньютона. Сформульовано та доведено представлені в роботі теореми. Запропоновано новий підхід до розв'язування систем нелінійних рівнянь та нерівностей. Проведено числові експерименти та аналіз результатів. Слід відзначити вклад співавторів публікацій по темі роботи. Науковий керівник, доцент М. Бартіш здійснював разом з автором постановку задач та обговорення теоретичних та практичних результатів. Доцент С. Шахно та науковий співробітник О. Николайчук приймали активну участь в обговоренні ряду питань, пов'язаних з дослідженням запропонованої в роботі параметричної модифікації та різницевих алгоритмів, порівнянням методів на ефективність.

Апробація результатів дисертації. Результати роботи доповідались та обговорювались на наукових конференціях та семінарах:

Всеукраїнська наукова конференція “Застосування обчислювальної техніки, математичного моделювання та математичних методів у наукових дослідженнях” (1994, 1996, 1997, 1999, 2000, 2001 рр., м. Львів);

Українська конференція “Моделирование и исследование устойчивости систем” (15-19 травня 1995 р., м. Київ);

Друга Українська конференція з автоматичного керування “Автоматика-95” (26-30 вересня 1995 р., м. Львів);

школа-семінар “Прикладні проблеми математики та інформатики” (1996 р., м. Рівне);

Міжнародна конференція з управління “Автоматика-2000” (11-15 вересня 2000 р., м. Львів);

науковий семінар кафедри теорії оптимальних процесів ЛНУ імені Івана Франка (1996, 1999, 2000 рр.);

науковий міжкафедральний семінар “Математичні моделі та чисельні методи” факультету прикладної математики та інформатики ЛНУ імені Івана Франка (2000 р.);

міський семінар “Проблеми обчислювальної математики” (жовтень 2000 р., м.Львів);

регіональний семінар з математичного аналізу (червень 2001 р., м.Львів).

Публікації. Основні результати дисертації викладено в шести публікаціях у виданнях із переліку, затвердженому ВАК України, в яких слід публікувати матеріали дисертацій.

Структура та об'єм роботи. Дисертаційна робота складається із вступу, семи розділів, загальних висновків та списку використаних джерел. Загальний обсяг дисертації 151 сторінка. Список використаних джерел займає 13 сторінок і включає 148 найменувань.

ОСНОВНИЙ ЗМІСТ РОБОТИ

У вступі відображено сучасний стан проблеми, що розглядається у роботі. Обгрунтовано актуальність вибраної тематики, сформульовано мету досліджень, наукову новизну, наукове та практичне значення одержаних результатів. Подається коротка анотація дисертації по розділах. Розмежовано вклади автора та співавторів публікацій.

У першому розділі здійснено огляд праць, що стосуються методів розв'язування нелінійних рівнянь та задачі найменших квадратів.

У другому розділі даються постановки задач, основні означення та формули, що використовуються в роботі. Розглянуто ітераційні методи розв'язування нелінійного рівняння

,

де - нелінійний оператор, , - банахові простори. Здійснено огляд та порівняння методів розв'язування рівняння. Розглянуто методи розв'язування задачі, які породжені методом найменших квадратів для випадку, коли простори та скінченновимірні. У цьому випадку розв'язування рівняння зводиться до мінімізації функціоналу

.

де , , - нелінійні по , .

Нехай - розв'язок задачі. Задача називається нелінійною задачею про найменші квадрати з нульовою нев'язкою, якщо . В протилежному випадку має місце задача з ненульовою нев'язкою. В залежності від величини нев'язки задачі можна говорити про збіжність та ефективність методів розв'язування. Розрізняють випадки малої, середньої та великої нев'язки. Основними методами розв'язування є методи Гаусса-Ньютона та Левенберга-Маркварта. Формула першого має вигляд

, ,

де - матриця Якобі. Для задач з нульовою нев'язкою, метод збігається локально з квадратичною швидкістю збіжності. У випадку малої нев'язки можлива лінійна збіжність. В інших випадках процес, як правило, не збігається. Тому, власне, питання побудови ефективніших модифікацій методу Гаусса-Ньютона є актуальним.

Крім того, в другому розділі здійснено огляд ряду проблем, що виникають в процесі реалізації методів лінеаризації ньтонівського типу.

У третьому розділі запропоновано наступну модифікацію методу Гаусса-Ньютона

,

,

, .

Даний метод належить до класу багатокрокових методів з пам'яттю. Основною його особливістю є те, що значення похідної оператора обчислюється в деякій проміжній точці, що дозволяє в результаті прискорити процес розв'язування задачі. При цьому, для знаходження проміжної точки витрачається не надто багато обчислень, оскільки використовуються значення похідних з попереднього кроку. Тут потрібно послідовно розв'язувати дві системи лінійних алгебраїчних рівнянь з одинаковою матрицею. Дану задачу можна ефективно розв'язати, використовуючи розклад Холеського.

П'ятий розділ присвячений дослідженню рекурсивної модифікації методу Гаусса-Ньютона

,

, , , .

Ідея побудови подібних методів базується на використанні обчислених похідних оператора в деякій точці протягом ряду наступних кроків. Число називається глибиною рекурсії. Звичайно, порядок збіжності модифікованих таким чином алгоритмів зменшиться, однак можна отримати суттєву економію по кількості обчислень.

У підрозділі 5.1 доведено збіжність методу для випадку задачі з нульовою нев'язкою.

Теорема 5.1.

- двічі неперервно-диференційовне відображення в деякій області ;

2) , ;

3) визначено , причому , де - деяка стала;

4) , яка є розв'язком задачі, причому;

5) нехай стала така, що , де .

Тоді для послідовність , визначена за формулою, збігається до та

.

В даному випадку для глибини рекурсії отримаємо збіжність порядку послідовності . Для фіксованого , порядок збіжності послідовності наближень є змінним і його асимптотичні значення можна отримати з рівняння

.

Шостий розділ присвячений дослідженню поведінки методів, та у випадку задачі найменших квадратів з малою нев'язкою. Запропоновано та обгрунтовано новий підхід розв'язування систем рівнянь та нерівностей.

У підрозділі 6.1 встановлено умови збіжності модифікації типу методу Гаусса-Ньютона у випадку малої нев'язки задачі.

Теорема 6.1. Нехай виконуються умови 1) - 3) теореми 3.1. Крім того

4) , яка є розв'язком задачі, причому , ;

5) для деякого цілого та сталої , , де ,- два послідовні наближення, отримані за формулою;

6) нехай стала така, що , де



.

Тоді, починаючи з , для послідовності наближень , , визначеної за формулою, має місце оцінка

,

.

Крім того, послідовність збігається до розв'язку задачі і для наближень з індексами , буде справедливою оцінка

.

Наслідок 1. Нехай наближення визначене за формулою, знайдене з похибкою . Тоді, якщо виконується умова

,

то для всіх попередніх точок і наближення можна гарантувати виконання оцінки. Порядок збіжності послідовності до наближення є вищим квадратичного і становить . Для наступних наближень маємо оцінку.

У підрозділі 6.2 доведено теорему про поведінку рекурсивної модифікації у випадку малої нев'язки задачі.

Теорема 6.2. Нехай виконуються умови 1) - 3) теореми 5.1. Крім того, якщо

4) , яка є розв'язком задачі, причому , ;

5) для деяких цілих , та сталої виконується нерівність , де , - два послідовні наближення, отримані за формулою;

6) нехай стала така, що , де .

Тоді, починаючи з , для послідовності

, , ,

побудованої за формулою, буде мати місце оцінка

.

На основі сформульованої вище теореми можна встановити зв'язок між нормою нев'язки задачі та похибками наближень методу.

У сьомому розділі проведено числовий експеримент для виявлення реальних властивостей запропонованих в роботі методів та порівняння їх на ефективність. Основним показником ефективності процесів вибрано кількість обчислень для отримання розв'язку з заданою точністю.

Розглянуто тестові та практичні задачі з розділів систем нелінійних алгебраїчних рівнянь, задач наближення експериментальних даних та задач нелінійного програмування. Всього десять задач. Задачі нелінійного програмування зводились до систем рівнянь та нерівностей за правилом множників Лагранжа. За результатами чисельних експериментів визначено середні значення кількості обчислень методів для задач розглянутих класів (таблиця 1).

Таблиця 1

Середні значення кількості обчислень (в відсотках)

Розділ	Метод Гаусса-Ньютона	Модифікація (4),	Рекурсивна модифікація (14)
Системи рівнянь	100	85	67
Наближення даних	100	82	76
Нелінійне програмування	100	90	79
Разом по розділах	100	86	74

Як видно з таблиці, запропоновані в роботі модифікації виявились ефективнішими на практиці в порівнянні з класичним методом Гаусса-Ньютона. Причому суттєву економію можна отримати, використовуючи рекурсивний процес. Відзначимо також, що модифікація, виявилась на практиці більш стійкою до вибору початкового наближення.

ВИСНОВКИ

В дисертаційній роботі

запропоновано нову двоточкову модифікацію, методу Гаусса-Ньютона розв'язування систем рівнянь в сенсі найменших квадратів. Встановлено умови збіжності та отримано оцінки похибки процесу для задач з нульовою та малою нев'язками. Основним результатом щодо поведінки процесу є те, що порядок збіжності вищий в порівнянні з квадратичним порядком методу Гаусса-Ньютона і становить . Досліджено вплив похибки обчислень на збіжність модифікації,;

запропоновано та досліджено загальну параметричну формулу модифікацій методу Гаусса-Ньютона,. Сформульовано умови збіжності та отримано оцінки похибки формули та її різницевого аналога для задач з нульовою та ненульовою нев'язками. Досліджено вплив числового параметра на збіжність процесів. Важливим результатом є те, що при відповідному виборі параметра можна отримати збіжність порядку , якщо допоміжний оператор породжує ітераційну формулу порядку . Для випадку малої нев'язки отримано формулу визначення змінного порядку збіжності;

запропоновано рекурсивну модифікацію методу Гаусса-Ньютона для випадків нульової та малої нев'язки. Тут при виконанні певних умов та значенні глибини рекурсії , отримано збіжність процесу порядку . Розглянуто питання вибору оптимальної глибини рекурсії. Встановлено залежність глибини рекурсії від розмірності задачі;

сформульовано та доведено теореми про збіжність різницевих аналогів запропонованих в роботі методів. Отримано порядки збіжності та оцінки похибки. Встановлено, що порядки збіжності різницевих аналогів не понижується;

запропоновано новий підхід розв'язування систем нелінійних рівнянь та нерівностей, базований на застосуванні методу найменших квадратів. Обгрунтовано можливість застосування даного підходу. Формули методів типу Гаусса-Ньютона розв'язування даної задачі представлено в зручному для обчислень вигляді;

досліджені методи апробовано на тестових та практичних задачах. Зокрема, розглянуто застосування модифікацій для розв'язування систем рівнянь, задач наближення даних та задач нелінійного програмування. Проведені порівняння та аналіз результатів підтвердили дієвість та ефективність запропонованих в роботі модифікацій.

СПИСОК ОПУБЛІКОВАНИХ ПРАЦЬ

Бартіш М. Я., Чипурко А. І., Шахно С. М. Про одну модифікацію методу Гаусса-Ньютона // Вісн. Львів. у-ту. Сер. мех.-мат. -1995. -42. -С.35-38.

Бартіш М. Я., Чипурко А. І. Дослідження одного методу розв'язання задачі про найменші квадрати // Волинський математичний вісник. -1997. -4. -С.10-13.

Бартіш М. Я., Чипурко А. І. Дослідження одного рекурсивного методу розв'язування задачі про найменші квадрати // Вісн. Львів. у-ту. Сер. мех.-мат. -1997. -46. -С.68-72.

Бартіш М. Я., Чипурко А. І. Про одну модифікацію методу Гаусса-Ньютона // Математичні студії. -1998. -10. -№1. -С.85-92.

Бартіш М. Я., Николайчук О. В., Чипурко А. І. Про деякі різницеві модифікації методу Гаусса-Ньютона для нелінійної задачі найменших квадратів з малою нормою нев'язки // Вісн. Львів. у-ту. Сер. мех.-мат. -1999. -52. -С.3-8.

Бартіш М. Я., Чипурко А. І. Про застосування модифікацій методу Гаусса-Ньютона // Вісн. Львів. у-ту. Сер. прикл. мат. та інформ. -2000. -1. -С .3-7.

Бартіш М. Я., Чипурко А. І. Про методи типу Гаусса-Ньютона у випадку задач з малою нев'язкою // Міжнародна конференція з управління “Автоматика-2000” (11-15 вересня 2000 р., м.Львів). Матер. допов. -С.50-54.

Чипурко А.І. Модифіковані методи типу Гаусса-Ньютона розв'язування систем нелінійних рівнянь в сенсі найменших квадратів. - Рукопис.

Дисертація на здобуття наукового ступеня кандидата фізико-математичних наук за спеціальністю 01.01.07 - обчислювальна математика. - Львівський національний університет імені Івана Франка, Львів, 2001.

Робота присвячена питанням розробки та дослідження нових ефективних алгоритмів розв'язування систем нелінійних алгебраїчних рівнянь в сенсі найменших квадратів. Пропонується модифікація методу Гаусса-Ньютона, побудована на базі методу із збіжністю , рекурсивний аналог методу Гаусса-Ньютона та параметричний метод Гаусса-Ньютона. Для випадків нульової та малої нев'язки сформульовано та доведено теореми типу Коші про збіжність методів та їх різницевих аналогів. Запропоновано та обгрунтовано новий підхід до розв'язування систем рівнянь та нерівностей, що приводить вихідну задачу до послідовності задач безумовної мінімізації і дає можливість застосовувати запропоновані методи. Проведено числовий експеримент на тестових та практичних задачах з розділів систем рівнянь, задач наближення даних та задач математичного програмування.

Ключові слова: система нелінійних алгебраїчних рівнянь, задача найменших квадратів, система рівнянь та нерівностей, метод Гаусса-Ньютона, порядок збіжності, ітераційний рекурсивний процес, ітераційний параметричний процес.

Chypurko A. I. Gauss-Newton like methods to solve systems of nonlinear equations in the terms of least squares. - Manuscript.

The thesis for obtaining the Candidate of Physical and Mathematical degree on the speciality 01.01.07 - Calculus Mathematics. - Lviv State University named after Ivan Franko, Lviv, 2001.

The thesis is dedicated to the researching and development of new effective methods for solving systems of nonlinear equations in terms of least squares. The modified Gauss-Newton method, which is built on the method with order of convergence , recursive Gauss-Newton method and parametrical Gauss-Newton method, are proposed. The theorems about convergence of new methods and their difference analogs are formulated and proved. The new method for solving systems of nonlinear equations and inequalities is proposed. The general purpose is to get the sequence of problems of unconstrained minimization and apply methods proposed in the thesis. The methods are approved using the system of equations, data fitting problems and mathematical programming problems.

Key words: system of nonlinear equations, least-squares problem, system of equations and inequalities, Gauss-Newton method, order of convergence, iterative recursive process, iterative parametrical process.

Чипурко А. И. Модифицированные методы типа Гаусса-Ньютона решения систем нелинейных уравнений в смысле наименьших квадратов. - Рукопись.

Диссертация на соискание научной степени кандидата физико-математических наук по специальности 01.01.07 - вычислительная математика. - Львовский национальный университет имени Ивана Франко, Львов, 2001.

Работа состоит из введения, семи разделов, разбитых на подразделы, выводов и списка использованных источников. Объем диссертации 149 страниц. Список используемых источников включает 146 наименований.

Во введении обосновано актуальность темы, сформулировано цель иследований, научную новизну, научное и практическое значение результатов работы.

В первом разделе дан обзор работ, которые касаются методов решения нелинейных уравнений и задачи наименьших квадратов.

Во втором разделе даны постановки задач, основные определения и формулы, которые используются в работе. Рассмотрены итерационные методы решения нелинейных уравнений и задачи наименьших квадратов.

В третьем разделе предложено модификацию метода Гаусса-Ньютона, построенную на базе метода со скоростью сходимости . Сформулированы теоремы о сходимости модификации и ее разностного аналога в случае задачи наименьших квадратов с нулевой невязкой.

В четвертом разделе предложено и исследовано параметрическую схему, которая обобщает ряд методов типа Гаусса-Ньютона.

В пятом разделе предложено и исследовано рекурсивный аналог метода Гаусса-Ньютона.

В шестом разделе сформулированы и доведены теоремы типа Коши о сходимости предложенных в третьем и пятом разделах модификаций и их разностных аналогов в случае небольшой невязки задачи. Предложено и обосновано новый способ решения систем уравнений и неравенств. Исходная задача приводится к последовательности задач безусловной минимизации, что дает возможность использовать предложенные в работе методы.

В седьмом разделе проведен численный эксперимент на тестовых и практических задачах из разделов систем уравнений, задач приближения данных и задач математического программирования.

Ключевые слова: система нелинейных алгебраических уравнений, задача наименьших квадратов, система уравнений и неравенств, метод Гаусса-Ньютона, порядок сходимости, итерационный рекурсивный процесс, итерационный параметрический процесс.

Размещено на Allbest.ru

...