Главная Коллекция "Revolution" Математика Модификация метода наименьших квадратов решения системы линейных уравнений с использованием аппарата квантового анализа

Модификация метода наименьших квадратов решения системы линейных уравнений с использованием аппарата квантового анализа

Развитие методов регуляризации решения систем линейных уравнения (СЛАУ). Предложение модифицированного метода наименьших квадратов решения СЛАУ, в основе которого лежит использование q-дифференцирования. Выполнение задач в математическом пакете Matlab.

Рубрика	Математика
Вид	статья
Язык	русский
Дата добавления	27.07.2017
Размер файла	85,9 K

посмотреть текст работы

скачать работу можно здесь

полная информация о работе

весь список подобных работ

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Размещено на http://www.allbest.ru/

Модификация метода наименьших квадратов решения системы линейных уравнений с использованием аппарата квантового анализа

В.А. Есаулов

Аннотация

Цель и задачи данной работы состоят в развитии методов регуляризации решения систем линейных уравнения (СЛАУ). Для их достижения в работе предложен модифицированный метод наименьших квадратов решения СЛАУ, в основе которого лежит использование q-дифференцирования. Расчеты на примере тестовых задач, выполненные в математическом пакете Matlab, подтвердили адекватность метода и в ряде случаев показали его преимущество перед традиционными способами регуляризации СЛАУ. линейный уравнение дифференцирование

Ключевые слова: система линейных уравнений, целевая функция, метод наименьших квадратов, предобуславливание, алгоритм, метод регуляризации, q-производная, относительная погрешность, норма вектора, число обусловленности.

Введение

Одним из наиболее эффективных и универсальных методов решения систем линейных уравнений (СЛАУ) является метод наименьших квадратов (МНК). Это связано с тем фактом, что в настоящее время имеется достаточное число высокоэффективных алгоритмов для МНК, а также, что многие статистические свойства оценок решений, полученных на основе МНК для приближенных стохастических СЛАУ при решении задач регрессионного анализа, не зависят от функций распределений возмущений [1]. Рассмотрим суть метода наименьших квадратов и варианты его модификаций.

Построение итерационного метода решения СЛАУ с использованием q-градиента

Для заданных -матрицы и -вектора линейной задачей о наименьших квадратах называют задачу отыскания такого вектора , который доставляет минимум квадрата евклидовой нормы невязки . Ясно, что для матриц A полного ранга в случае, когда число строк матрицы не превосходит числа столбцов, искомый минимум, как правило, равен нулю [1].

Таким образом, линейная задача на метод наименьших квадратов имеет вид:

(1)

Для поиска экстремума (1) составим систему уравнений вида [6]:

, , (2)

В матричной форме (2) сведется к системе линейных уравнений:

, (3)

Наиболее общий прямой метод решения СЛАУ (3) состоит в применении метода обратной матрицы. В таком случае решение (3) имеет вид

, (4)

Если матрица плохо обусловлена, формула (4) перестает давать адекватную оценку решения [2, 3]. Для стабилизации оценок МНК при решении (3) в методе регуляризации по Тихонову в качестве главной матрицы (3) используется матрица вида , где - единичная матрица, - параметр регуляризации. Недостатком метода регуляризации является сложность поиска оптимального значения параметра регуляризации. Другой существенный недостаток метода связан с самой идеей регуляризации: сглаживания решения в пределах погрешности измерений. При росте погрешности в качестве решения можно получить более гладкую кривую, все в большей степени отклоняющуюся от истинной [4].

Наряду с постановкой задачи на метод наименьших квадратов и его модификациями представляет интерес исследование методов, использующих неклассическое определение производной. В [5] показано, что обобщение метода Ньютона-Канторовича решения систем нелинейных уравнений, выражающееся в использовании q-градиента, может существенно повысить скорость сходимости процесса поиска решения и повысить его точность. Использование q-градиентных методов показало высокую эффективность для решения задач фильтрации сигналов и параметрической идентификации [6].

Определение q-производной имеет следующий вид [7, 8]:

, (5)

Геометрическая интерпретация q-производной (1) приведена на рис. 1 [7].

Рис. 1. Геометрическая интерпретация q-производной

Из рис. 1 видно, что, в отличие от производной, которая определяет положение касательной в точке, q-производная при значениях задает угол наклона секущей линии. Такое обстоятельство позволяет рассматривать численные методы, использующие q-производную, как некоторую разновидность метода хорд и секущих.

Рассмотрим перспективы использования аппарата q-анализа при решении задачи наименьших квадратов (1). Центральным вопросом будет являться существование q-аналога необходимого условия экстремума (2). На то, что оно может существовать, указывает тот факт, что производная, используемая в (2), является частным случаем производной (5).

Если функция в окрестности точки может быть разложена в формальный степенной ряд, то она может быть аппроксимирована разложением в ряд Тейлора с использованием q-производных [8, 9]:

, (6)

где - частная производная в точке , определяемая как

, , (7)

где .

Если - точка экстремума, то для случая максимума в ней функции должно выполняться условие . Рассуждая аналогично [9], получим, что необходимым условием экстремума является равенство нулю ее первых частных q-производных в точке , то есть

, (8)

Записав условие (8) для (1), получим следующее соотношение:

(9)

Из вида (9) можно сказать, что в случае плохой обусловленности главной матрицы (3) матрица может улучшать свойства СЛАУ, увеличивая величину диагональных элементов.

Вычислительный эксперимент

Инструментальным средством реализации изложенных алгоритмов являлась среда. В качестве тестовых задач использовались примеры из библиотеки Regularization Tools для среды MATLAB [10]. Она содержит большой набор различных инструментов решения некорректных задач.

При этом выполнялись следующие действия:

1. Оценка оптимального параметра регуляризации для методов (9), Тихонова и его модификации для МНК;

2. Решение СЛАУ с оптимальными параметрами регуляризации для каждого из методов;

3. Вычисление погрешности, описывающей отклонения полученного решения от известного точного.

Параметр регуляризации задавался в диапазоне значений от 0 до 0.01. Оптимальным считался параметр регуляризации, при котором решение СЛАУ доставляет функции (1) минимум из всего диапазона значений. Погрешность решения СЛАУ определялась как относительная погрешность приближенного решения по отношению к тестовому в смысле нормы .

В качестве первой тестовой задачи бралась СЛАУ, описывающая задачу Fox&Goodwin [11]. Порядок главной матрицы задавался равным 100, а ее число обусловленности составило .

В табл. 1 приведены значения относительных погрешностей решений для задачи Fox&Goodwin.

Таблица № 1.

Сводная таблица погрешностей решения задачи Fox&Goodwin

Метод решения СЛАУ	Погрешность, %
Формула (9)	5.3
Метод Тихонова с МНК	0.49
Метод Тихонова	34.2

По данным табл. 1 можно видеть, что метод Тихонова для МНК дает наименьшую погрешность. Решение по методике (9) дает удовлетворительное совпадение с точным решением, гораздо большее по точности по сравнению со случаем использования традиционного метода Тихонова.

В качестве второй тестовой задачи выступила СЛАУ с двухдиагональной матрицей из примера Годунова [12]. Этот пример интересен тем, что является достаточно сложной задачей для метода Тихонова и его вариаций [4]. Порядок главной матрицы из примера Годунова задавался равным 100. Число обусловленности главной матрицы составило .

В табл. 2 приведены значения оптимального параметра регуляризации для разных методов расчета

Таблица № 2.

Значения параметра регуляризации для примера Годунова

Методика регуляризации	Значения параметра регуляризации	Значение функции (1)
Формула (9)	1.9073e-06	1.0185e-06
Метод Тихонова с МНК	1.9083e-06	1.7229e-07
Метод Тихонова	1.4901e-08	4.7303e+23

Из данных в табл. 2 можно сделать вывод, что метод Тихонова с найденным значением оптимального параметра регуляризации не может обеспечить адекватного решения данной задачи. Ввиду этого при решении СЛАУ метод Тихонова не применялся.

В табл. 3 приведены значения относительных погрешностей решений для примера Годунова.

Таблица № 3

Значения погрешностей решений примера Годунова

Методика регуляризации	Погрешность, %
Формула (9)	13.48
Метод Тихонова с МНК	52.3

Из табл. 4 видно, что, решение СЛАУ [12] по методике (9), обеспечивает наименьшую погрешность в сравнении решением, полученным при использовании метода Тихонова с МНК.

Из представленных результатов можно сделать вывод о адекватности методики (9) в отношении ее применения к решению плохо обусловленных задач.

Заключение

В статье предложена (9) решения СЛАУ на основе использования q-градиента в необходимом условии экстремума для (1). Вычислительный эксперимент показал ее применимость в отношении решения плохо обусловленных задач. Следующими шагами в развитии предложенной методики могут стать получение итерационных методов на основе (9), а также разработка способов адаптивного определения порядка q- градиента для них.

Литература

1. Шарый С.П. Курс вычислительных методов. Учеб. пособие. - Новосибирск: Новосиб. гос. ун-т., 2014 г., 279 с.

2. Целигоров Н.А., Целигорова Е.Н., Мафура Г.В. Математические модели неопределённостей систем управления и методы, используемые для их исследования. Инженерный вестник Дона, 2012, № 4(часть 2) URL: ivdon.ru/ru/magazine/archive/ n4p2y2012/1340.

3. Бегляров В.В., Берёза А.Н. Гибридный эволюционный алгоритм решения систем линейных алгебраических уравнений, описывающих электрические цепи. Инженерный вестник Дона, 2013, №1 URL: ivdon.ru/ru/magazine/archive/ n1y2013/1540.

4. В.В. Дикусар. Некоторые численные методы решения линейных алгебраических уравнений // Соросовский образовательный журнал, № 9, с. 111-120.

5. Predrag M. Rajkovicґ, Sladjana D. Marinkovicґ, Miomir S. Stankovicґ. On q-Newton-Kantorovich method for solving systems of equations. // Applied Mathematics and Computation 168 (2005), pp. 1432-1448

6. Ubaid M. Al-Saggaf, Muhammad Moinuddin, Muhammad Arif, Azzedine Zerguine. Theq-Least Mean Squares algorithm // Signal Processing 111 (2015), pp. 50-60.

7. Soterroni, Aline Cristina. O mґetodo do q-gradiente para otimizaёcao global // Aline Cristina Soterroni - Sao Josґe dos Campos: INPE, 2012. - 151 p.

8. В.Г. Кац, П.Чен. Квантовый анализ / Перевод с англ. Ф.Ю. Попеленского и Ж.Г. Тотровой. М.: МЦНМО, 2005. 128 с.

9. Гаврилов, В.И. Математический анализ: Учебное пособие для студентов учреждений высшего профессионального образования / В.И. Гаврилов, Ю.Н. Макаров, В.Г. Чирский. - М.: ИЦ Академия, 2013. - 336 c

10. P. C. Hansen. Regularization of discrete ill-posed problem // Numerical Algorithms 46 (2007), pp. 189-194.

11. C. T. H. Baker. The Numerical Treatment of Integral Equations, Clarendon Press, Oxford, 1977; p. 665.

12. Годунов С.К. Решение систем линейных уравнений. - Новосибирск: Наука, 1980. - 178 с.

References

1. Sharyj S.P. Kurs vychislitel'nyh metodov. Ucheb. Posobie [The course of computing methods. Tutorial.]. Novosibirsk: Novosib. gos. un-t., 2014 g., 279 p.

2. Celigorov N.A., Celigorova E.N., Mafura G.V. Inћenernyj vestnik Dona (Rus), 2012, № 4(part 2) URL: ivdon.ru/ru/magazine/archive/n4p2y2012/1340.

3. Begljarov V.V., Berjoza A.N. Inћenernyj vestnik Dona (Rus), 2013, №1 URL: ivdon.ru/ru/magazine/archive/ n1y2013/1540.

4. V.V. Dikusar. Sorosovskij obrazovatel'nyj zhurnal, № 9, pp. 111-120.

5. Predrag M. Rajkovicґ, Sladjana D. Marinkovicґ, Miomir S. Stankovicґ. On q-Newton-Kantorovich method for solving systems of equations. Applied Mathematics and Computation 168 (2005), pp. 1432-1448.

6. Ubaid M. Al-Saggaf, Muhammad Moinuddin, Muhammad Arif, Azzedine Zerguine. Theq-Least Mean Squares algorithm. Signal Processing 111 (2015), pp. 50-60.

7. Soterroni, Aline Cristina. O mґetodo do q-gradiente para otimizaёcao global Aline Cristina Soterroni - Sao Josґe dos Campos: INPE, 2012. 151 p.

8. V.G. Kats, P. Chen. Kvantovyy analiz [Quantum analysis]. Perevod s angl. F. Yu.Popelenskogo i Zh.G. Totrovoy. M.: MTsNMO, 2005. 128 p.

9. Gavrilov, V.I. Matematicheskij analiz: Uchebnoe posobie dlja studentov uchrezhdenij vysshego professional'nogo obrazovanija [Mathematical analysis: Textbook for students of institutions of higher education]. V.I. Gavrilov, Ju.N. Makarov, V.G. Chirskij. M.: IC Akademija, 2013. 336 p.

10. P. C. Hansen. Regularization of discrete ill-posed problem. Numerical Algorithms 46 (2007), pp. 189-194.

11. C. T. H. Baker. The Numerical Treatment of Integral Equations, Clarendon Press, Oxford, 1977; p. 665.

12. Godunov S.K. Reshenie sistem linejnyh uravnenij [Solving systems of linear equations]. Novosibirsk: Nauka, 1980. 178 p.

Размещено на Allbest.ru

...

статья "Модификация метода наименьших квадратов решения системы линейных уравнений с использованием аппарата квантового анализа" скачать

Подобные документы

Точные методы решения систем линейных алгебраических уравнений (СЛАУ)
Методы решения систем линейных алгебраических уравнений (СЛАУ): Гаусса и Холецкого, их применение к конкретной задаче. Код программы решения перечисленных методов на языке программирования Borland C++ Builder 6. Понятие точного метода решения СЛАУ.

реферат [58,5 K], добавлен 24.11.2009
Метод Гаусса для решения систем линейных уравнений
Понятие и специфические черты системы линейных алгебраических уравнений. Механизм и этапы решения системы линейных алгебраических уравнений. Сущность метода исключения Гаусса, примеры решения СЛАУ данным методом. Преимущества и недостатки метода Гаусса.

контрольная работа [397,2 K], добавлен 13.12.2010
Методы решения системы линейных уравнений. Интерполяция
Описание методов решения системы линейного алгебраического уравнения: обратной матрицы, Якоби, Гаусса-Зейделя. Постановка и решение задачи интерполяции. Подбор полиномиальной зависимости методом наименьших квадратов. Особенности метода релаксации.

лабораторная работа [4,9 M], добавлен 06.12.2011
Прямые методы решения систем линейных уравнений
Характеристика способов решения систем линейных алгебраических уравнений (СЛАУ). Описание проведения вычислений на компьютере методом Гаусса, методом квадратного корня, LU–методом. Реализация метода вращений средствами системы программирования Delphi.

курсовая работа [118,4 K], добавлен 04.05.2014
Метод релаксации переменных решения СЛАУ
Методы решения систем линейных уравнений. Метод Якоби в матричной записи. Достоинство итерационного метода верхних релаксаций, вычислительные погрешности. Метод блочной релаксации. Разбор метода релаксаций в системах линейных уравнений на примере.

курсовая работа [209,1 K], добавлен 27.04.2011
Аппроксимация функции методом наименьших квадратов
Постановка задачи аппроксимации методом наименьших квадратов, выбор аппроксимирующей функции. Общая методика решения данной задачи. Рекомендации по выбору формы записи систем линейных алгебраических уравнений. Решение систем методом обратной матрицы.

курсовая работа [77,1 K], добавлен 02.06.2011
Численные методы анализа
Численные методы решения систем линейных уравнений: Гаусса, простой итерации, Зейделя. Методы аппроксимации и интерполяции функций: неопределенных коэффициентов, наименьших квадратов. Решения нелинейных уравнений и вычисление определенных интегралов.

курсовая работа [322,7 K], добавлен 27.04.2011
Метод наименьших квадратов
Вероятностное обоснование метода наименьших квадратов как наилучшей оценки. Прямая и обратная регрессии. Общая линейная модель. Многофакторные модели. Доверительные интервалы для оценок метода наименьших квадратов. Определение минимума невязки.

реферат [383,7 K], добавлен 19.08.2015
Решение систем линейных алгебраических уравнений
Метод Зейделя как модификация метода простой итерации. Особенности решения систем линейных алгебраических уравнений. Анализ способов построения графика функций. Основное назначение формул Симпсона. Характеристика модифицированного метода Эйлера.

контрольная работа [191,3 K], добавлен 30.01.2014
Решение линейных уравнений
Основные виды линейных интегральных уравнений. Метод последовательных приближений, моментов, наименьших квадратов и коллокации. Решение интегральное уравнение методом конечных сумм и методом моментов. Ненулевые решения однородной линейной системы.

контрольная работа [288,4 K], добавлен 23.10.2013
Применение параллельных методов решения систем линейных уравнений ленточных матриц
Параллельные методы решения систем линейных уравнений с ленточными матрицами. Метод "встречной прогонки". Реализация метода циклической редукции. Применение метода Гаусса к системам с пятидиагональной матрицей. Результаты численного эксперимента.

курсовая работа [661,7 K], добавлен 21.10.2013
Итерационные методы решения систем линейных алгебраических уравнений
Сущность итерационного метода решения задачи, оценка его главных преимуществ и недостатков. Разновидности итерационных методов решения систем линейных алгебраических уравнений: Якоби, Хорецкого и верхней релаксации, их отличия и возможности применения.

курсовая работа [39,2 K], добавлен 01.12.2009
Метод наименьших квадратов
Основные задачи регрессионного анализа в математической статистике. Вычисление дисперсии параметров уравнения регрессии и дисперсии прогнозирования эндогенной переменной. Установление зависимости между переменными. Применение метода наименьших квадратов.

презентация [100,3 K], добавлен 16.12.2014
Методы решения дифференциальных уравнений
Неизвестная функция, ее производные и независимые переменные - элементы дифференциального уравнения. Семейство численных алгоритмов решения обыкновенных дифференциальных уравнений, их систем. Методы наименьших квадратов, золотого сечения, прямоугольников.

контрольная работа [138,9 K], добавлен 08.01.2016
Метод вращений решения СЛАУ
Математические модели явлений или процессов. Сходимость метода простой итерации. Апостериорная оценка погрешности. Метод вращений линейных систем. Контроль точности и приближенного решения в рамках прямого метода. Метод релаксации и метод Гаусса.

курсовая работа [96,7 K], добавлен 13.04.2011
Применение численных методов для решения математических задач
Вычисление приближенных величин и погрешностей. Решение алгебраических и трансцендентных уравнений, интерполяция функций и методы численного интегрирования. Применение метода наименьших квадратов к построению эмпирических функциональных зависимостей.

курсовая работа [378,5 K], добавлен 08.01.2013
Поиски более рационального способа решения систем линейных уравнений с двумя переменными - методом подстановки
Способы решения системы уравнений с двумя переменными. Прямая как график линейного уравнения. Использование способов подстановки и сложения при решении систем линейных уравнений с двумя переменными. Решение системы линейных уравнений методом Гаусса.

реферат [532,7 K], добавлен 10.11.2009
Метод наименьших квадратов
Изучение аппроксимации таблично заданной функции методом наименьших квадратов при помощи вычислительной системы Mathcad. Исходные данные и функция, вычисляющая матрицу коэффициентов систему уравнений. Выполнение вычислений для разных порядков полинома.

лабораторная работа [166,4 K], добавлен 13.04.2016
Интеграционный метод Эйлера для решения линейных систем алгебраических уравнений
Характеристики метода Эйлера. Параметры программы, предназначенной для решения систем линейных уравнений и ее логическая структура. Блок-схема программы и этапы ее работы. Проведение анализа результатов тестирования, исходя из графиков интераций.

курсовая работа [866,0 K], добавлен 27.03.2011
Прямые методы решения систем линейных алгебраических уравнений
Изучение основ линейных алгебраических уравнений. Нахождение решения систем данных уравнений методом Гаусса с выбором ведущего элемента в строке, в столбце и в матрице. Выведение исходной матрицы. Основные правила применения метода факторизации.

лабораторная работа [489,3 K], добавлен 28.10.2014

Другие документы, подобные "Модификация метода наименьших квадратов решения системы линейных уравнений с использованием аппарата квантового анализа"

весь список подобных работ

скачать работу можно здесь

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.