Взвешенный метод наименьших квадратов
Изучение взвешенного метода наименьших квадратов. Разработка программного обеспечения. Анализ программных продуктов и методов решения проблемы оценки случайных ошибок взвешенной модели регрессии, дисперсии ошибок и коэффициента пропорциональности.
| Рубрика | Программирование, компьютеры и кибернетика |
| Вид | статья |
| Язык | русский |
| Дата добавления | 02.02.2019 |
| Размер файла | 996,4 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Размещено на http://www.allbest.ru/
УДК 519.237.5
Взвешенный метод наименьших квадратов
Д.Ч. Абдильдинова,
О.Н. Канева,
Е.С. Дубейко
Омский государственный технический университет, г.Омск, Россия
Аннотация
В процессе исследования был изучен взвешенный метод наименьших квадратов, разработано и реализовано программное обеспечение. При анализе существующих программных продуктов и методов решения проблемы оценки случайных ошибок взвешенной модели регрессии, оценки дисперсии ошибок и коэффициента пропорциональности, был разработан новый программный продукт. Данный продукт позволяет повысить точность вычислений и минимизировать время расчета параметров функции регрессии. Проведены численные эксперименты.
Ключевые слова: аппроксимация, интерполяция, уравнение регрессии, метод наименьших квадратов, взвешенный метод наименьших квадратов, гетероскедастичность. квадрат программный регрессия пропорциональность
Развитие новых технологий, применение новых наблюдательных методик и компьютеризация способствуют повышению точности измерений. Для реализации точности вычислений методы обработки данных также должны постоянно совершенствоваться.
Метод наименьших квадратов (МНК) - математический метод, применяемый для решения различных задач, основанный на минимизации суммы квадратов отклонений аппроксимирующих функций от искомых переменных.
МНК является одним из базовых методов регрессионного анализа и используется для оценки неизвестных параметров регрессионных моделей по выборочным данным.
Обычно в качестве регрессионного уравнения используется функция линейная относительно своих параметров[1].
Общий вид такой функции:
(1)
где заданные функции от факторов(i=), X=(t, ).
Критерием МНК является сумма квадратов ошибок, которая в данном случае выглядит следующим образом:
SSE= (2)
где =(, ), (i=); e вектор ошибок.
Введем векторно-матричное обозначение:
(3)
, ,
где y-вектор - столбец наблюдений объясняемой переменной.
Тогда вектор оценок параметров регрессионного уравнения находятся по формуле:
B=, (4)
где обратная.
Для того чтобы вектор оценок B полученный с помощью МНК являлся состоятельным, несмещенным и эффективным должен выполнятся ряд условий, называемых условиями выполнимости метода наименьших квадратов. Одним из таких условий является условие гомоскедастичности данных, т.е. дисперсии ошибок модели должны быть одинаковы для всех точек данных. Невыполнение этого условия называется гетероскедастичностьюданных. Наличиегетероскедастичности случайных ошибок приводит к неэффективности оценок, полученных с помощью обычного метода наименьших квадратов. Кроме того, в этом случае оказывается смещённой и несостоятельной классическая оценка ковариационной матрицы МНК-оценок параметров.
Так как
SSE= (5)
где Wковариационная матрица ошибок, которая в случае гетероскедастичности данных является диагональной матрицей.
Если ковариационная матрица ошибок диагональная (имеется гетероскедастичность ошибок, но нет автокорреляции), то обобщённая сумма квадратов является фактически взвешенной суммой квадратов, где веса обратно пропорциональны дисперсиям ошибок. В этом случае говорят о взвешенном МНК.
(6)
Как и в общем случае, дисперсии ошибок неизвестны и их необходимо оценить из тех же данных. Поэтому делают некоторые упрощающие предположения о структуре гетероскедастичности.
В данной работе рассмотрены два подхода:
1) Дисперсия ошибки пропорциональна некоторой переменной. В основе этого подхода ложится предположение о том, что дисперсия ошибок будет изменяться при изменении значений какого-либо фактора, т.е.
а) величины ошибок и фактора X должны быть коррелированны.
б) рассчитывается коэффициент корреляции Спирмена по формуле:
.
в) Проводится его тест на значимость. Если тест подтверждает значимость коэффициента корреляции, то разделить все переменные на фактор X(включая константу, то есть появится новая переменная 1/ X).
г) К преобразованным данным применяется обычный МНК для получения оценок параметров.
2) Однородные группы наблюдений[2].
а) Определяем число групп по формуле Стерджесса:
(7)
б) Величина интервала группировки находится по формуле:
.
в) Модель оценивают обычным МНК и находят остатки.
г) По остаткам внутри каждой группы оценивают дисперсии .
д) Данные каждой j-й группы наблюдений делятся на .
е) К преобразованным подобным образом данным применяется обычный МНК.
Для анализа эффективности взвешенного метода наименьших квадратов были проведены численные эксперименты для различных временных рядов. Пример сравнения оценок качества одной из этих моделей представлен на рисунке 1. На рисунке изображена модель до преобразования и после, так же показаны графики остатков.
Рис. 1.Результат численного эксперимента
На рисунке 2 приведен пример реализации метода однородных групп наблюдений в MSExcel и на языке программирования C#. На рисунке 3 приведен пример реализации метода, когда дисперсия ошибок пропорциональна фактору X.
Рис. 2. Результат численного эксперимента для однородных групп наблюдения
Рис. 3. Результат численного эксперимента при гетероскедастичности данных
Библиографический список
1. Дрейпер, Н. Прикладной регрессионный анализ [Текст] : пер. с англ. Ю. П. Адлером, В. Г. Горским. / Н. Дрейпер, Г. Смит. - книга 2, 2-е изд. - М.: Финансы и статистика, 2012. - 304 с.
2. Понятский, В. М. Использование метода группового учета аргументов для выбора структуры модели динамического объекта [Текст] / В. М. Понятский, С. И. Велешки, А. В. Жирнова // Известия Тульского государственного университета. Технические науки. - 2013. - №2. - С. 255-267.
3. Корниенко, Е. В. Методы прогнозирования и принятия решений [Текст]: учеб. пособие. / Е. В. Корниенко. - Таганрог, РГСУ, 2014. - 50 с.
4. Бережная, Е. В. Математические методы моделирования экономических систем [Текст]: учеб. пособие / Е. В. Бережная, В. И. Бережной. - 2-е изд. - М.: Финансы и статистика, 2006. - 432 с.
5. Стрижов, В. В. Методы выбора регрессионных моделей [Текст] / В. В. Стрижов, Е. А. Крымова. - М. : Вычислительный центр РАН, 2010. - 60 с.
6. Радченко, С. Г. Методология регрессионного анализа [Текст]:Монография. - Киев : «Корнийчук», 2011. - 376 с.
7. Энциклопедия языков программирования [Электронный ресурс]. - Режим доступа: http://progopedia.ru/language/c-plus-plus/#. - Загл. с экрана.
Размещено на Allbest.ru
...Подобные документы
Определение зависимости одной физической величины от другой. Применение метода наименьших квадратов с помощью программного обеспечения Mathcad. Суть метода наименьших квадратов. Корреляционный анализ, интерпретация величины корреляционного момента.
курсовая работа [63,8 K], добавлен 30.10.2013Анализ методов идентификации, основанных на регрессионных процедурах с использованием метода наименьших квадратов. Построение прямой регрессии методом Асковица. Определение значения дисперсии адекватности и воспроизводимости, коэффициентов детерминации.
курсовая работа [549,8 K], добавлен 11.12.2012Определение параметров линейной зависимости из графика. Метод парных точек. Метод наименьших квадратов. Блок-схема программного комплекса в Microsoft Visual Studio и Microsoft Excel. Инструкция пользователя, скриншоты. Общий вид программного кода.
курсовая работа [2,1 M], добавлен 29.11.2014Разработка алгоритма аппроксимации данных методом наименьших квадратов. Средства реализации, среда программирования Delphi. Физическая модель. Алгоритм решения. Графическое представление результатов. Коэффициенты полинома (обратный ход метода Гаусса).
курсовая работа [473,6 K], добавлен 09.02.2015Обработка экспериментальных данных с помощью программных продуктов. Редактирование и оформление электронных табличных расчётов. Метод наименьших квадратов: применение в качестве критерия близости суммы квадратов отклонений заданных и расчетных значений.
курсовая работа [275,5 K], добавлен 07.03.2011Обзор методов аппроксимации. Математическая постановка задачи аппроксимации функции. Приближенное представление заданной функции другими, более простыми функциями. Общая постановка задачи метода наименьших квадратов. Нахождение коэффициентов функции.
курсовая работа [1,5 M], добавлен 16.02.2013Развитие навыков работы с табличным процессором Microsoft Excel и программным продуктом MathCAD и применение их для решения задач с помощью электронно-вычислительных машин. Схема алгоритма. Назначение функции Линейн и метода наименьших квадратов.
курсовая работа [340,4 K], добавлен 17.12.2014Метод Гаусса и одно из его приложений в экономике (простейшая задача о рационе). Модель Леонтьева межотраслевого баланса. Алгебраический метод наименьших квадратов. Анализ данных эксперимента. Метод наименьших квадратов в Excel и аппроксимация данных.
курсовая работа [598,7 K], добавлен 11.07.2015Метод наименьших квадратов. Возможные варианты расположения экспериментальных точек. Аппроксимация экспериментальных данных в программах Microsoft Excel, MathCAD и MatLAB. Вычисление средних значений и их сумм. Коэффициенты корреляции и детерминации.
курсовая работа [890,9 K], добавлен 30.10.2012Анализ матрицы коэффициентов парной корреляции. Выбор факторных признаков для построения двухфакторной регрессионной модели. Оценка параметров регрессии по методу наименьших квадратов. Нахождение определителей матриц. Применение инструмента Регрессия.
контрольная работа [1,0 M], добавлен 13.01.2013Построение эмпирических формул методом наименьших квадратов. Линеаризация экспоненциальной зависимости. Элементы теории корреляции. Расчет аппроксимаций в табличном процессоре Excel. Описание программы на языке Turbo Pascal; анализ результатов ее работы.
курсовая работа [390,2 K], добавлен 02.01.2015Содержание термина "планирование эксперимента". Сущность метода наименьших квадратов. Разработка программы анализа статистической оценки качества проектируемой системы: составление и графическое представление алгоритма решения, листинг программы.
курсовая работа [4,1 M], добавлен 16.09.2011Подбор параметров линейной функции. Вычисление значения функции в заданных промежуточных точках с использованием математических пакетов. Исследование математической модели решения задачи. Составление программы для вычисления коэффициента корреляции.
курсовая работа [2,3 M], добавлен 21.10.2014Построение эмпирических формул методом наименьших квадратов. Линеаризация экспоненциальной зависимости. Элементы теории корреляции. Расчет коэффициентов аппроксимации, детерминированности в Microsoft Excel. Построение графиков функций, линии тренда.
курсовая работа [590,9 K], добавлен 10.04.2014Определение ускорения свободного падения с помощью физического маятника. Период колебания физического маятника. Нахождение ускорения свободного падения методом наименьших квадратов. Решение задач методами Гаусса-Ньютона и квазиньютоновскими методами.
лабораторная работа [32,4 K], добавлен 29.03.2015Сущность метода перестановочного декодирования. Особенности использования метода вылавливания ошибок. Декодирование циклического кода путем вылавливания ошибок. Распознавание пакетов ошибок как особенность циклических кодов. Вычисление вектора ошибок.
доклад [20,3 K], добавлен 24.05.2012Идентификация объектов методом наименьших квадратов. Анализ коэффициентов парной, частной и множественной корреляции. Построение линейной модели и модели с распределенными параметрами. Итерационный численный метод нахождения корня (нуля) заданной функции.
курсовая работа [893,3 K], добавлен 20.03.2014Описание математических методов расчета. Решение задачи аппроксимации, метод решения по частотной выборке и наименьших квадратов. Контрольный расчет амплитудно-частотной характеристики. Программы расчета фильтров нижних частот на языке среды MathCAD.
курсовая работа [87,1 K], добавлен 21.12.2012Идентификация объектов методом наименьших квадратов, построение линейной модели для неравноточных измерений входной величины. Численные процедуры оценивания параметров нелинейной регрессии; аналитическая модель химического реактора; линеаризация.
курсовая работа [1,2 M], добавлен 12.12.2010Содержание активного и пассивного методов идентификации динамических объектов. Проведение полного факторного эксперимента, в котором реализуются все возможные сочетания уравнений факторов. Применение метода наименьших квадратов и регрессионного анализа.
контрольная работа [140,1 K], добавлен 05.11.2011
