Численная реализация доступного обобщенного метода наименьших квадратов
Рассмотрение модели линейной регрессии. Ознакомление с содержанием стандартного метода наибольшего правдоподобия. Получение трехдиагональной обратной матрицы при помощи гауссового исключения. Получение окончательной несмещенной оценки дисперсии.
| Рубрика | Экономико-математическое моделирование |
| Вид | реферат |
| Язык | русский |
| Дата добавления | 26.06.2018 |
| Размер файла | 30,9 K |
Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже
Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.
Размещено на http://www.allbest.ru/
УДК 330.43
ЧИСЛЕННАЯ РЕАЛИЗАЦИЯ ДОСТУПНОГО ОБОБЩЕННОГО МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ
И.А. Пахнутов
Рассмотрены вычислительные аспекты обобщенного метода наименьших квадратов.
статистика, распределения, МНК, точечные оценки
В доступном обобщенном методе наименьших квадратов (ДОМНК), применяемом в эконометрических расчетах [1-3], рассматривается модель линейной регрессии Y=Xв+е, где Y??, X??, в?? - вектор наблюдаемых величин, матрица значений факторов и вектор параметров соответственно (k<<n), в которой предполагается, что е~N(0, у2И) имеет гауссово распределение с математическим ожиданием Е(е) = 0, дисперсией у2 и корреляционной матрицей
И = И (t) = , |t| < 1,
так что плотность распределения вектора ошибок се имеет вид:
е(t, , ) = .
Стандартный метод наибольшего правдоподобия позволяет в качестве функции правдоподобия взять
линейный регрессия правдоподобие дисперсия
L(t, у, в) = ln(се(t, у, в)) = const - n ln() - - (Y-X)TИ-1(Y-X),
максимальное значение которой достигается на решении уравнения dL(t, у, в) = 0 (полное дифференцирование). Но, так как
L(t, , ) = XTИ-1(Y - X),
L(t, , ) = - (Y-X)TИ-1(Y-X),
L(t, , ) = - (ln (det(И(t))))' - (Y-X)T(И(t)-1)' (Y-X),
то (точечные) оценки , , параметров t, у, в можно получить, решив систему уравнений
(1)
где e=Y-X - вектор остатков, штрих означает дифференцирование по t. При фиксированном t = t первое уравнение позволяет получить несмещенную оценку =(XTИ-1X)-1XTИ-1Y=XY, второе - (смещенную) оценку дисперсии, третье позволяет "уточнить" выбранное t.
При выбранной гипотетической форме корреляционной матрицы И(t) необходимые функции от нее вычисляются довольно просто. Обозначим нижним индексом порядок матрицы и ее определителя. Тогда, вычитая каждую строку (начиная со второй) определителя det(И(t))n, умноженную на t, из предыдущей, получаем рекуррентную формулу: det(И(t))n = (1-t2)det(И(t))n-1, откуда (по индукции) det(И(t))=(1-t2). Теперь, выполняя аналогичную процедуру (или стандартное гауссово исключение), нетрудно получить (трехдиагональную) обратную матрицу
И-1(t) = .
Ее производная, очевидно, равна
(И-1(t))' = .
Используя трехдиагональность полученных матриц, можно существенно упростить систему уравнений (1). Обозначив s = eTe, v = s-e12-en2, u = Уej ej+1, можно найти выражение для оценки дисперсии . А так как eT[И -1(t)]?e = [ut2-(s+v)t+u], то последнее уравнение в (1) (после очевидного упрощения) примет вид
t(vt2-2ut+s)-n(vt-u)(t2-1)=0 (2)
- обычное кубическое уравнение, легко решаемое численно. При t =±1 уравнение переходит в равенство (v2u+s) = 0, или У(ej ej+1)2 = 0, невозможное при случайном характере остатков (в этом случае и матрица И теряет смысл). Далее, нетрудно видеть, что u ? v, vt2 - 2ut + s > 0 (?t). Отсюда и из непрерывности левой части уравнения (2) следует, что последняя внутри интервала (-1, 1) в окрестности его границ принимает различные знаки, и, таким образом, уравнение (2) всегда имеет корень t*: |t*|<1. Численная реализация ДОМНК, следовательно, может быть
представлена простым алгоритмом:
1. Выбрать произвольное t: |t|<1.
2. Получить оценку =А-1В, где A=XTИ(t)-1X, B=XTИ(t)-1Y.
3. Вычислить остатки e=Y-X, s, v, u.
4. Найти ближайший к нулю корень t* уравнения (2).
5. Выбрать новое значение t = t* и перейти к п. 2.
Стратегия выбора нового значения t может быть различной: от простой подстановки t:= t* до подбора линейной комбинации вида t:=лt+(1-л)t*. Статистика обычно не требует высокой вычислительной точности, поэтому итерации можно выполнять до разумной повторяемости результатов, положив = t*. Окончательная несмещенная оценка дисперсии получается стандартно:
.
Приведенный алгоритм делает ДОМНК действительно "доступным".
Полученные с помощью ДОМНК оценки параметров линейной модели могут существенно отличаться от оценок, полученных стандартным МНК. В качестве иллюстрации приведем пример. Для заданных значений матриц X и Y:
для модели Y = Xв + е стандартный МНК приводит к оценкам = . Начиная со значения t= 0.5, через шесть итераций приведенного выше алгоритма приходим к значению = -0.414. Оценки ДОМНК параметров в при найденном следующие: () = .
Значимость полученного различия оценок обычно устанавливается дополнительным исследованием с вычислением вероятностных интервалов.
СПИСОК ЛИТЕРАТУРЫ
1. Дубров А.М. Многомерные статистические методы /А.М. Дубров, В.С. Мхитарян, Л.И. Трошин.-М, Финансы и статистика, 2000.-350 с.
2. Кремер Н.Ш. Эконометрика /Н.Ш. Кремер, Б.А. Путко.-М., 2007.-311 с.
3. Пахнутов И.А. Введение в эконометрику. - Калининград, КГТУ, 2005.-95 с.
Размещено на Allbest.ru
...Подобные документы
Анализ метода наименьших квадратов для парной регрессии, как метода оценивания параметров линейной регрессии. Рассмотрение линейного уравнения парной регрессии. Исследование множественной линейной регрессии. Изучение ошибок коэффициентов регрессии.
контрольная работа [108,5 K], добавлен 28.03.2018Параметры уравнения и экономическое толкование коэффициента линейной регрессии. Расчет коэффициентов детерминации и средних относительных ошибок аппроксимации. Построение структурной формы модели с использованием косвенного метода наименьших квадратов.
контрольная работа [99,2 K], добавлен 27.04.2011Эффективность линейной несмещенной оценки вектора для обобщенной регрессионной модели, теорема Айткена. Обобщенный метод наименьших квадратов. Преобразования Фурье, их применение; разложение временного ряда. Ряды Фурье, многомерные преобразования.
реферат [345,4 K], добавлен 09.05.2012Понятие модели множественной регрессии. Сущность метода наименьших квадратов, который используется для определения параметров уравнения множественной линейной регрессии. Оценка качества подгонки регрессионного уравнения к данным. Коэффициент детерминации.
курсовая работа [449,1 K], добавлен 22.01.2015Оценка влияния разных факторов на среднюю ожидаемую продолжительность жизни по методу наименьших квадратов. Анализ параметров линейной двухфакторной эконометрической модели с помощью метода наименьших квадратов. Графическое изображение данной зависимости.
практическая работа [79,4 K], добавлен 20.10.2015Поле корреляции и гипотеза о виде уравнения регрессии. Оценка величины влияния фактора на исследуемый показатель с помощью коэффициента корреляции и детерминации. Определение основных параметров линейной модели с помощью метода наименьших квадратов.
контрольная работа [701,1 K], добавлен 29.03.2011Эконометрические регрессионные модели и прогнозирование на их основе. Построение множественной линейной регрессии с использованием метода наименьших квадратов. Расчет минеральных удобрений сельскохозяйственной организации по полям и кормовым угодьям.
курсовая работа [2,6 M], добавлен 29.11.2014Основные методы анализа линейной модели парной регрессии. Оценки неизвестных параметров для записанных уравнений парной регрессии по методу наименьших квадратов. Проверка значимости всех параметров модели (уравнения регрессии) по критерию Стьюдента.
лабораторная работа [67,8 K], добавлен 26.12.2010Оценка коэффициентов парной линейной регрессии, авторегрессионное преобразование. Трехшаговый и двухшаговый метод наименьших квадратов, его гипотеза и предпосылки. Системы одновременных уравнений в статистическом моделировании экономических ситуаций.
курсовая работа [477,2 K], добавлен 05.12.2009Определение параметров уравнения линейной регрессии. Экономическая интерпретация коэффициента регрессии. Вычисление остатков, расчет остаточной суммы квадратов. Оценка дисперсии остатков и построение графика остатков. Проверка выполнения предпосылок МНК.
контрольная работа [1,4 M], добавлен 25.06.2010Использование метода оценки параметров в стандартных масштабах для определения неизвестных параметров линейной модели множественной регрессии. Специфика изучения взаимосвязей по временным рядам. Моделирование взаимосвязей и тенденций в финансовой сфере.
контрольная работа [326,7 K], добавлен 22.04.2016Параметры уравнения линейной регрессии. Вычисление остаточной суммы квадратов, оценка дисперсии остатков. Осуществление проверки значимости параметров уравнения регрессии с помощью критерия Стьюдента. Расчет коэффициентов детерминации и эластичности.
контрольная работа [248,4 K], добавлен 26.12.2010Применение метода наименьших квадратов при оценке параметров уравнения регрессии. Зависимость случайных остатков. Предпосылка о нормальном распределении остатков. Особенности определения наличия гомо- и гетероскедастичности. Расчет основных коэффициентов.
курсовая работа [252,1 K], добавлен 26.04.2012Понятие регрессии. Оценка параметров модели. Показатели качества регрессии. Проверка статистической значимости в парной линейной регрессии. Реализация регрессионного анализа в программе MS Excel. Условия Гаусса-Маркова. Свойства коэффициента детерминации.
курсовая работа [233,1 K], добавлен 21.03.2015Эффективная оценка по методу наименьших квадратов. Корелляционно-регрессионный анализ в эконометрическом моделировании. Временные ряды в эконометрических исследованиях. Моделирование тенденции временного ряда. Расчет коэффициента автокорреляции.
контрольная работа [163,7 K], добавлен 19.06.2015Основы математического моделирования детерминированных и стохастических объектов. Идентификация объектов управления по переходной характеристике. Получение модели методом множественной линейной регрессии и проверка ее адекватности по критерию Фишера.
курсовая работа [1,1 M], добавлен 14.10.2014Моделирование экономических процессов с помощью однофакторной регрессии. Оценка параметров проекта методом наименьших квадратов. Расчет коэффициента линейной корреляции. Исследование множественной эконометрической линейной схемы на мультиколлинеарность.
курсовая работа [326,5 K], добавлен 19.01.2011Описание классической линейной модели множественной регрессии. Анализ матрицы парных коэффициентов корреляции на наличие мультиколлинеарности. Оценка модели парной регрессии с наиболее значимым фактором. Графическое построение интервала прогноза.
курсовая работа [243,1 K], добавлен 17.01.2016Выбор факторных признаков для двухфакторной модели с помощью корреляционного анализа. Расчет коэффициентов регрессии, корреляции и эластичности. Построение модели линейной регрессии производительности труда от факторов фондо- и энерговооруженности.
задача [142,0 K], добавлен 20.03.2010Расчет зависимости товарооборота за месяц. Параметры уравнения множественной регрессии, их оценка методом наименьших квадратов. Получение системы нормальных уравнений, ее решение по методу Крамера. Экономическая интерпретация параметров уравнения.
контрольная работа [45,6 K], добавлен 13.04.2014
