Метод наименьших квадратов

Сущность метода наименьших квадратов (МНК). Функциональная, стохастическая и корреляционная связи. Инструментарий МНК: процедуры проверки гипотезы о существовании связи, подбора лучшей функциональной модели, определения параметров уравнения регрессии.

Рубрика Экономико-математическое моделирование
Вид лекция
Язык русский
Дата добавления 29.09.2013
Размер файла 33,3 K

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Размещено на http://www.allbest.ru/

Метод наименьших квадратов

1. Функциональная, стохастическая и корреляционная связи

Все социально-экономические явления взаимосвязаны. Связь между ними имеет причинно-следственный характер. Признаки, характеризующие причины и условия связи, называются факторными х, а признаки, которые характеризуют следствия связи, - результативными у. Между признаками х и у возникают разные по природе и характеру связи, а именно: функциональные и стохастические. При функциональной связи каждому значению признака х соответствует одно определенное значение у. Эта связь проявляется однозначно в каждом отдельном случае. При стохастической связи каждому значению признака х соответствует определенное множество значений у, образующих так называемое условное распределение. Как закон эта связь проявляется только в массе случаев и характеризуется изменением условных распределений у. Если заменить условное распределение средней величинойy, то образуется разновидность стохастической связи - корреляционная. В случае корреляционной связи каждому значению признака х соответствует среднее значение результативного признака y.

Примером стохастической, и в частности корреляционной, связи является распределение проданных однокомнатных квартир по их стоимости у и размеру общей площади х (табл. 1).

Таблица 1

Размер общей площади, м2 x

Количество квартир со стоимостью тыс. усл. ден. ед.

Средняя стоимость квартиры, тыс. усл. ден. ед. yj

9-11

11-13

13-15

15-17

17-19

Итого fi

До 25

26

12

2

--

--

40

10,8

25-30

4

9

12

5

--

30

13,2

30-35

--

4

6

10

4

24

15,2

35 и более

--

--

--

--

6

6

18,0

В целом

30

25

20

15

10

100

13,0

Большинство экономических явлений имеет вероятностный, или случайный, или стохастический характер, то есть, в реальных условиях очень трудно со 100-процентной уверенностью предвидеть развитие того или иного экономического объекта. Естественно, это факт приводит к некоторым осложнениям, и требует наличия у управленческого персонала навыков в области предсказания неопределенного будущего - навыков обнаружения закономерностей, скрытых среди случайностей прошлого и настоящего периодов, и переносу этих закономерностей в (на) будущее - навыков экстраполирования.

Как правило, исследование случайных взаимоотношений сводится к адаптации реальных вероятностных взаимосвязей к логике функциональных зависимостей, то есть другими словами, нужно определить и аналитически выразить ("проявить") форму предполагаемой зависимости и потом исследовать ее. метод наименьший квадрат процедура

Современная наука еще не нашла лучшего "проявителя" корреляционных зависимостей, чем метод наименьших квадратов.

2. Метод наименьших квадратов (МНК)

Сущность метода наименьших квадратов заключается в отыскании параметров модели тренда, которая лучше всего описывает тенденцию развития какого-либо случайного явления во времени или в пространстве (тренд - это линия, которая и характеризует тенденцию этого развития). Задача метода наименьших квадратов (сокращенно - МНК) сводится к нахождению не просто какой-то модели тренда, а к нахождению лучшей или оптимальной модели. В свою очередь, модель будет оптимальной, если сумма квадратических отклонений между наблюдаемыми фактическими величинами и соответствующими им расчетными величинами тренда будет минимальной (наименьшей):

,

где - квадратичное отклонение между наблюдаемой фактической величиной и соответствующей ей расчетной величиной тренда,

- фактическое (наблюдаемое) значение изучаемого явления,

- расчетное значение модели тренда,

n - число наблюдений за изучаемым явлением.

МНК самостоятельно применяется довольно редко. Как правило, чаще всего его используют лишь в качестве необходимого технического приема при корреляционно-регрессионных исследованиях.

Инструментарий МНК сводится к следующим процедурам:

§ первая процедура. Выясняется, существует ли вообще какая-либо тенденция изменения результативного признака при изменении выбранного фактора-аргумента, или другими словами, есть ли связь между "у" и "х".

§ вторая процедура. Определяется, какая линия (траектория) способна лучше всего описать или охарактеризовать эту тенденцию.

§ третья процедура. Рассчитываются параметры регрессионного уравнения, характеризующего данную линию, или другими словами, определяется аналитическая формула, описывающая лучшую модель тренда.

ВНИМАНИЕ!!! Следует помнить, что информационной основой МНК может быть только достоверный статистический ряд, причем число наблюдений не должно быть меньше 4-х, иначе, сглаживающие процедуры МНК могут потерять здравый смысл.

Пример. Допустим, мы имеем информацию о средней урожайности подсолнечника по исследуемому хозяйству:

Таблица 2.

Таблица исходных данных

Номер наблюдения

1

2

3

4

5

6

7

8

9

10

Годы

1996

1997

1998

1999

2000

2001

2002

2003

2004

2005

Урожайность, ц/га

14,2

15,6

17,5

14,5

15,3

17,0

16,6

17,5

15,0

17,7

Предположение (гипотеза): "Поскольку уровень технологии при производстве подсолнечника в нашей стране за последние 10 лет практически не изменился, значит, по всей видимости, колебания урожайности в анализируемый период очень сильно зависели от колебания погодно-климатических условий. Действительно ли это так?".

3. Первая процедура МНК: проверка гипотезы о существовании связи

Первая процедура МНК: Проверяется гипотеза о существовании тенденции изменения урожайности подсолнечника в зависимости от изменения погодно-климатических условий за анализируемые 10 лет.

В данном примере за "y" целесообразно принять урожайность подсолнечника, а за "x" - номер наблюдаемого года в анализируемом периоде. Проверку гипотезы о существовании какой-либо взаимосвязи между "x" и "y" можно выполнить двумя способами: вручную и при помощи компьютерных программ типа "YYY" и т.п. Конечно, при наличии компьютерной техники данная проблема решается сама собой. Но, чтобы лучше понять инструментарий МНК целесообразно выполнить проверку гипотезы о существовании связи между "x" и "y" вручную, когда под рукой находятся только ручка и обыкновенный калькулятор. В таких случаях гипотезу о существовании тенденции лучше всего проверить визуальным способом по расположению графического изображения анализируемого ряда динамики - корреляционного поля:

Корреляционное поле в нашем примере расположено вокруг медленно возрастающей линии. Это уже само по себе говорит о существовании определенной тенденции в изменении урожайности подсолнечника. Нельзя говорить о наличии какой-либо тенденции лишь тогда, когда корреляционное поле похоже на круг, окружность, строго вертикальное или строго горизонтальное облако, или же состоит из хаотично разбросанных точек. Во всех остальных случаях следует подтвердить гипотезу о существовании взаимосвязи между "x" и "y", и продолжить исследования.

4. Вторая процедура МНК: подбор лучшей функциональной модели

Вторая процедура МНК: Определяется, какая линия (траектория) способна лучше всего описать или охарактеризовать тенденцию изменения урожайности подсолнечника за анализируемый период.

При наличии компьютерной техники подбор оптимального тренда происходит автоматически. При "ручной" обработке выбор оптимальной функции осуществляется, как правило, визуальным способом - по расположению корреляционного поля. То есть, по виду графика подбирается уравнение линии, которая лучше всего подходит к эмпирическому тренду (к фактической траектории).

Как известно, в природе существует огромное разнообразие функциональных зависимостей, поэтому визуальным способом проанализировать даже незначительную их часть - крайне затруднительно. К счастью, в реальной экономической практике большинство взаимосвязей достаточно точно могут быть описаны или параболой, или гиперболой, или же прямой линией. В связи с этим, при "ручном" варианте подбора лучшей функции, можно ограничиться только этими тремя моделями.

§ прямая выглядит таким образом:

§ гипербола имеет следующий вид:

§ парабола второго порядка выглядит так:

Нетрудно заметить, что в нашем примере лучше всего тенденцию изменения урожайности подсолнечника за анализируемые 10 лет характеризует прямая линия, поэтому уравнением регрессии будет уравнение прямой:

.

5. Третья процедура МНК: определение параметров уравнения регрессии

Третья процедура МНК. Рассчитываются параметры регрессионного уравнения, характеризующего данную линию, или другими словами, определяется аналитическая формула, описывающая лучшую модель тренда.

Нахождение значений параметров уравнения регрессии, в нашем случае параметров и , является сердцевиной МНК. Данный процесс сводится к решению системы нормальных уравнений. В свою очередь, любая система нормальных уравнений для всех видов зависимостей строится по следующей схеме:

Во-первых, определяются коэффициенты при неизвестных параметрах в обнаруженном уравнении прямой линии . Коэффициент при параметре равен 1, а при параметре равен.

Во-вторых, уравнение прямой поочередно, сначала умножается на коэффициент при параметре, а затем на коэффициент при параметре. Таким образом, получается два уравнения: первое -и второе - .

В-третьих, в первое уравнение из таблицы исходных данных попарно, в соответствие с номером наблюдения, подставляются абсолютно все значенияи. Получается 10-ть уравнений типа:

; ;

и так далее до десятого -

.

После чего, все эти уравнения складываются, и получается одно суммарное нормальное уравнение:

.

Затем, во второе уравнение из таблицы исходных данных точно также, в соответствие с номером наблюдения, подставляются абсолютно все значенияи. Получается опять таки 10-ть уравнений:

;

;

и так далее до десятого -

.

После чего, все эти уравнения складываются, и получается еще одно нормальное уравнение:

.

В-четвертых, создается система, состоящая из двух нормальных уравнений:

,

которая довольно легко решается методом Гаусса. Напомним, что в результате решения, в нашем примере, находятся значения параметров и .

Таким образом, найденное уравнение регрессии будет иметь следующий вид:

На этом процедуры МНК закончены.

Размещено на Allbest.ru

...

Подобные документы

  • Понятие модели множественной регрессии. Сущность метода наименьших квадратов, который используется для определения параметров уравнения множественной линейной регрессии. Оценка качества подгонки регрессионного уравнения к данным. Коэффициент детерминации.

    курсовая работа [449,1 K], добавлен 22.01.2015

  • Оценка коэффициентов парной линейной регрессии, авторегрессионное преобразование. Трехшаговый и двухшаговый метод наименьших квадратов, его гипотеза и предпосылки. Системы одновременных уравнений в статистическом моделировании экономических ситуаций.

    курсовая работа [477,2 K], добавлен 05.12.2009

  • Оценка влияния разных факторов на среднюю ожидаемую продолжительность жизни по методу наименьших квадратов. Анализ параметров линейной двухфакторной эконометрической модели с помощью метода наименьших квадратов. Графическое изображение данной зависимости.

    практическая работа [79,4 K], добавлен 20.10.2015

  • Анализ метода наименьших квадратов для парной регрессии, как метода оценивания параметров линейной регрессии. Рассмотрение линейного уравнения парной регрессии. Исследование множественной линейной регрессии. Изучение ошибок коэффициентов регрессии.

    контрольная работа [108,5 K], добавлен 28.03.2018

  • Применение метода наименьших квадратов при оценке параметров уравнения регрессии. Зависимость случайных остатков. Предпосылка о нормальном распределении остатков. Особенности определения наличия гомо- и гетероскедастичности. Расчет основных коэффициентов.

    курсовая работа [252,1 K], добавлен 26.04.2012

  • Эффективная оценка по методу наименьших квадратов. Корелляционно-регрессионный анализ в эконометрическом моделировании. Временные ряды в эконометрических исследованиях. Моделирование тенденции временного ряда. Расчет коэффициента автокорреляции.

    контрольная работа [163,7 K], добавлен 19.06.2015

  • Параметры уравнения и экономическое толкование коэффициента линейной регрессии. Расчет коэффициентов детерминации и средних относительных ошибок аппроксимации. Построение структурной формы модели с использованием косвенного метода наименьших квадратов.

    контрольная работа [99,2 K], добавлен 27.04.2011

  • Понятие корреляционной связи. Связь между качественными признаками на основе таблиц сопряженности. Показатели тесноты связи между двумя количественными признаками. Определение коэффициентов уравнения линейной регрессии методом наименьших квадратов.

    контрольная работа [418,7 K], добавлен 22.09.2010

  • Эффективность линейной несмещенной оценки вектора для обобщенной регрессионной модели, теорема Айткена. Обобщенный метод наименьших квадратов. Преобразования Фурье, их применение; разложение временного ряда. Ряды Фурье, многомерные преобразования.

    реферат [345,4 K], добавлен 09.05.2012

  • Основные методы анализа линейной модели парной регрессии. Оценки неизвестных параметров для записанных уравнений парной регрессии по методу наименьших квадратов. Проверка значимости всех параметров модели (уравнения регрессии) по критерию Стьюдента.

    лабораторная работа [67,8 K], добавлен 26.12.2010

  • Поле корреляции и гипотеза о виде уравнения регрессии. Оценка величины влияния фактора на исследуемый показатель с помощью коэффициента корреляции и детерминации. Определение основных параметров линейной модели с помощью метода наименьших квадратов.

    контрольная работа [701,1 K], добавлен 29.03.2011

  • Метод наименьших квадратов; регрессионный анализ для оценки неизвестных величин по результатам измерений. Приближённое представление заданной функции другими; обработка количественных результатов естественнонаучных опытов, технических данных, наблюдений.

    контрольная работа [382,4 K], добавлен 16.03.2011

  • Расчет зависимости товарооборота за месяц. Параметры уравнения множественной регрессии, их оценка методом наименьших квадратов. Получение системы нормальных уравнений, ее решение по методу Крамера. Экономическая интерпретация параметров уравнения.

    контрольная работа [45,6 K], добавлен 13.04.2014

  • Построение математической модели выбранного экономического явления методами регрессионного анализа. Линейная регрессионная модель. Выборочный коэффициент корреляции. Метод наименьших квадратов для модели множественной регрессии, статистические гипотезы.

    курсовая работа [1,1 M], добавлен 22.05.2015

  • Эконометрика как наука, позволяющая анализировать связи между различными экономическими показателями на основании реальных статистических данных. Структурная форма эконометрической модели. Метод наименьших квадратов: общее понятие, главные функции.

    курсовая работа [135,1 K], добавлен 05.12.2014

  • Параметры уравнения линейной регрессии. Вычисление остаточной суммы квадратов, оценка дисперсии остатков. Осуществление проверки значимости параметров уравнения регрессии с помощью критерия Стьюдента. Расчет коэффициентов детерминации и эластичности.

    контрольная работа [248,4 K], добавлен 26.12.2010

  • Построение поля рассеяния, его визуальный анализ. Определение точечных оценок параметров методом наименьших квадратов. Расчет относительной ошибки аппроксимации. Построение доверительных полос для уравнения регрессии при доверительной вероятности У.

    контрольная работа [304,0 K], добавлен 21.12.2013

  • Виды проявления количественных связей между признаками. Определения функциональной и корреляционной связи. Практическое значение установления, направление и сила корреляционной связи. Метод квадратов (метод Пирсона), ранговый метод (метод Спирмена).

    презентация [173,6 K], добавлен 19.04.2015

  • Основные элементы эконометрического анализа временных рядов. Задачи анализа и их первоначальная обработка. Решение задач кратко- и среднесрочного прогноза значений временного ряда. Методы нахождения параметров уравнения тренда. Метод наименьших квадратов.

    контрольная работа [37,6 K], добавлен 03.06.2009

  • Сущность метода наименьших квадратов. Экономический смысл параметров кривой роста (линейная модель). Оценка погрешности и проверка адекватности модели. Построение точечного и интервального прогноза. Суть графического построения области допустимых решений.

    контрольная работа [32,3 K], добавлен 23.04.2013

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.