Размещено на http://www.allbest.ru/

Оглавление

• Введение
• 1. Теоретическая часть
• 1.1 Линейная регрессия
• 1.1.1 Определение. Матричное представление
• 1.1.2 Классическая линейная регрессия
• 1.1.3 Парная и множественная линейная регрессия
• 1.2 Коэффициент детерминации
• 1.2.1 Проверка качества регрессионных моделей
• 1.2.2 Коэффициент детерминации. Определение. Формула
• 1.2.3 Свойства коэффициента детерминации
• 1.2.4 Скорректированный коэффициент детерминации
• 2. Практическая часть
• Заключение

Список литературы



Введение

Обработка статистических данных уже давно применяется в самых разнообразных видах человеческой деятельности. Сейчас трудно назвать ту сферу, в которой она бы не использовалась. Однако наибольшую роль обработка статистических данных играет в экономике, имеющей дело с обработкой и анализом огромных массивов информации о социально-экономических явлениях и процессах.

В экономике, как и в социологии, анализ данных представляет собой систему знаний, связанную с исследованием взаимозависимости различных явлений, выявлением положительных и отрицательных факторов и измерением степени их влияния, тенденций и закономерностей, резервов, упущенных выгод, с практическими обобщениями и выводами.

Анализ обеспечивает взаимосвязанное изучение явлений и процессов, их развития, происходящих в них количественных и качественных изменений. Обработка данных позволяет выявить причины положительно или отрицательно влияющие на деятельность различных сфер. Кроме того, в экономике, он является аппаратом контроля выполнения планов, поставленных перед собой предприятием. Еще одной характерной чертой экономического анализа является выявление закономерностей развития предприятия.

Для того чтобы правильно понять основные причины, влияющие на процесс, установить взаимосвязь между факторами, оказывающими воздействие, и результатами, созданы различные методы, носящее название математическая статистика.

Цель данной курсовой работы изучение одного из методов математической статистики. Выявление причин и ситуации, когда необходимо использовать данный метод.

Объектом исследования является один из методов регрессионной модели, а также способ проверки качества созданных уравнений регрессий.

Предмет исследования заключается в изучении метода линейной регрессии, в качестве одного из методов регрессионной модели, и скорректированного коэффициента детерминации в роли способа проверки качества уравнений.

Структура курсовой работы включает введение, теоритическую часть, практическую часть, заключение и библиографический список.



1. Теоретическая часть

1.1 Линейная регрессия

1.1.1 Определение. Матричное представление

Регрессия (лат. Regressio -- обратное движение) -- статистическая зависимость среднего значения случайной величины от значений другой случайной величины или нескольких случайных величин. В отличие от функциональной зависимости , которая каждому значению независимой переменной ставит в соответствие одно определённое значение величины , при регрессионной зависимости одному и тому же значению могут соответствовать различные значения величины . Если при каждом значении наблюдается значений , величины , то зависимость среднего арифметического: от и является средней регрессией.

Классическим примером средней регрессии служит зависимость среднего роста детей от роста родителей.

Естественным первым приближением для функции регрессии является ее линеаризция, и соответствующая модель носит название модель линей регрессии.

Линейная регрессия является одним из известнейших методов регрессии, достаточно хорошо работающим в ряде простых задач. К достоинствам линейной регрессии можно отнести простоту алгоритма и высокое быстродействие. Недостаток только один, и он очевиден - неприспособленность к решению существенно нелинейных задач.

Линейная регрессия англ. Linear regression) -- используемая в статистике регрессионная модель зависимости одной (объясняемой, зависимой) переменной от другой или нескольких других переменных (факторов, регрессоров, независимых переменных) с линейной функцией зависимости. Регрессионная модель выглядит следующим образом:

(1)

Где - параметры модели,

- случайная ошибка модели

Регрессионная модель называется линейной регрессией, если функция регрессии имеет вид:

(2)

Где - параметры (коэффициенты) регрессии

- регрессоры (факторы модели)

k - количество факторов модели.

Предположим следующее функциональное соотношение между реализовавшимся значением зависимой переменной и регрессорами:

(3)

Где - зависимая переменная,

-вектор объясняющих переменных, ,

- вектор параметров соответствующей размерности,

- ошибка,

- номер наблюдения

- общее количество наблюдений.

Если объединить в столбцы данные по всем наблюдением, то модель может быть записана в матричном виде следующим образом:

(4)

Где - вектор наблюдения зависимой переменной,

- вектор случайных ошибок,

Матрица плана Х представляет собой матрицу, которой по строкам записаны наблюдения , а по столбцам - объясняющие переменные :

Х

Чаще всего полагается, что =1, тогда коэффициент - это константа, или свободный член регрессивной модели.

1.1.2 Классическая линейная регрессия

В классической линейной модели регрессии предполагается выполнение следующих условий для случайного члена (условий Гаусса-Маркова):

1. Во всех наблюдениях математическое ожидание должно быть равно нулю:

(5)

Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В каждом наблюдении случайный член может быть либо положительным, либо отрицательным, но он не должен иметь систематического смещения. Выполнимость влечет выполнимость

(6)

2. Все объясняющие переменные не коррелированы со случайным членом

(7)

Это условие имеет значение в том случае, если факторные переменные являются случайными величинами. В случае классической модели, когда неслучайные величины, это условие выполняется автоматически.

3. Случайный член имеет постоянную дисперсию:

(8)

Данное условие подразумевает, что, не смотря на то, что в каждом конкретном наблюдении случайное отклонение может быть различно, не должно быть некой априорной причины для того, чтобы в одних наблюдениях ошибка была существенно больше, чем в других. Выполнимость этого предположения называется гомоскедастичностью (постоянством дисперсии отклонений), невыполнимость этого предположения называется гетероскедастичностью (непостоянством дисперсии отклонений). При выполнении условия гомоскедастичности ковариационная матрица вектора возмущений

(9)



где - единичная матрица n-го порядка.

4. Отсутствует систематическая корреляционная связь между значениями случайного члена в любых двух наблюдениях , для любых .

Данное условия предполагает отсутствие систематической связи между значениями случайного члена в любых двух наблюдениях, т.е.

(10)

Наличие такой связи называется автокорреляцией остатков.

5. Случайный член распределен нормально (необязательное, но часто используемое условие).

1.1.3 Парная и множественная линейная регрессия

Если модель включает лишь одну факторную переменную, то она называется парной регрессией. Модель линейной регрессии является наиболее распространенным (и простым) видом зависимости между экономическими показателями и обычно служит отправной точкой для экономического анализа. Теоретическое уравнение линейной модели парной регрессии можно быть записано:

(11)

Однако, как известно, экономические величины складываются под воздействием не одного. А целого ряда факторов, между которыми могут быть сложные взаимосвязи. Поэтому влияние этих факторов комплексное и его нельзя рассматривать как простую сумму изолированных влияний, иначе можно прийти к неверным выводам. Все это приводит к необходимости применения для исследования сложных экономических явлений многофакторных корреляционных моделей:

(12)

где - факторные (объясняющие) переменные

- истинные параметры модели

- стохастическое возмущение (случайный член), включение которого в уравнение обусловлено теми же причинами, что и в случае парной регрессии.

В настоящее время одной из самых распространенных моделей множественной регрессии является линейная модель, широко применяема в макроэкономических расчетах, при изучении производственных функций, проблем спроса.

Теоретическое уравнение линейной модели множественной регрессии записывается следующим образом:

(13)

При k=1 уравнение становится уравнением парной линейной регрессии.

1.2 Коэффициент детерминации

1.2.1 Проверка качества регрессионных моделей

Для практического использования экономической модели большое значение имеет их адекватность, т.е. соответствие реальному процессу и тем статистическим данным, на основе которых построена модель. Анализ качества (верификация модели) включает статистическую и содержательную составляющую. Проверка статистического качества экономической модели обычно состоит из следующих шагов:

1. Проверка статистической значимости коэффициентов уравнения регрессии.

2. Проверка общего качества уравнения регрессии.

3. Проверка точности модели.

4. Проверка свойств данных, выполнение которых предполагалось при оценивании уравнения.

Под содержательной составляющей анализа качества понимается рассмотрение экономического смысла оцененного уравнения регрессии: действительно ли значимым оказались объясняющие факторы, важные с точки зрения теории; положительны или отрицательны коэффициенты, показывающие направление воздействия этих факторов; попали ли оценки коэффициентов регрессии в предполагаемые из теоретических соображений интервалы.

1.2.2 Коэффициент детерминации. Определение. Формула

Для анализа общего качества оцененной линейной регрессии используют обычно коэффициент детерминации , называемый также квадратом коэффициента множественной корреляции. Для случая парной регрессии это квадрат коэффициента корреляции переменных и .

Коэффициент детерминации рассчитывается по формуле:

(14)

Где - сумма квадратов остатков регрессии

, - фактические и расчетные значения объясняемой переменной.

- общая сумма квадратов.

Он характеризует долю вариации (разброса) зависимой переменой, объясненной с помощью данного уравнения. В качестве меры разброса зависимой переменной обычно используется ее дисперсия, а остаточная вариация может быть измерена как дисперсия отклонений вокруг линии регрессии. Если числитель и знаменатель вычитаемой из единицы дроби разделить на число наблюдений n, то получим, соответственно, выборочные оценки остаточной дисперсии и дисперсии зависимой переменной . Отношение остаточной и общей дисперсии представляют собой долю необъясненной дисперсии. Если же эту долю вычесть из единицы, то получим долю дисперсии зависимой переменной. Объясненной с помощью регрессии. Иногда при расчете коэффициента детерминации для получения несмещенных оценок дисперсии в числителе и знаменателе вычитаемой из единицы дроби делается поправка на число степеней свободы: тогда

(15)

Или, для парной регрессии, где число независимым переменных равно 1,

(16)

В числителе дроби, которая вычитается из единицы, стоит сумма квадратов отклонений наблюдений от линии регрессии, в знаменателе - от среднего значения переменной . Таким образом, дробь это мала (а коэффициент , очевидно, близок к единице), если разброс точек вокруг линии регрессии значительно меньше, чем вокруг среднего значения.

Метод наименьших квадратов (МНК) позволяет найти прямую, для которой сумма минимальна, а представляет собой одну из возможных линий, для которых выполняется условие . Поэтому величина в числителе вычитаемой из единицы дроби меньше, чем величина в ее знаменателе, - иначе выбираемой по МНК линией регрессии была бы прямая . Таким образом, коэффициент детерминации является мерой, позволяющей определить, в какой степени найденная регрессионная прямая дает лучший результат для объяснения поведения зависимой переменной , чем просто горизонтальная прямая .

Смысл коэффициента детерминации может быть пояснен и немного иначе. Можно показать, что

(17)

где - отклонение -й точки на линии регрессии от .

В данной формуле величина в левой части может интерпретироваться как мера общего разброса (вариации) переменной , первое слагаемое в правой части - как мера остаточного, необъясненного разброса (разброса точек вокруг линии регрессии). Если разделить эту формулу на ее левую часть и перегруппировать члены, то

(18)

То есть коэффициент детерминации есть доля объясненной части разброса зависимой переменной (или доля объясненной дисперсии, если разделить числитель и знаменатель на и ().

Часто коэффициент детерминации иллюстрируют следующим образом (рис. 1)



Размещено на http://www.allbest.ru/

Рисунок 1 - Иллюстрированный коэффициент детерминации

Здесь TSS (Total Sum of Squares) - общий разброс переменной , ESS (Explained Sum of Squares) - разброс, объясненный с помощью регрессии, USS (Unexplained Sum of Squares) - разброс, необъясненный с помощью регрессии. Из рисунка видно, что с увеличением объясненной доли разброса коэффициент приближается к единице. Кроме того, из рисунка видно, что с добавлением еще одной переменной обычно увеличивается, однако если объясняющие переменные и сильно коррелируют между собой, то они объясняют одну и ту же часть разброса переменной , и в этом случае трудно идентифицировать вклад каждой из переменных в объяснение поведения .

Если существует статистически значимая линейная связь величин и , то коэффициент близок к единице. Однако он может быть близким к единице просто в силу того, что обе эти величины имеют выраженный временный тренд, не связанный с их причинно-следственной взаимозависимостью. В экономике обычно объемные показатели (доход, потребление, инвестиции) имеют такой тренд, а темповые и относительные (производительности, темпы роста, доли, отношения) - не всегда. Поэтому при оценивании линейных регрессий по временным рядам объемных показателей (например, зависимости выпуска от затрат ресурсов или объема потребления от величины дохода) величина обычно очень близка к единице. Это говорит о том, что зависимую переменную нельзя описать просто как равную своему среднему значению, но это и заранее очевидно, раз она имеет временный тренд.

Если имеются не временные ряды, а перекрестная выборка, то есть данные об однотипных объектах в один и тот же момент времени, то для оцененного по ним уравнения линейной регрессии величина не превышает обычно уровня 0,6 - 0,7. То же самое обычно имеет место и для регрессии по временных рядам, если они не имеют выраженного тренда. В макроэкономике примерами таких зависимостей являются связи относительных, удельных, темповых показателей: зависимость темпа инфляции от уровня безработицы, нормы накопления от величины процентной ставки, темпа прироста выпуска от темпов прироста затрат ресурсов. Таким образом, при построении макроэкономических моделей, особенно - по временных рядам данных, нужно учитывать, являются входящие в них переменных объемными или относительными, имеют ли они временной тренд.

Точную границу приемлемости показателя указать сразу для всех случаев невозможно. Нужно принимать во внимание и число степеней свободы уравнения, и наличие трендов переменных, и содержательную интерпретацию уравнения. Показатель может оказаться даже отрицательным. Как правило, это случается в уравнении без свободного члена

. (19)

Оценивание такого уравнения производится, как и в общем случае, по методу наименьших квадратов. Однако множество выбора при этом существенно сужается: рассматриваются не все возможные прямые или гиперплоскости, а только проходящие через начало координат. Величина получается отрицательной в том случае, если разброс значений зависимой переменной вокруг прямой (гиперплоскости) меньше, чем вокруг даже наилучшей прямой (гиперплоскости) из проходящих через начало координат. Отрицательная величина в уравнении говорит о целесообразности введения в него свободного члена. Эта ситуация проиллюстрирована на рис.2

Рисунок 2 - Иллюстрация введения свободного члена в уравнение

Линия 1 на нем- график уравнения регрессии без свободного члена (он проходит через начало координат), линия 2- со свободным членом (он равен ), линия 3 - . Горизонтальная линия 3 дает гораздо меньшую сумму квадратов отклонений , чем линия 1, и поэтому для последней коэффициент детерминации будет отрицательным.

Поправка на число степеней свободы всегда уменьшает значение , поскольку . В результате также может стать отрицательной. Но это означает, что она была близкой к нулю до такой поправки, и объясненная с помощью уравнения регрессии доля дисперсии зависимой переменной очень мала.



1.2.3 Свойства коэффициента детерминации

Таким образом можно выделить следующие свойства коэффициента детерминации:

1. ; в силу определения

2. =0;в этом случае RSS = 0, т. е. наша регрессия не объясняет, ничего не дает по сравнению с тривиальным прогнозом. Данные позволяют сделать вывод о независимости y и x, изменение в переменной x никак не влияет на изменение среднего значения переменной y. То есть увеличивается разброс точек на корреляционном поле относительно построенной линии регрессии(или статистическая зависимость очень слабая, или уравнение регрессии подобрано неверно).

3. =1; в этом случае все точки () лежат на одной прямой (ESS = 0). Тогда на основании имеющихся данных можно сделать вывод о наличии функциональной, а именно, линейной, зависимости между переменными y и x. Изменение переменной y полностью объясняется изменением переменной x.

Для парной линей регрессии коэффициент детерминации точно равен квадрату коэффициента корреляции:

(20)

Вообще говоря, значение коэффициента детерминации не говорит о том, есть ли между факторами зависимость и насколько она тесная. Оно говорит только о качестве того уравнения, которое мы построили.

Удобно сравнивать коэффициенты детерминации для нескольких разных уравнений регрессии построенных по одним и тем же данным наблюдений. Из нескольких уравнений лучше то, у которого больше коэффициент детерминации.



1.2.4 Скорректированный коэффициент детерминации

Одним из свойств коэффициента детерминации является то, что это не убывающая функция от числа факторов, входящих в модель. Это следует из определения детерминации. Действительно в равенстве

(21)

Числитель не зависит, а знаменатель зависит от числа факторов модели. Следовательно, с увеличением числа независимых переменных в модели, коэффициент детерминации никогда не уменьшается. Тогда, если сравнить две регрессионные модели с одной и тоже зависимой переменной, но разным числом факторов, то более высокий коэффициент детерминации будет получен в модели с большим числом факторов. Поэтому необходимо скорректировать коэффициент детерминации с учетом количества факторов, входящих в модель.

Скорректированный (исправленный или оцененный) коэффициент детерминации определяют следующим образом:

(22)

Свойства скорректированного коэффициента детерминации:

1. Несложно заметить что при >1 исправленный коэффициент детерминации меньше коэффициента детерминации ().

2. , но может принимать отрицательные значения. При этом, если скорректированный принимает отрицательное значение, то принимает значение близкое к нулю ().

Таким образом скорректированный коэффициент детерминации является попыткой устранить эффект, связанный с ростом R² при увеличении числа регрессоров. - "штраф" за увеличение числа независимых переменных.



2. Практическая часть

линейный регрессия детерминация модель

Построение линейной модели множественной регрессии. Расчет скорректированного коэффициента детерминации.

По данным РосСтата за последние 10 лет изучается зависимость количества малоимущего населения России (млн. человек) от количества безработного населения (млн. человек) и среднедушевого дохода жителей страны (тыс. рублей).

№	Год	Малоимущее население	Безработное население	Среднедушевой денежный доход
1	2002	35,6	5,7	3,9
2	2003	29,3	5,9	5,1
3	2004	25,2	5,7	6,4
4	2005	25,2	5,3	8,1
5	2006	21,5	5,3	10,2
6	2007	18,7	4,6	12,6
7	2008	18,8	4,8	14,9
8	2009	18,2	6,4	17,0
9	2010	17,9	5,6	18,9
10	2011	18,1	5,0	20,7

Необходимо построить линейную модель множественной регрессии. Найти скорректированный коэффициент детерминации и сравнить его с общем коэффициентом детерминации.

Для удобства проведения расчетов поместим результаты промежуточных расчетов в таблицу:



Таблица

№
1	2	3	4	5	6	7	8	9	10
1	35,6	5,7	3,9	202,92	138,84	22,23	32,49	15,21	1267,36
2	29,3	5,9	5,1	172,87	149,43	30,09	34,81	26,01	858,49
3	25,2	5,7	6,4	143,64	161,28	36,48	32,49	40,96	635,04
4	25,2	5,3	8,1	133,56	204,12	42,93	28,09	65,61	635,04
5	21,5	5,3	10,2	113,95	219,30	54,06	28,09	104,04	462,25
6	18,7	4,6	12,6	86,02	235,62	57,96	21,16	158,76	349,69
7	18,8	4,8	14,9	90,24	280,12	71,52	23,04	222,01	353,44
8	18,2	6,4	17	116,48	309,40	108,80	40,96	289,00	331,24
9	17,9	5,6	18,9	100,24	338,31	105,84	31,36	357,21	320,41
10	18,1	5	20,7	90,50	374,67	103,50	25,00	428,49	327,61
Сумма	228,5	54,3	117,8	1250,42	2411,09	633,41	297,49	1707,30	5540,57
Ср. знач.	22,85	5,43	11,78	125,04	241,11	63,34	29,75	170,73	554,06

Найдем средние квадратические отклонения признаков:

Найдем параметры линейного уравнения множественной регрессии

.

Для этого необходимо решить следующую систему линейных уравнений относительно неизвестных параметров , , :

либо воспользоваться готовыми формулами:

;

;

.

Рассчитаем сначала парные коэффициенты корреляции:

Находим

Таким образом, получили следующее уравнение множественной регрессии:



.

При помощи найденных парных коэффициентов корреляции рассчитаем частные коэффициенты корреляции.

Частные коэффициенты корреляции характеризуют тесноту связи между результатом и соответствующим фактором при элиминировании (устранении влияния) других факторов, включенных в уравнение регрессии.

При двух факторах частные коэффициенты корреляции рассчитываются следующим образом:

Определим коэффициент множественной корреляции:

Коэффициент множественной корреляции показывает на сильную связь всего набора факторов с результатом.

Рассчитаем множественный коэффициент детерминации. Он равен квадрату коэффициента множественной корреляции:

Этот показатель оценивает долю вариации результата за счет представленных в уравнении факторов в общей вариации результата. Здесь эта доля составляет 79,3% и указывает на высокую степень обусловленности вариации результата вариацией факторов, иными словами - на весьма тесную связь факторов с результатом.

Скорректированный коэффициент детерминации определяется следующим образом:

Он определяет тесноту связи с учетом степеней свободы общей и остаточной дисперсий. Он дает такую оценку тесноты связи, которая не зависит от числа факторов и поэтому может сравниваться по разным моделям с разным числом факторов. Оба коэффициента указывают на высокую (73%) детерминированность результата в модели факторами и .



Заключение

Итак, многочисленные наблюдения и исследования показывают, что в окружающем нас мире величины существуют не изолированно друг от друга, а напротив, они связаны определенным образом.

Не важно рассматриваем мы экономическую сферу деятельности или какую-либо другую, везде существуют факторы, оказывающие влияние на объект/итог какого-либо процесса. Для верной интерпретации этого явления была разработаны методы математической статистики.

Наиболее простым методом, используемым в экономике для определения зависимости переменных, является модель линейной регрессии. Также она может случить началом эконометрического анализа. Известно что на любой экономический показатель, как правило, оказывают влияние несколько факторов, поэтому чаще всего при построении модели используется множественная регрессия.

Но построение модели лишь половина дела, необходимо быть уверенным, что она соответствует реальности. Специалисты проводят анализ качества модели, состоящий из нескольких этапов.

Одним из способов проверки является проверка общего качества уравнения регрессии. Для проведения этой проверки используют коэффициент детерминации. Этот показатель используют как универсальную меру связи одной случайной величины от другой. После расчета коэффициента детерминации специалисты смотрят на его величину, она может варьироваться от нуля до единицы, чем ближе полученная цифра к единице, тем сильнее влияние факторов на изучаемую величину.

Однако стандартный коэффициент детерминации имеет сильную зависимость от числа факторов. Чтобы исправить этот недостаток был веден скорректированный коэффициент детерминации. Эта величина рассчитывается на основе обычного коэффициента и дает штраф за дополнительно включенные факторы. Кроме того его можно применять для сравнении моделей с разным числом факторов или при последовательность включении факторов в модель с целью выяснения их влияния на зависимую переменную.

По итогам проведенных расчетов мною была построена модель множественной линейной регрессии и на ее основе рассчитаны коэффициенты детерминации, общий и скорректированный. Была выявлена обратная зависимость между количеством малоимущего населения и количеством безработного населения и среднедушевого дохода. Эта зависимость подтверждает, что чем больше значение детерминирующего фактора А, тем ниже значения факторов Б и В. Кроме того, полученные мною результаты доказывают целесообразность использования в анализе данных такого показателя как скорректированный коэффициент детерминации чтобы получать оценку тесноты связи, не зависящую от числа факторов.

Список литературы

1. Бережная Е.В., Бережной В.И. Математические методы моделирования экономических систем: Учеб. Пособие / Е.В. Бережная, В.И. Бережной - 2е изд. - М. Финансы и статистика, 2006, - 432 с.

2. Замков, О.О. Математические методы в экономике / О.О. Замков, А.В. Толстопятенко, Ю.Н. Черемных. - М.: Дело и сервис, 2009. - 384 с.

3. Иванов, Ю.Н. Экономическая статистика: учебник для вузов. 3-е изд.

4. / Ю.Н. Иванов. - М.: Инфра-М, 2007. - 736 с.

5. Мамаева З.М. Математические методы и модели в экономике: Учеб. Пособие / З.М. Мамаева - часть 2. - Нижний Новгород, Нижегородский госуниверститет, 2010, -71 с.

6. Мелкумов, Я.С. Социально-экономическая статистика: учебное пособие для экономических вузов и факультетов / Я.С. Мелкумов. - М.: ИНФРА-М, 2011. - 235 с.

7. Хрущ?ва, И.В. Основы математической статистики и теории случайных процессов: учебное пособие / И.В. Хрущ?ва, В.И. Щербаков, Д.С.Леванова. - СПб. ; М.; Краснодар: Лань, 2009. - 331 с.

8. Федеральная служба государственной статистики

Размещено на Allbest.ru

...