Парная регрессия и корреляция

Размещено на http://www.allbest.ru/

Министерство образования и науки РК

Западно-Казахстанский инженерно-гуманитарный университет

Гуманитарная академия

Кафедра «Финансы»

Тестовая задача

Парная регрессия и корреляция

Выполнил:

Студент группы 2221

Специальность: Финансы

Бирманов А.А.

Проверила:

Байгазиева Д.М.

Уральск, 2015 год

1. Задача

корреляция уравнение линейный регрессия аппроксимация

По территориям Волго-Вятского, Центрально-Черноземного и Поволжского районов известны данные за ноябрь 1997 г.

Район	Потребительские расходы в расчете на душу населения, тыс. руб., у	Средняя заработная плата и выплаты социального характера, тыс. руб., х
Волго-Вятский
Респ Марий Эл	302	554
Респ. Мордовия	360	560
Чувашская Респ.	310	545
Кировская обл.	415	672
Нижегородская обл.	452	796
Центрально-Черноземный
Белгородская обл.	502	777
Воронежская обл.	355	632
Курская обл.	416	688
Липецкая обл.	501	833
Тамбовская обл.	403	577
Поволжский
Респ. Калмыкия	208	584
Респ Татарстан	462	949
Астраханская обл.	368	888
Волгоградская обл.	399	831
Пензенская обл.	342	562
Саратовская обл.	354	665
Ульяновская обл.	558	705

Требуется:

Постройте поле корреляции и сформулируйте гипотезу о форме связи.

Рассчитайте параметры уравнений линейной регрессии.

Оцените тесноту связи с помощью показателей корреляции и детерминации.

Дайте с помощью среднего (общего) коэффициента эластичности сравнительную оценку силы связи фактора с результатом.

Оцените с помощью средней ошибки аппроксимации качество уравнений.

Оцените с помощью F-критерия Фишера статистическую надежность результатов регрессионного моделирования.

Рассчитайте прогнозное значение результата, если прогнозное значение фактора увеличится на 7% от его среднего уровня. Определите доверительный интервал прогноза для уровня значимости б = 0,05.

Оцените полученные результаты, выводы оформите в аналитической записке.

Корреляционный анализ.

Уравнение парной регрессии.

Использование графического метода.

Этот метод применяют для наглядного изображения формы связи между изучаемыми экономическими показателями. Для этого в прямоугольной системе координат строят график, по оси ординат откладывают индивидуальные значения результативного признака Y, а по оси абсцисс - индивидуальные значения факторного признака X.

Совокупность точек результативного и факторного признаков называется полем корреляции.

На основании поля корреляции можно выдвинуть гипотезу (для генеральной совокупности) о том, что связь между всеми возможными значениями X и Y носит линейный характер.

Линейное уравнение регрессии имеет вид y = bx + a

Оценочное уравнение регрессии (построенное по выборочным данным) будет иметь вид y = bx + a + е, где e_i - наблюдаемые значения (оценки) ошибок е_i, а и b соответственно оценки параметров б и в регрессионной модели, которые следует найти.

Здесь е - случайная ошибка (отклонение, возмущение).

Причины существования случайной ошибки:

1. Невключение в регрессионную модель значимых объясняющих переменных;

2. Агрегирование переменных. Например, функция суммарного потребления - это попытка общего выражения совокупности решений отдельных индивидов о расходах. Это лишь аппроксимация отдельных соотношений, которые имеют разные параметры.

3. Неправильное описание структуры модели;

4. Неправильная функциональная спецификация;

5. Ошибки измерения.

Так как отклонения е_i для каждого конкретного наблюдения i - случайны и их значения в выборке неизвестны, то:

1) по наблюдениям x_i и y_i можно получить только оценки параметров б и в

2) Оценками параметров б и в регрессионной модели являются соответственно величины а и b, которые носят случайный характер, т.к. соответствуют случайной выборке;

Для оценки параметров б и в - используют МНК (метод наименьших квадратов).

Метод наименьших квадратов дает наилучшие (состоятельные, эффективные и несмещенные) оценки параметров уравнения регрессии. Но только в том случае, если выполняются определенные предпосылки относительно случайного члена (е) и независимой переменной (x).

Формально критерий МНК можно записать так:

S = ?(y_i - y^*_i)² > min

Система нормальных уравнений.

a*n + b?x = ?y

a?x + b?x² = ?y*x

Для наших данных система уравнений имеет вид

17a + 11818 b = 6707

11818 a + 8481912 b = 4766283

Домножим уравнение (1) системы на (-695.18), получим систему, которую решим методом алгебраического сложения.

-11818a -8215637.24 b = -4662572.26

11818 a + 8481912 b = 4766283

Получаем:

266274.76 b = 103710.74

Откуда b = 0.3895

Теперь найдем коэффициент «a» из уравнения (1):

17a + 11818 b = 6707

17a + 11818 * 0.3895 = 6707

17a = 2103.71

a = 123.7474

Получаем эмпирические коэффициенты регрессии: b = 0.3895, a = 123.7474

Уравнение регрессии (эмпирическое уравнение регрессии):

y = 0.3895 x + 123.7474

Эмпирические коэффициенты регрессии a и b являются лишь оценками теоретических коэффициентов в_i, а само уравнение отражает лишь общую тенденцию в поведении рассматриваемых переменных. Для расчета параметров регрессии построим расчетную таблицу (табл. 1)

Таблица 1

x	y	x2	y2	x * y
554	302	306916	91204	167308
560	360	313600	129600	201600
545	310	297025	96100	168950
672	415	451584	172225	278880
796	452	633616	204304	359792
777	502	603729	252004	390054
632	355	399424	126025	224360
688	416	473344	173056	286208
833	501	693889	251001	417333
577	403	332929	162409	232531
584	208	341056	43264	121472
949	462	900601	213444	438438
888	368	788544	135424	326784
831	399	690561	159201	331569
562	342	315844	116964	192204
665	354	442225	125316	235410
705	558	497025	311364	393390
11818	6707	8481912	2762905	4766283

1. Параметры уравнения регрессии.

Выборочные средние.

Выборочные дисперсии:

Среднеквадратическое отклонение

Коэффициент корреляции b можно находить по формуле, не решая систему непосредственно:

2. Коэффициент корреляции. Ковариация

Рассчитываем показатель тесноты связи. Таким показателем является выборочный линейный коэффициент корреляции, который рассчитывается по формуле:

Линейный коэффициент корреляции принимает значения от -1 до +1.

Связи между признаками могут быть слабыми и сильными (тесными). Их критерии оцениваются по шкале Чеддока:

0.1 < r_xy < 0.3: слабая;

0.3 < r_xy < 0.5: умеренная;

0.5 < r_xy < 0.7: заметная;

0.7 < r_xy < 0.9: высокая;

0.9 < r_xy < 1: весьма высокая;

В нашем примере связь между признаком Y фактором X заметна и прямая.

Кроме того, коэффициент линейной парной корреляции может быть определен через коэффициент регрессии b:

3. Уравнение регрессии (оценка уравнения регрессии)

Линейное уравнение регрессии имеет вид y = 0.39 x + 123.75

Коэффициентам уравнения линейной регрессии можно придать экономический смысл.

Коэффициент регрессии b = 0.39 показывает среднее изменение результативного показателя (в единицах измерения у) с повышением или понижением величины фактора х на единицу его измерения. В данном примере с увеличением на 1 единицу y повышается в среднем на 0.39.

Коэффициент a = 123.75 формально показывает прогнозируемый уровень у, но только в том случае, если х=0 находится близко с выборочными значениями.

Но если х=0 находится далеко от выборочных значений х, то буквальная интерпретация может привести к неверным результатам, и даже если линия регрессии довольно точно описывает значения наблюдаемой выборки, нет гарантий, что также будет при экстраполяции влево или вправо.

Подставив в уравнение регрессии соответствующие значения х, можно определить выровненные (предсказанные) значения результативного показателя y(x) для каждого наблюдения.

Связь между у и х определяет знак коэффициента регрессии b (если > 0 - прямая связь, иначе - обратная). В нашем примере связь прямая.

4. Коэффициент эластичности

Коэффициенты регрессии (в примере b) нежелательно использовать для непосредственной оценки влияния факторов на результативный признак в том случае, если существует различие единиц измерения результативного показателя у и факторного признака х.

Для этих целей вычисляются коэффициенты эластичности и бета - коэффициенты.

Средний коэффициент эластичности E показывает, на сколько процентов в среднем по совокупности изменится результат у от своей средней величины при изменении фактора x на 1% от своего среднего значения.

Коэффициент эластичности находится по формуле:

Коэффициент эластичности меньше 1. Следовательно, при изменении Х на 1%, Y изменится менее чем на 1%. Другими словами - влияние Х на Y не существенно.

Ошибка аппроксимации. Оценим качество уравнения регрессии с помощью ошибки абсолютной аппроксимации. Средняя ошибка аппроксимации - среднее отклонение расчетных значений от фактических:

Ошибка аппроксимации в пределах 5%-7% свидетельствует о хорошем подборе уравнения регрессии к исходным данным.

В среднем, расчетные значения отклоняются от фактических на 14.03%. Поскольку ошибка больше 7%, то данное уравнение не желательно использовать в качестве регрессии.

5. Коэффициент детерминации

Квадрат (множественного) коэффициента корреляции называется коэффициентом детерминации, который показывает долю вариации результативного признака, объясненную вариацией факторного признака.

Чаще всего, давая интерпретацию коэффициента детерминации, его выражают в процентах.

R²= 0.588² = 0.346

т.е. в 34.6 % случаев изменения х приводят к изменению y. Другими словами - точность подбора уравнения регрессии - средняя. Остальные 65.4 % изменения Y объясняются факторами, не учтенными в модели (а также ошибками спецификации).

Для оценки качества параметров регрессии построим расчетную таблицу (табл. 2)

Таблица 2

x	y	y(x)	(yi-ycp)2	(y-y(x))2	(xi-xcp)2	|y - yx|:y
554	302	339.54	8561.69	1409.18	19930.8	0.12
560	360	341.88	1192.28	328.48	18272.68	0.0503
545	310	336.03	7145.22	677.73	22552.97	0.084
672	415	385.5	419.04	870.14	537.15	0.0711
796	452	433.8	3302.87	331.18	10165.38	0.0403
777	502	426.4	11549.93	5715.22	6695.09	0.15
632	355	369.92	1562.57	222.64	3991.27	0.042
688	416	391.73	460.99	588.84	51.5	0.0583
833	501	448.21	11335.99	2786.38	18995.33	0.11
577	403	348.5	71.75	2970.49	13965.68	0.14
584	208	351.22	34793.22	20513.24	12360.21	0.69
949	462	493.4	4552.28	985.81	64426.38	0.068
888	368	469.64	703.81	10330.12	37180.91	0.28
831	399	447.43	19.99	2345.93	18448.03	0.12
562	342	342.66	2759.34	0.43	17735.97	0.00192
665	354	382.78	1642.63	828.01	910.62	0.0813
705	558	398.36	26722.63	25486.26	96.5	0.29
11818	6707	6707	116796.24	76390.07	266316.47	2.38

6. Оценка параметров уравнения регрессии

Значимость коэффициента корреляции.

Выдвигаем гипотезы:

H₀: r_xy = 0, нет линейной взаимосвязи между переменными;

H₁: r_xy ? 0, есть линейная взаимосвязь между переменными;

Для того чтобы при уровне значимости б проверить нулевую гипотезу о равенстве нулю генерального коэффициента корреляции нормальной двумерной случайной величины при конкурирующей гипотезе H₁ ? 0, надо вычислить наблюдаемое значение критерия (величина случайной ошибки)

и по таблице критических точек распределения Стьюдента, по заданному уровню значимости б и числу степеней свободы k = n - 2 найти критическую точку t_крит двусторонней критической области. Если t_набл < t_крит оснований отвергнуть нулевую гипотезу. Если |t_набл| > t_крит -- нулевую гипотезу отвергают.

По таблице Стьюдента с уровнем значимости б=0.05 и степенями свободы k=15 находим t_крит:

t_крит (n-m-1;б/2) = (15;0.025) = 2.131

где m = 1 - количество объясняющих переменных.

Если |t_набл| > t_критич, то полученное значение коэффициента корреляции признается значимым (нулевая гипотеза, утверждающая равенство нулю коэффициента корреляции, отвергается).

Поскольку |t_набл| > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически значим.

Отметим значения на числовой оси.

Принятие H0	Отклонение H0, принятие H1
95%	5%
2.131	2.82

В парной линейной регрессии t²_r = t²_b и тогда проверка гипотез о значимости коэффициентов регрессии и корреляции равносильна проверке гипотезы о существенности линейного уравнения регрессии.

Интервальная оценка для коэффициента корреляции (доверительный интервал).



Доверительный интервал для коэффициента корреляции.

r(0.143;1)

7. Анализ точности определения оценок коэффициентов регрессии

Несмещенной оценкой дисперсии возмущений является величина:

S² = 5092.671 - необъясненная дисперсия (мера разброса зависимой переменной вокруг линии регрессии).

S = 71.36 - стандартная ошибка оценки (стандартная ошибка регрессии).

S_a - стандартное отклонение случайной величины a.

S_b - стандартное отклонение случайной величины b.



8. Доверительные интервалы для зависимой переменной

Экономическое прогнозирование на основе построенной модели предполагает, что сохраняются ранее существовавшие взаимосвязи переменных и на период упреждения. Для прогнозирования зависимой переменной результативного признака необходимо знать прогнозные значения всех входящих в модель факторов.

Прогнозные значения факторов подставляют в модель и получают точечные прогнозные оценки изучаемого показателя.

(a + bx_p ± е)

X_p = 695.176 * 107% = 743.84

t_крит (n-m-1;б/2) = (15;0.025) = 2.131

Рассчитаем границы интервала, в котором будет сосредоточено 95% возможных значений Y при неограниченно большом числе наблюдений и X_p = 743.84

Вычислим ошибку прогноза для уравнения y = bx + a

y(743.84) = 0.39*743.84 + 123.747 = 413.485

413.485 ± 39.573

(373.91;453.06)

С вероятностью 95% можно гарантировать, что значения Y при неограниченно большом числе наблюдений не выйдет за пределы найденных интервалов.

Вычислим ошибку прогноза для уравнения y = bx + a + е

(256.35;570.62)

Индивидуальные доверительные интервалы для Y при данном значении X.

(a + bx_i ± е)

t_крит (n-m-1;б/2) = (15;0.025) = 2.131

xi	y = 123.75 + 0.39xi	еi	ymin = y - еi	ymax = y + еi
554	339.54	161.92	177.62	501.46
560	341.88	161.47	180.4	503.35
545	336.03	162.62	173.41	498.65
672	385.5	156.63	228.87	542.13
796	433.8	159.28	274.52	593.08
777	426.4	158.33	268.07	584.73
632	369.92	157.59	212.33	527.51
688	391.73	156.5	235.24	548.23
833	448.21	161.67	286.55	609.88
577	348.5	160.31	188.19	508.81
584	351.22	159.88	191.35	511.1
949	493.4	173.44	319.96	666.84
888	469.64	166.48	303.16	636.12
831	447.43	161.52	285.91	608.96
562	342.66	161.33	181.33	503.98
665	382.78	156.74	226.04	539.51

С вероятностью 95% можно гарантировать, что значения Y при неограниченно большом числе наблюдений не выйдет за пределы найденных интервалов.

Проверка гипотез относительно коэффициентов линейного уравнения регрессии.

2) F-статистика. Критерий Фишера.

Коэффициент детерминации R² используется для проверки существенности уравнения линейной регрессии в целом.

Проверка значимости модели регрессии проводится с использованием F-критерия Фишера, расчетное значение которого находится как отношение дисперсии исходного ряда наблюдений изучаемого показателя и несмещенной оценки дисперсии остаточной последовательности для данной модели.

Если расчетное значение с k₁=(m) и k₂=(n-m-1) степенями свободы больше табличного при заданном уровне значимости, то модель считается значимой.

где m - число факторов в модели.

Оценка статистической значимости парной линейной регрессии производится по следующему алгоритму:

1. Выдвигается нулевая гипотеза о том, что уравнение в целом статистически незначимо: H₀: R²=0 на уровне значимости б.

2. Далее определяют фактическое значение F-критерия:

где m=1 для парной регрессии.

3. Табличное значение определяется по таблицам распределения Фишера для заданного уровня значимости, принимая во внимание, что число степеней свободы для общей суммы квадратов (большей дисперсии) равно 1 и число степеней свободы остаточной суммы квадратов (меньшей дисперсии) при линейной регрессии равно n-2.

F_табл - это максимально возможное значение критерия под влиянием случайных факторов при данных степенях свободы и уровне значимости б. Уровень значимости б - вероятность отвергнуть правильную гипотезу при условии, что она верна. Обычно б принимается равной 0,05 или 0,01.

4. Если фактическое значение F-критерия меньше табличного, то говорят, что нет основания отклонять нулевую гипотезу.

В противном случае, нулевая гипотеза отклоняется и с вероятностью (1-б) принимается альтернативная гипотеза о статистической значимости уравнения в целом.

Табличное значение критерия со степенями свободы k₁=1 и k₂=15, F_табл = 4.54

Отметим значения на числовой оси.

Таблица 3

Принятие H0	Отклонение H0, принятие H1
95%	5%
4.54	7.93

Поскольку фактическое значение F > F_табл, то коэффициент детерминации статистически значим (найденная оценка уравнения регрессии статистически надежна).

9. Дисперсионный анализ

При анализе качества модели регрессии используется теорема о разложении дисперсии, согласно которой общая дисперсия результативного признака может быть разложена на две составляющие - объясненную и необъясненную уравнением регрессии дисперсии.

Задача дисперсионного анализа состоит в анализе дисперсии зависимой переменной:

?(y_i - y_cp)² = ?(y(x) - y_cp)² + ?(y - y(x))²

где

?(y_i - y_cp)² - общая сумма квадратов отклонений;

?(y(x) - y_cp)² - сумма квадратов отклонений, обусловленная регрессией («объясненная» или «факторная»);

?(y - y(x))² - остаточная сумма квадратов отклонений.

Источник вариации	Сумма квадратов	Число степеней свободы	Дисперсия на 1 степень свободы	F-критерий
Модель (объясненная)	0	1	0	7.93
Остаточная	76390.07	15	5092.67	1
Общая	116796.24	17-1

Показатели качества уравнения регрессии

Показатель	Значение
Коэффициент детерминации	0.35
Средний коэффициент эластичности	0.69
Средняя ошибка аппроксимации	14.03

Размещено на Allbest.ru

...