Размещено на http://www.allbest.ru/

Министерство образования и науки РФ

Новосибирский государственный университет экономики и управления

Кафедра прикладных информационных технологий

КУРСОВАЯ РАБОТА

по дисциплине «Информационные технологии»

на тему:

Разработка программного обеспечения для проверки качества одномерной линейной регрессионной модели

Выполнил: студент группы 8095

ФИО: Русановский Константин Сергеевич

№ зачетной книжки 081625

Проверил: Осипов Александр Леонидович

Новосибирск 2012

Оглавление

Введение

Цели и задачи курсовой работы

Регрессионный анализ

Нахождение уравнения регрессии

Проверка адекватности модели регрессии

Построение точечного прогноза

Интерфейс

Список литературы

регрессия парный корреляция анализ



Введение

Математическая постановка задачи регрессии заключается в следующем. Зависимость величины (числового значения) определенного свойства случайного процесса или физического явления Y от другого переменного свойства или параметра Х, которое в общем случае также может относиться к случайной величине, зарегистрирована на множестве точек xk множеством значений yk, при этом в каждой точке зарегистрированные значения yk и xk отображают действительные значения Y(хk) со случайной погрешностью ?k, распределенной, как правило, по нормальному закону. По совокупности значений yk требуется подобрать такую функцию f(xk, a0, a1, …, an), которой зависимость Y(x) отображалась бы с минимальной погрешностью.



Цели и задачи курсовой работы

Цель работы - овладеть методикой построения линейных моделей парной регрессии, оценки их существенности и значимости, расчетом показателей парной регрессии и корреляции.

Постановка задачи. По данным изучаемых регионов (таблица 1) изучить зависимость общего коэффициента рождаемости () от уровня бедности, % () и среднедушевого дохода, тыс. руб. ().

Таблица 1. Исходные данные для корреляционно-регрессионного анализа

Регион	x1	x2	y
1Орловская область	7,2	19,9	9,6
2 Рязанская область	8,1	17,1	9,4
3 Смоленская область	8,4	17,4	9,6
4 Тамбовская область	8,6	13,5	8,9
5 Тверская область	8,6	14,8	10,2
6 Тульская область	8,4	14,2	8,4
7 Ярославская область	9,9	15,1	9,9
8 Республика Карелия	10,1	17	10,6
9 Республика Коми	16,2	14,5	11,9
10 Архангельская область	11,6	16,1	11,9
11 Вологодская область	10,5	14,8	11,6
12 Калининградская область	11,4	12,4	10,9
13 Ленинградская область	10,6	12,6	8,3
14 Мурманская область	15,2	15,5	10,3
15 Новгородская область	8,6	20,3	10,7
16 Псковская область	7,9	17,1	9,7
17 Республика Адыгея	5,8	30,4	11,8
18 Республика Дагестан	8	13,8	17
19 Респ-ка Ингушетия	4	44,8	16,7
20 Кабардино-Балкарская Республика	6,6	18,3	12,8
21 Респ-ка Калмыкия	4,5	44,2	14,5
22 Карачаево-Черкесская Республика	6,9	18,3	14,2
23 Республика Северная Осетия - Алания	7,9	12,9	13,6
24 Чеченская Республикака	…	...	27,1
25 Краснодарский край	9,8	19,2	11,3

Регрессионный анализ

Одной из типовых задач обработки многомерных ЭД является определение количественной зависимости показателей качества объекта от значений его параметров и характеристик внешней среды. Примером такой постановки задачи является установление зависимости между временем обработки запросов к базе данных и интенсивностью входного потока. Время обработки зависит от многих факторов, в том числе от размещения искомой информации на внешних носителях, сложности запроса. Следовательно, время обработки конкретного запроса можно считать случайной величиной. Но вместе с тем, при увеличении интенсивности потока запросов следует ожидать возрастания его среднего значения, т.е. считать, что время обработки и интенсивность потока запросов связаны корреляционной зависимостью.

Постановка задачи регрессионного анализа формулируется следующим образом.

Имеется совокупность результатов наблюдений. В этой совокупности один столбец соответствует показателю, для которого необходимо установить функциональную зависимость с параметрами объекта и среды, представленными остальными столбцами. Будем обозначать показатель через y* и считать, что ему соответствует первый столбец матрицы наблюдений. Остальные т-1 (m > 1) столбцов соответствуют параметрам (факторам) х2, х3, …, хт .

Требуется: установить количественную взаимосвязь между показателем и факторами. В таком случае задача регрессионного анализа понимается как задача выявления такой функциональной зависимости y* = f(x2 , x3 , …, xт), которая наилучшим образом описывает имеющиеся экспериментальные данные.

Допущения:

количество наблюдений достаточно для проявления статистических закономерностей относительно факторов и их взаимосвязей;

обрабатываемые ЭД содержат некоторые ошибки (помехи), обусловленные погрешностями измерений, воздействием неучтенных случайных факторов;

матрица результатов наблюдений является единственной информацией об изучаемом объекте, имеющейся в распоряжении перед началом исследования.

Функция f(x2 , x3 , …, xт), описывающая зависимость показателя от параметров, называется уравнением (функцией) регрессии. Термин "регрессия" (regression (лат.) - отступление, возврат к чему-либо) связан со спецификой одной из конкретных задач, решенных на стадии становления метода, и в настоящее время не отражает всей сущности метода, но продолжает применяться.

Решение задачи регрессионного анализа целесообразно разбить на несколько этапов:

- предварительная обработка ЭД;

- выбор вида уравнений регрессии;

- вычисление коэффициентов уравнения регрессии;

- проверка адекватности построенной функции результатам наблюдений.

Предварительная обработка включает стандартизацию матрицы ЭД, расчет коэффициентов корреляции, проверку их значимости и исключение из рассмотрения незначимых параметров (эти преобразования были рассмотрены в рамках корреляционного анализа). В результате преобразований будут получены стандартизованная матрица наблюдений U (через y будем обозначать стандартизованную величину y* ) и корреляционная матрица ? .

Стандартизованной матрице U можно сопоставить одну из следующих геометрических интерпретаций:

в т-мерном пространстве оси соответствуют отдельным параметрам и показателю. Каждая строка матрицы представляет вектор в этом пространстве, а вся матрица - совокупность п векторов в пространстве параметров;

в п-мерном пространстве оси соответствуют результатам отдельных наблюдений. Каждый столбец матрицы - вектор в пространстве наблюдений. Все вектора в этом пространстве имеют одинаковую длину, равную . Тогда угол между двумя векторами характеризует взаимосвязь соответствующих величин. И чем меньше угол, тем теснее связь (тем больше коэффициент корреляции).

В корреляционной матрице особую роль играют элементы левого столбца - они характеризуют наличие или отсутствие линейной зависимости между соответствующим параметром ui (i =2, 3, …, т) и показателем объекта y. Проверка значимости позволяет выявить такие параметры, которые следует исключить из рассмотрения при формировании линейной функциональной зависимости, и тем самым упростить последующую обработку.

Выбор вида уравнения регрессии

Задача определения функциональной зависимости, наилучшим образом описывающей ЭД, связана с преодолением ряда принципиальных трудностей. В общем случае для стандартизованных данных функциональную зависимость показателя от параметров можно представить в виде

y = f(u1, u2, ...up) + ?



где f - заранее не известная функция, подлежащая определению;

? - ошибка аппроксимации ЭД.

Указанное уравнение принято называть выборочным уравнением регрессии y на u. Это уравнение характеризует зависимость между вариацией показателя и вариациями факторов. А мера корреляции измеряет долю вариации показателя, которая связана с вариацией факторов. Иначе говоря, корреляцию показателя и факторов нельзя трактовать как связь их уровней, а регрессионный анализ не объясняет роли факторов в создании показателя.

Расчеты для конкретного примера

Для построения без использования специализированных программных продуктов модели парной регрессии, используя статистический материал, приведенный в таблице 4.1, необходимо следующее.

· Рассчитать параметры уравнения линейной парной регрессии.

· Оценить тесноту связи с помощью показателей корреляции и детерминации.

· Используя коэффициент эластичности, определить степень связи факторного признака с результативным.

· Определить среднюю ошибку аппроксимации.

· Оценить с помощью F-критерия Фишера статистическую надежность моделирования.



Таблица 4.1

№ п/п	Область	Доля денежных доходов, направленных на прирост сбережений во вкладах, займах, сертификатах и на покупку валюты, в общей сумме среднедушевого денежного дохода, %	Среднемесячная начисленная заработная плата, у.д.е.
		yi	xi
1	Калужская	8,4	343
2	Костромская	6,1	356
3	Орловская	9,4	289
4	Рязанская	11,0	341
5	Смоленская	6,4	327
Итого		41,3	1656

Для определения неизвестных параметров b0 , b1 уравнения парной линейной регрессии (4.3) используем стандартную систему нормальных уравнений, которая имеет вид:

   (4.3)

Для решения этой системы вначале необходимо определить значения величин У x2 и У ху. Эти значения определяем из таблицы исходных данных, дополняя ее соответствующими колонками (табл. 4.2).

Таблица 4.2 Данные для определения У x2 и У ху

№ п/п	yi	xi	x2i	xi yi
1	8,4	343	117649	2881,2
2	6,1	356	126736	2171,6
3	9,4	289	83251	2716,6
4	11,0	341	116281	3751,0
5	6,4	327	106929	2092,8
Итого	41,3	1656	551116	13613,2

Тогда система (4.3) приобретает вид:

   (4.4)

Выражая из первого уравнения b0 и подставляя полученное выражение во второе, получим:

Производя почленное умножение и раскрывая скобки, получим:

.

Откуда

,

тогда

.

Окончательно уравнение парной линейной регрессии, связывающее величину доли денежных доходов населения, направленных на прирост сбережений (у), с величиной среднемесячной начисленной заработной платы (х) имеет вид:

   (4.5)



Далее, в соответствии с заданием необходимо оценить тесноту статистической связи зависимой переменной у с объясняющей переменной х с помощью показателей корреляции и детерминации.

Так как построено уравнение парной линейной регрессии, то определяем линейный коэффициент корреляции по зависимости:

, (4.6)

где уx, уy -- значения среднеквадратических отклонений соответствующих параметров.

Для расчета линейного коэффициента корреляции по зависимости (4.6) выполним промежуточные расчеты:

Подставляя значения найденных параметров в выражение (4.6), получим:

.

Полученное значение линейного коэффициента корреляции свидетельствует о наличии слабой обратной статистической связи между величиной доли денежных доходов населения, направленных на прирост сбережений (у), и величиной среднемесячной начисленной заработной платы (х).

Коэффициент детерминации равен:

rxy2 = (-0,31)2 = 0,0961 ,

что означает, что только 9,6% объясняются регрессией объясняющей переменной х на величину у. Соответственно, величина 1 - rxy2 , равная 90,4%, характеризует долю дисперсии переменной у, вызванную влиянием всех остальных, неучтенных в эконометрической модели объясняющих переменных.

Коэффициент эластичности определяется по зависимости (4.5) и равен:

.

Следовательно, при изменении среднемесячной начисленной заработной платы на 1% величина доли денежных доходов населения, направленных на прирост сбережений, также снижается на 1%, причем при увеличении заработной платы наблюдается снижение величины доли денежных доходов населения, направленных на прирост сбережений. Данный вывод противоречит здравому смыслу и может быть объяснен только некорректностью сформированной математической модели.

Для определения средней ошибки аппроксимации воспользуемся зависимостью (4.6). Для удобства расчетов преобразуем таблицу 4.1 в таблицу 4.3. В данной таблице в колонке рассчитаны текущие значения объясняющей переменной с использованием зависимости (4.5).



Таблица. 4.3 К расчету средней ошибки аппроксимации

№ п/п	yi	x i
1	8,4	343	8,0	0,048
2	6,1	356	7,6	0,246
3	9,4	289	9,3	0,011
4	11,0	341	8,0	0,273
6	6,4	327	8,4	0,313
Итого	41,3	1656	41,3	0,89

Тогда средняя ошибка аппроксимации равна:

.

Полученное значение превышает 12--15%, что свидетельствует о существенности среднего отклонения расчетных данных от фактических, по которым построена эконометрическая модель.

Надежность статистического моделирования выполним на основе F-критерия Фишера. Теоретическое значение критерия Фишера FT определяется из соотношения значений факторной (Dфакторная ) и остаточной (Dост ) дисперсий, рассчитанных на одну степень свободы по формуле:

. (4.7)

Промежуточные расчеты (4.7):

где n -- число наблюдений;

m -- число объясняющих переменных (для рассматриваемого примера m =1).

Тогда

Критическое значение FКРИТ определяется по статистическим таблицам и для уровня значимости б = 0, 05 равняется 10,13. Так как FT <FКРИТ , то нулевая гипотеза не отвергается и полученное уравнение регрессии принимается статистически незначимым.

Нахождение уравнения регрессии

Регрессия [regression] - зависимость среднего значения какой-либо случайной величины от некоторой другой величины (парная регрессия) или нескольких величин (множественная регрессия).

Уравнение линейной парной регрессии имеет вид: .

Для оценки параметров a, b методом наименьших квадратов (МНК) необходимо решить систему нормальных уравнений:

	(1.1)

private int CalculateEquation()

{

double sumX = x.Sum();

double sumY = y.Sum();

double sumXY = 0;

for (int i = 0; i < count; i++)

{

sumXY = sumXY + x[i] * y[i];

}

double sumX2 = 0;

for (int i = 0; i < count; i++)

{

sumX2 = sumX2 + x[i] * x[i];

}

//Slope(b) = (NУXY - (УX)(УY)) / (NУX2 - (УX)^2)

slope = (count * sumXY - sumX * sumY) / (count * sumX2 - Math.Pow(sumX, 2));

//Intercept(a) = (УY - b(УX)) / N

intercept = (sumY - slope * sumX) / count;

return 0;

}

Проверка адекватности модели регрессии

Для оценки тесноты линейной связи между переменными используют линейный коэффициент парной корреляции:

,	(1.3)

где - среднеквадратическое отклонение (СКО) переменной Х;

- среднеквадратическое отклонение (СКО) переменной Y.

Можно считать, что:

1) если , то имеется прямая линейная связь между переменными Х и Y;

2) если , то имеется обратная линейная связь между переменными Х и Y;

3) если (), то линейная связь между переменными Х и Y отсутствует.

Качественная оценка тесноты связи величин Х и Y может быть выявлена на основе шкалы Чеддока:

Тестона связи	Значение коэффициента корреляции
Слабая	0,1-0,3
Умеренная	0,3-0,5
Заметная	0,5-0,7
Высокая	0,7-0,9
Весьма высокая	0,9-0,99

private int CalculateCorrelationCoefficient()

{

double sumX = x.Sum();

double sumY = y.Sum();

double sumXY = 0;

for (int i = 0; i < count; i++)

{

sumXY = sumXY + x[i] * y[i];

}

double sumX2 = 0;

for (int i = 0; i < count; i++)

{

sumX2 = sumX2 + x[i] * x[i];

}

double sumY2 = 0;

for (int i = 0; i < count; i++)

{

sumY2 = sumY2 + y[i] * y[i];

}

// Correlation(r) =[ NУXY - (УX)(УY) / Sqrt([NУX2 - (УX)2][NУY2 - (УY)2])]

correlationCoefficient =

( count * sumXY - sumX * sumY ) /

( Math.Sqrt(

(count * sumX2 - Math.Pow(sumX,2) ) * ( count * sumY2 - Math.Pow(sumY,2) )

) );

return 0; }

Для оценки качества уравнения регрессии использую коэффициент детерминации .

Коэффициент детерминации характеризует долю дисперсии, объясняемую регрессией, в общей дисперсии результативного признака (квадрат коэффициента корреляции):



.	(1.4)

Коэффициент детерминации показывает, какую часть вариации (изменения) результативной переменной Y объясняет вариация (изменение) фактора X. Чем ближе к единице, тем лучше регрессионная модель.

private double getR()

{

return Math.Pow(correlationCoefficient, 2);

}

Оценка статистической значимости уравнения регрессии в целом осуществляется с помощью F-критерия Фишера. Проверяется гипотеза Н0 о статистической незначимости уравнения регрессии. Для этого рассчитывается фактическое значение критерия по формуле:

,	(1.5)

где n - число единиц совокупности;

m - число параметров при переменных х.

Если применяется линейное уравнение регрессии, то расчет Fфакт упрощается:

.	(1.6)

private double getFFactual()

{

double SQR_R = Math.Pow( getR(), 2 );

return SQR_R * (count - 2) / ( 1 - SQR_R );

}

Fтабл - это максимально возможное значение критерия, которое могло сформироваться под влиянием случайных факторов при данных степенях свободы и уровне значимости . Уровень значимости - вероятность отвергнуть правильную гипотезу при условии, что она верна. Имеются таблицы критических (табличных) значений F-критерия: F(; k1; k2), где , . Для линейного уравнения парной регрессии с уровнем значимости  = 0,05 необходимо в таблице значений (приложение №4) найти значение F(0,05; 1; n - 2).

Если Fтабл < Fфакт, то гипотеза Н0 о случайной природе оцениваемых характеристик отклоняется и признается их статистическая значимость и надежность.

private double getFTable()

{

double retVal = 0;

for (int i = 0; i < fTable.GetLength(0) - 1; i++)

{

if (count >= fTable[i, 0] && count < fTable[i + 1, 0])

{

retVal = fTable[i, 1];

}

}

if (retVal == 0) throw new System.ArgumentOutOfRangeException("GetFtableError");

return retVal;

}

public bool isModelSignificant()

{

if ( getFTable() <= getFFactual() )

return true;

else return false;

}

Для оценки статистической значимости коэффициентов регрессии и коэффициента корреляции рассчитывается t-критерий Стьюдента. Выдвигается гипотеза H0 о случайной природе показателей, т.е. о незначимом их отличии от нуля. Наблюдаемые значения t-критерия рассчитываются по формулам:

, , ,	(1.7)

где - случайные ошибки параметров линейной регрессии и коэффициента корреляции.

Для линейной парной регрессии выполняется равенство , поэтому проверки гипотез о значимости коэффициента регрессии при факторе и коэффициента корреляции равносильны проверке гипотезы о статистической значимости уравнения регрессии в целом.

При проверке независимости значений ei определяется отсутствие в остаточном ряду автокорреляции, под которой понимается корреляция между элементами одного и того же числового ряда. В нашем случае автокорреляция - это корреляция ряда e1, e2, e3 ... с рядом eL+1, eL+2, eL+3 ... Число L характеризует запаздывание (лаг). Корреляция между соседними членами ряда (т.е. когда L = 1) называется автокорреляцией первого порядка. Далее для остаточного ряда будем рассматривать зависимость между соседними элементами ei.

Значительная автокорреляция говорит о том, что спецификация регрессии выполнена неправильно (неправильно определен тип зависимости).

Наличие автокорреляции может быть выявлено при помощи d-критерия Дарбина-Уотсона. Значение критерия вычисляется по формуле:

.	(6.15)

Эта величина сравнивается с двумя табличными уровнями: нижним - d1 и верхним - d2. Соответствующая статистическая таблица приведена в приложении. Если полученное значение d больше двух, то перед сопоставлением его нужно преобразовать:

d' = 4 - d.

Если d (или d') находится в интервале от нуля до d1 , то значения остаточного ряда сильно автокоррелированы.

Если значение d-критерия попадает в интервал от d2 до 2, то автокорреляция отсутствует.

Если d1 < d< d2 - однозначного вывода об отсутствии или наличии автокорреляции сделать нельзя.

private List<double> getResidual()

{

List<double> residual = new List<double>();

for (int i = 0; i < count; i++)

{

residual.Add(intercept + (slope * x[i]) - y[i]);

}

return residual;

}

public int isAutoCorrelated()

{

List<double> residual = getResidual();

double sumresvar = 0;

for (int i = 1; i < count; i++)

{

sumresvar = sumresvar + Math.Pow(residual[i] - residual[i - 1], 2);

}

for ( int i = 0; i < count; i++ )

residual[i] = residual[i] * residual[i];

double sumres2 = residual.Sum();

double d = sumresvar / sumres2;

if ( d > 2 ) d = 4 - d;

if (getDTable()[1] <= d && d <= 2)

return 0;//not autocorrelated

if (0 <= d && d <= getDTable()[0])

return 1;//autocorrelated

return -1; //not enough data

}

Соответствие остаточного ряда нормальному распределению проще всего проверить при помощи RS-критерия:

,	(6.17)

где emax - максимальное значение ряда остатков;

emin - минимальное значение ряда остатков;

 - среднеквадратическое отклонение значений остаточного ряда.

Если рассчитанное значение попадает между табулированными границами с заданным уровнем вероятности, то гипотеза о нормальном распределении принимается. Соответствующая статистическая таблица приведена в приложении.

public bool isNormalResidualDispersion()

{

List<double> residual = getResidual();

double resmax = residual.Max();

double resmin = residual.Min();

double sumresvar = 0;

for (int i = 1; i < count; i++)

{

sumresvar = sumresvar + Math.Pow(residual[i] - residual[i - 1], 2);

}

double RS = (resmax - resmin) / Math.Sqrt(sumresvar / (count - 1));

if (getRSTable()[0] <= RS && RS <= getRSTable()[1])

return true;

else

return false;

}

Построение точечного прогноза

Tочечный прогноз получается путем простой подстановки соответствующих значений x в уравнение регрессии.

Зачастую значения факторов, для которых нужно сделать прогноз значения зависимой переменной, получают на основе среднего прироста значений фактора внутри выборочной совокупности:

,	(6.19)

где xmax и xmin - соответственно, максимальное и минимальное значение переменной x в выборочной совокупности.

При выполнении экстраполяции для определения конкретного значения х, используемого для расчета прогнозного значения y, можно использовать формулу:

xk = xmax +  • k ,	(6.20)

при прогнозе на один шаг k = 1, на два шага - k = 2 и т.д.

public List<double>[] Forecast(int steps)

{

List<double>[] retVal = new List<double>[2];

retVal[0] = new List<double>();

retVal[1] = new List<double>();

double step = (x.Max() - x.Min()) / (count - 1);

for (int i = 0; i < steps; i++)

{

retVal[0].Add(x.Max() + step * i);

retVal[1].Add(intercept + slope * retVal[0][i]);

}

return retVal;

}

Интерейс



Список литературы

1. Александров В.В., Алексеев А.И., Горский Н.Д. Анализ данных на ЭВМ(на примере системы СИТО). - М.: Финансы и статистика, 1990.

2. Л. П. Яновский, А. Г. Буховец “Введение в эконометрику”.

3. Блюмин С.Л., Суханов В.Ф., Чеботарев С.В. Экономический факторныйанализ: Монография. - Липецк: ЛЭГИ, 2004.

4. Цейтлин Н.А."Опыт аналитического статистика".

5. Рогальский Ф.Б., Курилович Я.Е., Цокуренко А.А. Математические методыанализа экономических систем. Книга 1. - К.: Наукова думка, 2001.

6. Рогальский Ф.Б., Цокуренко А.А. Математические методы анализа экономических систем. Книга 2. - К.: Наукова думка, 2001.

7. Терещенко Т.О., Романюк Т.П. “Эконометрия”. - К.: КНЭУ, 1997.

Размещено на Allbest.ru

...