Регрессионный анализ.

Регрессионным анализом называется метод статистического анализа зависимости случайной величины Y от переменных Хj (j= 1,2,…k), рассматриваемых в регрессионном анализе как неслучайные величины, независимо от истинного закона распределения Хj.

Обычно предполагается, что случайная величина Y имеет нормальный закон распределения с условным математическим ожиданием Y, являющимся функцией от аргументов Хj (j= 1,2,…k),и постоянной, не зависящей от аргументов дисперсией .

Требование нормального закона распределения Y необходимо лишь для проверки значимости уравнения регрессии и его параметров , а также для интервального оценивания .

Регрессионный анализ заключается в определении аналитического выражения связи, в котором изменение одной величины (называемой зависимой или результативным признаком) обусловлено влиянием одной или нескольких независимых величин (факторов), а множество всех прочих факторов, также оказывающих влияние на зависимую величину, принимается за постоянные и средние значения.

Регрессия может быть однофакторной (парной) и многофакторной (множественной).

Основной предпосылкой регрессионного анализа является то, что только результативный признак (Y) подчиняется нормальному закону распределения, а факторные признаки х1, х2,…, хk могут иметь произвольный закон распределения.

В анализе динамических рядов в качестве факторного признака выступает t. При этом в регрессионном анализе заранее подразумевается наличие причинно-следственных связей между результативным (Y) и факторными (х₁, х₂,…, х_k) признаками.

Регрессионная модель.

Уравнение регрессии, или статистическая модель связи социально-экономических явлений, выражаемая функцией:

Что является достаточно адекватным реальному моделируемому явлению или процессу в случае соблюдения следующих требований их построения.

1. Совокупность исследуемых исходных данных должна быть однородной и математически описываться непрерывными функциями.

2. Возможность описания моделируемого явления одним или несколькими уравнениями причинно-следственных связей.

3. Все факторные признаки должны иметь количественное (цифровое) выражение.

4. Наличие достаточно большого объема исследуемой выборочной совокупности.

5. Причинно-следственные связи между явлениями и процессами следует линейной или приводимой к линейной формой зависимости.

6. Отсутствие количественных ограничений на параметры модели связи.

7. Постоянно территориальной и временной структуру изучаемой совокупности.

Соблюдение данных требований позволяет исследователю построить статистическую модель связи, наилучшим образом аппроксимирующую моделируемые социально-экономические явления и процессы.

Теоретическая обоснованность моделей взаимосвязи, построенных на основе корреляционно-регрессионного анализа, обеспечивается соблюдением следующих основных условий:

1. Все признаки и их совместные распределения должны подчиняться нормальному закону распределения.

2. Дисперсия моделируемого признака (Y) должна все время оставаться постоянной при изменении величины (Y) и значений факторных признаков.

3. Отдельные наблюдения должны быть независимы, т. е. результаты, полученные в i-ом наблюдении, не должны быть связаны с предыдущими и содержать информацию о последующих наблюдениях, а также влиять на них.

Отступление от выполнения этих условий и предпосылок приводит к тому, что параметры регрессии не будут отражать реальное воздействие на моделируемый показатель.

Одной из проблем построения уравнения регрессии является их размерность, т. е. определение чисел факторных признаков, включаемых в модель. Их число должно быть оптимальным.

Сокращение размерности за счет исключения второстепенных, несущественных факторов позволяет получить модель, быстрее и качественнее реализуемую. В то же время построение модели малой размерности может привести к тому, что она будет недостаточно полно описывать исследуемое явление или процесс в единой системе национального счетоводства.

Практика выработала определенный критерий, позволяющий установить оптимальное соотношение между числом факторных признаков, включаемых в модель, и объемом исследуемой совокупности. Согласно данному критерию число факторных (к) должно быть в 5-6 раз меньше объема изучаемой совокупности.

Построение корреляционно-регрессионных моделей, каким бы сложными они не были, само по себе не вскрывает полностью всех причинно-следственных связей. Основой их адекватности является предварительный качественный анализ, основанный на учете специфики и особенностей сущности исследуемых социально-экономических явлений и процессов.

В практических условиях используются линейные модели, даже если число регрессоров увеличивается.

По числу объясненных признаков регрессионный модели подразделяются на:

- простые (с одним регрессом);

- сложные (модели множественной регрессии).

По направлению связи различают:

- прямую регрессию (положительную), возникающую при условии, если с увеличением или уменьшением независимой величины значения зависимой также соответственно увеличиваются или уменьшаются;

- обратную (отрицательную) регрессию, появляющуюся при условии, что с увеличением или уменьшением независимой величины зависимая соответственно уменьшается или увеличивается.

По направлению связи различают:

- прямую регрессию (положительную), возникающую при условии, если с увеличением или уменьшением независимой величины значения зависимой также соответственно увеличиваются или уменьшаются;

- обратную (отрицательную) регрессию, появляющуюся при условии, что с увеличением или уменьшением независимой величины зависимая соответственно уменьшается или увеличивается.

В матричной форме регрессионная модель имеет вид:

Где:

- случайный вектор - столбец размерности (nЧ1) наблюдаемых значений результативного признака;

Х - матрица размерности:

n Ч (k + 1)

- наблюдаемых значений аргументов;

- вектор-столбец размерности неизвестных, подлежащих оценке параметров (коэффициентов регрессии) модели;

- случайный вектор-столбец размерности (nЧ1) ошибок наблюдений (остатков).

Компоненты вектора независимы между собой, имеют нормальный закон распределения с нулевым математическим ожиданием и неизвестной дисперсией:

* ()

Так как в регрессионном анализе x_ij рассматривают как неслучайные величины, а , то уравнение регрессии имеет вид:

Задачи регрессионного анализа.

С помощью уравнения регрессии:

Применяемого для экономического анализа, можно измерить влияние отдельных факторов на зависимую переменную, что делает анализ конкретным, существенно повышает его познавательную ценность, уравнения регрессии также применяются в прогнозных работах.

Построение уравнения регрессии предполагает решение двух основных задач.

Первая задача заключается в выборе независимых переменных, оказывающих существенное влияние на зависимую величину, а также в определении вида уравнения регрессии.

Вторая задача построения уравнения регрессии - оценивание параметров (коэффициентов) уравнения. Она решается с помощью того или иного математического метода обработки данных. В связи с тем, что оценки параметров уравнения являются выборочными характеристиками, в процессе оценивания необходимо проводить статистическую проверку существенности полученных параметров.

Выбор уравнения регрессии осуществляется в соответствии с экономической сущностью изучаемого явления. Процессы, где влияние факторов - аргументов происходит с постоянным ускорением или замедлением, описываются параболическими кривыми. Иногда в экономике для описания зависимостей используются и более сложные виды функций, например, логистические, если процесс сначала ускоренно развивается, а затем после достижения некоторого уровня затухает и приближается к некоторому пределу.

Наиболее простыми видами зависимости являются линейные, или приводимые к ним.

На практике чаще встречаются следующие виды уравнений регрессии:

Линейной с точки зрения регрессионного анализа называется - модель, линейная относительно неизвестных параметров в_j.

Определить тип уравнения можно, исследуя зависимость графически. Однако существуют более общие указания, позволяющие выявить уравнение связи, не прибегая к графическому изображению. Если результативный и факторный признаки возрастают одинаково, примерно в арифметической прогрессии, то это свидетельствует о том, что связь между ними линейная, а при обратной связи - гиперболическая. Если результативный признак увеличивается в арифметической прогрессии, а факторный - значительно быстрее, то используется параболическая или степенная регрессии.

Оценка параметров уравнений регрессии (b₀, b₁ и b₂ - в уравнении параболы второго порядка) осуществляется методом наименьших квадратов, в основе которого лежит предположение о независимости наблюдений исследуемой совокупности.

Основной принцип метода наименьших квадратов можно рассмотреть на следующем примере: считаем, что две величины (два показателя) X и Y взаимосвязаны между собой, причем Y находится в некоторой зависимости от Х. Следовательно, Y будет зависимой, а Х - независимой величинами.

Сущность метода наименьших квадратов заключается в нахождении параметров модели (b₀, b₁), при которых минимизируется сумма квадратов отклонений эмпирических (фактических) значений результативного признака от теоретических, полученных по выбранному уравнению регрессии:

S = У (Yi - Yx)І > min

Для прямой зависимости:

S = У (y - b0 - b1x)І > min

Откуда система нормальных уравнений для нахождения параметров линейной парной регрессии методом наименьших квадратов имеет следующий вид:

nb₀ + b₁Уx = Уy

b₀У + b₁УxІ = Уxy

Где:

n - объем исследуемой совокупности (число единиц наблюдений).

В уравнениях регрессии параметр b₀ показывает усредненное влияние на результативный признак неучтенных (не выделенных для исследования) факторов; параметр b₁ (а в уравнении параболы и b₂) - коэффициент регрессии показывает, насколько изменяется в среднем значение результативного признака при увеличении факторного на единицу собственного измерения.

Метод наименьших квадратов обладает тем замечательным свойством, что делает число нормальных уравнений равным числу неизвестных коэффициентов.

Применение метода наименьших квадратов объясняется неизбежным наличием случайных ошибок в результатах опыта.

Статистические данные обладают ошибками упрощения, которые возникают как следствие:

- неполноты охвата, потому что часть единиц совокупности, полученных в результате наблюдения, не может быть использована в исследовании;

- неполноты факторов, определяющих то или иное социально-экономическое явление, в силу того, что ни в одно уравнение, ил модель, нельзя включить бесконечное число аргументов (во всех случаях отбирается только часть воздействующих факторов, причем отбор носит чисто субъективный характер);

Характера выбранного уравнения связи.

Как бы хорошо оно ни было обосновано, как бы теоретически адекватно ни описывало исследуемое явление, оно не может быть его точным аналогом.

Решение вопроса о возможности использования метода наименьших квадратов для изучения связей между социально-экономическими явлениями зависит от свойства оценок, получаемых с помощью этого метода.

Даже при сравнительно небольшом числе наблюдений применение метода наименьших квадратов позволяет получить достаточные оценки.

Метод наименьших квадратов также может быть использован в случаях проведения анализа косвенных наблюдений, являющихся функциями многих неизвестных.

Проверка адекватности моделей, построенных на основе уравнений регрессии, начинается с проверки значимости каждого коэффициента регрессии.

Значимость коэффициентов регрессии осуществляется с помощью t-критерия Стьюдента:

Где:

уІb_i - дисперсия коэффициента регрессии.

Пример модели признан статистически значимым, если:

t_p > t_kp (Ь; н = n - k - 1)

Проверка адекватности всей модели осуществляется с помощью расчета F-критерия и величины средней ошибки аппроксимации е.

Значение F-критерия Фишера определяется по следующей формуле:

Где:

yi - теоретические значения результативного признака, полученные по уравнению регрессии;

n - объем исследуемой совокупности;

к - число факторных признаков в модели.

Если Fp > FЬ при Ь = 0,05, то Н₀ - гипотеза о несоответствии заложенных в уравнении регрессии связей реально существующим - отвергается.

Интерпретация.

Наиболее сложным этапом, завершающим регрессионный анализ, является интерпретация уравнения, т. е. перевод его с языка статистики и математики на язык экономиста.

Интерпретация моделей регрессии осуществляется методами той отрасли знаний, к которой относятся исследуемые явления. Но всякая интерпретация начинается со статистической оценки уравнения регрессии в целом и оценки значимости входящих в модель факторных признаков, т. е. с выяснения, как они влияют на величину результативного признака. Чем больше величина коэффициента регрессии, тем значительнее влияние данного признака на моделируемый. Особое значение при этом имеет знак перед коэффициентом регрессии. Знаки коэффициентов регрессии говорят о характере влияния на результативный признак. Если факторный признак имеет плюс, то с увеличением данного фактора результативный признак возрастает; если факторный признак со знаком минус, то с его увеличением результативный признак уменьшается. Интерпретация этих знаков полностью определяется социально-экономическим содержанием моделируемого (результативного) признака. Если его величина изменяется в сторону увеличения, то плюсовые знаки факторных признаков имеют положительное влияние. При изменении результативного признака в сторону снижения положительное значение имеют минусовые знаки факторных признаков. Если экономическая теория подсказывает, что факторный признак должен иметь положительное значение, а он со знаком минус, то необходимо проверить расчеты параметров уравнения регрессии. Такое явление чаще всего бывает в силу допущенных ошибок при решении. Однако следует иметь в виду. Что при анализе совокупного влияния факторов, при наличии взаимосвязей между ними характер их влияния может меняться. Для того чтобы быть уверенным, что факторный признак изменил знак влияния, необходима тщательная проверка решения данной модели, так как часто знаки могут меняться в силу допустимых ошибок при сборе и обработке информации.

3. Практическая часть

Таблица 2. - Анализируемые данные: