Проверка гипотез относительно коэффициентов линейного уравнения регрессии

Размещено на http://www.allbest.ru/

ВВЕДЕНИЕ

Для экономической теории и практики все большее значение приобретают вопросы прогнозирования развития общественного производства, выбора альтернатив экономического роста в условиях ограниченных ресурсов, определения наиболее эффективных путей достижения экономичных результатов.

Современные экономические теории и исследования, опирающиеся в значительной степени на использование математических моделей и методов анализа, требуют от экономистов достаточно свободного владения математическим аппаратом изучения статистических и динамических данных. Поэтому неудивительно, что эконометрика стало одним из базовых курсов в системе экономического образования.

Действенным инструментом научного анализа тенденций и прогнозирования перспектив экономического роста является экономико-математическое моделирование, в частности использование основ эконометрики. Особенно эффективно использование эконометрических моделей при изучении динамики и тенденций развития экономики, выявления влияния важнейших факторов на конечные результаты производственной деятельности.

Эконометрика - это наука, в которых на базе реальных статистических данных строятся, анализируются и совершенствуются математические модели экономических явлений (наука, которая дает количественное выражение взаимосвязей экономических процессов и явлений.

Эконометрика возникла на стыке 3-х областей знаний: экономической теории, математической экономике и математической статистики.

Предмет эконометрики есть экономические явления и процессы. Однако, в отличие от экономической теории, эконометрика делает упор на количественные, а не на качественные аспекты этих явлений. Изучение экономических явлений в эконометрике осуществляется через эконометрические модели на базе эмпирических данных.



Глава 1. ПАРНАЯ РЕГРЕССИЯ И КОРРЕЛЯЦИЯ

1.1 Линейная регрессия и корреляция

Линейная регрессия сводится к нахождению параметров уравнения вида:

Уравнение вида позволяет по заданным фактическим значениям фактора x иметь теоретические значения результативного признака.

Классический же подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров a и b, при которых сумма квадратов отклонений фактических значений результативного признака у от расчетных (теоретических) y_x минимальна:

Чтобы найти минимум функции из формулы , надо вычислить частные производные по каждому из параметров a и b и приравнять их к нулю. Обозначим искомую функцию через f(x), тогда:

Преобразуя формулу, получим следующую систему нормальных уравнений для оценки параметров a и b:



Решая систему нормальных уравнений либо методом последовательного исключения переменных, либо методом определителей найдем искомые оценки параметров a и b. Можно воспользоваться следующими готовыми формулами:

где -- ковариация признаков;

-- дисперсия признака х.

Параметры a и b методом определителей находятся так:

откуда

Линейная регрессия находит широкое применение в эконометрике в виде четкой экономической интерпретации ее параметров. Параметр b называется коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу. Формально а -- значение y при x = 0. Если признак-фактор x не имеет и не может иметь нулевого значения, то вышеуказанная трактовка свободного члена а не имеет смысла.

Интерпретировать можно знак при параметре а. Если а> 0, то относительное изменение результата происходит медленнее, чем изменение фактора. Иными словами, вариация результата меньше вариации фактора -- коэффициент вариации по фактору x выше коэффициента вариации для результата y: > Для доказательства сравним относительные изменения фактора x и результата y: < или <;

<откуда 0 < а.

Присутствуют три особенности при интерпретации модели регрессии:

a и b лишь оценки истинных значений параметров ? и ?;

уравнение регрессии отражает лишь общую тенденцию для выборки (отдельное наблюдение подвержено воздействию случайностей);

верность интерпретации зависит от правильности спецификации модели уравнения.

Уравнение регрессии всегда дополняется показателем, характеризующим степень тесноты связи между признаками. Его роль может выполнять показатель ковариации:

Чаще всего используется показатель корреляции. Основная причина в том, что ковариация зависит от единиц, в которых измеряется х и у, а коэффициент корреляции есть величина безразмерная. При использовании линейной регрессии в качестве такого показателя выступает линейный коэффициент корреляции . Можно пользоваться разными формулами для расчета, но результат должен быть одинаков:

Линейный коэффициент корреляции находится в границах: Положительное значение коэффициента говорит о том, что связь между признаками прямая, отрицательное - обратная. Если коэффициент регрессии b> 0, то и, наоборот, при b< 0, Степень тесноты связи обычно оценивают по шкале Чеддока:

Показания тесноты связи	0,1-0,3	0,3-0,5	0,5-0,7	0,7-0,9	0,9-0,99
Характер силы связи	слабая	заметная	умеренная	сильная	очень сильная

Следует иметь в виду, что величина линейного коэффициента корреляции оценивает тесноту связи рассматриваемых признаков в ее линейной форме. Поэтому близость абсолютной величины линейного коэффициента корреляции к нулю еще не означает отсутствие связи между признаками. При иной спецификации модели связь между признаками может оказаться достаточно тесной.

Для оценки качества подбора линейной функции рассчитывается квадрат линейного коэффициента корреляции называемый коэффициентом детерминации. Коэффициент детерминации характеризует долю дисперсии результативного признака у, объясняемую регрессией, в общей дисперсии результативного признака:

Соответственно величина характеризует долю дисперсии у, вызванную влиянием остальных не учтенных в модели факторов. Можно показать, что коэффициент детерминации равен квадрату линейного коэффициента корреляции.



1.2 Спецификация модели парной регрессии

Простая регрессия представляет собой регрессию между двумя переменными -- у и х, т. е. модель вида:

у_х =f(x)

где у -- зависимая переменная (результативный признак);

х - независимая, или объясняющая переменная (признак-фактор).

Для изучения связей между признаками х и у строится корреляционная таблица, включающая группировку значений х и у, а также производные величины, необходимые для будущих вычислений и построения уравнения регрессии. Наглядным изображением корреляционной таблицы служит корреляционное поле. Оно представляет собой график, где на оси абсцисс откладываются значения х, по оси ординат - у. По расположению точек, их концентрации в определенном направлении можно судить о наличии и форме связи.

Любое эконометрическое исследование начинается со спецификации модели, т. е. с формулировки вида модели, исходя из соответствующей теории связи между переменными. Прежде всего из всего круга факторов, влияющих на результативный признак, необходимо выделить наиболее существенно влияющие факторы. Парная регрессия достаточна, если имеется доминирующий фактор, который и используется в качестве объясняющей переменной. Предположим, что выдвигается гипотеза о том, что урожайность картофеля находится в прямой зависимости от внесения удобрений под эту культуру, т. е. у=а+bx. В этом случае необходимо знать, какие остальные факторы предполагаются неизменными, возможно, в дальнейшем их придется учесть в модели и от простой регрессии перейти к множественной.

В уравнении регрессии корреляционная по сути связь признаков представляется в виде функциональной связи, выраженной соответствующей математической функцией. Практически в каждом отдельном случае величина у складывается из двух слагаемых:

где у - фактическое значение результативного признака;

у_х - теоретическое значение результативного признака, найденное из уравнения регрессии;

- случайная величина, характеризующая отклонения реального значения результативного признака от теоретического, найденного по уравнению регрессии.

Случайная величина называется также возмущением. Она включает влияние не учтенных в модели факторов, случайных ошибок и особенностей измерения. Ее присутствие в модели порождено тремя источниками: спецификацией модели, выборочным характером исходных данных, особенностями измерения переменных.

К ошибкам спецификации относятся:

Невключение объясняющих переменных. Соотношение между у и х почти наверняка является очень большим упрощением. Недоучет в уравнении регрессии какого-либо существенного фактора, т.е. использование парной регрессии вместо множественной, может привести к ошибке. Часто происходит так, что имеются переменные, которые мы хотели бы включить в регрессионное уравнение, но не можем этого сделать потому, что не знаем, как их измерить, например психологические факторы. Возможно, что существуют также другие факторы, которые мы можем измерить, но которые оказывают такое слабое влияние, что их не стоит учитывать. Кроме того, могут быть факторы, которые являются существенными, но которые мы из-за отсутствия опыта таковыми не считаем. Объединив все эти составляющие, мы получаем то, что обозначено как.

Агрегирование переменных. Во многих случаях рассматриваемая зависимость -- это попытка объединить вместе некоторое число микроэкономических соотношений. Например, функция суммарного потребления -- это попытка общего выражения совокупности решений отдельных индивидов о расходах. Так как отдельные соотношения, вероятно, имеют разные параметры, любая попытка определить соотношение между совокупными расходами и доходом является лишь аппроксимацией. Наблюдаемое расхождение при этом приписывается наличию случайного члена.

Неправильное описание структуры модели. Структура модели может быть описана неправильно или не вполне правильно. Здесь можно привести один из многих возможных примеров. Если зависимость относится к данным о временном ряде, то значение у может зависеть не от фактического значения х, а от значения, которое ожидалось в предыдущем периоде. Если ожидаемое и фактическое значения тесно связаны, то будет казаться, что между у и х существует зависимость, но это будет лишь аппроксимация, и расхождение вновь будет связано с наличием случайного члена.

Неправильная функциональная спецификация. Функциональное соотношение между у и х математически может быть определено неправильно. Например, истинная зависимость может не являться линейной, а быть более сложной.

Наряду с ошибками спецификации могут иметь место ошибки выборки, поскольку исследователь чаще всего имеет дело с выборочными данными при установлении закономерной связи между признаками. Ошибки выборки возможны и в силу неоднородности данных в исходной статистической совокупности, что, как правило, бывает при изучении экономических процессов. Если совокупность неоднородна, то уравнение регрессии не имеет практического смысла. Для получения хорошего результата обычно исключают из совокупности единицы с аномальными значениями исследуемых признаков.

Наибольшую опасность в практическом использовании методов регрессионного анализа представляют ошибки измерения. Если ошибки спецификации можно уменьшить, изменяя форму модели, а ошибки выборки -- увеличивая объем исходных данных, то ошибки измерения практически сводят на нет все усилия по количественной оценке связи между признаками.

Особенно велика роль ошибок измерения при исследовании на макроуровне. Так, в исследованиях спроса и потребления в качестве объясняющей переменной широко используется «доход на душу населения». Вместе с тем статистическое измерение величины дохода сопряжено с рядом трудностей и не лишено возможных ошибок, например в результате наличия сокрытых доходов.

Рис.1.1. Основные типы кривых, используемых при количественной оценке связей между переменными: а - прямая, б - парабола, в - гипербола,
г - степенная функция

Предполагая, что ошибки измерения и выборки сведены к минимуму, основное внимание в эконометрических исследованиях уделяется ошибкам спецификации модели, а именно выбору формы связи.

В парной регрессии выбор вида математической функции у_х =f(x) может быть осуществлен тремя методами:

* графическим;

* аналитическим, т. е. исходя из теории изучаемой взаимосвязи;

* экспериментальным.

При изучении зависимости между двумя признаками графический метод подбора вида уравнения регрессии достаточно нагляден (рис.1.1). Он основан на поле корреляции.

Значительный интерес представляет аналитический метод выбора типа уравнения регрессии. Он основан на изучении материальной природы связи исследуемых признаков.

Например, затраты предприятия могут быть подразделены на два вида:

условно-переменные, изменяющиеся пропорционально изменению объема продукции (расход материала, оплата труда и др.) - bx;

условно-постоянные, не изменяющиеся с изменением объема производства (арендная плата, содержание администрации и др.) - а.

Тогда зависимость всех затрат у на производство зерна х характеризуется линейной функцией:

y_x=a+bx

где х - валовой сбор зерна;

у - все производственные затраты.

Если теперь разделить обе части уравнения на величину собранного объема зерна x, то получим выражение зависимости себестоимости единицы продукции z=y/x от объема произведенного зерна х в виде уравнения равносторонней гиперболы: z = b+a/x.

При обработке информации на компьютере выбор вида уравнения регрессии обычно осуществляется экспериментальным методом, т. е. путем сравнения величины остаточной дисперсии ?²_ост рассчитанной при разных моделях.

Если уравнение регрессии проходит через все точки корреляционного поля, что возможно только при функциональной связи, когда все точки лежат на линии регрессии, то фактические значения результативного признака совпадают с теоретическими у_х т. е. они полностью обусловлены влиянием фактора х. В этом случае остаточная дисперсия ?²_ост = 0. В практических исследованиях, как правило, имеет место некоторое рассеяние точек относительно линии регрессии. Оно обусловлено влиянием прочих не учитываемых в уравнении регрессии факторов. Иными словами, имеют место отклонения фактических данных от теоретических (у -- у_х). Величина этих отклонений и лежит в основе расчета остаточной дисперсии:

При обработке статистических данных на компьютере перебираются разные математические функции в автоматическом режиме, и выбирается та, для которой остаточная дисперсия является наименьшей.

Если остаточная дисперсия оказывается примерно одинаковой для нескольких функций, то на практике предпочтение отдается более простым видам функций, ибо они в большей степени поддаются интерпретации и требуют меньшего объема наблюдений.

Результаты многих исследований подтверждают, что число наблюдений должно в 6 -- 7 раз превышать число рассчитываемых параметров при переменной х. Это означает, что искать линейную регрессию, имея менее 7 наблюдений, вообще не имеет смысла. Если вид функции усложняется, то требуется увеличение объема наблюдений, ибо каждый параметр при х должен рассчитываться хотя бы по 7 наблюдениям. Значит, если мы выбираем уравнение параболы у=a+b₁x+b₂x² , то требуется объем информации уже не менее 14 наблюдений.



1.3 Оценка надежности результатов парной регрессии и корреляции. Статистические гипотезы

Статистические критерии -- это компактные формулировки правил проверки достоверности выводов анализа или правильности выдвигаемых гипотез. Они позволяют вместо субъективных оценок использовать объективные количественные характеристики. Дело в том, что совершенно очевидные, на первый взгляд, субъективные по своей природе оценки экономических ситуаций и процессов не всегда совпадают с истинным положением дел.

Забывая о возможности влияния случайных причин, многие исследователи даже самые незначительные изменения показателей относят на счет влияния изучаемых факторов. Исключить субъективные ошибочные выводы позволяет аппарат статистических гипотез.

В процессе определения значимости параметров регрессии и корреляции обычно происходит формулировка двух гипотез: нулевой Н₀ и альтернативнойН₁.

Нулевая гипотеза (Н₀) -- гипотеза, проверяемая с помощью тех или иных критериев. Альтернативная гипотеза (Н₁) -- гипотеза, противопоставляемая нулевой, которая может оказаться верной, если Н₀ будет отвергнута.

Например, можно считать, что темпы общей инфляции у в экономике зависят от темпов инфляции, вызванной ростом заработной платы х. Причем, выражается уравнением. В этих условиях можно сказать, что нулевая гипотеза заключается в том, что величина у не зависит от х, т.е. что истинное значение параметра. Альтернативная гипотеза состоит в том, что 0, иными словами, что значение х влияет на величину у. С использованием обозначений гипотезы примут вид: H₀: =0 и H₁: 0.

Возможно рассмотрение общего случая, когда в нулевой гипотезе утверждается, что равно некоторому конкретному значению, скажем b, и альтернативная гипотеза состоит в том, что не равно этому значению (H₀: =b и H₁: b).

Затем предпринимается попытка отклонить или подтвердить нулевую гипотезу в зависимости от того, что необходимо получить. Исходя из сформулированных выше рассуждений можно прийти к одному из двух выводов:

1. Принять нулевую гипотезу Н₀, что =0 и считать ее верной.

2. В данном случае вероятность истинности нулевой гипотезы мала. Наиболее правдоподобным объяснением будет то, что ??0. Другими словами, вы принимаете альтернативную гипотезу Н₁.

Выбор того, следует отвергнуть или принять нулевую гипотезу, зависит от уровня значимости, при котором она рассматривается. В большинстве работ по экономике за критический уровень значимости берется 5 или 1%. Если выбирается уровень 5%, то переключение на второй вывод происходит в том случае, когда при истинности нулевой гипотезы вероятность получения значения равного нулю составляет менее 5%. В этом случае говорят о том, что нулевая гипотеза должна быть отвергнута при 5-процентном уровне значимости.

Исследователи обычно представляют свои результаты при двух уровнях значимости в 5 и 1%, а не ограничиваются только одним уровнем. Причина заключается в том, что обычно делается попытка найти баланс между риском допущения ошибок I и II рода. Ошибка I рода имеет место в том случае, когда вы отвергаете истинную нулевую гипотезу. Ошибка II рода возникает, когда вы не отвергаете ложную гипотезу.

Ошибка 1-го рода -- ошибочно отвергается нулевая гипотеза. Вероятность ошибки обозначается. Вероятность появления ошибки 1-го рода называютуровнем значимости. Если уровень значимости = 5%, это значит, что существует возможность отвергнуть правильную нулевую гипотезу в одном случае из 20. Если 1% -- то в одном случае из 100. Чаще всего в технических и экономических исследованиях опираются на уровень значимости 5%.

Проблема, как избежать ошибок I и II рода, известна всем. Типичным примером этого является расследование уголовного преступления. Если за нулевую гипотезу принять вариант, что подсудимый невиновен, то ошибка I рода происходит, когда суд присяжных признает его виновным. Ошибка II рода имеет место в том случае, когда суд присяжных ошибочно оправдывает виновного подсудимого.

Ошибка 2-го рода -- ошибочное принятие неверной на самом деле нулевой гипотезы. Вероятность появления такой ошибки обозначают ?. Мощностью критерия называют вероятность отвергнуть ошибочную альтернативную гипотезу. Обозначают 1- ?. Чем больше мощность критерия, тем вероятнее, что он обнаружит ошибочность альтернативной гипотезы.

Вполне очевидно, что чем ниже критическая вероятность, тем меньше риск получения ошибок I рода. Если вы используете уровень значимости, равный 5%, то вы отвергнете истинную гипотезу в 5% случаев. Если уровень значимости составляет 1%, вы совершите ошибку I рода в 1% случаев. Таким образом, в этом отношении однопроцентный уровень значимости более надежен. Если вы отвергли гипотезу на данном уровне, вы почти наверняка были вправе сделать это. Именно по этой причине однопроцентный уровень значимости описывается как «более высокий» в сравнении с 5-процентным уровнем.

В то же время если нулевая гипотеза ложна, то чем выше уровень значимости, тем шире область принятия гипотезы, тем выше вероятность того, что вы не отвергнете ее, и тем выше риск допущения ошибки II рода. Таким образом, вы оказываетесь перед дилеммой. Если вы будете настаивать на очень высоком уровне значимости, то столкнетесь с относительно высоким риском допущения ошибки II рода, когда гипотеза окажется ложной. Если вы выбираете низкий уровень значимости, то оказываетесь перед относительно высоким риском допущения ошибки I рода, если гипотеза истинна.

Большинство людей выбирают достаточно простую форму обеспечения гарантий и осуществляют проверку на обоих уровнях значимости, представляя результаты каждой такой проверки. На самом деле часто нет необходимости непосредственно ссылаться на оба результата. Так как величина должна быть более «экстремальной» для гипотезы, отвергаемой при однопроцентном уровне значимости, но не при 5-процентном, и если вы отклоняете ее при однопроцентном уровне, то из этого автоматически следует, что вы отклоните ее и при уровне значимости в 5%, и нет необходимости упоминать об этом. Если же вы не отвергаете гипотезу при уровне значимости в 5%, то из этого автоматически следует, что вы не отвергнете ее и при однопроцентном уровне значимости, и вновь нет смысла об этом говорить. Только в одном случае вы должны представить оба результата: если гипотеза отвергается на 5-процентном, но не на однопроцентном уровне значимости.

В последнем случае можно либо пойти на риск принятия гипотезы, либо взять гипотезу под сомнение. В такой ситуации следует признать целесообразным провести повторный эксперимент для получения данных, на основании которых можно было бы сделать более определенные выводы. Применение критерия с более низким, чем 1% значением уровня значимости для принятия гипотезы следует избегать.

Применение более высокого, чем 5% значения уровня значимости не дает оснований для отбрасывания гипотезы.

С помощью корреляционно-регрессионного анализа можно получить оценки параметров уравнений зависимостей. Однако они являются лишь оценками. Поэтому возникает вопрос о том, насколько они надежны. В качестве оценки статистической значимости результатов парной регрессии и корреляции могут выступать:

показатель детерминации уравнения регрессии;

значения F-критерия Фишера и t-критерия Стьюдента;

средняя ошибка аппроксимации.

Величина r² коэффициента детерминации служит одним из критериев оценки качества линейной модели. Чем больше доля объясненной вариации, тем соответственно меньше роль прочих факторов, и, следовательно, линейная модель хорошо аппроксимирует исходные данные, ей можно воспользоваться для прогноза значений результативного признака.

Оценка значимости уравнения регрессии в целом дается с помощью F-критерия Фишера. При этом выдвигается нулевая гипотеза H₀, что коэффициент регрессии равен нулю, т. е. b=0, и, следовательно, фактор x не оказывает влияния на результат.

Непосредственному расчету F-критерия предшествует анализ дисперсии. Центральное место в нем занимает разложение общей суммы квадратов отклонений переменной от среднего значения у на две части -- «объясненную» и «необъясненную»:

Очевидно, что если сумма квадратов отклонений, обусловленная регрессией, будет больше остаточной суммы квадратов, то уравнение регрессии статистически значимо и фактор оказывает существенное воздействие на результат. Это равносильно тому, что коэффициент детерминации будет приближаться к единице.

Факторную дисперсию можно рассчитать и без теоретических значений у_х:

Любая сумма квадратов отклонений связана с числом степеней свободы (df), т. е. с числом свободы независимого варьирования признака. Число степеней свободы связано с числом единиц совокупности n и с числом определяемых по ней констант. Применительно к исследуемой проблеме число степеней свободы должно показать, сколько независимых отклонений из n возможных требуется для образования данной суммы квадратов. Так, для общей суммы квадратов ?(y-?у)² требуется (n-1) независимых отклонений, ибо по совокупности из n единиц после расчета среднего уровня свободно варьируют лишь (n-1) число отклонений. При расчете объясненной или факторной суммы квадратов на нее приходится df=m степеней свободы, а именно, величина равная количеству определяемых параметров при переменных х, а оставшиеся степени df=n-1-m приходятся на остаточную сумму квадратов. Например, для уравнения параболы у_х=а+bx+cx² для факторной суммы m=2, остаточное число степеней n-3.

Разделив каждую сумму квадратов на соответствующее ей число степеней свободы, получим средний квадрат отклонений, или, что то же yсамое, - дисперсию на одну степень свободы S². Определение дисперсии на одну степень свободы приводит рассматриваемые дисперсии к сравнимому виду. Сопоставляя факторную и остаточную дисперсии в расчете на одну степень свободы, получим F-критерий:

где F_факт - критерий для проверки нулевой гипотезы H_о.

Если нулевая гипотеза справедлива, то факторная и остаточная дисперсии не отличаются друг от друга. Для опровержения гипотезы необходимо, чтобы факторная дисперсия превышала остаточную в несколько раз. Разработанные таблицы критических значений F_кр (приложение 3) при разных уровнях существенности нулевой гипотезы ? и различном числе степеней свободы (к₁=m и k₂=n-m-1), дают возможности проверки значимости уравнения регрессии.

Если F_факт > F_кр, то Н₀ отклоняется и уравнение значимо при соответствующем уровне значимости ?. Если F_факт < F_кр, то Н₀ не может быть отклонена без серьезного риска сделать неправильный вывод о наличии связи. В этом случае с вероятностью p=1-? уравнение регрессии считается статистически незначимым.

Величина F-критерия связана с показателем детерминации. Можно показать, что значение F-критерия равно:

или

где r2 - линейный коэффициент детерминации;

R2 - индекс детерминации в нелинейной регрессии.

В линейной регрессии обычно оценивается значимость не только уравнения в целом, но и отдельных его параметров.

При оценке адекватности линейной регрессии с одновременным построением доверительного интервала для параметров a и b исходят из того, что эти коэффициенты вычислены стандартным методом МНК. С этой целью по каждому из параметров определяется его стандартная ошибка. Исходя из логики построения линейной модели видно, что стандартная ошибка коэффициента регрессии b прямо пропорциональна дисперсии случайной величины (остаточная дисперсия), обратно пропорциональна числу наблюдений и дисперсии х. С учетом того, что для линейной функции m=1, получим формулу стандартной ошибки для b:

где S²_ост - остаточная дисперсия на одну степень свободы.

Стандартная ошибка параметра а определяется по формуле:

Значимость линейного коэффициента корреляции проверяется на основе величины ошибки коэффициента корреляции m _r :

Величина стандартной ошибки совместно с t-распределением Стьюдента при n-2 степенях свободы применяется для проверки существенности коэффициента регрессии и для расчета его доверительных интервалов. Для оценки существенности параметров и коэффициента корреляции их значения сравниваются со стандартной ошибкой, т. е. определяется фактическое значение t-критерия Стьюдента:

регрессия корреляция интервал уравнение

Фактическое значение критерия сравнивается с табличным (критическим) при определенном уровне значимости и числе степеней свободы n-2. Еслиt_факт > t_кр, то гипотезу о не существенности параметра регрессии и равенстве его нулю можно отклонить. Если t_факт < t_кр , то нулевая гипотеза Н₀ принимается с вероятностью 1-.

Критические значения t-критерия Стьюдента используются для построения доверительных интервалов для параметров регрессии и корреляции. Это позволяет определить с определенной степенью точности, в каких пределах находятся истинные значения этих величин. Так, например, истинное значение коэффициента регрессии ? определяется как:

b - t_крm_b b + t_крm_b

Аналогичные рассуждения можно провести и для параметра а и коэффициента корреляции r. Отметим также, что, так как значение t_кр зависит от выбора уровня значимости ?, границы доверительного интервала также зависят от этого выбора. Если принимается 5-процентный уровень значимости, то соответствующим доверительным интервалом считается 95-процентный интервал.

Поскольку коэффициент регрессии в эконометрических исследованиях имеет четкую экономическую интерпретацию, то доверительные границы интервала для коэффициента регрессии не должны содержать противоречивых результатов, например, -10 <b < 40. Такого рода запись указывает, что истинное значение коэффициента регрессии одновременно содержит положительные и отрицательные величины и даже ноль, чего быть не может.

В парной линейной регрессии между t-критерием Стьюдента и F-критерием Фишера существует взаимосвязь:

F=t²_b=t²_r

Таким образом, проверка гипотез о значимости коэффициентов регрессии и корреляции равносильна проверке гипотезы о существенности линейного уравнения регрессии в целом.

В качестве еще одного критерия оценки адекватности построения модели регрессии выступает средняя ошибка аппроксимации. Величина отклонений фактических и расчетных значений результативного признака (у-у_х) по каждому наблюдению представляет собой ошибку аппроксимации. Отклонения (у-у_х) несравнимы между собой. Чтобы иметь общее суждение о качестве модели из относительных отклонений по каждому наблюдению, определяют среднюю ошибку аппроксимации как среднюю арифметическую простую:

Возможно и иное определение средней ошибки аппроксимации:

В стандартных программах чаще используется первая формула для расчета средней ошибки аппроксимации.

1.4 Экспоненциальное сглаживание в экономическом прогнозировании

Одним из методов прогнозирования экономических показателей, в том числе и временных рядов, является экспоненциальное сглаживание. Данный способ прогноза относится к числу адаптивных методов, важнейшим достоинством которых является построение самокорректирующихся моделей, способных учитывать результаты прогноза сделанного на предыдущем шаге.

Например, модель находится в некотором состоянии, для которого определены значения коэффициентов. На основе этой модели сделан прогноз. При поступлении фактического значения находится ошибка прогноза (разница между этим значением и полученным по модели). С учетом ошибки прогнозирования корректируется модель. Рассчитывается прогнозная оценка на следующий момент времени. Процесс повторяется. Оценивание коэффициентов адаптивной модели обычно осуществляется на основе рекуррентного подхода, который формально отличается от метода наименьших квадратов, что не требует повторения всего объема вычислений при появлении новых данных.

Экспоненциальное сглаживание - это выравнивание сильно колеблющихся динамических рядов в целях последующего прогнозирования. Данный метод позволяет давать обоснованные прогнозы на основании рядов динамики, имеющих умеренную связь во времени и обеспечивает больший учет показателей, достигнутых в последние годы. Сущность метода заключается в сглаживании временного ряда с помощью взвешенной скользящей средней, в которой веса подчинены экспоненциальному закону. Для экспоненциального сглаживания используется рекуррентная формула:

S_t= y_t+S_t-1

где S_t - значение экспоненциальной средней в момент t;

параметр сглаживания, 0<<1;

параметр дисконтирования, равный 1-.

При проведении исследований целесообразно применять рекуррентные формулы для полиномов первой или второй степени. Использование полиномов третьей и более высоких степеней нежелательно, т. к. различия между выровненными значениями существенно уменьшаются с ростом порядка полинома, а сами вычисления становятся слишком трудоемкими и сложными.

В случае использования полинома первой степени для выявления тенденции и сглаживания динамических рядов применяется линейная функция. При этом тренд выражается двумя членами ряда Тейлора и некоторым малым числом (_t), зависящим от времени:

y_t=a+bt+_t

Основные показатели экспоненциального сглаживания определяются по следующим формулам:

а) Характеристики сглаживания:

S_t⁽¹⁾ = y_t+S_t-1⁽¹⁾

S_t⁽²⁾ = S_t⁽¹⁾ +S_t-1⁽²⁾

б) Оценки коэффициентов:

a = 2S_t⁽¹⁾ - S_t⁽²⁾

в) Начальные условия:

Если для экспоненциального сглаживания применяется полином второй степени, тренд выражается тремя членами ряда Тейлора:

y_t =a+b₁*t+b₂*t+?_t

Вычисление параметров сглаживания осуществляется по формулам:

а) Характеристики сглаживания (экспоненциальные средние):

S_t⁽¹⁾ = y_t+S_t-1⁽¹⁾

S_t⁽²⁾ = S_t⁽¹⁾ +S_t-1⁽²⁾

S_t⁽³⁾ = S_t⁽²⁾ +S_t-1⁽³⁾

б) Оценки коэффициентов:

a = 3(S_t⁽¹⁾ -S_t⁽²⁾)+ S_t⁽³⁾

в) Начальные условия:



При выборе начальных условий Браун рекомендует рассчитывать коэффициенты a, b₁ и b₂ путем выравнивания исходного временного ряда способом наименьших квадратов. Процесс экспоненциального сглаживания основывается на цепочечных расчетах.

Процедура прогнозирования временных рядов по методу экспоненциального сглаживания состоит из следующих этапов:

1. Выбирается вид модели экспоненциального сглаживания, задается значение параметра сглаживания ? .

2. Определяются начальные условия. Для полиномиальной модели первого порядка определяют а и b. Чаще всего в качестве этих оценок берут коэффициенты соответствующих полиномов, полученные методом наименьших квадратов. Начальные условия для модели нулевого порядка обычно получают усреднением нескольких первых уравнений ряда. Зная эти оценки, с помощью приведенных выше формул находят начальные значения экспоненциальных средних.

3. Производится расчет значений соответствующих экспоненциальных средних.

4. Находятся оценки коэффициентов модели.

5. Осуществляется прогноз на одну или несколько точек вперед, находится отклонение фактического значения временного ряда от прогнозируемого. Шаги данной процедуры повторяются для всех t ? n, где n - длина ряда.

6. Окончательная прогнозная модель формируется на последнем шаге в момент t=n. Прогноз получается на основе выражения путем подстановки в него последних значений коэффициентов и времени упреждения r. Предельная ошибка прогноза рассчитывается по формуле:

где у, у_t - исходные и выровненные значения показателя динамического ряда

N - длина этого ряда.

Одним из наиболее сложных аспектов практического использования метода экспоненциального сглаживания является выбор величины параметра сглаживания. С одной стороны, увеличение веса более «свежих» наблюдений, повышение скорости реакции модели на резкое изменение процесса могут быть достигнуты при больших значениях ?; с другой стороны, стремление лучше сгладить случайные отклонения и обеспечить устойчивость модели к кратковременным разовым изменениям процесса диктует необходимость его уменьшения. В качестве оптимального выбирается то значение параметра сглаживания, при котором получена наименьшая дисперсия ошибки прогнозирования.

Корреляционный анализ.

Вариант 19

x	139	117	151	181	70	99	22	81	120	115	161	171	209	168	140
y	790	57	86	101	52	65	57	62	73	73	69	106	186	84	80

x	10	140	69	-16	87	162	161	120	70	120	90	10	30	90	150
y	49	80	51	45	54	82	69	58	51	74	63	48	56	55	81

Уравнение парной регрессии.

Использование графического метода.

Этот метод применяют для наглядного изображения формы связи между изучаемыми экономическими показателями. Для этого в прямоугольной системе координат строят график, по оси ординат откладывают индивидуальные значения результативного признака Y, а по оси абсцисс - индивидуальные значения факторного признака X.

Совокупность точек результативного и факторного признаков называется полем корреляции.

На основании поля корреляции можно выдвинуть гипотезу (для генеральной совокупности) о том, что связь между всеми возможными значениями X и Y носит линейный характер.

Линейное уравнение регрессии имеет вид

y = bx + a + е

Здесь е - случайная ошибка (отклонение, возмущение).

Причины существования случайной ошибки:

1. Невключение в регрессионную модель значимых объясняющих переменных;

2. Агрегирование переменных. Например, функция суммарного потребления - это попытка общего выражения совокупности решений отдельных индивидов о расходах. Это лишь аппроксимация отдельных соотношений, которые имеют разные параметры.

3. Неправильное описание структуры модели;

4. Неправильная функциональная спецификация;

5. Ошибки измерения.

Так как отклонения е_i для каждого конкретного наблюдения i - случайны и их значения в выборке неизвестны, то:

1) по наблюдениям x_i и y_i можно получить только оценки параметров б и в

2) Оценками параметров б и в регрессионной модели являются соответственно величины а и b, которые носят случайный характер, т.к. соответствуют случайной выборке;

Тогда оценочное уравнение регрессии (построенное по выборочным данным) будет иметь вид y = bx + a + е, где e_i - наблюдаемые значения (оценки) ошибок е_i, а и b соответственно оценки параметров б и в регрессионной модели, которые следует найти.

Для оценки параметров б и в - используют МНК (метод наименьших квадратов). Метод наименьших квадратов дает наилучшие (состоятельные, эффективные и несмещенные) оценки параметров уравнения регрессии.

Но только в том случае, если выполняются определенные предпосылки относительно случайного члена (е) и независимой переменной (x).

Формально критерий МНК можно записать так:

S = ?(y_i - y^*_i)² > min

Система нормальных уравнений.

a*n + b?x = ?y

a?x + b?x² = ?y*x

Для наших данных система уравнений имеет вид

30a + 3237 b = 2857

3237 a + 442461 b = 362593

Из первого уравнения выражаем а и подставим во второе уравнение:

Получаем эмпирические коэффициенты регрессии: b = 0.6398, a = 24.5607

Уравнение регрессии (эмпирическое уравнение регрессии):

y = 0.6398 x + 24.5607

Эмпирические коэффициенты регрессии a и b являются лишь оценками теоретических коэффициентов в_i, а само уравнение отражает лишь общую тенденцию в поведении рассматриваемых переменных.

Для расчета параметров регрессии построим расчетную таблицу (табл. 1)

x	Y	x2	y2	x * y
139	790	19321	624100	109810
117	57	13689	3249	6669
151	86	22801	7396	12986
181	101	32761	10201	18281
70	52	4900	2704	3640
99	65	9801	4225	6435
22	57	484	3249	1254
81	62	6561	3844	5022
120	73	14400	5329	8760
115	73	13225	5329	8395
161	69	25921	4761	11109
171	106	29241	11236	18126
209	186	43681	34596	38874
168	84	28224	7056	14112
140	80	19600	6400	11200
10	49	100	2401	490
140	80	19600	6400	11200
69	51	4761	2601	3519
-16	45	256	2025	-720
87	54	7569	2916	4698
162	82	26244	6724	13284
161	69	25921	4761	11109
120	58	14400	3364	6960
70	51	4900	2601	3570
120	74	14400	5476	8880
90	63	8100	3969	5670
10	48	100	2304	480
30	56	900	3136	1680
90	55	8100	3025	4950
150	81	22500	6561	12150
3237	2857	442461	791939	362593

(табл. 1)

2. Параметры уравнения регрессии.

Выборочные средние.

Выборочные дисперсии:

Среднеквадратическое отклонение



2. Параметры уравнения регрессии

Выборочные средние.

Выборочные дисперсии:

Среднеквадратическое отклонение

2.1 Коэффициент корреляции

Ковариация.

Рассчитываем показатель тесноты связи. Таким показателем является выборочный линейный коэффициент корреляции, который рассчитывается по формуле:

Линейный коэффициент корреляции принимает значения от -1 до +1.

Связи между признаками могут быть слабыми и сильными (тесными). Их критерии оцениваются по шкале Чеддока:

0.1 < r_xy < 0.3: слабая;

0.3 < r_xy < 0.5: умеренная;

0.5 < r_xy < 0.7: заметная;

0.7 < r_xy < 0.9: высокая;

0.9 < r_xy < 1: весьма высокая;

В нашем примере связь между признаком Y фактором X слабая и прямая.

Кроме того, коэффициент линейной парной корреляции может быть определен через коэффициент регрессии b:

2.2 Уравнение регрессии (оценка уравнения регрессии)

Линейное уравнение регрессии имеет вид y = 0.64 x + 24.56

Коэффициентам уравнения линейной регрессии можно придать экономический смысл.

Коэффициент регрессии b = 0.64 показывает среднее изменение результативного показателя (в единицах измерения у) с повышением или понижением величины фактора х на единицу его измерения. В данном примере с увеличением на 1 единицу y повышается в среднем на 0.64.

Коэффициент a = 24.56 формально показывает прогнозируемый уровень у, но только в том случае, если х=0 находится близко с выборочными значениями.

Но если х=0 находится далеко от выборочных значений х, то буквальная интерпретация может привести к неверным результатам, и даже если линия регрессии довольно точно описывает значения наблюдаемой выборки, нет гарантий, что также будет при экстраполяции влево или вправо.

Подставив в уравнение регрессии соответствующие значения х, можно определить выровненные (предсказанные) значения результативного показателя y(x) для каждого наблюдения.

Связь между у и х определяет знак коэффициента регрессии b (если > 0 - прямая связь, иначе - обратная). В нашем примере связь прямая.

2.3 Коэффициент эластичности

Коэффициенты регрессии (в примере b) нежелательно использовать для непосредственной оценки влияния факторов на результативный признак в том случае, если существует различие единиц измерения результативного показателя у и факторного признака х.

Для этих целей вычисляются коэффициенты эластичности и бета - коэффициенты.

Средний коэффициент эластичности E показывает, на сколько процентов в среднем по совокупности изменится результат у от своей средней величины при изменении фактора x на 1% от своего среднего значения.

Коэффициент эластичности находится по формуле:

Коэффициент эластичности меньше 1. Следовательно, при изменении Х на 1%, Y изменится менее чем на 1%. Другими словами - влияние Х на Y не существенно.

2.4 Бета - коэффициент

Бета - коэффициент показывает, на какую часть величины своего среднего квадратичного отклонения изменится в среднем значение результативного признака при изменении факторного признака на величину его среднеквадратического отклонения при фиксированном на постоянном уровне значении остальных независимых переменных:

Т.е. увеличение x на величину среднеквадратического отклонения S_x приведет к увеличению среднего значения Y на 0.3 среднеквадратичного отклонения S_y.

2.5 Ошибка аппроксимации

Оценим качество уравнения регрессии с помощью ошибки абсолютной аппроксимации. Средняя ошибка аппроксимации - среднее отклонение расчетных значений от фактических:

Ошибка аппроксимации в пределах 5%-7% свидетельствует о хорошем подборе уравнения регрессии к исходным данным.

Поскольку ошибка больше 7%, то данное уравнение не желательно использовать в качестве регрессии.

Теоретическое корреляционное отношение для линейной связи равно коэффициенту корреляции r_xy.

2.6 Коэффициент детерминации

Квадрат (множественного) коэффициента корреляции называется коэффициентом детерминации, который показывает долю вариации результативного признака, объясненную вариацией факторного признака.

Чаще всего, давая интерпретацию коэффициента детерминации, его выражают в процентах.

R²= 0.3² = 0.0877

т.е. в 8.77 % случаев изменения х приводят к изменению y. Другими словами - точность подбора уравнения регрессии - низкая. Остальные 91.23 % изменения Y объясняются факторами, не учтенными в модели.

Для оценки качества параметров регрессии построим расчетную таблицу (табл. 2)

x	y	y(x)	(yi-ycp)2	(y-y(x))2	(xi-xcp)2	|y - yx|:y
139	790	113.49	491006.77	457660.38	1432.15	0.86
117	57	99.42	1042.08	1799.3	251.02	0.74
151	86	121.17	10.77	1237.05	2484.4	0.41
181	101	140.37	137.33	1549.68	6375.02	0.39
70	52	69.35	1389.89	300.93	970.71	0.33
99	65	87.9	589.58	524.49	4.65	0.35
22	57	38.64	1042.08	337.22	6265.71	0.32
81	62	76.39	744.27	206.93	406.27	0.23
120	73	101.34	265.08	803.02	355.09	0.39
115	73	98.14	265.08	631.95	191.65	0.34
161	69	127.57	411.33	3430.42	3581.27	0.85
171	106	133.97	279.52	782.2	4878.15	0.26
209	186	158.28	9354.52	768.37	11630.27	0.15
168	84	132.05	27.89	2308.65	4468.09	0.57
140	80	114.13	86.14	1165.12	1508.84	0.43
10	49	30.96	1622.58	325.49	8309.46	0.37
140	80	114.13	86.14	1165.12	1508.84	0.43
69	51	68.71	1465.45	313.55	1034.02	0.35
-16	45	14.32	1960.83	941.03	13725.59	0.68
87	54	80.22	1244.77	687.7	200.4	0.49
162	82	128.21	53.02	2135.32	3701.96	0.56
161	69	127.57	411.33	3430.42	3581.27	0.85
120	58	101.34	978.52	1878.15	355.09	0.75
70	51	69.35	1465.45	336.62	970.71	0.36
120	74	101.34	233.52	747.35	355.09	0.37
90	63	82.14	690.7	366.47	124.46	0.3
10	48	30.96	1704.14	290.4	8309.46	0.36
30	56	43.75	1107.64	149.94	5063.21	0.22
90	55	82.14	1175.2	736.76	124.46	0.49
150	81	120.53	68.58	1562.77	2385.71	0.49
3237	2857	2807.88	520920.19	488572.8	94553.04	13.69



3. Оценка параметров уравнения регрессии

3.1 Значимость коэффициента корреляции

Для того чтобы при уровне значимости б проверить нулевую гипотезу о равенстве нулю генерального коэффициента корреляции нормальной двумерной случайной величины при конкурирующей гипотезе H₁ ? 0, надо вычислить наблюдаемое значение критерия

и по таблице критических точек распределения Стьюдента, по заданному уровню значимости б и числу степеней свободы k = n - 2 найти критическую точку t_крит двусторонней критической области. Если t_набл < t_крит оснований отвергнуть нулевую гипотезу. Если |t_набл| > t_крит -- нулевую гипотезу отвергают.

По таблице Стьюдента с уровнем значимости б=0.05 и степенями свободы k=30 находим t_крит:

t_крит (n-m-1;б/2) = (30;0.025) = 2.042

где m = 1 - количество объясняющих переменных.

Если t_набл > t_критич, то полученное значение коэффициента корреляции признается значимым (нулевая гипотеза, утверждающая равенство нулю коэффициента корреляции, отвергается).

Поскольку t_набл < t_крит, то принимаем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - не значим

В парной линейной регрессии t²_r = t²_b и тогда ...