Цель: научиться осуществлять проверку статистической значимости коэффициентов уравнения регрессии, проверку общего качества уравнения регрессии, проверку точности модели.

Основные сведения

Пусть - случайная величина, с помощью которой судят о значениях некоторого параметра .

Функцию результатов наблюдения над называют статистикой случайной величины .

Значение функции , найденное по выборке и зависящее от объема выборки , называется точечной оценкой параметра .

Интервальной называют оценку, которая определяется двумя числами - концами интервала, в пределах которого оценка заключена. Обычно в качестве подобного интервала рассматривают интервал или

где - точечная оценка, - некоторое малое положительное число.

Методы статистики не позволяют категорически утверждать, что оценка удовлетворяет указанному неравенству, а позволяет говорить только о вероятности , с которой это неравенство может осуществиться.

Надежностью (доверительной вероятностью) называется вероятность , c которой осуществляется указанное выше неравенство. Интервал называется доверительным.

Надежность обычно задается наперед и принимает значение, близкое к , например, . Часто выражают как , величина называется уровнем значимости и представляет собой вероятность, противоположную к .

Статистическая значимость результата представляет собой оцененную меру уверенности в том, что выборка репрезентативна.

Репрезентативность - это способность выборки представлять изучаемую совокупность. Чем точнее состав выборки представляет совокупность по изучаемым вопросам, тем выше ее репрезентативность.

Для характеристики статистической значимости вводится понятие уровня статистической значимости . Он представляет собой вероятность ошибки, связанной с распространением наблюдаемого результата на всю генеральную совокупность.

Обычно уровень является приемлемой границей статистической значимости. Результаты, значимые на уровне , обычно рассматриваются как статистически значимые, а результаты с уровнем или - как высоко значимые.

Статистической гипотезой называется любое предположение о виде или параметре неизвестного закона распределения.

Проверяемую гипотезу обычно называют нулевой и обозначают . Наряду с нулевой гипотезой рассматривают альтернативную, или конкурирующую, гипотезу , являющуюся логическим отрицанием . Нулевая и альтернативная гипотезы представляют собой две возможности выбора, осуществляемого в задачах проверки статистических гипотез.

Суть проверки (тестирования) статистической гипотезы заключается в том, что используется специально составленная выборочная характеристика (статистика) точное или приближенное распределение которой известно. Затем по этому выборочному распределению определяется критическое значение - такое, что если гипотеза верна, то вероятность событие можно (с некоторым риском) считать практически невозможным.

Если в данном конкретном случае проверки выполняется , то гипотеза не принимается, иначе не отвергается.

Для критических значений указанных статистик составлены таблицы. Значения статистик связаны с уровнем значимости (надежностью ) и числом степеней свободы.

I. Проверка статистической значимости коэффициентов линейной парной регрессии. Интервальная оценка для дисперсии возмущений

Воздействие неучтенных факторов и ошибок определяется с помощью дисперсии возмущений . Известно, что несмещенной оценкой этой дисперсии является (выборочная) остаточная дисперсия

Проверим статистическую значимость коэффициентов и . Проверка значимости первого коэффициента означает проверку наличия линейной связи между и .

Сформулируем две гипотезы:

Можно показать, что гипотеза не принимается, если

где - стандартная ошибка коэффициента .

Определение 1 Стандартная ошибка - это стандартное отклонение оценок, которые будут получены при многократной случайной выборке данного объема из одной и той же генеральной совокупности.

Стандартная ошибка является убывающей функцией от объема выборки: чем меньше стандартная ошибка, тем более достоверной является оценка. Является показателем надежности расчетного параметра.

Можно показать, что вычисляется по формуле

где - остаточная дисперсия.

Значение соответствует табличному значению распределения Стьюдента на уровне значимости с степенями свободы.

Если расчетное значение будет меньше табличного , то нулевая гипотеза принимается (), что означает отсутствие связи между и .

Если расчетное значение будет больше табличного , то нулевая гипотеза отклоняется () и коэффициент признается статистически значимым на выбранном -уровне. В этом случае для этого коэффициента можно построить доверительный интервал

где - математическое ожидание параметра .

По аналогии для cформулируем две гипотезы:

Можно показать, что гипотеза не принимается, если

где - стандартная ошибка коэффициента , вычисляемая по формуле

Доверительным интервалом будет

где - математическое ожидание параметра .

Интервальная оценка для дисперсии возмущений имеет вид

где и - табличные значения критерия Пирсона с степенями свободы.

II. Проверка общего качества регрессионной модели

Пусть - число оцениваемых параметров уравнения регрессии, - число наблюдений. Уравнение регрессии значимо на уровне , если выполняется условие

где - табличное значение критерия Фишера при уровне значимости при и степенях свободы.

Величина , называемая также -критерием, показывает, в какой мере регрессия лучше оценивает значение зависимой переменной по сравнению с ее средней.

В случае линейной парной регрессии и критерий примет вид

III. Проверка значимости коэффициентов корреляции и детерминации

Коэффициент корреляции значим на уровне , если

где - статистика, имеющая распределение Стьюдента с степенями свободы при уровне значимости . Здесь - статистическая ошибка для .

Для коэффициента корреляции может быть построен доверительный интервал:

где - математическое ожидание для .

Чем шире интервал, тем больше неопределенность в оценке связи между и .

Критерий значимости коэффициента детерминации можно записать в следующем виде:

где - табличное значение критерия Фишера при уровне значимости при и степенях свободы.

IV. Оценка точности модели

Наблюдаемые значения зависимой переменной отличаются от рассчитанных по уравнению регрессии на величину отклонения . Чтобы отклонения можно было сравнить между собой, рассматривают относительные величины отклонений , выраженные в процентах, т.е.

Для модели вцелом рассчитывают среднюю относительную ошибку

Если средняя относительная ошибка составляет менее , это свидетельствует о хорошей точности модели. Считается, что при средней ошибке более , выбранный тип линии регрессии является, скорее всего, неподходящим.

Задание для выполнения

Используя данные к лабораторной работе №1, найти уравнение линейной регрессии и проверить качество модели для уровней значимости и .

Порядок выполнения работы

Для решения поставленной задачи необходимо:

1. Проверить статистическую значимость коэффициента .

а. Вычислить выборочную остаточную дисперсию

б. Вычислить стандартную ошибку для этого коэффициента

в. Рассчитать фактическое значение статистики

г. Сравнить расчетное значение с табличным и сделать вывод о значимости. Если расчетное значение будет меньше табличного , то коэффициент незначим, иначе значим.

д. Если коэффициет значим, то построить доверительный интервал

2. Проверить статистическую значимость коэффициента .

а. Вычислить стандартную ошибку для этого коэффициента

б. Рассчитать фактическое значение статистики

в. Сравнить расчетное значение с табличным и сделать вывод о значимости. Если расчетное значение будет меньше табличного , то коэффициент незначим, иначе значим.

г. Если коэффициет значим, то построить доверительный интервал

3. Дать интервальную оценку для дисперсии возмущений .

а. Найти табличные значение критерия Пирсона.

б. Построить интервал

.

в. Указать границы среднеквадратического отклонения

и указать его смысл.

4. Проверить общее качество регрессионной модели.

а. Найти значение -критерия

б. Сравнить расчетное и табличное значение -критерия и сделать вывод о значимости уравнения регрессии. Если , то уравнение значимо на выбранном уровне.

5. Проверить значимость коэффициента корреляции.

а. Рассчитать статистическую ошибку .

б. Сделать вывод о стватистической значимости коэффициента корреляции. Если то он значим, иначе незначим.

в. Если коэффициент значим, построить доверительный интервал

6. Проверить значимость коэффициента детерминации.

а. Найти значение

б. Сделать вывод о стватистической значимости коэффициента детерминации. Если , то он значим, иначе незначим.

7. Сделать оценку точности модели.

а. Рассчитать среднюю относительную ошибку

б. Сделать вывод о точности построенной модели.

Пример выполнения лабораторной работы

Шаг 1. Откройте книгу Лабораторная работа 1-3.xlsx. Переименуйте лист "Лист 2" в "Качество ЛинПарРег (0,05)". Скопируйте ячейки A1:C13 с листа "ЛинПарРег" в диапазон A1:C13 на листе "Качество ЛинПарРег (0,05)".

Шаг 2. Перейдите на лист "Качество ЛинПарРег (0,05)". В диапазоне A15:B21 создайте структуру таблицы для вспомогательных данных:

Шаг 3. Заполните ячейки вспомогательными данными:

Проверка статистической значимости коэффициентов линейной парной регрессии. Интервальная оценка для дисперсии возмущений

Шаг 4. В ячейки D1:F1 и C14 введите наименования для дополнительных вычислений:

Произведите дополнительные вычисления

Для диапазонов D2:F14 и B18:B21 установите формат ячеек Числовой с отображением трех знаков после запятой.

Шаг 5. В диапазоне A23:D30 создайте структуру таблицы для определения значимости коэффициента :

Произведите вычисления. Для расчета табличного значения t-статистики воспользуйтесь функцией СТЬЮДРАСПОБР (для ранних версий MS Excel) либо СТЬЮДЕНТ.ОБР.2Х (для поздних). Ее синтаксис

=СТЬЮДЕНТ.ОБР.2Х(ур_знач;степ_своб),

где ур_знач - уровень значимости (в нашем случае 0,05); степ_своб - число степеней свободы, определяемое как , где - число наблюдений.

Шаг 6. Проверьте правильность вычислений:

Выводы:

1. Коэффициент является статистически значимым на выбранном уровне . Это означает, что с надежностью, т.е. , значение коэффициента отражает реальную связь между количеством реализованных копий и затратами на разработку проекта. Оставшиеся представляют вероятность того, что найденная зависимость является лишь случайной особенностью данной выборки.

2. Доверительным интервалом для будет . Это означает, что при увеличении затрат разработку проекта на 1 тыс. долл. с вероятностью увеличение количества проданных копийв среднем составит от до тыс. шт. в год.

Шаг 7. Аналогично проверьте значимость коэффициента . Введите в ячейку G1 наименование столбца с дополнительными вычислениями: .

Произведите дополнительные вычисления:

Шаг 8. В диапазоне A32:D38 создайте структуру таблицы для определения значимости коэффициента :

Произведите вычисления:

Шаг 9. Проверьте правильность вычислений:

Вывод: коэффициент незначим, т.е. нельзя утверждать с надежностью , что при отсутствии затрат на проект среднее количество проданных копий составит тыс. шт. в год.

Шаг 10. В диапазоне A40:D46 создайте структуру таблицы для оценки дисперсии возмущений:

Для получения табличных значений -критерия Пирсона воспользуемся функциями ХИ2ОБР (для ранних версий MS Excel) или ХИ2.ОБР.ПХ (для поздних). Синтаксис:

эконометрический статистический excel

=ХИ2ОБР(вероятность;степени_свободы),

=ХИ2.ОБР.ПХ(вероятность;степени_свободы),

где вероятность - вероятность, связанная с распределением , степени_свободы - количество степеней свободы .

Произведите вычисления:

Для диапазона D41:F46 установите формат ячеек Числовой с отображением трех знаков после запятой.

Шаг 11. Проверьте правильность вычислений:

Вывод: Интервал изменений среднеквадратического отклонения составляет . Это означает, что с -й вероятностью отклонение значений количества проданных копий от среднего значения количества проданных копий будет изменяться от до .

Проверка общего качества регрессионной модели

Шаг 12. В ячейку H1 введите наименование столбца для расчета RSS: . В ячейкуH2 введите формулу

=(D2-СРЗНАЧ($C$2:$C$13))^2

и скопируйте ее в диапазон H3:H13.

В диапазоне F23:H27 создайте структуру таблицы для применения -критерия:

Для получения табличных значений F-критерия воспользуемся функциями FРАСПОБР (для ранних версий MS Excel) или F.ОБР.ПХ (для поздних версий). Их синтаксис:

=FРАСПОБР(ур_знач;k1;k2),

=F.ОБР.ПХ(ур_знач;k1;k2),

где ур_знач - уровень значимости , k1 - степень свободы ; k1 - степень свободы .

Произведите вычисления:

Для диапазонов H2:H14 и H24:H27 установите формат ячеек Числовой с отображением трех знаков после запятой.

Проверьте правильность вычислений:

Вывод: уравнение регрессии значимо.

Проверка значимости коэффициентов корреляции и детерминации

Шаг 13. В диапазоне F32:H38 создайте структуру таблицы оценки значимости коэффициента корреляции:

Произведите вычисления:

Для диапазона H33:H39 установите формат ячеек Числовой с отображением трех знаков после запятой.

Проверьте правильность вычислений:

Вывод: коэффициент корреляции является значимым.

Шаг 14. В диапазоне F41:H44 создайте структуру таблицы оценки значимости коэффициента детерминации:

Произведите вычисления:

Для диапазона H42:H44 установите формат ячеек Числовой с отображением трех знаков после запятой.

Проверьте правильность вычислений:

Вывод: коэффициент детерминации является значимым.

Оценка точности модели

Шаг 15. В диапазоне I1:J14 создайте структуру таблицы вспомогательных вычислений для оценки точности. Ее заголовочная часть:

Произведите вычисления:

Для диапазона I2:I13 установите формат ячеек Числовой с отображением трех знаков после запятой.

Для диапазона J2:J13 установите формат ячеек Процентный с отображением трех знаков после запятой.

Шаг 16. В диапазоне F16:G16 вычислите среднюю относительную ошибку: в ячейку G16 введите формулу

=СУММ(J2:J13)/B17.

Проверьте правильность вычислений

Вывод: Средняя относительная ошибка составляет , что свидетельствует о хорошей точности модели.

Шаг 17. Для расчетов значимости на уровне переименуйте лист "Лист 3" в "Качество ЛинПарРег (0,01)" и измените значение в ячейке B16 с на . Проверьте результаты:

Выводы (для ):

1. Коэффициент является статистически значимым на выбранном уровне . Это означает, что с надежностью, т.е. , значение коэффициента отражает реальную связь между количеством проданных копий и затратами на проект. Оставшийся представляет вероятность того, что найденная зависимость является лишь случайной особенностью данной выборки.

2. Доверительным интервалом для будет . Это означает, что при увеличении затрат на проект на 1 тыс. долл. с вероятностью увеличение количества проданных копий в среднем составит от до тыс. шт. в год.

3. Вывод: коэффициент незначим, т.е. нельзя утверждать с надежностью , что при отсутствии затрат на проект среднее количество проданных копий составит тыс. шт. в год.

4. Интервал изменений среднеквадратического отклонения составляет . Это означает, что с -й вероятностью отклонение значений количества проданных копий от среднего значения количества проданных копий будет изменяться от до .

5. Уравнение регрессии значимо.

6. Коэффициент корреляции является значимым.

7. Коэффициент детерминации является значимым.

Индивидуальные задания к лабораторной работе №2

Для своего варианта, используя данные к лабораторной работе №1, выполните оценку качества модели линейной парной регрессии на уровнях значимости и .

Отчет по выполнению лабораторной работы №2

Отчет по выполнению лабораторной работы №1 должен включать следующие элементы и ответы на вопросы:

1. Итоговую таблицу с вычислениями в виде скриншота листа MS Excel (в случае мелкого изображения разделите на несколько скриншотов). Привести для каждого уровня значимости.

2. Запишите уравнение линейной парной регрессии для своего варианта.

3. Как оценивается значимость параметров уравнения регрессии?

4. Являются ли коэффициенты уравнения регрессии для вашего варианта значимыми и почему? Ответить для каждого уровня значимости.

5. Запишите доверительные интервалы для коэффициентов уравнения регрессии и среднеквадратического отклонения для вашего варианта и, если возможно, укажите экономический смысл. Ответить для каждого уровня значимости.

6. Значимо ли уравнение регрессии для вашего варианта и почему? Ответить для каждого уровня значимости.

7. Каким образом осуществляется проверка качества уравнения регрессии?

8. Каким образом осуществляется проверка значимости коэффициента корреляции и детерминации? Значимы ли эти коэффициенты для вашего варианта. Ответить для каждого уровня значимости.

9. В чем смысл средней относительной ошибки и каково ее значение для вашего варианта?

Лабораторная работа №3. Использование линейной парной регрессии для прогнозирования