Размещено на http://www.allbest.ru/

Регрессионные модели и линеаризация



1. Нелинейные зависимости, поддающиеся непосредственной линеаризации

Многие важные связи в экономике являются нелинейными, например, ПФ (зависимости между объемом производства, трудом и капиталом и т.д.), функция спроса (зависимости между спросом на какой - либо товар или услуги, доходом населения и ценами на этот товар). Если в результате анализа пришли к выводу, что в регрессионной модели функция нелинейная, то обычно поступают так:

§ подбирают такие преобразования анализируемых переменных , которые позволили бы представить искомую зависимость в виде линейного соотношения между новыми переменными:

, , … , ? преобразования,

, где

?это процедура линеаризации модели.

§ при невозможности линеаризации модели исследуют регрессионную зависимость (нелинейную). Это значительно сложнее.

Различают два класса нелинейных регрессий:

Ш регрессии, нелинейные относительно включенных в анализ объясняющих переменных (факторов), но линейные по оцениваемым параметрам;

Ш регрессии, нелинейные по оцениваемым параметрам.

К первому классу относятся следующие функции:

· полиномы разных степеней -



,

, и т.д.

· гипербола -

.

Ко второму классу относятся функции:

· степенная -

;

· показательная -

;

· экспоненциальная -

.

Нелинейная регрессия по включенным переменным представляет сложности в оценке параметров. Она определяется методом наименьших квадратов, ибо эти функции линейны по параметрам.

Полином любого порядка сводится к линейной регрессии с ее методами оценивания параметров и проверки гипотез. На практике чаще используется парабола, то есть полином второй степени. В этом случае определяется х, при котором достигается максимальное (или минимальное) значение результативного признака. Для этого применяют необходимое условие экстремума функции , то есть находят производную и приравнивают ее к нулю , откуда . Эту зависимость целесообразно применять, если в определенном интервале значений фактора меняется характер связи рассматриваемых признаков: прямая связь меняется на обратную или наоборот.

Применение МНК для оценки параметров параболы второй степени приводит к следующей системе нормальных уравнений:

Решение ее возможно по правилу Крамера или Гаусса.

Такого рода функцию можно наблюдать в экономике труда при изучении зависимости заработной платы от возраста. С определенного возраста заработная плата может убывать ввиду старения организма, снижения производительности труда.

Такой же характер носит кривая Лаффера (зависимость поступления в бюджет от налоговой ставки).

Такая зависимость может быть использована для характеристики зависимости урожайности от количества внесенных удобрений. С увеличением количества удобрений урожайность растет лишь до достижения оптимальной дозы вносимых удобрений. Дальнейший рост удобрений оказывается вредным для растения и урожайность снижается.

Чаще исследователь имеет дело лишь с отдельными сегментами параболы. линеаризация кривая гиперболический регрессионный

Следует отметить также, что параметры параболы не всегда могут быть логически истолкованы.

Рассмотрим пример гиперболической зависимости . Она может быть использована для характеристики связи между удельными расходами сырья, материалов, топлива и объемов выпускаемой продукции, временем обращения товаров и товарооборотом (на микроуровне), а также макроуровне. Например, зависимость себестоимости (результирующий признак у) от объемов выпускаемой продукции (фактор х).

Заменив , получим линейное уравнение регрессии оценки параметров которого могут быть найдены МНК. Система нормальных уравнений будет иметь следующий вид:

или после замены

Вместе с тем равносторонняя гипербола не является единственно возможной функцией для описания кривой Энгеля. Уоркинг и С.Лизер для этих целей использовали полулогарифмическую зависимость



.

Заменив , опять получим линейное уравнение . Оценка параметров а и b может быть найдена МНК. Система нормальных уравнений имеет вид:

Возможны и иные нелинейные модели. Однако если нет каких-либо теоретических обоснований в использовании какого-либо вида кривых, то нужно использовать такие, чтобы для преобразованных переменных получить более простую модель регрессии.

До сих пор преобразования затрагивали только факторы. Рассмотрим случай, когда преобразовывается не только фактор, но и результирующий признак.

Если имеется зависимость вида , то есть то она приводится к линейной регрессии преобразованием , получаем . При вычислении МНК оценок в качестве вектора наблюдаемых значений надо использовать вектор . Эта зависимость полезна при изучении спроса на товару в зависимости от его ценых.

При зависимости линеаризация достигается преобразованием:, , тогда.

2. Экспоненциальная (показательная) зависимость

Широкий класс экономических показателей характеризуется приблизительно постоянным темпом относительно прироста во времени. Этому соответствует зависимость вида: .

Относительный прирост уза единицу времени х:

.

Линеаризация достигается здесь переходом к переменным , тогда

,

где .

Имея наблюдения , , …, и формируя столбец , с помощью МНК получают оценки , а затем .

Приводима к линейному виду и логистическая функция



.

Ее можно записать в виде: . Тогда логарифмируя данное выражение и полагая и , получим линейную зависимость .

Логистическая кривая используется для описания поведения показателей, имеющих определенные «уровни насыщения».

3. Степенная модель

В экономических исследованиях распространены зависимости степенного вида: .

При преобразовании , , где .

Получаем: , где . Зависимости степенного вида играют важную роль при построении и анализе ПФ. В этом случае коэффициенты являются эластичностями признака у по объясняющим переменным .

Действительно, коэффициент эластичности определяется по формуле

.

В нашем случае



=, тогда

.

Эластичность показывает, на сколько процентов возрастает у, если затратыi-го ресурса увеличить на 1%.

Вообще, нелинейные модели регрессии, нелинейные по оцениваемым параметрам подразделяютсяна два типа: внутренне линейные и внутренне нелинейные.

В первом случае модель с помощью соответствующих преобразований может быть приведена к линейному виду. Например, степенная функция . Данная модель нелинейная по оцениваемым параметрам, но может быть сведена к линейной путем логарифмирования, то есть , введем замену , , , получаем уравнение линейной регрессии .

Во втором случае модель не может быть сведена к линейной функции. Например, модель вида или .

В этом случае для оценки параметров используются итеративные процедуры (повторение какой либо процедуры), успешность которых зависит от вида уравнений и особенностей применяемых итеративных подходов.

Замечание. В моделях нелинейных по оцениваемым параметрам, но приводимых к линейному виду, МНК применяется к преобразованным уравнениям. Если в линейной модели и в моделях, нелинейных по переменным, при оценке параметров исходят из критерия, то в моделях, нелинейных по оцениваемым параметрам, требование МНК применяется не к исходным значениям результативного признака, а к их преобразованным величинам, то есть ,и другим. Так в степенной функции оценка параметров основывается фактически на минимизации суммы квадратов отклонений в логарифмах:

.

Вследствие этого оценка параметров для линеаризуемых функций МНК оказывается несколько смещенной (заниженной).

При использовании линеаризуемых функций, затрагивающих преобразования зависимой переменной у, следует проверять наличие предпосылок МНК, чтобы они не нарушались при преобразовании.

4. Преобразование случайного члена

Как было отмечено выше, для получения качественных оценок существенную роль играет выполнимость определенных предпосылок МНК для случайного отклонения (нормальное распределение в том числе).

В случаях, не требующих совокупного логарифмирования с аддитивным случайным членом, выполнимость предпосылок имеет место и проблем с оцениванием не возникает.

Для иллюстрации возможных проблем со случайным членом рассмотрим функцию , по-разному дополнив ее случайным членом.

1. , прологарифмировав данное выражение, получим: . Использование данного соотношения для оценки параметров не вызывает осложнений, связанных со случайным отклонением.

2. , прологарифмировав данное выражение, получим: , то есть процедура линеаризации приводит к преобразованию случайных отклонений в.

Использование МНК для нахождения оценок параметров требует, чтобы отклонения удовлетворяли предпосылкам МНК, то есть. Другими словами, вектор возмущений должен иметь логарифмически нормальное распределение.

3. Возьмем в качестве модели . Логарифмирование этого соотношения не приводит к линеаризации .

Таким образом, при использовании преобразований линеаризации необходимо особое внимание уделять рассмотрению свойств случайных отклонений, чтобы полученные оценки имели высокую статистическую значимость.

5. Корреляция для нелинейной регрессии

Уравнение нелинейной регрессии, так же как и в линейной зависимости, дополняется показателем корреляции: индексом корреляции

,



Где, ? общая дисперсия результативного признака, а ? остаточная дисперсия.

Величина данного показателя, чем ближе к единице, тем теснее связь рассматриваемых признаков, тем более надежно найденное уравнение регрессии.

Индекс корреляцииRможно найти по формуле:

.

Парабола второй степени, как и полином более высокого порядка, при линеаризации принимает вид уравнения множественной регрессии.

Если же нелинейное относительно объясняющей переменной уравнение регрессии при линеаризации принимает форму линейного уравнения парной регрессии, то для оценки тесноты связи может быть использован линейный коэффициент корреляции, величина которого в этом случае совпадает с индексом корреляции:

,

где z - преобразованная величина признака - фактора, например, или.

Иначе обстоит дело, когда преобразование уравнения в линейную форму связаны с зависимой переменной у. В этом случае линейный коэффициент корреляции по преобразованным переменным дает лишь приближенную оценку тесноты связи и численно не совпадает с индексом корреляции.

Так для степенной функции после перехода к логарифмически линейному уравнению. Обозначим , , тогда и может быть найден линейный коэффициент корреляции не для фактических значений переменных х и у, а для их логарифмов, то есть.

Как показали расчеты, значения идовольно близки (или и), поэтому и для нелинейных функций используются для характеристики тесноты связи линейные коэффициенты корреляции. Только следует принимать во внимание, что для линейной зависимости и и.

Для нелинейных зависимостей не равен.

Поскольку в расчете индекса корреляции используется соотношение факторной и общей суммы квадратов отклонений, то имеет уравнения нели тот же смысл, что и коэффициент детерминации. Величину для нелинейных связей называют, поэтому индексом детерминации.

Оценки существенности индекса корреляции проводится, так же как и оценка надежности коэффициента корреляции.

Индекс детерминации используется для проверки существенности в целом уравнения нелинейной регрессии по F?критерию Фишера:



,

где k- число наблюдений, m- число параметров при переменных x. Величина m характеризует число степеней свободы для факторной суммы квадратов, и (k-m-1) ? число степеней свободы для остаточной суммы квадратов.

Так для степенной функции числоm=1, а для параболы второй степени число m=2.

Индекс детерминации можно сравнивать с коэффициентом детерминациидля обоснования возможности применения линейной функции. Чем больше кривизна линии регрессии, тем величина коэффициента детерминации меньше индекса детерминации. Близость этих показателей означает, что нет необходимости усложнять форму уравнения регрессии и можно использовать линейное уравнение. Практически, если не превышает 0,1, то предположение о линейной связи считается оправданным.

В противном случае проводится оценка существенности различия через t ? критерий Стьюдента:

,



где ошибка разности междуи .

Если>, то различия между рассматриваемыми показателями корреляции существенны и замена нелинейной регрессии уравнением линейной функции невозможна. Практически, если величина, то различия междуи несущественны, и возможно применение линейной регрессии, даже если есть предположения о некоторой нелинейности рассматриваемых соотношений признаков фактора и результата.

6. Средняя ошибка аппроксимации

Фактические значения результативного признака отличаются от теоретических, рассчитанных по уравнению регрессии. Величина отклонений по каждому наблюдению представляет собой ошибкуаппроксимации. Их число соответствует объему совокупности (k). В отдельных случаях ошибка аппроксимации может оказаться равной нулю. Для сравнения используются величины отклонений, выраженные в процентах к фактическим значениям.

Отклонения можно рассматривать как абсолютную ошибку аппроксимации, а ? как относительную ошибку аппроксимации.

Чтобы иметь общее суждение о качестве модели из относительных отклонений по каждому наблюдению, определяют среднюю ошибку аппроксимации как среднюю арифметическую простую:

.

Ошибка аппроксимации в пределах 5 - 7% свидетельствует о хорошем подборе модели к исходным данным. Допустимый предел значений А ? не более 8? 10% (допускается 8? 15%).

Возможно и иное определение средней ошибки аппроксимации:

.

В стандартных программах чаще используется первая формула.

Размещено на Allbest.ru

...