Теория вероятностей

Коэффициентом корреляции случайных величин и называют отношение корреляционного момента к произведению средних квадратических отклонений этих величин:

- величина безразмерная, т.е. не зависит от выбора единиц измерения случайных величин. Это и есть преимущество коэффициента корреляции перед корреляционным моментом.

Очевидно, что коэффициент корреляции независимых случайных величин равен нулю, т.к.

Теорема 2. Абсолютная величина корреляционного момента двух случайных величин и не превышает среднего геометрического их дисперсий:

Доказательство. Введем в рассмотрение случайную величину и найдем ее дисперсию

.

Выполнив выкладки, получим

Принимая, что любая дисперсия неотрицательна, т.е.

Отсюда

(*)

Введя в рассмотрение случайную величину аналогично найдем

(**)

Объединяя формулы (*) и (**), получим

(***)

Теорема 3. Абсолютная величина коэффициента корреляции не превышает единицы:

Доказательство. Разделим обе части двойного неравенства (***) на произведение положительных чисел и получим:

, т.е.

18. Коррелированность и зависимость случайных величин

Две случайные величины и называют коррелированными, если их корреляционный момент или коэффициент корреляции отличен от нуля; и называют некоррелированными величинами, если их корреляционный момент или коэффициент корреляции равен нулю.

Две коррелированные величины также и зависимы. Действительно, допустив противное, мы должны заключить, что а это противоречит условию, т.к. для коррелированных величин

Обратное предположение не всегда имеет место, т.е. если две величины зависимы, то они могут быть как коррелированными, так и некоррелированными.

Пример. Двумерная случайная величина задана плотностью распределения:

внутри эллипса

вне этого эллипса.

Доказать, что и - зависимые некоррелированные величины.

Решение. Воспользуемся ранее вычисленными плотностями распределения составляющих и (п.12):

внутри заданного эллипса и вне его.

Так как , то и - зависимые величины (п. 16).

Для доказательства некоррелированности и , достаточно, что Найдем корреляционный момент и по формуле

Функция симметрична относительно оси , следовательно, ; аналогично , т.к. функция симметрична относительно оси .

Следовательно,

(*)

Внутренний интеграл в (*) равен нулю, т.к. подынтегральная функция нечеткая, а пределы интегрирования симметричны относительно начала координат, следовательно, То есть, зависимые случайные величины и некоррелированы.

Получили, из коррелированности двух случайных величин и , следует их зависимость, но из их зависимости еще не вытекает их коррелированность. Из независимости двух величин следует их некоррелированность, но из некоррелированности еще не следует независимость этих величин.

Заметим однако, что из некоррелированности нормально распределенных величин вытекает их независимость.

19. Нормальный закон распределения на плоскости

На практике часто встречаются двумерные случайные величины, распределение которых нормально.

Нормальным законом распределения на плоскости называют распределение вероятностей двумерной случайной величины если

(*)

Видим, что нормальный закон на плоскости определяется пятью параметрами: и Их вероятностные смыслы: математические ожидания, - средние квадратические отклонения, коэффициент корреляции величин и .

Убедимся, что если и некоррелированы, то они и независимы. Пусть и некоррелированы, тогда полагая в (*) получим

Таким образом, если составляющие нормально распределенной случайной величины некоррелированы, то плотность совместного распределения системы равна произведению плотностей распределения составляющих, следовательно, и независимости составляющих (п. 16). Справедливо и обратное утверждение (п. 18).

Получается, что для нормально распределенных составляющих двумерной случайной величины понятия независимости и некоррелированности равносильны.

Замечание. Можно доказать, что если двумерная случайная величина нормальна с параметрами и , то ее составляющие также распределены нормально с параметрами, соответственно равными и .

20. Линейная регрессия. Прямые линии среднеквадратической регрессии

Пусть двумерная случайная величина, где и зависимые случайные величины с точностью функции , т.е. . Предположим, что зависимость между величинами линейная с точностью до неизвестных параметров и :

.

Параметры и могут быть определены различными способами: наиболее распространенный из них - это метод наименьших квадратов.

Функцию называют “наилучшим” приближением в смысле метода наименьших квадратов, если математическое ожидание принимает наименьшее возможное значение. При этом функцию называют среднеквадратической регрессией на .

Теорема. Линейная средняя квадратическая регрессия на имеет вид

-

коэффициент корреляции величин и .

Доказательство. Введем в рассмотрение функцию двух независимых параметров и :

.

Учитывая, что

и выполнив выкладки, получим

(*)

Исследуем функцию на экстремум, для чего приравниваем нулю частные производные:

Отсюда

(**)

Подставив (**) в (*) можно убедиться, что функция принимает наименьшее значение.

Итак, линейная средняя квадратическая регрессия на имеет вид

Коэффициент называют коэффициентом регрессии на а прямую

(**)

называют прямой среднеквадратической регрессии на .

Подставив найденные значения и в соотношение (*), получим минимальное значение

=.

Величину называют остаточной дисперсией случайной величины относительно случайной величины . Остаточная дисперсия характеризует величину ошибки, которую допускают при замене линейной функцией

При остаточная дисперсия равна нулю; при этих крайних значениях коэффициента корреляции не возникает ошибки при представлении в виде линейной функции от . То есть, если коэффициент корреляции , то и связаны линейной функциональной зависимостью.

Аналогично можно получить прямую среднеквадратической регрессии на :

, (***)

где - коэффициент регрессии на ; остаточную дисперсию величины относительно .

Если , то обе прямые регрессии (**) и (***) совпадают.

Обе прямые регрессии проходят через точку , которую называют центром совместного распределения величин на .

21. Линейная корреляция. Нормальная корреляция

Рассмотрим двумерную случайную величину Если обе функции регрессии на и на линейны, то говорят, что и связаны линейной корреляционной зависимостью. Очевидно, что графики линейных функций регрессии - прямые линии. Можно доказать, что они совпадают с прямыми среднеквадратической регрессии. Имеет место важная теорема.

Теорема. Если двумерная случайная величина распределена нормально, то и связаны линейной корреляционной зависимостью.

Доказательство. Двумерная плотность вероятности

(*)

. (А)

Плотность вероятностей составляющей (п.19)

(**)

Найдем функцию регрессии Для чего найдем условный закон распределения величины при (п. 14):

Подставив (*) и (**) в правую часть формулы и выполнив выкладки, получим

Заменив в этой формуле , (А), окончательно получим

Полученное условное распределение нормально с математическим ожиданием (функцией регрессии на )

и дисперсией .

Аналогично можно получить функцию регрессии на :

Так как обе функции регрессии линейны, то корреляция между величинами и линейная, что и требовалось доказать.

Принимая во внимание вероятностный смысл параметров двумерного нормального распределения (п. 19), заключаем, что уравнения прямых регрессии

совпадают с уравнениями прямых среднеквадратической регрессии (п.20).

Размещено на Allbest.ru