Теория вероятностей

Пусть Q - множество рациональных чисел, а - множество иррациональных чисел из . Какова вероятность, что выбранное число из является одним из множества рациональных чисел (или иррациональных)?

В силу того, что мощности множеств разные, то с необходимостью получим , тогда . Ясно, что никакого физического смысла в таком выводе нет, поскольку результат любого измерения всегда есть рациональное число!

А что означает, например, фраза «длина отрезка равна »? Можно конечно получить величину опосредованно, например длина гипотенузы прямоугольного треугольника, при условии, что измерение двух других его сторон определило их длины по единице. Однако, никакие измерительные приборы не определят длину отрезка равного ! Если взять за множество все рациональные числа, тогда, по-прежнему, можно положить , но тогда перестанут существовать иррациональные числа, и мы никогда не узнаем точного значения длины гипотенузы.

Подведем некоторые итоги. Пространство элементарных событий может быть достаточно общего вида. Задать вероятность каждого элементарного события либо невозможно, либо нежелательно, например, в силу отсутствия содержательной информации. Естественным выходом является рассмотрение не отдельных элементарных событий, а их множества с объединяющими общими признаками. Желательно, чтобы число непересекающихся подмножеств было не более чем счетно.

Пр. 32 Точка наудачу бросается в промежуток . Общий признак - попадание в отрезок . Интуитивно ясно, что вероятность такого события равна 1/2, хотя при прямом суммировании вероятностей всех элементарных событий из интервала получим 0.

Для пространств с более чем счетным числом точек для вычисления вероятностей используется свойство непрерывности интервала, а вероятность события есть функция длины того интервала, точки которого и образуют это событие (за исключением не более чем счетного числа точек). Ясно, что множества (подынтервалы), на которых задаются вероятности, должны быть замкнуты относительно основных теоретико-множественных операций (объединение, пересечение и дополнение). Кроме того, мы должны ввести понятие функции множеств, областью определения которой является система множеств (алгебра или -алгебра).

Пр. 33 Рассмотрим эксперимент, состоящий в n-кратном подбрасывании, вообще говоря, несимметричной монеты, с вероятностью выпадения герба - p. Из практических соображений обычно нас интересует вероятность не выпадения, например, 2-х гербов после 16-го и 19-го подбрасывания из 100, а просто выпадение 2-х или 3-х и так далее гербов в n испытаниях. Такой подход позволяет задать на функцию , где значения , k - число выпадений герба в n независимых испытаниях, . Выберем из алгебры те подмножества (случайные события), которые соответствуют значению . Тогда . Введение функции позволило значительно упростить вычисление вероятностей интересующих нас событий. В сущности, получив необходимую информацию из элементарных событий , построим другое пространство , состоящее из (n+1) элемента с распределением вероятностей

.

Введенная функция обладает специфическим свойством: по заданному значению функции () мы определяем множество значений аргумента (элементарных событий, число которых, в нашем случае, равно , далее находим ). В теории вероятностей такие функции имеют фундаментальное значение, относятся к свойствам вероятностного пространства и называются случайными величинами.

Почему функции подобные случайным величинам требуют так много внимания? Дело в том, что уже в простых, на первый взгляд, ситуациях, пространство может быть весьма неопределенным и задание распределения вероятностей обычно, даже если предполагается независимость, труднодостижимо. Кроме того, часто при построении вероятностной модели достаточно использовать несколько параметров от случайных величин, которые в ряде практически важных случаях дают достаточно полную, а иногда и единственную возможную модель реальной ситуации. К таким параметрам следует отнести математическое ожидание случайной величины, характеризующее ее в среднем.

Кроме того, задание случайной величины позволяет из пространства и алгебры событий выделить необходимые элементарные события, которые существенно упрощают построение вероятностной модели, в частности, задание вероятности, которая и порождает вероятностное пространство.

В связи со сказанным, перейдем к классу множеств, на которых определяются вероятности, и определению класса функций, которые являются случайными величинами.

Исследования показали, что рассмотрение алгебры событий дает слишком общую, и потому мало эффективную, модель. Пришлось вводить ограничения как на классы рассматриваемых подмножеств из пространства элементарных событий, так и на классы допустимых вероятностных мер.

Опр. Система множеств подмножеств называется -алгеброй, если она является алгеброй и выполняется

1) ;

2) если , , то и ;

3) если , то .

Опр. Пространство и его -алгебра называется измеримым пространством и обозначается .

Опр. Мера P на алгебре называется -аддитивной или вероятностью, если (условие нормировки) и для любых непересекающихся множеств , , таких, что , следует

.

Приведем ставшую общепринятой, систему аксиом Колмогорова …, составляющих вероятностное пространство.

Основное опр. Тройка ,

где а) - множество точек ;

б) - -алгебра подмножеств из ;

в) P - вероятность на ,

называется вероятностной моделью или вероятностным пространством.

Множество называется выборочным пространством или пространством элементарных событий, множества событиями, а - вероятностью события A.

Если пространство конечно или счетно, то случайная величина задается произвольно. В более общих случаях возникают сложности, связанные с формальным построением -алгебры.

Зададим -алгебру на интервале числовой прямой. Формально, в нее мы включаем не только множество всех интервалов , , но и множества, которые получаются из этих интервалов счетным числом основных теоретико-множественных операций, а также те множества, которые получаются над теми, которые получены счетным числом этих операций из интервалов, и т.д.

Сказанное поясним на примере. Пусть имеем систему множеств - это множество, состоящее из одного элемента - пустое множество ( - множество не содержащее ни одного элемента). По правилу построения системы множеств включаем само множество в систему множеств, при этом получаем систему множеств, состоящую из двух элементов - пустое множество и множество, содержащее один элемент - пустое множество. Продолжая процесс по индукции получим систему множеств, содержащую счетное число элементов: . Ясно, что вся содержательная информация содержится во множестве . Это множество называется наименьшим.

Опр. Борелевскими множествами на числовой прямой R называется наименьшая -алгебра, содержащая все интервалы (или , или ). Борелевские множества принадлежат классу измеримых множеств (конечность меры не предполагается).

Пусть имеем . Определим для каждого интервала , , его вероятностную меру . Так определяемую меру назовем мерой Лебега (мерой Лебега также является площадь, определенный интеграл положительно определенной подынтегральной функции с конечными пределами интегрирования, масса и др.).

Замечание. Мера Лебега, обладая определенными преимуществами перед другими мерами, имеет и недостатки. Одни недостатки можно преодолеть, например, понятие несобственного интеграла для меры Лебега, вообще говоря, не существует, с другими недостатками приходится мериться: пример с бросанием точки в интервал на множество рациональных точек, где .

Вводя условие нормировки , можно с помощью функции , , отобразить числовую прямую на интервал , но при отображении такая функция интервала как длина здесь лишена смысла. Этот недостаток преодолим, если использовать -аддитивность меры. Для этого всю числовую прямую разделим на интервалы единичной длины, число которых очевидно счетно и рассмотрим их по отдельности, а далее воспользуемся свойствами -аддитивности вероятности.

В самом деле, рассмотрим числовую прямую R и пусть интервал . Если - первые n непересекающиеся интервалы из A, то при . Т.е. при больших n длина почти равна A. Если, например, значение вероятности находится статистически, то . Счетная аддитивность позволяет использовать свойство непрерывности, то есть перейти к пределу поточечно и получить точное значение вероятности. Пусть . Разделим числовую прямую на полуинтервалы единичной длины, так как показано на рис. 17

Для отрицательных n интервалу поставим в соответствие число , где - начало этого интервала. Для положительных n интервалу соответствует число , тогда

.

В частности, для отрицательных действительных чисел

.

Из примера следует, что не важно на какие виды интервалов разбивается числовая прямая, существенно лишь выполнение естественного условия непрерывности.

Итак, класс множеств, на которых определена вероятность, есть -алгебра борелевских множеств. Они несколько уже, чем -алгебра множеств, измеримых по Лебегу …, но их вполне хватает для удовлетворения потребностей смежных теорий и их практических приложений.

Определим теперь класс функций, которые являются случайными величинами.

Измеримые функции.

Пусть X и Y два произвольных множества, в которых выделены две системы подмножеств и , соответственно.

Опр. Абстрактная функция с областью определения X со значениями из Y называется измеримой, если из следует, что .

Множество называется образом, множество прообразом (полным прообразом), а функция f множеств - отображением и записываются как (в отличие от функции точки ). Здесь функцию множеств будем записывать в прежних обозначениях .

Нас интересуют измеримые функции с точки зрения задания вероятности как функции меры.

Опр. Действительная функция определенная на множестве X с -алгеброй называется измеримой, если для любого борелевского множества числовой прямой множество .

Теорема (об интегрируемости функции). Для того, чтобы действительная функция была измеримой необходимо и достаточно, чтобы при любом действительном множество было измеримым и принадлежало .

Пр. 34 Если за X и Y взять числовую прямую R, а за и - систему всех открытых (или замкнутых) подмножеств R получим, что определение измеримости сводится к определению непрерывности.

Взяв за и систему всех борелевских множеств, получим измеримые по Борелю функции.

Уже отмечалось, что класс измеримых функций достаточно широк. Операция предельного перехода для последовательности измеримых функций дает измеримую функцию.

Элементарные функции измеримы, так как каждую из них можно представить как предел последовательности многочленов (которые, например, можно получить разложением функции по формуле Тейлора) многочлены есть сумма одночленов, а одночлены измеримы по определению.

Из определения измеримой функции, следует, что из близости значений функции, находятся множества значений аргумента, которые могут иметь достаточно сложную структуру, так что понятие непрерывности для таких функций может быть вообще лишено смысла.

Замечание. Класс измеримых функций является естественным объектом для изучения после класса функций, непрерывных в области, где они определены, поскольку никакого упрощения в теории не достигается, если ограничиться менее сложными классами.

Пусть - измеримое пространство и - числовая прямая с заданной на ней системой Борелевских множеств.

Опр. Действительная функция определенная на измеримом пространстве называется измеримой или случайной величиной, если

Или

прообраз

является измеримым множеством в .

Требование измеримости случайной величины принципиально, так как, если на задана вероятностная мера , то имеет смысл говорить вероятности события , то есть значения случайной величины принадлежат некоторому борелевскому множеству B.

Опр. Вероятностная мера на с вероятностью , , называется распределением вероятностей случайной величины на измеримом пространстве .

Из теоремы об измеримости функции получаем, если положить , то получим следующее определение.

Опр. Функция

, . (10)

называется функцией распределения случайной величины .

Можно сказать, что измеримая функция называется случайной величиной, если для неё задана функция распределения, то есть функция распределения однозначно задает случайную величины.

Отсюда следует, что, пока мы имеем дело с отдельной случайной величиной , мы можем забыть о выборочном пространстве и считать, что вероятностное пространство есть числовая прямая R с -алгеброй борелевских множеств и мерой (вероятностью) индуцированной посредством функции распределения .

Рассмотрим классы функций распределения.

1. Дискретные функции распределения.

Функции , определяющие меру дискретной случайной величины.

Функция сосредоточена в точках: , мера P, определяется

, , где .

Функция распределения имеет ступенчатый вид (см рис. 18).

Часто задают таблицу значений случайной величины

			…		…	()
p			…		…

по которой и строят графики .

Функция является измеримой, поскольку ее можно приблизить последовательностью многочленов, являющихся непрерывными функциями (например, получить по формуле Тейлора).

2. Непрерывные (абсолютно непрерывные) функции распределения.

Это функции распределения , которые можно записать в виде

,

где - некоторая неотрицательная непрерывная функция.

Очевидно, что эти функции распределения измеримы.



3. Сингулярные функции распределения.

Это непрерывные функции, но точки их роста образуют множество нулевой меры Лебега.

Опр. Распределение называется сингулярным по отношению к вероятностной мере P, если оно сосредоточено на множестве N, таком, что .

В частности, каждое дискретное распределение является сингулярным распределением по отношению к длине интервала действительной прямой (мере Лебега).

Пр. 35 Пусть имеем математическую модель эксперимента, состоящего в случайном бросании точки на отрезок . Элементарные события - все действительные числа отрезка, события (подмножества) измеримые по Лебегу множества (интервалы), а вероятность совпадает с мерой Лебега (длиной интервала). При таком построении случайного эксперимента, с необходимостью, вероятность случайно попасть в число из множества действительных чисел отрезка равна 0, а иррациональных - 1.

Ясно, что в таком выводе нет физического смысла (ведь в реальности измерения всегда рациональное число!). Недостаток модели - в том, что не всякие математически верные теоремы допускают физическую интерпретацию, это непреодолимый недостаток счетно-аддитивной меры Лебега и с ним приходиться мириться. Последнее означает, что если за пространство элементарных событий считать действительную прямую, то на ней будем рассматривать только класс непрерывных функций.

По той же причине сингулярные распределения в дальнейшем исключаются из рассмотрения.

Установлено, что этими тремя типами распределений (дискретные, непрерывные и сингулярные) исчерпываются классы функций распределения ….



Свойства функции распределения.

1. Функция распределения случайной величины определена .

2. Функция распределения - неубывающая функция, то есть

: .

3. Функция распределения непрерывна слева в любой точке действительной оси, то есть

, .

4. Функция распределения случайной величины имеет не более чем счетное число разрывов 1-го рода.

5. .

6. .

Всякая функция, удовлетворяющая перечисленным свойствам, является функцией распределения некоторой случайной величины и наоборот.

Случайные величины будем обозначать буквами греческого алфавита , , , … .

Для применения функций распределения в инженерных и практических расчетах, обычно, случайные величины: дискретные и непрерывные, - рассматривают независимо.

Пр. 36 Случайной величиной являются

1) число выпавших очков на грани при подбрасывании игральной кости - дискретная случайная величина;

2) число выпадений герба при однократном подбрасывании монеты - дискретная случайная величина;

3) время безотказной работы телевизора - непрерывная случайная величина;

4) погрешности измерений - непрерывная случайная величина.

Дискретные случайные величины

Опр. Дискретной называется случайная величина, которая каждому элементарному событию ставит в соответствие одно из конечного или счетного набора

, .

Дискретная случайная величина полностью задается своим рядом распределения.

Опр. Пусть случайная величина принимает значения или . Рядом распределения (табл.1, 2)дискретной случайной величины называется таблица, состоящая из двух строк: в верхней строке перечислены все возможные значения случайной величины, а в нижней - вероятности того, что случайная величина примет эти значения, причем .

Таблица 1

			…
p			…

Или



Таблица 2

			…		…
p			…		…

В дальнейшем будем рассматривать дискретные случайные величины, принимающие конечное число значений, кроме специально оговоренных случаев.

Графическим представлением ряда распределения является многоугольник распределения. Если на плоскости построить точки , , и соединить их отрезками прямых, то полученная ломаная и называется многоугольником распределения дискретной случайной величины (рис. 19).

Для вычисления функции распределения дискретной случайной величины, с учетом (10), имеем формулу

, (11)

то есть функция распределения дискретной случайной величины разрывна, возрастает скачками и имеет ступенчатый вид (рис. 20).

Непрерывные случайные величины

Опр. Непрерывной случайной величиной называют функцию , множеством значений которой является некоторый числовой интервал , , .

Опр. Функция называется плотностью распределения вероятностей (или плотностью распределения) непрерывной случайной величины , если она удовлетворяет условиям:

1) ;

2) .

Легко показать, что

. (12)

Проверка свойств 1) - 6) функции распределения подтверждает формулу (12).

В самом деле, пусть ? плотность распределения вероятностей непрерывной случайной величины , тогда условия 1) и 2) определения выполнены для любого , отсюда

функция определена для ;

: ;

непрерывность слева следует из неравенства ;

следует из существования несобственного интеграла Римана на действительной оси;

;

.

Дифференцируя (12), получаем

. (13)

Заметим, что если вероятностная мера сосредоточена на конечном интервале, то в точках a и b производная (13) не существует.

Некоторые полезные следствия свойств и определения функции распределения и плотности распределения вероятностей случайной величины:

1). , ;

2). ;

3). ;

4). ;

5). ;

6). .

Замечание. Функция распределения есть вероятность и следовательно безразмерна, а плотность, как следует из формулы (13) имеет размерность обратную времени. Кроме того, сравнивая законы дискретных и непрерывных случайных величин, легко заметить, что аналогом плотности является ряд распределения дискретной случайной величины.

Именно поэтому в инженерных дисциплинах часто плотность называют законом распределения.

Числовые характеристики случайных величин

При анализе функционирования различных объектов, и не только случайных, обычно, рассматривают две группы показателей: а) характеризующих поведение объекта с общих позиций, в среднем, б) анализирующих его детально, по всем возможным состояниям.

Ясно что, если показатели группы б) определены, то весь набор интегральных показателей (из группы а)) можно выразить через них. Однако, при построении вероятностного пространства, даже с конечным, но очень большим числом состояний (например, прогноз развития региона, насчитывающего сотни тысяч позиций) возникают трудности, связанные с построением распределения вероятностей (даже, если предполагать независимость позиций, что не всегда оправдано). В тоже время, рассмотрение интегральных показателей, в силу их общности, не только существенно упрощает путь к конечной цели, но и может оказаться единственным способом ее достижения.

В теории вероятностей и смежных с ней теориях самыми популярными из интегральных показателей является математическое ожидание, ассоциируемое со средним. Оно обладает важными свойствами: удобством к аналитическим преобразованиям, около него группируются наиболее важные значения случайной величины (имеющие наибольшую вероятность), наконец оно обладает устойчивостью к колебаниям статистических данных.

Рассмотрим произвольное вероятностное пространство , где - функция распределения случайной величины .

Опр. Математическим ожиданием случайной величины называется действительное число

, (14)

где .

Математическое ожидание существует, если существует интеграл в (14), который называется интегралом Лебега (для его существования достаточно задать случайную величину и меру Лебега).

Основной недостаток интеграла Лебега в том, что, в общем случае, непонятно как его вычислять. Однако тот факт, что он существует, позволяет получать формулы, которые, возможно, только так и можно записать. Поэтому при вычислении интеграла Лебега часто используется интуитивный подход.

Если случайная величина дискретна, то интеграл (14) сводится к сумме

, (), (15)

в предположении, что ряд сходится абсолютно. В противном случае говорят, что интеграл и, тем самым, математическое ожидание не существует.

Таким образом, если дискретная случайная величина задается рядом распределения (табл. 1, 2), то ее математическое ожидание вычисляется по формуле

или , (16)

соответственно, при условии, что числовой ряд в правой части второй формулы (дискретная случайная величина имеет счетное число значений) сходится.

Если вероятностная мера задается на действительной оси, то она определяется функцией распределения, непрерывна и

, (17)

где , .

Пусть функция дифференцируема (принято говорить абсолютна непрерывна), тогда, как следует из (13)

,

Отсюда

. (18)

Математическое ожидание существует, если несобственный интеграл правой части (18) сходится. Если несобственный интеграл правой части равенства (18) расходится, то случайная величина не имеет конечного математического ожидания.

Замечание. Формулы (14), (15), (17) в дальнейшем не используются, содержащаяся в них информация выходит за рамки программы и носит общетеоретический характер.

Свойства математического ожидания.

Всегда считаем, что случайные величины и определены на одном и том же вероятностном пространстве.

1. , если .

2. , если .

3. для любых случайных величин , .

Если математические ожидания , существуют, то существует.

4. , если , независимые случайные величины.

Если математические ожидания , существуют, то существует.

Геометрически математическое ожидание численно равно абсциссе центра тяжести интеграла (18).

Опр. Случайные величины , называются независимыми, если

.

Пр. 37 Симметричная монета подбрасывается два раза, а симметричная игральная кость - один раз. Найти среднее число выпавших очков, если выпадению «герба» соответствует 1, а «решетки» - 0. Проверить свойства 3, 4 математического ожидания.

Решение. Пространство элементарных событий при двукратном подбрасывании монеты состоит из четырех точек , а пространство элементарных событий при одном бросании кости состоит из шести точек . Пространство состоит из точек:

(1,0,0), …, (6,0,0),

(1,0,1), …, (6,0,1),

(1,1,0), …, (6,1,0),

(1,1,1), …, (6,1,1).

Учитывая симметричность монеты и кости, воспользуемся классическим подходом. Каждому из элементарных событий дадим вероятность .

Пусть - случайная величина, определяющая число i выпадений герба, , а - выпадение грани с цифрой k, . Считаем, что случайные величины , - независимы (следовательно ). Составим таблицу 3, где в клетках находятся вероятности реализации пары .

Свойство 3.

а)

(свойство 1 выполнено);



Таблица 3

	1	2	3	4	5	6
0
1
2
							1

б) ,

(свойство 3 выполнено);

Свойство 4.

а)

,

(свойство 4 выполнено).

Опр. Модой дискретной случайной величины называется ее наиболее вероятное значение, непрерывной - значение, при котором плотность распределения вероятностей максимальна.

Опр. Медианой случайной величины называется такое ее значение, для которого одинаково вероятно окажется ли случайная величина меньше или больше этого значения, то есть,

.

Опр. Отклонением случайной величины от ее среднего значения называется случайная величина .

Математическое ожидание отклонения любой случайной величины равно нулю, то есть,

.

В самом деле, по 3 и 1 свойствам математического ожидания имеем

.

Опр. Дисперсией случайной величины называется математическое ожидание квадрата ее отклонения, то есть (если соответствующее математическое ожидание существует).

Воспользуемся свойствами математического ожидания случайной величины и преобразуем формулу, определяющую дисперсию:

,

то есть, получаем



.

Тогда дисперсия случайной величины вычисляется по формуле:

,

если - дискретная случайная величина;

,

если - непрерывная случайная величина.

Свойства дисперсии.

1. для любой случайной величины .

2. , если .

3. , если .

4. , если , - независимые случайные величины.

Опр. Средним квадратическим отклонением случайной величины называется арифметический корень из ее дисперсии, то есть, .

Замечание. Математическое ожидание случайной величины есть характеристика ее среднего значения, дисперсия - мера рассеивания ее значений вокруг среднего.

Моменты распределения случайных величин.

Опр. Начальным моментом k-го порядка случайной величины называется математическое ожидание k-ой степени этой случайной величины, то есть

, .

Опр. Центральным моментом k-го порядка случайной величины называется математическое ожидание k-ой степени отклонения этой случайной величины, то есть

, .

Отметим, что начальный момент 1-го порядка случайной величины есть математическое ожидание, центральный момент 2-го порядка - дисперсия.

Если распределение симметрично относительно математического ожидания, то все центральные момент нечетного порядка равны нулю. Поэтому центральные моменты нечетных порядков могут служить характеристикой асимметрии («скошенности») распределения, мы рассмотрим в качестве такой характеристики момент наименьшего порядка, то есть - третий центральный момент. Для получения безразмерной характеристики рассматривают число

,

которое называется коэффициентом асимметрии.

Если кривая плотности распределения непрерывной случайной величины такова, что справа от моды расположена ее «длинная часть», а слева - «короткая», то коэффициент асимметрии положителен.

Коэффициент асимметрии отрицателен, если «длинная часть» кривой распределения расположена слева от моды (рис. 21).

Четвертый центральный момент является характеристикой «крутости», то есть, «островершинности» или «плосковершинности» распределения. Величина называется эксцессом.

В качестве «эталонного» распределения случайной величины рассматривают нормальное распределение, с которым познакомимся ниже. Для него и , тогда кривые более островершинные имеют , более плосковершинные (относительно нормированного нормального распределения).

Пр. 38 Дан перечень возможных значений дискретной случайной величины : , , , а также известны математические ожидания этой величины и ее квадрата: ; . Найти вероятности , , , соответствующие возможным значениям , , .

Решение.

Составим ряд распределения (табл. 4) случайной величины

Таблица 4

	-1	0	1
p				()

В соответствие с определением математического ожидания дискретной случайной величины и начального момента 2-го порядка получаем два уравнения:

Решив систему уравнений, получим , . Так как сумма вероятностей, входящих в ряд распределения равна 1, то . Окончательно ряд распределения (табл. 5) случайной величины имеет вид

Таблица 5

	-1	0	1
p	0,4	0,1	0,5

Пр. 39 В ящике среди 20 деталей находится 8 стандартных. Извлекается 3 детали. Случайная величина - число нестандартных деталей в выборке. Требуется:

1) построить ряд распределения величины ;

2) найти функцию распределения , построить ее график;

3) найти , .

Решение. Так как случайная величина - число нестандартных деталей в выбранных 3-х деталях, то она может принимать только значения 0, 1, 2, 3. Составим ряд распределения (табл. 6) этой случайной величины

Таблица 6

	0	1	2	3
p					()



Вычислим вероятности, входящие в ряд распределения:

;

;

;

.

Ряд распределения (табл. 7) случайной величины имеет вид

Таблица 7

	0	1	2	3
p					.

Найдем функцию распределения . По определению имеем

.

Значения случайной величины разбивают действительную ось на 5 интервалов. Будем фиксировать x в каждом из этих интервалов.

Пусть , тогда

;

, тогда ;

, тогда

;

, тогда

;

, тогда

.

Окончательно получаем (рис. 22)

Найдем (по определению) математическое ожидание и дисперсию

;

.

Пр. 40 Случайная величина задана плотностью:

.

Требуется:

1) найти коэффициент а, функцию распределения ; построить графики и ;

2) найти , , .

3) вычислить .

Решение. Найдем a из условия . Имеем

.



Отсюда , следовательно

Построим график плотности распределения вероятностей случайной величины (рис. 23).

Найдем функцию распределения , имеем . Плотность распределения вероятностей случайной величины определена различными элементарными функциями на трех интервалах, будем фиксировать x в каждом из этих интервалов.

Пусть , тогда

;

,

;

, тогда

.

Имеем

Построим график функции распределения случайной величины (рис. 24).

Найдем (по определению) математическое ожидание, дисперсию и среднее квадратичное отклонение

;

;

.

Вычислим , используя 1-ое следствие свойств функции распределения и плотности распределения:

.

Классические стандартные распределения

Рассмотрим основные распределения случайных величин. Дискретные распределения представим в виде таблиц, непрерывные - в виде плотностей и функций распределения. Вычислим их математические ожидания и дисперсии.

1). Биномиальное распределение.

Случайная величина распределена по биномиальному закону, если ее значения являются количеством наступлений события A в схеме Бернулли из n испытаний, то есть, задается следующим рядом распределения (табл. 8)

Таблица 8

	0	1	…		…	n
p			…		…



Общее число появлений события A в n испытаниях складывается из числа появлений события в отдельных независимых испытаниях , , где случайная величина, равная количеству наступлений события A в i-ом испытании, то есть, распределение (табл. 9) каждой случайной величины имеет следующий вид

Таблица 9

	0	1

Отсюда

;

.

Воспользуемся свойствами математического ожидания и дисперсии, получим

,

.

2). Геометрическое распределение.

Геометрическое распределение представляет собой распределение случайной величины - числа независимых экспериментов, которое необходимо провести до первого появления события A. Ряд распределения (табл. 10) случайной величины имеет вид:

Таблица 10

	1	2	3	…	n	…
p				…		…

Вычислим математическое ожидание:

;

и дисперсию:

.



Стандартная интерпретация геометрического распределения - появление первого успеха через () неудач.

3). Равномерное распределение.

Случайная величина распределена равномерно на отрезке [a, b] (имеет равномерное распределение), если она определена плотностью распределения следующего вида

Отрезок называется отрезком концентрации равномерного распределения.

Найдем функцию распределения. Так как по определению , , а плотность распределения определена различными функциями на трех интервалах, то имеем

1) пусть

;

2)

;

3)

.

Получаем:

Графики плотности распределения и функции распределения представлены на рис. 25.

Из рисунка видно, что значение есть площадь области, ограниченной прямой , то есть,

.

Вычислим основные числовые характеристики случайной величины :

;

.

4). Нормальное распределение.

Случайная величина распределена по нормальному закону (или имеет нормальное распределение), если ее плотность распределения имеет вид

.

Кривая распределения называется кривой Гаусса или гауссовой кривой (рис. 26). Эта кривая достигает максимум в точке , причем .

Параметр a характеризует положение кривой на плоскости, - ее вид (рис. 27, 28).

Функция распределения случайной величины имеет вид:

.

Найдем математическое ожидание:

.

Вычислим дисперсию:

.

Таким образом, параметр a является математическим ожиданием, - средним квадратическим отклонением.

Вероятность попадания случайной величины, подчиненной нормальному распределению, в заданный интервал.

Пусть случайная величина распределена по нормальному закону, тогда по свойству функции распределения получим

.

Часто на практике необходимо найти вероятность, заданного отклонения

.

.

Правило трех сигм.

Пусть случайная величина распределена нормально с параметрами a и . Найдем вероятность того, что в очередном испытании значение случайной величины будет находиться внутри интервала , .

Имеем



;

;

;

;

.

Из вычислений видно, что интервалом практически значимых значений случайной величины будет интервал , так как с увеличением интервала последующие вероятности увеличиваются незначительно в абсолютных единицах. Таким образом, вероятность того, что абсолютная величина отклонений превысит утроенное среднее квадратическое отклонение, часто считается пренебрежимо малым. В этом суть правила «трех сигм». Следует заметить, что правило трех сигм используется только для нормально распределенных случайных величин.

5). Показательное (экспоненциальное) распределение.

Распределение случайной величины называется показательным или экспоненциальным, если плотность распределения случайной величины имеет вид:

где - параметр экспоненциального распределения.

Найдем функцию распределения:

1) ;

2)

.

Окончательно получаем

Построим графики функции распределения и плотности распределения вероятностей (рис. 29, 30).

Вычислим математическое ожидание и дисперсию:

;

.

Замечание. При построении законов распределения непрерывных случайных величин (под которыми понимаются плотности распределения вероятностей или функции распределения) мы задавали плотность распределения вероятностей, а затем находили функцию распределения. Это объясняется тем, что, если плотность распределения вероятностей непрерывной случайной величины существует, то всегда можно получить и функцию распределения. Обратный процесс не всегда возможен, так как функция распределения может быть хотя и непрерывной, но не иметь производную. При построении теории мы шли в обратном порядке. Сначала строили функцию распределения, а затем находили либо ряд распределения, либо плотность распределения вероятностей соответствующей случайной величины.

Функции от случайной величины

1. Рассмотрим непрерывную случайную величину с функцией распределения и плотностью . Пусть случайные величины и связаны функционально: .

Зададим функцию , монотонно возрастающую и дифференцируемую вместе со своей функцией обратной .

Определим функцию распределения случайной величины :

.

Найдем плотность распределения вероятностей случайной величины :

.

Пусть функцию монотонно убывающая функция.

Определим функцию распределения случайной величины :

.

Найдем плотность распределения вероятностей случайной величины :



.

Замечание. В общем случае, для непрерывной функции выделяют «куски» монотонности и на каждом из них находится своя часть функции распределения и плотности распределения вероятностей.

Пр. 41 Случайная величина равномерно распределена на отрезке . Найти плотность распределения вероятностей случайной величины .

Решение. Случайная величина распределена равномерно на отрезке , то есть, задается плотностью распределения или функцией распределения вида:

Случайная величина связана функционально со случайной величиной : . Функция определена для всех , обратная к ней принимает значения из интервала . Причем область значений можно разбить на два интервала: , которому соответствует , и .

Пусть , функция на этом интервале немонотонна, определим функцию распределения случайной величины для :

.

Если , то по определению получаем:

.

Для функция монотонно возрастающая, для , тогда получаем:

.

Определим функцию распределения случайной величины для , который соответствует или . Если , то функция монотонно убывает и , если , то функция монотонно возрастает и :

.

Таким образом, функция распределения случайной величины имеет вид:

Плотность распределения вероятностей случайной величины найдем по свойству :

2. Рассмотрим дискретную случайную величину , заданную радом распределения (табл. 11)

Таблица 11

			…		…
p			…		…	.

Если функция монотонная функция, то случайная величина имеет распределение (табл. 12)

Таблица 12

			…		…
p			…		…	.

Замечание. Если в верхней строке ряда распределения появляются одинаковые значения , то соответствующие столбцы необходимо объединить в один, приписав им суммарную вероятность, так как значения случайной величины - события несовместные.

Системы случайных величин

До сих пор мы рассматривали одну случайную величину. Однако, на практике часто требуется рассматривать несколько случайных величин и изучать их взаимное влияние. Это наиболее интересный раздел теории вероятностей, благодаря которому ее модели нашли применение практически в каждой отрасли человеческих знаний.

Свойства случайных величин.

Пусть задана последовательность случайных величин , тогда

1) если измеримая функция, то случайная величина;

2) если существует следующий предел, то - случайная величина;

3) случайная величина;

4) случайная величина.

Из приведенных свойств видна важность применения их в теоретических исследованиях, но на практике они малопригодны. Отсутствие же ряда привычных свойств, связанных со сложением и умножением случайных величин, наводит на мысль, что не все так просто. Покажем, например, что .

Пр. 42 Случайная величина задана рядом распределения (табл. 13)

Таблица 13

	0	1
p	1/2	1/2

Построим законы распределения (табл. 14, 15) случайных величин и . Имеем

Таблица 14

	0	1	2
p	1/4	1/2	1/4

Таблица 15

	0	2
p	1/2	1/2

Законы различны. В первом случае для суммы случайных величин мы выполнили случайное действие: к случайной величине добавили случайную и, тем самым, перераспределили вероятности; во втором умножили случайную величину на неслучайную, а это не дает оснований для перераспределения вероятностей.

Двумерные случайные величины

Пусть на пространстве заданы две случайные величины , . Совокупность этих случайных величин называется 2-мерной случайной величиной. Множество возможных значений 2-мерной случайной величины обозначим .

Опр. Функцией распределения 2-мерной случайной величины , рассматриваемой как функция переменных , называется вероятность следующего вида:

.

Свойства функции распределения.

1. Функция распределения 2-мерной случайной величины удовлетворяет неравенству:

2.

, .

3. Функция распределения 2-мерной случайной величины является неубывающей функцией по каждому из аргументов, то есть

: ;

: .



4. Функция распределения непрерывна слева в любой точке действительной оси по каждому из аргументов, то есть

, ;

,

5. Для функции распределения двумерной случайной величины справедливы предельные равенства:

; .

6. Если один из аргументов функции распределения 2-мерной случайной величины стремиться к +, то она переходит в функцию распределения случайной величины, соответствующей другому аргументу:

, .

Опр. Плотностью распределения вероятностей 2-мерной случайной величины называется функция , удовлетворяющая условиям:

1). ;

2). .

Опр. Случайные величины , называются независимыми, если

.

Аналогично, если , независимые, то для плотности распределения вероятностей величины выполняется аналогичное равенство

.

Распределение вероятностей 2-мерной случайной величины полностью ее определяет. Если случайные величины , не являются независимыми, то о 2-мерной случайной величине трудно что-либо сказать, если вид зависимости неизвестен. Обычно зависимость случайных величин , изучают по их числовым характеристикам.

Опр. Начальным моментом порядка двумерной случайной величины называется математическое ожидание произведения случайных величин , в соответствующих степенях, то есть,

.

Начальные моменты порядка вычисляются по формулам:

,

если , дискретные случайные величины;

, если , непрерывные случайные величины.

Опр. Центральным моментом порядка двумерной случайной величины называется математическое ожидание произведения отклонений случайных величин , в соответствующих степенях, то есть,

.

Начальные моменты порядка вычисляются по формулам:

,

если , дискретные случайные величины;

,

если , непрерывные случайные величины.

Таким образом, математические ожидания и дисперсии случайных величин , 2-мерной случайной величины вычисляются по формулам:

если , дискретные случайные величины, тогда

, ,

, ;

если , непрерывные случайные величины, тогда

, ,

, .



Пусть , - зависимые случайные величины, тогда

.

Опр. Ковариацией случайных величин , 2-мерной случайной величины называется математическое ожидание произведения отклонений (см с. 67) этих случайных величин, то есть,

.

Ковариация является характеристикой зависимости случайных величин , и имеет размерность

Используя свойства математического ожидания, преобразуем ковариацию:

.

.

Замечание. Если , независимые случайные величины, то .

Действительно,

.

Ковариация случайных величин , вычисляется по формулам:

,

если , дискретные случайные величины;

,

если , непрерывные случайные величины.

Величина ковариации зависит от размерности случайных величин , . Чтобы охарактеризовать меру связи между и 2-мерной случайной величины переходят к безразмерной характеристике.

Опр. Случайная величина называется нормированной, если , .

Любую случайную величину можно нормировать заменой

.

Опр. Коэффициентом корреляции случайных величин , 2-мерной случайной величины называется нормированная ковариация:

.



Если ковариацию случайных величин , разделить на произведение средних квадратичных отклонений этих случайных величин, получим равенство, связывающее ковариацию и коэффициент корреляции:

.

Свойства коэффициента корреляции.

1. Коэффициент корреляции случайных величин , не зависит от выбора единиц измерения этих случайных величин, то есть, является безразмерной величиной.

2. Абсолютная величина коэффициента корреляции любых случайных величин , не превосходит единицы:

.

3. Если , то между случайными величинами , существует линейная функциональная зависимость, то есть, , .

4. Если случайные величины , независимые, то . Обратное, вообще говоря, неверно.

5. Если , то случайные величины , коррелированны, положительно или отрицательно соответственно знаку «+» или «-» коэффициента корреляции.

Пр. 43 Случайная точка на плоскости распределена по закону (табл. 16):

Таблица 16

	-1	0	1
0	0,10	0,15	0,20
1	0,15	0,25	0,15



Найти числовые характеристики.

Решение. Представим ряд распределения (табл. 17) 2-мерной случайной величины в следующем виде:

Таблица 17

	-1	0	1
0	0,10	0,15	0,20	0,45
1	0,15	0,25	0,15	0,55
	0,25	0,40	0,35

Вычислим числовые характеристики случайных величин и :

; ;

; ;

; ;

;

.

Сказать что-либо конструктивное о математическом ожидании и дисперсии очень проблематично, если неизвестно какие события описывает случайная величина. В то же время, по значению коэффициента корреляции кое-какие выводы сделать можно. В нашем случае, зависимость между случайными величинами хоть и слабая, но есть (так как , т.е. близок к нулю). Кроме того, с увеличением значения одной случайной величины, значение другой, в среднем, убывает (об этом говорит отрицательный знак ).

Опр. Условным законом распределения составляющей случайной величины {или }, входящей в 2-мерную случайную величину , называется ее распределение, определенное при условии, что другая случайная величина {или } приняла определенное значение y {или x}, то есть

,

{или }.

Условные функции распределения непрерывных случайных величин , вычисляются по формулам …:

,

.

Условные плотности распределения вероятностей случайных величин , 2-мерной случайной величины определяются формулами …:

, .

Объединяя два последних равенства, получаем

.

Опр. Условным математическим ожиданием случайной величины {или } 2-мерной случайной величины при {или } называется выражение вида:

,

{или },

если , дискретные случайные величины;

,

{или },

если , непрерывные случайные величины.

Линии регрессии.

Из определения условного математического ожидания следует, что при изменении значения y изменяется и значение условного математического ожидания, то есть, условное математическое ожидание можно рассматривать как функцию аргумента y: . Эта функция называется функцией регрессии случайной величины на . Аналогично, называется функцией регрессии случайной величины на . Уравнения и называются уравнениями регрессии, а линии, определяемые ими - линиями регрессии.

Простейшим случаем функции регрессии является линейная регрессия. Пусть между случайными величинами и существует линейная функциональная зависимость, то есть,

, .

Найдем коэффициенты , .

Так как

,

, то есть, .

С другой стороны,

, .

Искомая функция имеет вид:

.

Аналогично,



.

Закон больших чисел

Под «законом больших чисел» в теории вероятностей понимается ряд математических теорем, в каждой из которых при тех или иных условиях устанавливается факт приближения средних характеристик большого числа опытов к некоторым определенным постоянным.

Свойство случайных величин при определенных условиях вести себя практически как не случайные позволяет уверенно оперировать этими величинами, предсказывать результаты массовых случайных явлений почти с полной определенностью.

Приведем некоторые неравенства может быть слишком грубые для применения на практике, но незаменимые в теоретических исследованиях.

Теорема (неравенство Маркова).

Для любой случайной величины с заданной функцией распределения и любых , имеет место следующее неравенство:

, , .

Доказательство. Пусть - случайная величина с функцией распределения и , тогда, воспользовавшись свойством , получаем

,

так как ,

т.е. , , .

Следствие 1. Если случайная величина положительно определена, то

, .

Следствие 2 (неравенство Чебышева). Вероятность того, что случайная величина отклоняется от своего математического ожидания не меньше любого положительного ограничена сверху величиной , то есть,

, .

Следствие 3. Вероятность того, что случайная величина отклоняется от своего математического ожидания меньше любого положительного , ограничена снизу величиной , то есть,

, .

Доказательство. .

Теорема (Чебышева). Если последовательность независимых случайных величин с конечными математическими ожиданиями и дисперсиями , ограниченными в совокупности, т.е. , , то при возрастании n среднее арифметическое значение случайных величин , , сходится по вероятности к среднему арифметическому их математических ожиданий, то есть,

, .

Доказательство. Пусть последовательность независимых случайных величин с конечными математическими ожиданиями и дисперсиями , ограниченными одним и тем же числом, , , . Обозначим , тогда . Соответственно, так как дисперсии ограниченны, имеем

.

Для фиксированного n и по следствию 3 окончательно:

.

Переходя к пределу при и учитывая, что вероятность события не может превышать 1, получаем

, .



Замечание. Из теоремы следует, что среднее арифметическое большого числа случайных величин (с ограниченными дисперсиями) устойчиво и сходится к некоторому числу.

Следствие 1 (теорема Хинчина). Если последовательность независимых, одинаково распределенных случайных величин, имеющих конечные математические ожидания, , , то

.

Следствие 2 (теорема Бернулли...