Случайные величины

Случайные величины

Оглавление

Случайные величины.. 2

Функция распределения вероятностей.. 3

Основные свойства функции распределения вероятностей.. 5

Функция распределения вероятностей дискретной случайной величины6

Плотность распределения вероятностей.. 7

Плотность распределения вероятностей дискретной случайной величины9

Примеры плотностей и функций распределения вероятностей.. 10

Сингулярные случайные величины.. 13

Математическое ожидание случайной величины.. 15

Примеры вычисления математического ожидания случайной величины.. 17

Свойства математического ожидания. 19

Дисперсия случайной величины.. 20

Моменты случайной величины.. 22

Неравенство Чебышева. 23

Коэффициент асимметрии.. 25

Коэффициент эксцесса. 26

Среднеквадратическая ошибка. 27

Характеристическая функция. 28

Основные свойства характеристической функции.. 29

Примеры вычисления характеристической функции.. 30

Моменты, кумулянты и характеристическая функция. 31

Выше рассматривались эксперименты, результаты которых являются случайными событиями. Однако часто возникает необходимость количественного представления результатов эксперимента в виде некоторой величины
, которая называется случайной величиной. Случайная величина является вторым (после случайного события) основным объектом изучения теории вероятностей и обеспечивает более общий способ описания опыта со случайным исходом, чем совокупность случайных событий.

Рассматривая эксперименты со случайным исходом, мы уже имели дело со случайными величинами. Так, число успехов
в серии из
испытаний - пример случайной величины. Другими примерами случайных величин являются: число вызовов на телефонной станции за единицу времени; время ожидания очередного вызова; число частиц с заданной энергией в системах частиц, рассматриваемых в статистической физике; средняя суточная температура в данной местности и т.д.

Случайная величина характерна тем, что невозможно точно предсказать ее значение, которое она примет, но с другой стороны, множество ее возможных значений обычно известно. Так для числа успехов в последовательности из
испытаний это множество конечно, поскольку число успехов может принимать значения
. Множество значений случайной величины, может совпадать с вещественной полуосью
, как в случае времени ожидания и т.д.

Рассмотрим примеры экспериментов со случайным исходом, для описания которых обычно применяются случайные события и введем эквивалентное описание с помощью задания случайной величины.

1). Пусть результатом опыта может быть событие
или событие
. Тогда этому эксперименту можно поставить в соответствие случайную величину
, которая принимает два значения, например,
и
с вероятностями
и
, причем имеют место равенства:
и
. Таким образом, опыт характеризуется двумя исходами
и
с вероятностями
и
, или этот же опыт характеризуется случайной величиной
, принимающей два значения
и
с вероятностями
и
.

2). Рассмотрим опыт с бросанием игральной кости. Здесь исходом опыта может быть одно из событий
, где
- выпадение грани с номером
. Вероятности
,
. Введем эквивалентное описание этого опыта с помощью случайной величины
, которая может принимать значения
с вероятностями
,
.

3). Последовательность
независимых испытаний характеризуется полной группой несовместных событий
, где
- событие, состоящее в появлении
успехов в серии из
опытов; причем вероятность события
определяется формулой Бернули, т.е.
. Здесь можно ввести случайную величину
- число успехов, которая принимает значения
с вероятностями
. Таким образом, последовательность независимых испытаний характеризуется случайными событиями
с их вероятностями
или случайной величиной
с вероятностями того, что
принимает значения
:
,
.

4). Однако, не для всякого опыта со случайным исходом существует столь простое соответствие между случайной величиной и совокупностью случайных событий. К примеру, рассмотрим эксперимент, в котором точка наугад бросается на отрезок
. Здесь естественно ввести случайную величину
- координату на отрезке
, в которую попадает точка. Таким образом, можно говорить о случайном событии
, где
- число из
. Однако вероятность этого события
. Можно поступить иначе - отрезок
разбить на конечное число непересекающихся отрезков
и рассматривать случайные события, состоящие в том, что случайная величина
принимает значения из интервала
. Тогда вероятности
- конечные величины. Однако и этот способ имеет существенный недостаток, поскольку отрезки
выбираются произвольным образом. Для того, чтобы устранить этот недостаток рассматривают отрезки вида
, где переменная
. Тогда соответствующая вероятность

(29.1)

является функцией аргумента
. Это усложняет математическое описание случайной величины, но при этом описание (29.1) становится единственным, устраняется неоднозначность выбора отрезков
.

Для каждого из рассмотренных примеров несложно определить вероятностное пространство
, где
- пространство элементарных событий,
-
- алгебра событий (подмножеств
),
- вероятность, определенная для любого
. Например, в последнем примере
,
-
- алгебра всех отрезков
, содержащихся в
.

Рассмотренные примеры приводят к следующему определению случайной величины.

Пусть
- вероятностное пространство. Случайной величиной
называется однозначная действительная функция
, определенная на
, для которой множество элементарных событий вида
является событием (т.е. принадлежат
) для каждого действительного числа
.

Таким образом, в определении требуется, чтобы для каждого вещественного
множество
, и это условие гарантирует, что для каждого
определена вероятность события
. Это событие принято обозначать более краткой записью
.

Функция

,
, (30.1)

называется функцией распределения вероятностей случайной величины
.

Функция
иногда называется кратко – функция распределения, а также – интегральным законом распределения вероятностей случайной величины
. Функция
является полной характеристикой случайной величины, то есть представляет собой математическое описание всех свойств случайной величины и более детального способа описания этих свойств не существует.

Отметим следующую важную особенность определения (30.1). Часто функцию
определяют иначе:

,
. (30.2)

Согласно (30.1) функция
является непрерывной справа. Этот вопрос подробнее будет рассмотрен ниже. Если же использовать определение (30.2), то
- непрерывна слева, что является следствием применения строгого неравенства в соотношении (30.2). Функции (30.1) и (30.2) представляют собой эквивалентные описания случайной величины, поскольку не имеет значения каким определением пользоваться как при изучении теоретических вопросов, так и при решении задач. Для определенности в дальнейшем будем использовать только определение (30.1).

Рассмотрим пример построения графика функции
. Пусть случайная величина
принимает значения
,
,
с вероятностями
,
, причем
. Таким образом, другие значения кроме указанных данная случайная величина принимает с нулевой вероятностью:
, для любого
,
. Или как говорят, других значений кроме
,
,
случайная величина
не может принимать. Пусть для определенности
. Найдем значения функции
для
из интервалов: 1)
, 2)
, 3)
, 4)
, 5)
, 6)
, 7)
. На первом интервале
, поэтому функция распределения
. 2). Если
, то
. Очевидно случайные события
и
несовместны, поэтому по формуле сложения вероятностей
. По условию событие
невозможное и
, а
. Поэтому
. 3). Пусть
, тогда
. Здесь первое слагаемое
, а второе
, поскольку событие
- невозможное. Таким образом
для любого
, удовлетворяющего условию
. 4). Пусть
, тогда
. 5). Если
, то
. 6) При
имеем
. 7) Если
, то
. Результаты вычислений представлены на рис. 30.1 графиком функции
. В точках разрыва
,
,
указана непрерывность функции справа.

Рис. 30.1. График функции распределения вероятностей.

Рассмотрим основные свойства функции распределения, следующие непосредственно из определения:

. (31.1)

1. Введем обозначение:
. Тогда из определения следует
. Здесь выражение
рассматривается как невозможное событие с нулевой вероятностью.

2. Пусть
. Тогда из определения функции
следует
. Случайное событие
является достоверным и его вероятность равна единице.

3. Вероятность
случайного события
, состоящего в том, что случайная величина
принимает значение из интервала
при
определяется через функцию
следующим равенством

. (31.2)

Для доказательства этого равенства рассмотрим соотношение

. (31.3)

События
и
несовместны, поэтому по формуле сложения вероятностей из (31.3) следует

, (31.4)

что и совпадает с формулой (31.2), поскольку
и
.

4. Функция
является неубывающей. Для доказательства рассмотрим
. При этом справедливо равенство (31.2). Его левая часть
, поскольку вероятность принимает значения из интервала
. Поэтому и правая часть равенства (31.2) неотрицательна:
, или
. Это равенство получено при условии
, поэтому
- неубывающая функция.

5. Функция
непрерывна справа в каждой точке
, т.е.

, (31.5)

где
- любая последовательность, стремящаяся к
справа, т.е.
и
.

Для доказательства представим функцию
в виде:

. (31.5)

Отсюда

. (31.6)

Теперь на основании аксиомы счетной аддитивности вероятности выражение в фигурных скобках равно
, таким образом

, что и доказывает непрерывность справа функции
.

Таким образом, каждая функция распределения вероятностей обладает свойствами 1-5. Верно и обратное утверждение: если
,
, удовлетворяет условиям 1-5 ,то она может рассматриваться как функция распределения некоторой случайной величины.

Случайная величина
называется дискретной, если множество ее значений конечно или счетно.

Для полного вероятностного описания дискретной случайной величины
, принимающей значения
, достаточно задать вероятности

,
(32.1)

того, что случайная величина
принимает значение
. Если заданы
и
,
, тогда функцию распределения вероятностей
дискретной случайной величины
можно представить в виде:

. (32.2)

Здесь суммирование ведется по всем индексам
, удовлетворяющим условию:
.

Функцию распределения вероятностей дискретной случайной величины иногда представляют через так называемую функцию единичного скачка

(32.3)

При этом
принимает вид

, (32.4)

если случайная величина
принимает конечное множество значений
, и верхний предел суммирования в (32.4) полагается равным
, если случайная величина принимает счетное множество значений.

Пример построения графика функций распределения вероятностей дискретной случайной величины был рассмотрен в п.30.

Пусть случайная величина
имеет дифференцируемую функцию распределению вероятностей
, тогда функция

(33.1)

называется плотностью распределения вероятностей ( или плотностью вероятности) случайной величины
, а случайная величина
- непрерывной случайной величиной.

Рассмотрим основные свойства плотности вероятности.

Из определения производной следует равенство:

. (33.2)

Согласно свойствам функции
имеет место равенство
. Поэтому (33.2) принимает вид:

. (33.3)

Это соотношение объясняет название функции
. Действительно, согласно (33.3) функция
- это вероятность
, приходящаяся на единицу интервала
, в точке
, поскольку
. Таким образом, плотность вероятности, определяемая соотношением (33.3), аналогична определениям плотностей других величин, известных в физике, таких как плотность тока, плотность вещества, плотность заряда и т.д.

2. Поскольку
- неубывающая функция, то ее производная
- функция неотрицательная:

. (33.4)

3. Из (33.1) следует

,

поскольку
. Таким образом, справедливо равенство

. (33.5)

4. Поскольку
, то из соотношения (33.5) следует

(33.6)

- равенство, которое называется условием нормировки. Его левая часть
- это вероятность достоверного события.

5. Пусть
, тогда из (33.1) следует

. (33.7)

Это соотношение имеет важное значение для приложений, поскольку позволяет вычислить вероятность
через плотность вероятности
или через функцию распределения вероятностей
. Если положить
, то из (33.7) следует соотношение (33.6).

На рис. 33.1 представлены примеры графиков функции распределения и плотности вероятностей.

Рис. 33.1. Примеры функции распределения вероятностей и плотности вероятности.

Отметим, что плотность распределения вероятности может иметь несколько максимумов. Значение
аргумента
, при котором плотность
имеет максимум называется модой распределения случайной величины
. Если плотность
имеет более одной моды, то
называется многомодальной.

Пусть случайная величина
принимает значения
с вероятностями
,
. Тогда ее функция распределения вероятностей

, (34.1)

где
- функция единичного скачка. Определить плотность вероятности
случайной величины
по ее функции распределения
можно с учетом равенства
. Однако при этом возникают математические сложности, связанные с тем, что функция единичного скачка
, входящая в (34.1), имеет разрыв первого рода при
. Поэтому в точке
не существует производная
функции
.

Для преодоления этой сложности вводится
-функция. Функцию единичного скачка можно представить через
-функцию следующим равенством:

. (34.2)

Тогда формально производная

(34.3)

и плотность вероятности дискретной случайной величины определяется из соотношения (34.1) как производная функции
:

. (34.4)

Функция (34.4) обладает всеми свойствами плотности вероятности. Рассмотрим пример. Пусть дискретная случайная величина
принимает значения
с вероятностями
, и пусть
,
. Тогда вероятность
- того, что случайная величина
примет значение из отрезка
может быть вычислена, исходя из общих свойств плотности по формуле:

.

Здесь

,

поскольку особая точка
- функции, определяемая условием
, находится внутри области интегрирования при
, а при
особая точка находится вне области интегрирования. Таким образом,

.

Для функции (34.4) также выполняется условие нормировки:

.

Отметим, что в математике запись вида (34.4) считается некорректной (неправильной), а запись (34.2) - корректной. Это обусловлено тем, что
-функция при нулевом аргументе
, и говорят, что
не существует. С другой стороны, в (34.2)
-функция содержится под интегралом. При этом правая часть (34.2) - конечная величина для любого
, т.е. интеграл от
-функции существует. Несмотря на это в физике, технике и других приложениях теории вероятностей часто используется представление плотности в виде (34.4), которое, во-первых, позволяет получать верные результаты, применяя свойства
- функции, и во-вторых, имеет очевидную физическую интерпретацию.

35.1.
Случайная величина
называется равномерно распределенной на отрезке
, если ее плотность распределения вероятностей

(35.1)

где
- число, определяемое из условия нормировки:

. (35.2)

Подстановка (35.1) в (35.2) приводит к равенству, решение которого относительно
имеет вид:
.

Функция распределения вероятностей
равномерно распределенной случайной величины может быть найдена по формуле (33.5), определяющей
через плотность:

(35.3)

На рис. 35.1 представлены графики функций
и
равномерно распределенной случайной величины.

Рис. 35.1. Графики функции и плотности распределения

равномерно распределенной случайной величины.

35.2.
Случайная величина
называется нормальной (или гауссовой), если ее плотность распределения вероятностей:

, (35.4)

где
,
- числа, называемые параметрами функции
. При
функция
принимает свое максимальное значение:
. Параметр
имеет смысл эффективной ширины
. Кроме этой геометрической интерпретации параметры
,
имеют и вероятностную трактовку, которая будет рассмотрена в последующем.

Из (35.4) следует выражение для функции распределения вероятностей

, (35.5)

где
- функция Лапласа. На рис. 35.2 представлены графики функций
и
нормальной случайной величины. Для обозначения того, что случайная величина
имеет нормальное распределение с параметрами
и
часто используется запись
.

Рис. 35.2. Графики плотности и функции распределения

нормальной случайной величины.

35.3.
Случайная величина
имеет плотность распределения вероятностей Коши, если

. (35.6)

Этой плотности соответствует функция распределения

.

(35.7)

35.4.
Случайная величина
называется распределенной по экспоненциальному закону, если ее плотность распределения вероятностей имеет вид:

(35.8)

Определим ее функцию распределения вероятностей. При
из (35.8) следует
. Если
, то

. (35.9)

35.5.
Релеевское распределение вероятностей случайной величины определяется плотностью вида

(35.10)

Этой плотности соответствует функция распределения вероятностей
при
и равная

(35.11)

при
.

35.6.
Рассмотрим примеры построения функции распределения и плотности дискретной случайной величины. Пусть случайная величина
- это число успехов в последовательности из
независимых испытаний. Тогда случайная величина
принимает значения
,
с вероятностью
, которая определяется формулой Бернулли:

, (35.12)

где
,
- вероятности успеха и неуспеха в одном опыте. Таким образом, функция распределения вероятностей случайной величины
имеет вид

, (35.13)

где
- функция единичного скачка. Отсюда плотность распределения:

, (35.14)

где
- дельта-функция.

Кроме дискретных и непрерывных случайных величин существуют еще так называемые сингулярные случайные величины. Эти случайные величины характеризуются тем, что их функция распределения вероятностей
- непрерывна, но точки роста
образуют множество нулевой меры. Точкой роста
функции
называется значение ее аргумента
такое, что производная
.

Таким образом,
почти всюду на области определения функции. Функцию
, удовлетворяющую этому условию, также называют сингулярной. Примером сингулярной функции распределения является кривая Кантора (рис. 36.1), которая строится следующим образом. Полагается
при
и
при
. Затем интервал
разбивается на три равных части (сегмента) и для внутреннего сегмента
определяется значение
- как полусумма уже определенных значений на ближайших сегментах справа и слева. На данный момент функция
определена для
, ее значение
, и для
со значением
. Полусумма этих значений равна
и определяет значение
на внутреннем сегменте
. Затем рассматриваются отрезки

Рис. 36.1. Построение кривой Кантора.

и
, каждый из них разбивается на три равных сегмента и функция
определяется на внутренних сегментах как полусумма ближайших справа и слева заданных значений функции
. Таким образом, при
функция
- как полусумма чисел
и
. Аналогично на интервале
функция
. Затем функция
определяется на интервале
, на котором
и т.д.

Суммарная длина всех внутренних сегментов равна

Поэтому, рассматривая интервал
, говорят что функция
- постоянная на множестве меры 1, на множестве меры 0 растет, но без скачков.

Известна теорема Лебега. Любая функция распределения
может быть единственным образом представлена в виде суммы трех компонент: дискретной, непрерывной и сингулярной.

Сингулярные распределения практически не встречаются в реальных задачах и поэтому исключаются из нашего дальнейшего изучения.

37.1. Функция распределения вероятностей или плотность вероятности являются полными вероятностными характеристиками случайной величины. Однако, во многих задачах такая полная характеристика случайной величины, с одной стороны, может быть неизвестна для исследователя, а с другой стороны и не обязательна, достаточно ограничиться значением некоторых параметров распределения вероятностей, т.е. некоторых чисел (или числовых характеристик). Здесь уместна аналогия с геометрическим описанием сложной формы твердого тела, когда ограничиваются такими характеристиками (числами) как длина, ширина, высота, объем, момент инерции, и т.д., а детальное описание сложной формы этого тела не рассматривается. Числовыми характеристиками случайных величин чаще всего служат так называемые моменты распределения, простейшим из которых является математическое ожидание случайной величины.

Прежде чем вводить определение математического ожидания случайной величины, рассмотрим выражение среднего арифметического результатов измерения дискретной случайной величины. Пусть случайная величина
может принимать значения
соответственно с вероятностями
. Результат измерения случайной величины
в каждом опыте - это одно из чисел
. Пусть выполнено
опытов, среди них в
опытах случайная величина
принимала значение
, в
опытах - значение
,..., в
опытах - значение
. Очевидно,
- полное число опытов. Пусть
- среднее арифметическое результатов измерения случайной величины
в
опытах, тогда

, (37.1)

где
- частота появления числа
при измерении случайной величины
в
опытах. С увеличением числа опытов
величина
приближается к числу
. Поэтому для того, чтобы определить теоретический аналог среднего арифметического
достаточно в формуле (37.1) частоту
заменить на вероятность
. Это приводит к следующему определению.

Математическим ожиданием (средним, статистическим средним) дискретной случайной величины
, принимающей значения
с вероятностями
, называется число

. (37.2)

Если множество значений дискретной случайной величины счетно:
, то в (37.2) полагается
.

Пусть
- однозначная функция одной переменной,
- дискретная случайная величина, принимающая значения
с вероятностями
. Тогда
- дискретная случайная величина, принимающая значения
с вероятностями
. Поэтому из определения (37.2) математического ожидания следует

(37.3)

- выражение, определяющее математическое ожидание функции
.

Математическим ожиданием непрерывной случайной величины
с плотностью распределения вероятностей