Теория вероятностей

В ∩ C = φ

В этом случае вероятность наступления B или C , равна

(2)

где U - символ союза двух множеств. Заметьте, что (2) описывает принцип сложения вероятностей: Если два события не пересекаются, то вероятность их наступления равна сумме их вероятностей.

Наконец, пусть событие Ω равно всем возможным результатам. Мы называем Ω определённым событием иливыборочным множеством. Так как каждый возможный результат заключён в этом событии, n_Ω = n. Поэтому

(3)

Пример 2 Предположим, что мы проводим эксперимент подбрасывания монеты (дважды) и наблюдаем результат. Каковы возможные результаты? Составим список всех возможных событий. Предполагая, что все результаты равновероятны, определим вероятность каждого события. Множество всех возможных результатов

Ω = {OO, OР, РО, РР} Здесь 2⁴ = 16 событий. Вот они:

{OO},{OР},{РО},{РР}

{OO, OР} , {OO, РО} , {OO, РР} , {OР, РО} , {OР, РР} , {РО, РР} {OO, OР, РО} , {OO, OР, РР} , {OO, РО, РР} , {OР, РО, РР} {OO, OР, РО, РР} , φ

Заметьте, что {OO, OР, РО, РР} есть определённое событие. Поэтому

P [{OO, OР, РО, РР}] = 1   (4)

Однако, из принципа сложения, следует, что

P [{OO, OР, РО, РР}] = P [{OO}] + P [{OР}] + P [{РО}] + P [{РР}]    (5)

но так как результаты одинаково равновероятны, то мы имеем, что

P [{OO}] = P [{OР}] = P [{РО}] = P [{РР}]      (6)

Поэтому из (5) и (6), следует, что

P [{OO}} = P [{OР}} = P [{РО}} = P [{РР}} = ¼    (7)

Используя принцип сложения вероятностей, мы видим, что

P [{OO, OР}] = P [{OO, TH}] = P [{OO, РР}] =

= P [{OР, РО}] = P [{OР, РР}] = P [{РО, РР}] = ½    (8)

P [{OO, OР, РО}] = P [{OO, OР, РР}] = P [{OO, РО, РР}] = P [{OР, РО, РР}] = 3/4        (9)

P[φ] = 0   (10)

Совместная вероятность

Пусть события D и E определены как следующие

D ={4♠, 2♣, 8♦, 4♠}

E ={4♥, K♠, 4♠, 2♣}

Заметьте, что

P[D] = 4/52 = 1/3

P[E] = 4/52 = 1/13

Тогда пересечение D и E есть другим событием, которое содержит элементы D и E

D ∩ E ={4♠, 2♠}

and

P[D ∩ E] = P[V,Ј] = P[D and E] = 1/16     (11)

Мы называем P [D ∩ E] = P [D, E] = P[D и E] совместной вероятностью D и E. Она описывает вероятность обоих происходящих событий

Условная вероятность

В ряде случаев, знания об одном событии дает нам дополнительную информацию о наступлении другого события. Предположим, что мы проводим эксперимент, и мы знаем, что D случилось. Таким образом, мы знаем, что результат был A♠, 2♣, 8♦), или 4♠. Говорит ли это нам что-то о наступлении E ?. Ответ - да.

Имея в виду, что D произошло, мы знаем, что результат был или A♠, 19♦, 8♦), или 4♠. Так как каждый результат равновероятен, мы имеем, что вероятность каждого из этих результатов, учитывая, что D произошло, равна ¼ или другими словами

P [A♠|D] = P [2♠|D] = P [8♦|D] = P [4♠|D] = ¼      (12)

Заметьте, что P [A|B] значит вероятность A с учетом того, что B произошло

Давайте теперь рассмотрим событие E = {4♥, K4(t, 4♠, 2♦}. Учитывая то, что D случилось и что возможные результаты были только A♠, 2♣, 8♣, or 4♣, мы можем сделать вывод, что результаты 4♥ и K♠ могли не случиться потому что 4♥ и K♠ не находятся в D. Поэтому

P[4♥|D] = P[K♣|D] = 0      (13)

Поэтому, учитывая, что D произошло, мы можем записать вероятность E следующим образом

P[E|D] = P[4♥|D] + P[K♣|D] + P[8♦|D]+P[4♠|D]

= 0 + 0 + ¼ + ¼ = ½

Мы также можем вычислить вероятность E , учитывая, что D произошло, используя следующее определение.

Определение 5 Пусть A и B два события одного эксперимента. Тогда условная вероятность A с данным B, P[A|B] определяется следующим образом

(15)

Если P [B] = 0, тогда P[A|B] неопределено. Итак, для случая E с данным D, мы имеем что

Подобным образом, для случая A с данным C мы имеем что

Еще один важный принципом вероятности является независимость.

Определение 6 Пусть A и B есть два события из одного эксперимента. Тогда A и B являются независимыми если совместная вероятность A и B равна произведениюих двух индивидуальных вероятностей.

P [A, B] = P [A] P [B]      (16)

Из этого следует, что

(17)

Это означает, если два события независимы, то наступление одного из них не изменяет вероятность наступления другого.

Случайные величины

Вы конечно же, заметили, что пока что мы оперировали с множествами и событиями, содержащими такие символы как 3♠, 4♠, 5♦, 6♥,.... В других примерах мы оперировали событиями

выполнить математический анализ и произвести действия над этими событиями. Однако, такая задача была бы затруднительной и не дала бы полного понимания.

Было бы гораздо лучше, если бы мы могли назначить каждому результату число. Мы могли бы работать с этими числа, используя стандартные математические методы.

Пример 3 Рассмотрим наш эксперимент с картами. Предположим, что каждой карте мы назначили целое число, как показано ниже

A♠->1

2♠->2

...

K♠->13

A♣->14

2♣->15

...

K♣->26

A♦->27

2♦->28

...

K♦->39

A♥->40

2♥->41

...

K♥->52

Тогда каждой карте присваивается целое число на числовой прямой. Положим, что мы выразили этот набор через функцию X (ζ), где ζ означает любой результат

Такое изображение называется случайной величиной.

Определение 7 Случайной величиной X (ζ) есть детерминированная функциякоторая назначает каждому результату ζ ε Ω в эксперименте число.

X : Ω -> R     (18)

Тогда P [X (ζ) = ∞] = P [X (ζ) = -∞] = 0

Первое, что вы можете заметить в случайных величинах это то, что

1.  Здесь нет ничего случайного

2.  Это не величина. Скорее, это набор функций.

Однако, при проведении анализа удобно рассматривать X (ζ) как величину. Рассмотрим второй пример случайной величины; так как случайная величина является функцией от результата, который имеет соответствующую вероятность, случайная величина также имеет соответствующую вероятность.

P[X(ζ) = x] = P(ζ = X^-1(x))

Пример 4 Рассмотрим тот же эксперимент с картами. Предположим, что мы определяем случайную величину S (Ј) так, что

Заметьте, что результат может быть назначен одним и тем же числом. Функция, определенная случайной величиной может быть любым множеством функции при условии что ±∞ есть ноль

Насчет вероятностей

Случайная величина есть функцией результатов эксперимента. Так как каждый результат имеет вероятность, число назначенное этой функции случайной величиной, также имеет вероятность. Вероятность данных случайных величин обозначается следующим образом.

P[X(ζ) = x] = P[ζ = X^-1(x)]

где X ^-1(x) это отображение числовой прямой R к множеству всех результатов, Ω.

Пример 5 Рассмотрим случайную величину X (ζ) определенную в примере 3

P[X(ζ) = 1] = P[ζ = X^-1]=P[ζ = A♠]= 1/52;

P[X(ζ) = 26] = P[ζ = X^-1(26)]=P[ζ = K♠] = 1/52

P[X (ζ) = 28.9] = P [ζ = X^-1(28.9)] =P [φ] = 0

P[X(ζ) = 0] = P[ζ = X^-1(0)]=P[φ]=0

P[X(ζ)≤2] = P{ζ=X^-1(-∞,2]} = P[ζ = {A♠,2♠}] = 2/52

Пример 6 Рассмотрим случайную величину S (ζ), определенную в примере 4
P[S (ζ) = 1] = P[(ζ = S ^-1(1)]

=    P[ζ = {A♠, 2♠, 3♠, 4♠, 5♠, 6♠, 7♠, 8♠, 9♠, 10♠, J♠, Q♠, K♠}] = ¼

P[S (ζ) = 2] =    P[ζ = S ^-1(2)]=¼

P [S (ζ) = 2.5] =    P[ζ = S ^-1(2.5)}=P[4φ]=0

P[2≤S(ζ)≤3] =    P{ζ = S ^-1 [2,3]} =P[ζ= {all ♣ and all ♥}] = ½

Функции кумулятивного распределения и функции плотности вероятности

Есть два пути проанализировать эксперименты через случайные величины: это через функцию кумулятивного распределения и функцию плотности вероятности

Определение 8 Пусть X (ζ) это случайная величина, определенная в пространстве Ω. Тогда функция кумулятивного распределения X обозначаетя функцией Fx (x₀) и определяется следующим образом

F_x (x₀) = P[X≤ x₀]
где множество [X ≤ x₀] является событиями эксперимента.

Пример 7 Рассмотрим случайную величину в примере 3. Функция кумулятивного распределения X есть

Пример 8 Рассмотрим случайную величину в примере 4. Функция кумулятивного распределения S есть

Fs (so) = ¼u (s₀ -l) + ¼u (s₀ -2) + ¼u (s₀ - 3) + ¼u (s₀ - 4)

So

Определение 9 Пусть X (ζ) является случайной величиной определенной на пространстве Ω. Тогда функция плотности вероятности of X обозначается символом l fx (x) и определяется как производная функции кумулятивного распределения

(24) Заметьте, что мы можем восстановить функцию кумулятивного распределения из функции плотности вероятности через интегрирование

(25) Поэтому fx (x) всегда будет интегрирована к 1

Кроме того, вероятность того, что X (ζ) находится между x₁ и x₂, x₂ < x₁ and x<i включительно, может быть рассчитана следующим образом

Заметьте, что аргумент, ζ, был исключен из случайной величины, X. В течение оставшейся части этого материала мы будем считать, что зависимость случайной величины X от ζ подразумевается и аргумент опускается для удобства

Моменты случайных величин

Моменты случайных величин включают такие значения как средние значения, дисперсию, стандартное отклонение и прочее. Они особенно полезны в области связи, поскольку они предоставляют ценную информацию о случайной величине, чтобы иметь статистические данные (например функцию кумулятивного распределения или функцию плотности вероятности)

Определение 10 Пусть X это случайная величина с функцией плотности вероятности fx (x). Тогда ожидаемое значение или среднее значение X, есть

(28)

Определение 11 Пусть X будет случайной величиной с функцией плотности вероятности fx (x). Тогда, дисперсия X есть

и стандартное отклонение X есть

Определение 12 Пусть X это случайная величина с функцией плотности вероятности fx (x). Тогда n^-й момент X есть

и n^-й центральный момент X есть

(32)

Наконец, пусть X это случайная величина и пусть g (X) есть некоторой функцией этой случайной величины. В большинстве случаев g (X) преобразуется X в новую случайную величину, которую мы назовем Y

Y = g(X)     (33)

и которая имеет свои собственные функцию кумулятивного распределения и функцию плотности вероятности, и которые должны быть найдены через использование методов преобразования случайных величин. Однако, если нам интересны в моментах Y, такие как среднее значение, тогда знание об функции кумулятивного распределения и функции плотности вероятности Y не обязательны. Скорее мы можем просто использовать уже известные функции кумулятивного распределения и функции плотности вероятности X.

Теорема 1 Пусть X это случайная величина с функцией плотности вероятности fx (x). Пусть Y = g (X) это некоторое преобразование Х. Тогда ожидаемое значениеили среднее Y есть

Пример 9 Пусть X это случайная величина со следующей функцией плотности вероятности

Функции случайной величины

Определение 1 Рассмотрим функцию случайной величины, g(X). Результат это другая случайная величина, которую мы можем назвать Y, Y = g(X). Однако функции кумулятивного распределения и функции плотности вероятности Y будут различные от тех же функций X. В самом деле, мы используем информацию об Fx (x), fx (x), и g (X) чтобы определить Fy (y) и fy (y)

Распределение Y = g(X)

Функция плотности вероятности случайной величины, Y, есть ничто более чем вероятность события {Y ≤ y}. Она состоит из всех результатов ζ ε Ω таких что Y (ζ) ≤ Y Это эквивалентно множеству всех результатов ζ ε Ω таких что g [X (ζ)] ≤ y, и это эквивалентно множеству всех результатов ζ ε Ω таких что X (ζ) ≤ g^-1(y). Так,

F(y) = P({Y≤ y}) = P({g(X) ≤ y}) = P({X ≤ g^-1(y)})     (36)

Функция плотности вероятности Y = g (X)

Тогда как функция плотности вероятности рассчитана, расчет функции плотности вероятности Y является простым

f^Y(y) = dF^Y(y) / dy

Примеры

Пример 10 Пусть X это случайная величина. Пусть

Y = g (X) = 2X + 1

Найдем Fy (y) и (y). Чтобы найти Fy (y), мы должны оценить событие {Y ≤ y} где Y есть случайная величина , а y - это просто число. Рассмотрим следующий график

{Y≤y}

Утолщенная вертикальная прямая относится к событию {ζ :Х(ζ)≤ y} и горизонтальная прямая относится к событию {ζ : X (ζ) ≤ ½ (y — 1)}. Оба события имеют точно такие же результаты. Поэтому

Поэтому

{Y ≤ y} = {2X + 1 ≤ y} = {X ≤ ½(y - 1)} = {X ≤ g^-1 (y)}

Обратите внимание, что обратная функция g^-1(Y) есть

g^-1(Y)=½(X - l)

Так,

F_Y(y) = P[Y ≤ y]=P[2X + l ≤ y] = P[X ≤ ½(y - 1) = F_x(½(y - 1))

Сейчас предположим, что Х было равномерно распределено между 0 и 1. Тогда

Теперь мы можем определить Fy (y). Подставим несколько значений

y = 0     F_y(0) = F_x(½(0 - 1))=F_x(-½)=0

y = 1    F_y(l) = F_x ½ (1 - 1) = F_x (0) = 0

y = 2    F_y (2) = F_x ½ (2 - 1) = F_x (½) = ½

y = 3    F_y(3) = F_x (½ (3 - 1)) = F_x (1) = 1

Тогда

Плотность Y, fy (y), есть просто

и из (41) мы имеем что

Мы также можем рассчитать fy (y) следующим образом

Подставляя (38) в уравнение выше, мы получаем такой же результат, как (43).

Пример 11 Пусть X - это случайная величина. Пусть

Y = g(X) = X²
Тогда для y ≥ 0, мы имеем что Y ≤ y, когда X² ≤ y для -√y ≤ X ≤ √y.

Обратите внимание, что в этом случае здесь есть две обратные функции для g (X)

g^-1₁(Y) = √Y

g^-1₂(Y) = -√Y

Тогда

F_Y (y) = P(Y ≤ y) = P(X² = y) = P(-√y ≤ X ≤ √y) = F_x (√y) - F_x (-√y)

and

Теперь для y<0, нет таких значений x, для которых x² < y. Поэтому

F_Y{y)=0    y < 0
Опять, предположим, что X равномерно распределено в интервале [0,1]. Тогда мы имеем что

и

F(x)

Рисунок 1: функция плотности вероятности Гауссовской случайной величины

Общие случайные величины

Гауссовские случайные величины

Гауссовские случайные величины являются наиболее распространенными из всех случайных переменных. Они используется для числовых характеристик случайных явлений, таких как шум в телекоммуникационной системе вследствие случайных флуктуации напряжения в условиях отсутствия прямой видимости беспроводных систем связи, таких как сотовые системы и системы персональной связи. Гауссовская случайная величина имеет функцию плотности вероятности, которая полностью определяется ее значением m и дисперсией σ². Пусть X будет Гауссовской случайной величиной со значением m_x и дисперсией σ²_x. Tогда, fx (x) is

и строится следующим образом. Функция кумулятивного распределения X находится обычным путем

Этот интеграл не может быть оценен в замкнутом виде. Однако интегралы сведены в таблицы. Табуляция, общая для инженеров связи Q-функция, где

Поэтому,

Другие хорошо табулированные интегралы включают функцию ошибки и дополнительную функцию ошибки. Функция ошибки определяется следующим образом

Дополнительная функция ошибки это

Обратите внимание, что дополнительная функция ошибок и Q-функция связаны следующим образом

Обратите внимание, что P [x₁ < X < x₂ рассчитывается следующим образом

Случайные величины Релея

Пусть X и Y - две независимые Гауссовские случайные величины с m_x = m_y = 0 и σ²_x = σ²_y = σ². Допустим, мы определяем новую случайную величинуZ в результате преобразования

Сейчас если X и Y представляют полученные напряжения от двух составляющих сигнала в беспроводном канале, тогда Z представляет полученный пакет, namely, Z называется распределением Релея. Функция плотности вероятности Z

is

и строится, как показано ниже для различных значений σ²_x = σ_y² = σ²

Функция кумулятивного распределения Z находится интегрированием функцией плотности вероятности. Поэтому

Полученный пакет в мобильной связи, где не установлена линия прямой видимости, обычно моделируется clS Qb распределением Релея

Экспоненциальное или показательное распределение

Пусть Z будет распределением Релея. Предположим, что мы обозначаем новую случайную ведичину W, для которой

Если Z представляет напряжение пакета радиосигнала, то W представляет мощность в радиосигнале, с точностью до постоянной. Tогда W имеет следующую функцию плотности вероятности

W называется экспоненциальной случайной величиной и функция плотности вероятности w выглядит следующим образом:

Функция кумулятивного распределенияW есть

Экспоненциальные случайные величины используются для моделирования мощности сигналов в мобильных сетях, где не установлена линия прямой видимости

Равномерное распределение случайных величин

В системе или в сигналах, где фаза неизвестна, обычно моделируется как случайная величина θ, которая равномерно распределена между 0 и 2π. Функция плотности вероятности такой случайной величины есть

Функция кумулятивного распределения есть

Центральная предельная теорема

Предположим, что мы имеем большое число случайных величин, которые мы суммируем. Центральная предельная теорема говорит, что результирующая случайная величина будет иметь распределение Гаусса. Это одна из причин, почему гауссовские случайные величины так распространены. Более формальное определение этой теоремы следующее

Теорема 2 Пусть Xi, i = 1, 2,..., N будет набором независимых случайных величин со средним значением 0 и дисперсией 1. Обозначим новою случайную величину Y, следующим образом

Тогда Y есть Гауссовской случайной величиной со средним значением 0 и дисперсией 1, т.e., m_y = 0, σ²_y = 1.

Случайные величины Райса

Только что мы узнали, что если не установлена линия прямой видимости в мобильной системе связи, то полученный пакет радиосигнала будет иметь распределение Релея. Однако, если установлена прямая видимость, то сигнал будет иметь распределение Райса, которое имеет следующую функцию плотности вероятности

где I₀ (·) есть модифицированной функцией Бесселя 0^-го порядка. Обратите внимание, что когда v = 0, Iq (0) = 1 и Z вырождается в распределение Релея.