МОДЕЛИ СЛУЧАЙНЫХ СИГНАЛОВ

1.8. МОДЕЛИ СЛУЧАЙНЫХ СИГНАЛОВ.

Величина, которая в каждом определенном случае в зависимости от результатов опыта может принимать то или иное числовое значение, называется случайной величиной. Конкретное значение, которое может принять случайная величина, называется возможным ее значением. Случайную величину можно определить как, функцию заданную на пространстве элементарных событий.

Случайные величины обозначают большими буквами латинского алфавита X,Y,Z,.., а возможные их значения соответствующими буквами x, y, z,...,. Случайная величина зависит, от элементарного события. Этот факт обозначается следующим образом Х=Х(ω).

 Случайная величина, множество значений которой конечно или счетною, называется дискретной, случайной величиной.

ВЕКТОРНЫЕ (МНОГОМЕРНЫЕ) СЛУЧАИНЫЕ ВЕЛИЧИНЫ.

Кроме одномерных, случайных величин можно рассматривать многомерные, случайные векторы, координаты которых являются одномерными, случайными величинами. Такие случайные величины встречаются во многих технических задачах.

Случайные сигналы G и Х на входе и выходе системы автоматического регулирования (САР) с n -выходами и m -входами можно рассматривать n- и m- мерные, случайные векторы (рис 1)

САР

САР

g1 x1

g2 x2

X G

gn xn

 

G^T=[g₁,g₂,...,g_n] X^T=[x₁,x₂,...,x_n]

Случайные векторные величины будем обозначать жирными буквами латинского алфавита X,Y,Z, . Рассмотрим совокупность n случайных величин x₁( ), x ( ),.., x ( )заданных на пространстве элементарных событий. Эти величины можно интегрировать как одну векторную, случайную величину:

(1) X^T(ω)=[x₁(ω),...,x_n(ω)]

Случайная векторная величина принимает каждый раз значения, зависящие от элементарного события. Таким образом, многомерная, случайная величина есть вектор-функция, заданная на пространстве элементарных событий, и каждое ее возможное значение есть вектор.

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ (МОМЕНТЫ) СЛУЧАЙНЫХ ВЕЛИЧИН.

Полными характеристиками случайных величин являются их функции распределения или плотности распределения вероятностей. Однако многие задачи теории вероятности можно решать, не используя функции распределения вероятностей. Оказывается, что статические свойства случайных величин могут быть описаны на основе числовых характеристик распределения этих случайных величин. Одной из наиболее важных числовых характеристик случайной величины является ее среднее значение, называемое также математическим ожиданием.

Математическим ожиданием М [Х] случайной величины Х называется число, определяемое интегралом вида:

∞

(2) m_X=M[X]=⌡ xf(x)dx

-∞

где f(х) - плотность распределения вероятностей случайной величины Х, х - возможные ее значения.

Для дискретной, случайной величины Х, плотность распределения вероятностей есть сумма дельта - функций получим:

n  n

(3) M[X]=x ∑ p_k δ(x-x_k)dx= ∑ x_k p_k

k=1 k=1

здесь х_k возможное значение случайной величины, p_k- вероятность того, что случайная величина примет значение х_к.

Из равенства (3) следует, что математическое ожидание случайной дискретной величины Х равно сумме произведений возможных значений, принимаемых случайной величиной, на соответствующие им вероятности.

Отсюда вытекает вероятностный смысл математического ожидания, оно определяет координату центра группирования значений, принимаемых случайной величиной; следовательно, математическое ожидание является средним значением случайной величины.

Для непрерывной, случайной величины каждому ее возможному значению х соответствует элементарная вероятность f(х)dx . Если задана случайная величина Y, которая является неслучайной функцией Y=Ψ(x) случайного дискретного элемента Х, то Y принимает возможные значения у_k=Ψ(х_k) с вероятностями p_k; поэтому математическое ожидание случайной величины Y=Ψ(х) аналогично равенству (3).

n

(4) M[Ψ(x)]= ∑ Ψ(x_k)p_k

k=1

Если Х - непрерывная, случайная величина, то функция от этой величины Y=Ψ(х) принимает возможные значенияΨ(x) с вероятностями f(х)dх. В этом случае сумма (4) после предельного перехода равна соответствующему интегралу:

∞

(5)  M[Ψ(x)]= ⌡ Ψ(x)f(x)dx

-∞

Пологая, в формуле (5) Ψ(х)=хⁿ получим выражение для моментов случайных величин Х.

Начальным моментом (или просто моментом) случайной величины Х называется математическое ожидание ее, n-ной степени. Этот момент обозначается α_n т.е.

∞

(6) α_n=M[Xⁿ]= ⌡ xⁿ f(x)dx

-∞

Очевидно, математическое ожидание не может дать полное представление о случайной величине, т.к. характеризует только ее среднее значение:

*  * * * **** x₁

0 m

* *** *** * x₂

0 m

На рисунке 2 крестиками показаны значения, которые приняли случайные величины х₁, х₂. Эти случайные величины имеют одинаковые математические ожидания M[x₁]=M[x₂]=m, но разброс значений, который имеет случайная величина х₂ около своего математического ожидания, больше чем разброс значений случайной величины х₁.

Для характеристики величины разброса значений случайной величины около математического ожидания вводится еще одна характеристика случайной величины, равная сумме произведений квадратов отклонений, возможных значений случайной величины от математического ожидания на соответствующие этим возможным значениям вероятности.

Такая числовая характеристика называется дисперсией случайной величины Х и обозначается D[Х]. Для дисперсии случайной величины Х имеем:

 n

(7) D[X]= ∑ (x_k-M[X])² p_k

k=1

Очевидно, что чем больше дисперсия, тем больше разброс возможных значений случайной величины от математического ожидания. Из выражения (6) следует, что дисперсия есть математическое ожидание квадрата разности случайной величины и ее математического ожидания.

Для непрерывной, случайной величины Х формула (6) после предельного перехода принимает вид:

∞

(8) D[X]=M(X-M[X])²= ⌡ (x-M[X])² f(x)dx

-∞

Разность между случайной величиной и ее математическим ожиданием называется центрированной случайной величиной Х^○.

(9) X^○=X-M[X]

Центральным моментом n-го порядка случайной величины Х называется математическое ожидание n-ой степени интегрированной случайной величины Х^○, т.е.

∞

(10) μ_n=M[(X^○)ⁿ]=M[X-M[X]ⁿ]= ⌡ (x-M[X]ⁿ) f(x)dx

 -∞

Из формул (8), (9) следует, что дисперсия является центральным моментом второго порядка случайной величины. Дисперсия случайной величины имеет разность квадрата этой величины, однако, удобнее пользоваться мерой разброса случайной величины, имеющей ту же размерность, что и сама случайная величина. За эту меру принимают положительное значение квадратного корня из дисперсии и называют ее средним квадратичным отклонением.

(11) δ_x=√ D[X] = √ μ_x

МОМЕНТЫ МНОГОМЕРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН.

Как и для одномерных, случайных величин, для случайных векторов вводят понятие начального и центрального моментов. Рассмотрим случайный n-мерный вектор - столбец Х с координатами х₁, х₂,...,х_n

Смешанным начальным моментом порядка k₁+k₂ +,...,+k_n случайных, величин х₁, .. , х_n называется математическое ожидание произведения

(12) αk₁, k₂,..., k_n=M[x₁^k1, x₂^k2,..., x_n^kn]

Смешанным центральным моментом порядка k₁, k₂,..., k_n случайных, величин х₁ ,..,х_n называется математическое ожидание произведения (x₁^○)^k1(x₂^○)^k2..(x_n^○)^kn соответствующих центрированных случайных величин т.е.

(13)  μk₁, k₂,..., k_n=M[(x₁^○)^k1(x₂^○)^k2...(x_n^○)^kn]

Вычислим момент первого порядка для координат вектора X

(14) α₀,..,0,1,0,..,0=M[(x₁)^○...(x_i-1)^○ x_i (x_i+1)^○...(x_n)^○=M[x_i]

Отсюда, следует, что начальные моменты первого порядка для системы n-случайных величин, есть математическое ожидание этих случайных величин.

Математическим ожиданием случайного вектора Х называется вектор, координатами которого являются математические ожидания соответствующих координат случайного вектора Х, т.е.

(15) M[X]^T=M[x₁]...M[x_n]

Рассмотрим момент второго порядка, пусть имеем две случайные величины х_i, у_i. Вычислим смешанный центральный момент второго порядка. Согласно равенству (13) имеем:

(16) μ_1,1=M(x_i^○y_j^○)

Смешанный центральный момент второго порядка случайных величин называется корреляционным моментом и обозначается К_ij.

Кроме корреляционного момента двух случайных величин, для характеристики связи случайных величин введем безразмерный коэффициент r_ij, равный отношению корреляционного момента K_ij случайных величин х_i, у_j к положительному значению квадратного корня из произведения дисперсией этих случайных величин. Этот коэффициент называется коэффициентом корреляции случайных величин т. е.

K_ij

(18) r_ij= √D[x_i]D[x_j]

Рассмотрим случайный вектор Х с коэффициентами х₁, х₂,.., х_n. Матрица К, составленная из корреляционных моментов для всех координат этого случайного вектора:

 k₁₁ k₁₂ ......k_1n

k₂₁ k₂₂ ......k_2n

(19) K= ......................  =M[X^○(X^○)^T]=[M[X_i^○X_j^○]]

k_n1 k_n2 ......k_nn

называется корреляционной матрицей случайного вектора Х. из свойств корреляционного момента следует, что К_ij=К_ji, т.е. матрица К является симметричной:

(20) К^T=К

Пусть выполняется линейное преобразование случайного вектора Х, задаваемого в некотором базисе матрицей В, т.е.

(21) Y=ВХ

При линейном преобразовании (21) случайного вектора Х корреляционная матрица Y равна К_y=ВК_xВ^T (22)

КОВАРЦИОННАЯ МАТРИЦА.

Если имеется не две, а большее число случайных величин, например, х₁,...,х_n, то резко возрастает и число числовых параметров, характеризующих эти величины. Кроме n-первых моментов, определяющих математическое ожидание случайных величин необходимо определение еще вторых центральных моментов, представляющих собой дисперсии каждой случайной величины и коварцией между каждой парой случайных величин. Всю совокупность случайных величин Х₁,..., Х_n, удобно представить в виде случайного вектора столбца:

 X₁ __ __

(23) X= ....... =(X₁,...,X_n)^T

 X_n

Тогда совокупность математических ожиданий компонент этого вектора запишем в виде вектора математических ожиданий:

x₁ __ __

(24) X=M[X]= ...... =(x₁,...,x_n)^T

x_n

Совокупность вторых центральных моментов, представляющих собой дисперсии:

(25) δ²x_i=M[(x_i-M[x])²] , i=1,...,n

и коварции

(26) cov(x_ix_j)=M[(x_i-M[x_i])(x_j-M[x_j]) ,i, j=1,...,n, i≠j

Удобно записать в виде коварционной матрицы:

(27) P_xx=M[(X-M(X))(X-M(X)^T)]

Диагональные члены этой матрицы представляют собой дисперсии. Коварционная матрица является симметричной.

ЭЛЕМЕНТЫ ТЕОРИИ СЛУЧАЙНЫХ ФУНКЦИЙ.

При изучении ряда явлений природы приходится наблюдать процессы, характеризуемые функциями, которые в зависимости от исхода опыта принимают различный вид. Указать заранее на то, какой вид примет случайная функция в данном опыте, невозможно, однако закономерности, присущие множеству значений, принимаемые случайной функцией, как закономерности массового явления можно изучить. Случайная функция как случайная величина, принимает различные значения в зависимости от исхода опыта элементарного события, кроме того, случайная функция зависит от некоторого неслучайного параметра t, например времени.

Если параметр t- время, то случайную функцию называют случайным процессом. Если зафиксировать элементарное событие ω=ω₀, то Х(t,ω₀) будет неслучайной функцией аргумента t. Конкретный вид случайной функции при фиксированном, т.е. возможном опыте, называется реализацией случайной функции.

Если зафиксировать параметр случайной функции t, т.е. рассмотреть сечение этой случайной функции при t=t_k, то она будет зависеть только от элементарного события и, следовательно, станет случайной величиной Х(t_k,ω).

Чтобы полностью задать случайную функцию Х(t), надо знать все n-мерные функции распределения: F_n(x₁,...,x_n; t₁,..,t_n), которые зависят от n переменных х₁,...,х_n и значений t₁,...,t_n, или плотности распределения вероятностей f_n.

Важными характеристиками случайных величин являются моменты. Если известна двумерная функция распределения или плотность распределения вероятностей случайной функции, то всегда можно вычислить моменты случайной функции до второго порядка включительно, такими моментами являются математически ожидания;

∞

(1) M[X(t)]= ⌡ xf₁[x,t]dx=m_x(t)

-∞

дисперсия

 ∞

(2)  D[X(t)]= ⌡ [x-m_x(t)]²f₁(x,t)dx=D₁(t)

-∞

и корреляционный момент:

∞ ∞

(3) K_x(t₁,t₂)=M[X^○(t₁)X^○(t₂)]= ⌡ ⌡ (x₁-m_x(t₁))(x₂-m_x(t₂))

 -∞ -∞

f₂(x₁,x₂;t₁,t₂)dx₁dx₂, где

(4) X^○(t)=X(t)-M[X(t)], центрированная случайная функция.

Если параметру t придавать все возможные значения, то математическое ожидание (1) и дисперсия (2) случайной функции будут функциями одной переменной t, а корреляционный момент (3) функцией двух переменных t₁ и t₂. Корреляционный момент К_x(t₁,t₂) называется корреляционной функцией случайной функции Х(t).

Математическое ожидания представляет собой среднее значение случайной функции Х(t)рис 2, а дисперсия характеризует отклонение значений, принимаемых случайной функцией, от ее математического ожидания.

Корреляционная функция характеризует зависимость между случайными величинами Х(t₁) и Х(t₂)-сечениями случайной функции при t=t₁ и t=t₂.

 x(t)

m(x)

t

Рис 2

Теория, изучающая случайные функции на основе знания первых двух моментов случайных функций, рис 2 называется корреляционной теорией.

Если известны математическое ожидание m(t) и корреляционная функция К(t₁,t₂) случайной функции Х(t), то всегда можно построить n-мерный вектор математического ожидания многомерной, случайной величины x(t₁),...,x(t_n) для фиксированных значений t₁, t₂,...,t_n.

(5) m^T=[m₁, m₂,..., m_n]

и корреляционную матрицу этой случайной многомерной величины

K(t₁,t₁) K(t₁,t₂) ..... K(t₁,t_n)

K(t₂,t₁) k(t₂,t2) ..... K(t₂,t_n)

(6) K= ........................................

........................................

K(t_n,t₁) K(t_n,t₂) K(t_n,t_n)

НЕКОТОРЫЕ СВОЙСТВА КОРРЕЛЯЦИОННОЙ ФУНКЦИИ.

 1. Корреляционная функция при одинаковых значениях аргументов равна дисперсии случайной функции, т.е.

K(t,t)=D(t)

 2. При перемене местами аргументов корреляционная функция меняется на комплексно - сопряженную, т.е.

______

K(t₁; t₂)=K(t₁, t₂)

 3. Для всякой корреляционной функции справедливо неравенство:

1) K(t₁, t₂) ≤√ D(t₁)D(t₂)

 4. Корреляционная функция является положительно определенной функцией. Вместо корреляционной функции может быть рассмотрена безразмерная нормированная корреляционная функция R(t₁, t₂) определяемая равенством;

(t₁, t₂)

(5)        R(t₁, t₂)=

√ D(t₁)D(t₂)

 Из определения свойств корреляционной функции можно показать, что для нормированной корреляционной функции справедливо состояние:

 _____ ______

R(t, t)=1 , R(t₂,t₁)=R(t₁,t₂) ,  R(t₁,t₂)≤1

В теории случайных чисел большую роль играет один из видов случайной функции, математическое ожидание которой равно 0, а корреляционная функция равна дельта функции. Такую случайную функцию называют белым шумом. Для белого шума как это следует из определения, справедливы равенства:

 (6) M[X(t)=0

 (7) K(t₁, t₂)=G(t) δ(t₁-t₂)

Функция G(t) называется интенсивностью белого шума. Дельта-функция при значении аргумента, отличном от 0, равна 0, поэтому для белого шума случайные величины, соответствующие двум сколь угодно близким значениям, являются некоррелированными.

Рассмотри систему из n случайных функций:

(8) X₁(t),X₂(t),...,X_n(t)

Каждая из функций этой системы характеризуется математическим ожиданием и корреляционной функцией. Однако необходимо еще ввести характеристику связи между отдельными случайными функциями системы (8).

Такой характеристикой является взаимная корреляционная функция двух случайных функций X_i(t) и X_i(t), и определяется равенством:

(9) Kx_ix_j(t₁,t₂)=M[X_i^○(t)X_j^○(t)]

Для того, чтобы отличать взаимную корреляционную функцию, от корреляционной функции, последнюю называют также автокорреляционной.

Для взаимной корреляционной функции случайных функций Х_i(t) и Y_j(t) справедливы свойства:

________

(10)  Kxy(t₁, t₂)=Kxy(t₁, t₂)

(11)  Kxy(t₁, t₂) ≤ √Dx(t₁)Dy(t₂)

Две случайные функции Х(t) и Y(t) называются некоррелированными, если их взаимная корреляционная функция тождественно равна нулю т.е.

(12) Kxy(t₁, t₂)=0

В ряде случаев удобно ввести безразмерную характеристику связи между случайными функциями нормированную взаимную корреляционную функцию:

Kxy(t₁,t₁)

(13) Rxy(t₁, t₂)=

√ Dx(t₁)Dy(t₁)

ЛИНЕЙНЫЕ ОПЕРАЦИИ НАД СЛУЧАЙНЫМИ ФУНКЦИЯМИ.

Выясним, как образуются математические ожидания и корреляционные функции случайных функций при осуществлении над ними линейных операций: