Назовите основные статистические характеристики случайных дискретных сигналов. Измерение характеристик случайных сигналов. Измерение корреляционных функций

Случайный сигнал описывается случайной функцией времени Х(t). Эту функцию можно рассматривать как бесконечную совокупность функций x i (t), каждая из которых представляет собой одну из возможных реализаций X(t). Графически это можно представить следующим образом (рисунок 1):

Рисунок 1

Полное описание случайных сигналов может быть произведено с помощью системы вероятностных характеристик. Любая из этих характеристик может быть определена либо усреднением по совокупности реализации x i (t), либо усреднением по времени одной бесконечно длинной реализации.

Зависимость или независимость результатов таких усреднений определяет следующие фундаментальные свойства случайных сигналов - стационарность и эргодичность.

Стационарным называется сигнал, вероятностные характеристики которого не зависят от времени.

Эргодическим называется сигнал, вероятностные характеристики которого не зависят от номера реализации.

Для стационарных эргодических сигналов усреднение любой вероятностной характеристики по множеству реализаций эквивалентно усреднению по времени одной теоретически бесконечно длинной реализации.

Для практических целей наиболее важными являются следующие вероятностные характеристики стационарных эргодических сигналов, имеющих длительность реализации Т:

Среднее значение (математическое ожидание). Оно характеризует постоянную составляющую сигнала

Средняя мощность. Она характеризует средний уровень сигнала

Дисперсия, характеризующая среднюю мощность переменной составляющей сигнала:

Среднеквадратическое отклонение (СКО)

Функция распределения, которая определяется как интегральная вероятность того, что значение xi(tj) в j-й момент времени будут ниже некоторых значений X:

Для заданных стационарных эргодичных сигналов F x характеризуется относительным временем пребывания реализации ниже уровня Х (ф i -, i -й интервал пребывания, n - количество интервалов, рисунок 2)

Рисунок 2

Одномерная плотность вероятности, называемая дифференциальным законом распределения:

где - расстояние между соседними уровнями X(t), называемое дифференциальным коридором;

I -й интервал пребывания реализации в пределах (см. рисунок 2).

Корреляционная функция. Она характеризует стохастическую (случайную) связь между двумя мгновенными значениями случайного сигнала, разделенного заданным интервалом времени ф

Взаимная корреляционная функция. Она характеризует стохастическую связь мгновенными значениями случайных сигналов x(t) и y(t), разделенными интервалом времени ф

Из выражений (1)-(8) видно, что все вероятностные характеристики представляют собой неслучайные числа или функции и определяется по одной реализации бесконечной длительности. Практически же длительность Т, называемая продолжительностью анализа, всегда ограничена, поэтому на практике мы можем определить не сами характеристики, а только их оценки. Эти оценки, полученные экспериментальным путем, называются статическими характеристиками. А раз оценка, значит приближение, которое характеризуется погрешностями, называемыми статистическими погрешностями.

вероятностный эргодический случайный дискретный

Поскольку все информационные сигналы и помехи являются случайными и могут быть предсказаны лишь с некоторой степенью вероятности, то для описания таких сигналов используется теория вероятностей. При этом используются статистические характеристики, которые получают путем проведения многочисленных опытов в одинаковых условиях.

Все случайные явления, изучаемые теорией вероятностей можно разделить на три группы:
— случайные события;
— случайные величины;
— случайные процессы.

Случайное событие — это всякий факт, который в результате опыта может произойти или не произойти.
Случайным событием является появление помехи на входе приемника или прием сообщения с ошибкой.
Случайные события обозначаются латинскими буквами А, В, С.

Числовыми характеристиками случайного события являются:
1. Частота появления случайного события:

где m — количество опытов, в которых произошло данное событие;
N — общее количество проведенных опытов.

Как следует из выражения (40) частота появления случайного события не может превышать 1, т. к. количество опытов, в которых произошло данное событие не может привысить общее количество проведенных опытов.
2. Вероятность появления случайного события:

Т. е. вероятность появления случайного события есть частота его появления при неограниченном увеличении количества проведенных опытов. Вероятность появления события не может превышать 1. Случайное событие, имеющее вероятность равную единице является достоверным, т. е. оно обязательно произойдет, поэтому такую вероятность имеют уже произошедшие события.
Случайная величина — это величина, которая от опыта к опыту изменяется случайным образом.
Случайной величиной является амплитуда помехи на входе приемника или количество ошибок в принятом сообщении. Случайные величины обозначаются латинскими буквами X, Y, Z, а их значения — x, y, z.
Случайные величины бывают дискретными и непрерывными.
Дискретной называется случайная величина, которая может принимать конечное множество значений (например, количество оборудования, количество телеграмм и т. д., т. к. они могут принимать только целое число 1, 2, 3, …).
Непрерывной называется случайная величина, которая может принимать любые значения из некоторого диапазона (например, амплитуда помехи на входе приемника может принимать любые значения, точно так же как и любые значения может принимать информационный аналоговый сигнал).

Числовыми, статистическими характеристиками, описывающими случайные величины являются:
1. Функция распределения вероятности .

F(x)=P(X ? x) (42)

Данная функция показывает вероятность того, что случайная величина Х не превысит конкретно выбранного значения х. Если случайная величина Х является дискретной, то F(x) так же является дискретной функцией, если Х непрерывная величина, то F(x) ? непрерывная функция.
2. Плотность распределения вероятности .

Р(х)=dF(x)/dx (43)

Данная характеристика показывает вероятность попадания значения случайной величины в малый интервал dx в окрестности точки х’, т. е. в заштрихованную область (рисунок).

3. Математическое ожидание .

где хi — значения случайной величины;
Р(хi) — вероятность появления этих значений;
n — количество возможных значений случайной величины.

где р(х) — плотность вероятности непрерывной случайной величины.

По своему смыслу математическое ожидание показывает среднее и наиболее вероятное значение случайной величины, т. е. это значение наиболее часто принимает случайная величина. Выражение (44) применяется, если случайная величина является дискретной, а выражение (45), если она является непрерывной. Обозначение M[X] является специальным для математического ожидания того случайной величины, которая указана в квадратных скобках, однако иногда используются обозначения mх или m.

4. Дисперсия .

Дисперсия количественно характеризует степень разброса результатов отдельных опытов относительно среднего значения. Обозначение дисперсии случайной величины D[X] является общепринятым, однако может использоваться и обозначение??х. Выражение (46) используется для вычисления дисперсии дискретной случайной величины, а (47) — для вычисления дисперсии непрерывной случайной величины. Если извлечь квадратный корень из дисперсии, то получится величина, называемая среднеквадратическим отклонением (?х).

Все характеристики случайной величины можно показать с помощью рисунка 22.

Рисунок 22 - Характеристики случайной величины

Случайный процесс — это такая функция времени t, значение которой при любом фиксированном значении времени является случайной величиной. Например, на рисунке 23 показана диаграмма некоторого случайного процесса, наблюдаемого в результате проведения трех опытов. Если определить значение функций в фиксированный момент времени t1, то полученные значения окажутся случайными величинами.

Рисунок 23 - Ансамбль реализаций случайного процесса

Таким образом, наблюдение любой случайной величины (Х) во времени, является случайным процессом Х(t). Например, как случайные процессы, рассматриваются информационные сигналы (телефонные, телеграфные, передачи данных, телевизионные) и шумы (узкополосные и широкополосные).
Однократное наблюдение случайного процесса называется реализацией xk(t). Совокупность всех возможных реализаций одного случайного процесса называется ансамблем реализаций. Например, на рисунке 23 представлен ансамбль реализаций случайного процесса, состоящий из трех реализаций.

Для характеристики случайных процессов используются те же характеристики, что и для случайных величин: функция распределения вероятности, плотность распределения вероятности, математическое ожидание и дисперсия. Данные характеристики рассчитываются аналогично, как и для случайных величин. Случайные процессы бывают различных типов. Однако в электросвязи большинство случайных сигналов и помех относятся к стационарным эргодическим случайным процессам.

Стационарным является случайный процесс, у которого характеристики F(x), P(x), M[X] и D[X] не зависят от времени.
Эргодическим является процесс, у которого усреднение по времени одной из реализации приводит к тем же результатам, что и статическое усреднение по всем реализациям. Физически это означает, что все реализации эргодического процесса похожи друг на друга, поэтому измерения и расчеты характеристик такого процесса можно проводить по одной (любой) из реализаций.
Кроме четырех характеристик приведенных выше случайные процессы также описываются функцией корреляции и спектральной плотностью мощности.

Функция корреляции характеризует степень взаимосвязи между значениями случайного процесса в различные моменты времени t и t+?. Где? временной сдвиг.

где tн — время наблюдения реализации xk(t).

Спектральная плотность мощности — показывает распределение мощности случайного процесса по частотам.

где?Р — мощность случайного процесса, приходящаяся на полосу частот?f.

Таким образом, наблюдение случайного явления во времени является случайным процессом, его появление является случайным событием, а его значение случайной величиной.

Например, наблюдение телеграфного сигнала на выходе линии связи в течение, какого то времени — это случайный процесс, появление на приеме его дискретного элемента «1» или «0» — случайное событие, а амплитуда этого элемента — случайная величина.

Теоретическая вероятность Р н такого нечеткого перехода в состояние А н равна произведению вероятностей переходов , то есть

Р н = × = × =

В реальных N -уровневых устройствах памяти (N ≥ 3) вероятности нечетких переходов колеблется от 0 до 1 (0 ≤ Р н ≤ 1).

Возможно, при проектировании нейрона предусмотреть установку нейрона в нулевое состояние, когда на выходных сигналах МФСП не будет активного сигнала. Это можно осуществить при подаче на сохраняющие входные узлы МФСП входного сигнала из автомата стратегии е (Δ), который отключит все ее логические элементы, когда на них одновременно подать логическую единицу (этот вариант в данной главе не рассматриваетсяЮ, но поясняется как его можно осуществить).

Заключение к 12 главе

В данной главе были рассмотрены принципы и методы проектирования элементарного трехуровневого разряда нейрона и показаны его однозначные, укрупненные детерминированные, вероятностные и нечеткие переходы.

Показано, как строить такие произвольные элементарные нейроны с аналогичными свойствами, что очень важно для разработчиков нейронов и нейронных сетей.

Этот подход несколько отличается от известных биологических нейронов, но функционально к ним приближается по своим функциональным качествам переходов.

Однако, биологический нейрон обладает качествами связи с другими нейронами. Так выходные сигналы нейрона могут соединяться через аксон с 10 000 подобных нейронов, а входные сигналы через дендриты соединяются с другими нейронами, образуя возбуждающие и тормозящие сигналы.

В следующей 13 главе мы рассмотрим структуру нейрона, состоящую из элементарных нейронов, которая будет решать задачи связи с другими нейронами.

Лекция 13

Когнитивные системы на нейронах

Введение

Рассмотрены свойства искусственного элементарного нейрона, такие как:

1. Он должен хранить информацию. Иначе говоря, иметь память.

2. Обладать свойством: перестраивать структуру своей памяти в процессе работы.

3. Иметь два множества входных сигналов: устанавливающих x (t ) – возбуждающих сигналов и перестраивающих структуру подмножеств памяти е (Δ), при которых запоминаются установленные состояния – тормозящих сигналов.

Измерительные сигналы, являясь случайными сигналами, не могут быть описаны математической функцией времени с полной определенностью.

В соответствии с этим можно говорить лишь о вероятности появления в каждый данный момент того или иного значения сигнала .

При подобном подходе объектом изучения становятся не характеристики конкретного сигнала, а вероятностные статистические характеристики совокупности сигналов электросвязи того или иного вида связи .

К статистическим характеристикам случайного сигнала s (t ) относятся:

среднее значение (постоянная составляющая)

где Т - время наблюдения случайного процесса;

мгновенная мощность случайного сигнала s (t )в момент t по определению равен

энергия случайного сигнала s (t )равна интегралу от мощности по всему интервалу времени существования или задания сигнала. В пределе:

средняя мощность случайного сигнала s (t ) в интервале t 2 –t 1

Понятие средней мощности может быть распространено и на случай неограниченного интервала Т = t 2 – t 1 ⟹∞. Строго корректное определение средней мощности сигнала должно производиться по формуле:

Квадратный корень из значения средней мощности характеризует действующее (среднеквадратическое) значение сигнала (220 В – действующее значение гармонического колебания с амплитудой 380 В).

Применительно к электрофизическим системам, данным понятиям мощности и энергии соответствуют вполне конкретные физические величины. Допустим, что функцией s(t) отображается электрическое напряжение на резисторе, сопротивление которого равно R Ом. Тогда рассеиваемая в резисторе мощность, как известно, равна (в вольт-амперах):

w(t) = |s(t)| 2 /R,

В теории сигналов в общем случае сигнальные функции s(t) не имеют физической размерности, и могут быть формализованным отображением любого процесса или распределения какой-либо физической величины, при этом понятия энергии и мощности сигналовиспользуются в более широком смысле, чем в физике . Они представляют собой метрологические характеристики сигналов

Если в выражении для энергии

взять не квадрат модуля сигнала, а произведение сигнала и его же, но смещенного на время τ, то получится автокорреляционная функция

В случае периодических сигналов АКФ вычисляется по одному периоду Т, с усреднением скалярного произведения и его сдвинутой копии в пределах периода:

Энергетический спектр (спектральная плотность средней мощности)

Функция G (ω )представляет собой спектральную плотность средней мощности процесса, т. е. мощность, заключенную в бесконечно малой полосе частот.

Мощность, заключенную в конечной полосе частот между ω 1 и ω 2 определяют интегрированием функции G (ω ) в соответствующих пределах:

3.3. Динамический диапазон и пик-фактор сигналов .

Мгновенная мощность сигналов связи может принимать различные значения в самых широких пределах. Чтобы охарактеризовать эти пределы вводят понятия динамического диапазона и пик-фактора сигнала .

Динамический диапазон сигнала дБ, определяется выражением

где W тах и W min - максимальное и минимальное значения мгновенной мощности.

Под W тах обычно понимают значение мгновенной мощности сигнала, вероятность превышения которого достаточно мала (например, равна 0,01). О величине этой вероятности условливаются для каждого конкретного сигнала.

Пик-фактором сигнала называют отношение его максимальной мощности к средней. В логарифмических единицах

В некоторых случаях динамический диапазон и пик-фактор определяют не в логарифмических, а в абсолютных единицах (в «разах»).

Информация, передаваемая по каналу связи или извлекаемая в результате измерения, заключена в сигнале.

До приема сообщения (до испытания) сигнал следует рассматривать как случайный процесс, представляющий собой совокупность (ансамбль) функций времени, подчиняющихся некоторой общей для них статистической закономерности. Одна из этих функций, ставшая полностью известной после приема сообщения, называется реализацией случайного процесса. Эта реализация является уже не случайной, а детерминированной функцией времени.

Важной, но не исчерпывающей характеристикой случайного процесса является присущий ему одномерный закон распределения вероятностей.

На рис. 4.1 изображена совокупность функций , образующих случайный процесс . Значения, которые могут принимать отдельные функции в момент времени , образуют совокупность случайных величин

Рис. 4.1. Совокупность функций, образующих случайный процесс

Вероятность того, что величина при измерении попадает в какой-либо заданный интервал (рис. 4.1), определяется выражением

Функция представляет собой дифференциальный закон распределения случайной величины называется одномерной плотностью вероятности, а - интегральной вероятностью.

Функция имеет смысл для случайных непрерывного типа, могущих принимать любое значение в некотором интервале. При любом характере функции должно выполняться равенство

где - границы возможных значений

Если же является случайной величиной дискретного типа и может принимать любое из конечного числа дискретных значений, то (4.2) следует заменить суммой

где - вероятность, соответствующая величине .

Задание одномерной плотности вероятности позволяет произвести статистическое усреднение как самой величины так и любой функции . Под статистическим усреднением подразумевается усреднение по множеству (по ансамблю) в каком-либо «сечении» процесса, т. е. в фиксированный момент времени.

Для практических приложений наибольшее значение имеют следующие параметры случайного процесса:

математическое ожидание

дисперсия

среднее квадратическое отклонение

Одномерная плотность вероятности недостаточна для полного описания процесса, так как она дает вероятностнре представление о случайном процессе X(t) только в отдельные фиксированные моменты времени.

Более полной характеристикой является двумерная плотность вероятности позволяющая учитывать связь значений принимаемых случайной функцией в произвольно выбранные моменты времени

Исчерпывающей вероятностной характеристикой случайного процесса является -мерная плотность вероятности при достаточно больших n. Однако большое число задач, связанных с описанием случайных сигналов, удается решать на основе двумерной плотности вероятности.

Задание двумерной плотности вероятности позволяет, в частности, определить важную характеристику случайного процесса - ковариационную функцию

Согласно этому определению ковариационная функция случайного процесса представляет собой статистически усредненное произведение значений случайной функции в моменты

Для каждой реализации случайного процесса произведение является некоторым числом. Совокупность реализаций образует множество случайных чисел, распределение которых характеризуется двумерной плотностью вероятности При заданной функции операция усреднения по множеству осуществляется по формуле

При двумерная случайная величина вырождается в одномерную величину Можно поэтому написать

Таким образом, при нулевом интервале между моментами времени ковариационная функция определяет величину среднего квадрата случайного процесса в момент

При анализе случайных процессов часто основной интерес представляет его флуктуационная составляющая. В таких случаях применяется корреляционная функция

Подставляя в вместо вместо можно получить следующее выражение:

При выражение (4.8) в соответствии с (4.4) определяет дисперсию случайного процесса Следовательно,

Исследование случайного процесса, а также воздействия его на радиоцепи существенно упрощается при стационарности процесса.

Случайный процесс называется строго стационарным, если его плотность вероятности произвольного порядка зависит только от интервалов и не зависит от положения этих интервалов в области изменения аргумента

В радиотехнических приложениях теории случайных процессов условие стационарности обычно ограничивается требованием независимости от времени только одномерной и двумерной плотностей вероятности (случайный процесс, стационарный в широком смысле). Выполнение этого условия позволяет считать, что математическое ожидание, средний квадрат и дисперсия случайного процесса не зависят от времени, а корреляционная функция зависит не от самих моментов времени , а только от интервала между ними

Стационарность процесса в широком смысле можно трактовать как стационарность в рамках корреляционной теории (для моментов не выше второго порядка).

Таким образом, для случайного процесса, стационарного в широком смысле, предыдущие выражения можно записывать без обозначения фиксированных моментов времени. В частности,

Дальнейшее упрощение анализа случайных процессов достигается при использовании условия эргодичности процесса. Стационарный случайный процесс называется эргодическим, если при определении любых статистических характеристик усреднение по множеству реализаций эквивалентно усреднению по времени одной теоретически бесконечно длинной реализации.

Условие эргодичности случайного процесса включает в себя и условие его стационарности. В соответствии с определением эргодического процесса соотношения эквивалентны следующим выражениям, в которых операция усреднения по времени обозначена чертой:

Если представляет собой электрический сигнал (ток, напряжение), то - постоянная составляющая случайного сигнала, - средняя мощность флуктуации сигнала [относительно постоянной составляющей х(t)].

Выражение (4.15) внешне совпадает с определением (2.131) корреляционной функции детерминированного сигнала (периодического).

Часто применяется нормированная корреляционная функция

Функции характеризуют связь (корреляцию) между значениями разделенными промежутком . Чем медленнее, плавнее изменяется во времени тем больше промежуток , в пределах которого наблюдается статистическая связь между мгновенными значениями случайной функции.

При экспериментальном исследовании случайных процессов используются временнйе корреляционные характеристики процесса (4.15)-(4.19), поскольку, как правило, экспериментатору доступно наблюдение одной реализации сигнала, а не множества его реализаций. Интегрирование выполняется, естественно, не в бесконечных пределах, а на конечном интервале Т, длина которого должна быть тем больше, чем выше требование к точности результатов измерения.