Главная > Методы обработки сигналов > Случайные процессы
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Приложение 1. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ

Применение теории вероятностей базируется на понятии случайного испытания, т.е. такого эксперимента или опыта, результаты которого нельзя предсказать исходя из условий его проведения. Отказываясь от прогнозирования результатов конкретного испытания, теория вероятностей выявляет и исследует закономерности, возникающие при многократном проведении случайного испытания. Отметим, что во многих практических ситуациях оценка серий испытаний куда более важна, нежели оценка одиночного испытания. Из сказанного следует, что при построении вероятностной модели исследователь всегда предполагает, что условия проведения одиночного испытания могут быть воспроизведены сколь угодно раз.

Конкретные результаты проведенного случайного испытания называют его исходом. Эти результаты на практике могут, например, выражаться определенным сочетанием качественных факторов или значением измеряемых параметров. Важнейший принцип теории вероятностей состоит в статистической устойчивости частот возможных исходов испытаний. Под этим понимают то, что при неограниченном возрастании количества случайных испытаний доля испытаний, приведших к заданному исходу, в ряду всех проведенных испытаний стабилизируется около некоторого предельного числа.

При построении вероятностной модели выделяют такой набор исходов данного случайного испытания, который удовлетворяет двум условиям. Во-первых, при проведении случайного испытания должен наступить один из исходов в выбранном наборе исходов.

Во-вторых, все исходы в наборе являются взаимно исключающими, т.е. случайное испытание не должно завершаться одновременно двумя исходами. Исходы в таком наборе называют элементарными исходами или элементарными событиями, а всю их совокупность — пространством элементарных исходов (пространством элементарных событий). Пространство элементарных событий принято обозначать через а элементарные исходы — через и (возможно, с дополнительными индексами).

Часто об элементарных событиях говорят как о неделимых, подразумевая под этим следующее. Если в результате проведения случайного испытания могут наступить исход А и исход В, то в качестве исходов можно рассмотреть следующие: АВ (оба исхода наступили одновременно), АВ (наступил исход В, а исход А не наступил) и т.д. В результате множество возможных исходов дробится, делится. Когда мы охватим все мыслимые варианты завершения случайного испытания и эти варианты не делятся в указанном выше смысле, то мы получим пространство элементарных исходов.

Важнейшим в теории вероятностей является понятие события, которое отождествляют с некоторым подмножеством пространства элементарных событий. Наступление события в результате проведения случайного испытания равнозначно тому, что это испытание завершилось одним из элементарных исходов, входящим в указанное множество. Здесь событие — это совокупность возможных вариантов завершения случайного испытания, значимых с точки зрения исследователя. В некоторых случаях термину событие придают более содержательный смысл, связывал его с конкретными особенностями проводимых случайных испытаний. Тогда его отличают от соответствующего множества в пространстве элементарных исходов, которое в таком случае называют характеристическим множеством события.

Поскольку события — это подмножества пространства элементарных событий, с ними можно выполнять операции теории множеств, однако в теории вероятностей эти операции называются по-другому. Пересечение множеств превращается в произведение событий, объединение множеств — в сумму событий, дополнение множества в пространстве элементарных событий — это противоположное событие, пустое множество обозначает невозможное событие, а все пространство элементарных событий есть достоверное событие.

Уместен вопрос, всякое ли подмножество пространства элементарных событий можно рассматривать как событие. Это можно принять, если пространство элементарных событий конечно (т.е. содержит конечное число элементов). Однако в общем случае такой подход оказывается слишком общим и не приводит к содержательной теории. Значит, нужны понятия и условия, описывающие те подмножества, которые могут рассматриваться как события.

Современная теория вероятностей строится, как и многие другие математические дисциплины, на системе аксиом. Впервые аксиоматическое построение теории вероятностей предложил А.Н. Колмогоров. Изложим кратко суть современного подхода в изложении теории вероятностей.

Определение Пусть — некоторое множество. Некоторое семейство А подмножеств из называют -алгеброй, если:

а) оно содержит множество т.е.

б) если , то и его дополнение В принадлежит А;

Кратко можно сказать, что -алгебра — это некоторое множество А подмножеств замкнутое относительно теоретикомножественных операций, в том числе относительно счетного объединения и счетного пересечения.

Определение Пару из множества и -алгебры А подмножеств из называют измеримым пространством.

Определение Вероятностью (вероятностной мерой) на измеримом пространстве называют скалярную функцию , определенную на -алгебре А, которая удовлетворяет трем условиям:

в) для любых попарно не пересекающихся множеств имеет место равенство

Эти определения вводят основные понятия теории вероятностей. Множество на котором задана -алгебра А, — это пространство элементарных исходов, элементы -алгебры А — это события, а вероятностная мера Р — это функция, задающая вероятности всевозможных событий.

Определение Тройку из непустого множества заданной на -алгебры А и определенной на -алгебре А вероятностной меры Р называют вероятностным пространством.

Определение Пусть — вероятностное пространство и — события, причем Под условной вероятностью события относительно события понимают число

Определение Пусть — вероятностное пространство. События , для которых называют независимыми, если выполнены равенства

В противном случае события А и В называют зависимыми.

Определение Отображение измеримого пространства в измеримое пространство называют измеримой функцией, если для любого прообраз множества В, т.е. множество принадлежит

В теории вероятностей измеримое пространство входит в состав вероятностного пространства (т.е. дополнительно задана вероятностная мера). В этом случае измеримая функция преобразует вероятностную меру Р на в вероятностную меру Р, определяемую равенством и тем самым превращает измеримое пространство в вероятностное пространство Таким способом можно заменить вероятностное пространство данное от природы, на более удобное и простое.

Особую роль играет случай, когда , а В — борелевская -алгебра, т.е. минимальная -алгебра, содержащая все промежутки (открытые, замкнутые, полуоткрытые) на числовой оси. В этом случае измеримую функцию можно определить как функцию для которой прообраз любого множества В вида принадлежит -алгебре А, или, иначе, является событием. Такую измеримую функцию в теории вероятностей называют случайной величиной.

На множестве можно задать -алгебру, отталкиваясь от множеств вида

где — промежутки числовой оси (такие множества можно было бы условно назвать -мерными параллелепипедами).

Борелевская -алгебра в — это наименьшая -алгебра, содержащая указанные множества. Измеримая функция, отображающая представляет собой, по-существу, совокупность случайных величин — ее координатных функций. Такую функцию называют -мерным случайным вектором. Случайный вектор можно рассматривать как многомерное обобщение понятия случайной величины. Поэтому далее мы будем иногда трактовать случайную величину как -мерный случайный вектор с

Случайный вектор можно определить как -мерную векторную функцию для которой при любом множество

принадлежит А (является событием). В данном случае

и неравенство означает, что .

Изучение случайной величины сводится к анализу вероятностной меры Р, которая порождается этой функцией на борелевской -алгебре. При этом исходное вероятностное пространство перестает играть роль. Отметим, что в силу свойств вероятности вероятностная мера Р полностью определяется по своим значениями на промежутках вида а), так как, комбинируя такие промежутки и используя свойства аддитивности и счетной аддитивности вероятности, можно найти значение вероятности на любом множестве борелевской -алгебры.

Определение Пусть — случайная величина (случайный вектор). Скалярную функцию где называют функцией распределения (вероятностей) случайной величины (случайного вектора)

Случайные величины , можно рассматривать как координаты -мерного случайного вектора и ввести для этого вектора функцию распределения. Это объясняет, почему иногда функцию распределения случайного вектора называют совместной функцией распределения.

Для функции распределения -мерного случайного вектора часто используют сокращенные формы записи, например:

Определение Случайную величину (случайный вектор), принимающую не более чем счетное множество значений, называют дискретной случайной величиной (дискретным случайным вектором).

Для дискретного случайного вектора множество значений можно записать в виде конечной или бесконечной последовательности где а функция распределения имеет вид

Определение Непрерывным случайным вектором называют -мерный случайный вектор функцию распределения которого можно представить в виде

где или, что то же самое,

Функцию называют плотностью распределения (вероятностей). В частном случае при непрерывный случайный вектор называют непрерывной случайной величиной.

Плотность распределения -мерного непрерывного случайного вектора имеет следующие свойства:

б) вероятность попадания в произвольную -мерную область G может быть представлена -мерным интегралом: в частности, вероятность попадания значения случайного вектора в множество нулевой площади в (в том числе, в фиксированную точку) всегда равна нулю;

в) при соответствующей гладкости функции распределения плотность распределения в своих точках непрерывности совпадает с смешанной производной

г) если где -мерный, -мерный ), -мерный непрерывные случайные векторы с плотностями распределения то

где

Для дискретного случайного вектора с множеством возможных значений можно ввести обобщенную плотность распределения (вероятностей)

где -функция Дирака. Это позволяет упростить изложение, в котором дискретные и непрерывные случайные векторы обсуждаются с единых позиций.

Функцию распределения и плотность распределения случайного вектора называют также совместной функцией распределения и совместной плотностью распределения случайных величин . Если задана функция распределения или плотность распределения случайного вектора то говорят, что для этого случайного вектора задан закон распределения случайного вектора (случайной величины при Закон распределения случайного вектора называют также совместным законом распределения случайных величин

Определение Случайные векторы , заданные на одном и том же вероятностном пространстве называют независимыми в совокупности, если функция распределения блочного случайного вектора имеет вид

где — функции распределения случайных векторов Если — случайные величины, то говорят о независимых случайных величинах.

Определение Пусть -мерный, -мерный, случайные векторы с плотностями распределения (возможно, обобщенными) Условной плотностью распределения (условным законом распределения) случайного вектора при условии, что случайный вектор принял некоторое фиксированное значение называют функцию

Пусть на вероятностном пространстве задан -мерный случайный вектор, множество возможных значений которого включается в множество Если — измеримая (относительно борелевской алгебры в ) векторная функция, то определена композиция функций которая является измеримой функцией на измеримом пространстве и, следовательно, представляет собой -мерный случайный вектор. Этот случайный вектор называют векторной (скалярной при функцией случайного вектора (случайной величины при ) Отметим, что в качестве измеримой функции можно взять любую непрерывную или кусочно непрерывную векторную функцию. Измеримыми также являются интегрируемые функции.

Определение Математическим ожиданием -мерного случайного с функцией плотности вероятностей называют -мерный вектор

компонентами которого являются числа

Числа о которых говорится в определении, представляют собой математические ожидания координатных случайных функций Отметим, что все или часть математических ожиданий будут не определены, если представляющий их несобственный интеграл расходится. Тогда и математическое ожидание случайного вектора не определено. Так как математическое ожидание случайного вектора составляется из математических ожиданий координатных случайных функций, свойства математического ожидания достаточно описать лишь в одномерном случае.

Пусть — случайные величины, имеющие математические ожидания, в К — произвольные постоянные. Тогда:

а) если (т.е. принимает только неотрицательные значения), то

г) если — независимые случайные величины, то

Понятие математического ожидания является одним из основополагающих в теории вероятностей. Рассматривая математическое ожидание части компонент случайного вектора с использованием их условной плотности распределения вероятностей относительно других компонент, приходим к понятию условного математического ожидания. Например, пусть -мерный, -мерный случайные векторы и — условная плотность распределения при условии, что принял значение у. Тогда значением условного математическим ожидания случайного вектора при условии называют -мерный вектор

Значение условного математического ожидания является некоторой функцией переменного у, меняющегося в области значений случайного вектора Функцию от случайного вектора называют условным математическим ожиданием случайного вектора при условии

Определение Дисперсией скалярной случайной величины называют математическое ожидание случайной величины т.е. число

Для случайной величины с плотностью распределения (возможно, обобщенной) дисперсия может быть вычислена интегрированием:

Непосредственно из определения и свойств математического ожидания получаем свойства дисперсии:

г) если случайные величины независимые, то ;

д) , т.е. дисперсия случайной величины, имеющей постоянное значение (детерминированной величины), равна нулю;

Определение Ковариацией двух случайных величин называют число

Если для случайных величин задана совместная плотность распределения то ковариация этих случайных величин может быть вычислена интегрированием:

Ковариация имеет следующие свойства:

в) если случайные величины независимые, то

Определение Коэффициентом корреляции скалярных случайных величин называют число

Две случайные величины называют некоррелированными, если или, что то же самое,

Коэффициент корреляции двух скалярных случайных величин обладает двумя основными свойствами:

б) тогда и только тогда, когда где причем при при

Определение Ковариационной матрицей случайного вектора называют матрицу

Итак, ковариационная матрица -мерного случайного вектора представляет собой квадратную матрицу порядка из ковариаций пар координатных случайных функций. Из свойств ковариации двух случайных функций вытекают свойства ковариационной матрицы:

а) — симметрическая неотрицательно определенная квадратная матрица порядка ;

б) если где — фиксированная матрица, — фиксированный вектор, то

Определение Характеристической функцией -мерного случайного вектора называют функцию

где — мнимая единица.

Для случайного вектора с плотностью распределения (возможно, обобщенной) характеристическая функция может быть представлена интегралом:

т.е. характеристическая функция является изображением экспоненциального интегрального преобразования Фурье. Значит, в классе функций, интегрируемых с квадратом, существует взаимно однозначное соответствие между характеристическими функциями и плотностями распределения.

Отметим некоторые свойства характеристической функции:

в) т. е. при изменении знака аргумента значение характеристической функции меняется на комплексно сопряженное;

д) если где матрица и вектор фиксированы,

е) если случайные величины независимы в совокупности, то где

<< Предыдущий параграф Следующий параграф >>
Оглавление