Главная > Математика > Исследование операций: задачи, принципы, методология
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

§ 17. Уравнения Колмогорова для вероятностей состояний. Финальные вероятности состояний

Рассматривая марковские процессы с дискретными состояниями и непрерывным временем, нам удобно будет представлять себе, что все переходы системы состояния в состояние происходят под действием каких-то потоков событий (поток вызовов, поток отказов, поток восстановлений и т. д.). Если все потоки событий, переводящие систему S из состояния в состояние, - простейшие, то процесс протекающий в системе, будет марковским. Это и естественно, так как простейший поток не обладает последействием: в нем «будущее» не зависит от «прошлого».

Если система S находится в каком-то состоянии из которого есть непосредственный переход в другое состояние (стрелка, ведущая из на графе состояний), то мы себе это будем представлять так, как будто на систему, пока она находится в состоянии действует простейший поток событий, переводящий ее по стрелке . Как только появится первое событие этого потока, происходит «перескок» системы из

Для наглядности очень удобно на графе состояний у каждой стрелки проставлять интенсивность того потока событий, который переводит систему по данной стрелке. Обозначим интенсивность потока событий, переводящего систему из состояния

На рис. 17.1 дан граф состояний с проставленными у стрелок интенсивностями (мы будем называть такой граф размеченны .

Построим размеченный граф состояний для примера, данного в § 15 (техническое устройство из двух узлов). Напомним состояния системы:

— оба узла исправны,

— первый узел ремонтируется, второй исправен,

— второй узел ремонтируется, первый исправен,

— оба узла ремонтируются.

Интенсивности потоков событий, переводящих систему из состояния в состояние, будем вычислять, предполагая, что среднее время ремонта узла не зависит от того, ремонтируется ли один узел или оба сразу.

Рис. 17.1.

Рис. 17.2.

Это будет именно так, если ремонтом каждого узла занят отдельный специалист. Найдем все интенсивности потоков событий, переводящих систему из состояния в состояние. Пусть система находится в состоянии . Какой поток событий переводит ее в состояние ? Очевидно, поток отказов первого узла. Его интенсивность равна единице, деленной на среднее время безотказной работы первого узла. Какой поток событий переводит систему обратно из ? Очевидно, поток «окончаний ремонтов» первого узла. Его интенсивность равна единице, деленной на среднее время ремонта первого узла. Аналогично вычисляются интенсивности потоков событий, переводящих систему по всем стрелкам графа рис. 17.2.

Имея в своем распоряжении размеченный граф состояний системы, легко построить математическую модель данного процесса.

В самом деле, пусть рассматривается система S, имеющая возможных состояний . Назовем вероятностью состояния вероятность того, что в момент t система будет находиться в состоянии . Очевидно, что для любого момента сумма всех вероятностей состояний равна единице:

Имея в своем распоряжении размеченный граф состояний, можно найти все вероятности состояний как функции времени. Для этого составляются и решаются так называемые уравнения Колмогорова — особого вида дифференциальные уравнения, в которых неизвестными функциями являются вероятности состояний.

Рис. 17.3.

Покажем на конкретном примере, как эти уравнения составляются. Пусть система S имеет четыре состояния: размеченный граф которых показан на рис. 17.3. Рассмотрим одну из вероятностен состояний, например Это — вероятность того, что в момент t система будет в состоянии S. Придадим t малое приращение и найдем — вероятность того, что в момент система будет в состоянии . Как это может произойти? Очевидно, двумя способами: либо 1) в момент t система уже была в состоянии а за время не вышла из него; либо 2) в момент t система была в состоянии а за время перешла из него в

Найдем вероятность первого варианта. Вероятность того, что в момент t система была в состоянии равна . Эту вероятность нужно умножить на вероятность того, что, находившись в момент t в состоянии система за время не перейдет из него ни в ни в . Суммарный поток событий, выводящий систему из состояния тоже будет простейшим, с интенсивностью (при наложении — суперпозиции — двух простейших потоков получается опять простейший поток, так как свойства стационарности, ординарности и отсутствия последействия сохраняются).

Значит, вероятность того, что за время система выйдет из состояния равна вероятность того, что не выйдет: Отсюда вероятность первого варианта равна .

Найдем вероятность второго варианта. Она равна вероятности того, что в момент t система будет в состоянии а за время перейдет из него в состояние т. е. она равна

Складывая вероятности обоих вариантов (по правилу сложения вероятностей), получим:

Раскроем квадратные скобки, перенесем в левую часть и разделим обе части на

Устремим, как и полагается в подобных случаях, к нулю; слева получим в пределе производную функции Таким образом, запишем дифференциальное уравнение для

или, короче, отбрасывая аргумент t у функций (теперь он нам больше уже не нужен):

Рассуждая аналогично для всех остальных состояний, напишем еще три дифференциальных уравнения. Присоединяя к ним уравнение (17.2), получим систему дифференциальных уравнений для вероятностей состояний:

Это — система четырех линейных дифференциальных уравнений с четырьмя неизвестными функциями Заметим, что одно из них (любое) можно отбросить, пользуясь тем, что выразить любую из вероятностей через другие, это выражение подставить в (17.3), а соответствующее уравнение с производной отбросить.

Сформулируем теперь общее правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности какого-то состояния. В правой части — сумма произведений вероятностей всех состояний, из которых идут стрелки в данное состояние, на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного состояния.

Пользуясь этим правилом, запишем уравнения Колмогорова для системы S, размеченный граф состояний которой дан на рис. 17.2:

Чтобы решить уравнения Колмогорова и найти вероятности состояний, прежде всего надо задать начальные условия. Если мы точно знаем начальное состояние системы , то в начальный момент (при ) , а все остальные начальные вероятности равны нулю. Так, например, уравнения (17.4) естественно решать при начальных условиях (в начальный момент оба узла исправны).

Как решать подобные уравнения? Вообще говоря, линейные дифференциальные уравнения с постоянными коэффициентами можно решать аналитически, но это удобно только когда число уравнений не превосходит двух (иногда — трех).

Если уравнений больше, обычно их решают численно — вручную или на ЭВМ.

Таким образом, уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени.

Поставим теперь вопрос: что будет происходить с вероятностями состояний при ? Будут ли стремиться к каким-то пределам? Если эти пределы существуют и не зависят от начального состояния системы, то они называются финальными вероятностями состояний. В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое, то финальные вероятности существуют

Предположим, что это условие выполнено и финальные вероятности существуют:

Финальные вероятности мы будем обозначать теми же буквами что и сами вероятности состояний, но разумея под ними уже не переменные величины (функции времени), а постоянные числа. Очевидно, они тоже образуют в сумме единицу:

Как понимать эти финальные вероятности? При в системе S устанавливается предельный стационарный режим, в ходе которого система случайным образом меняет свои состояния, но их вероятности уже не зависят от времени. Финальную вероятность состояния можно истолковать как среднее относительное время пребывания системы в этом состоянии. Например, если система S имеет три состояния и их финальные вероятности равны 0,2, 0,3 и 0,5, это значит, что в предельном, стационарном режиме система в среднем две десятых времени проводит в состоянии три десятых — в состоянии и половину времени — в состоянии

Как же вычислить финальные вероятности? Очень просто. Если вероятности постоянны, то их производные равны нулю. Значит, чтобы найти финальные вероятности, нужно все левые части в уравнениях Колмогорова положить равными нулю и решить полученную систему уже не дифференциальных, а линейных алгебраических уравнений. Можно и не писать уравнений Колмогорова, а прямо по графу состояний написать систему линейных алгебраических уравнений. Если перенести отрицательный член каждого уравнения из правой части в левую, то получим сразу систему уравнений, где слева стоит финальная вероятность данного состояния умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа — сумма произведений интенсивностей всех потоков, входящих в состояние, на вероятности тех состояний, из которых эти потоки исходят.

Пользуясь этим правилом, напишем линейные алгебраические уравнения для финальных вероятностей состояний системы, граф состояний которой дан на рис. 17.2:

Эту систему четырех уравнений с четырьмя неизвестными казалось бы, вполне можно решить. Но вот беда: уравнения (17.7) однородны (не имеют свободного члена) и, значит, определяют неизвестные только с точностью до произвольного множителя. К счастью, мы можем воспользоваться так называемым нормировочным условием;

и с его помощью решить систему. При этом одно (любое) из уравнений можно отбросить (оно вытекает как следствие из остальных).

Давайте зададимся численными значениями интенсивностей и решим систему (17.7). Пожертвуем четвертым уравнением, добавив вместо него нормировочное условие (17.8).

Уравнения примут вид:

Решая их, получим:

т. е. в предельном, стационарном режиме система S в среднем 40% времени будет проводить в состоянии (оба узла исправны), 20% — в состоянии (первый узел ремонтируется, второй работает), 27% — в состоянии (второй узел ремонтируется, первый работает) и 13% — в состоянии полной негодности (оба узла ремонтируются). Знание этих финальных вероятностей может помочь оценить среднюю эффективность работы системы и загрузку ремонтных органов. Предположим, что система S в состоянии (полностью исправная) приносит в единицу времени доход 8 (условных единиц), в состоянии — доход 3, в состоянии — доход S, в состоянии — вообще не приносит дохода. Тогда в предельном, стационарном режиме средний доход в единицу времени будет

Теперь оценим загрузку ремонтных органов (рабочих), занятых ремонтом узлов 1 и 2. Узел 1 ремонтируется долю времени, равную Узел 2 ремонтируется долю времени

Здесь уже может возникнуть вопрос об оптимизации решения. Допустим, что мы можем уменьшить среднее время ремонта того или другого узла (может быть, и того, и другого), но это нам обойдется в какую-то сумму. Спрашивается, «стоит ли овчинка выделки»? Т. е. окупит ли увеличение дохода, связанное с ускорением ремонта, повышенные расходы на ремонт?

Предоставим читателю самостоятельно поставить и решить такую экономическую задачу. При этом ему придется решать систему четырех уравнений с четырьмя неизвестными, но это ничего (характер, как известно, укрепляется в бедствиях!).

<< Предыдущий параграф Следующий параграф >>
Оглавление