Уравнения Колмогорова для вероятностей состояний. Финальные вероятности состояний

Пусть имеется система S c дискретными состояниями, в которой протекает марковский процесс с непрерывным временем.

Что будет с системой S при t ® ¥ ? Будут ли функции p 1 (t), p 2 (t), ..., p n (t) стремиться к каким-то пределам? Эти пределы, если они существуют, называются предельными (или "финальными") вероятностями состояний.

Можно доказать следующее общее положение :

Если число состояний системы S конечно и из каждого состояния можно перейти (за то или иное число шагов) в каждое другое, то предельные вероятности состояний существуют и не зависят от начального состояния системы.

Предположим, что поставленное условие выполнено, и предельные вероятности существуют:

Очевидно, предельные вероятности состояний, также, как и допредельные, в сумме должны давать единицу:

Таким образом, при t®¥ в системе S устанавливается некоторый предельный стационарный режим : он состоит в том, что система случайным образом меняет свои состояния, но вероятность каждого из них уже не зависит от времени. Каков смысл вероятности? Она представляет собой среднее относительное время пребывания системы в данном состоянии .

Как вычислить предельные вероятности? В системе уравнений Колмогорова надо положить все производные равными нулю.

Пример 1 . Вычислить предельные вероятности для системы:

Пример 2 . Написать уравнения для предельных вероятностей.

Пример 3. Найти предельные вероятности для системы.

9. Процесс "гибели и размножения".

Марковский поцесс называется "процессом гибели и размножения", если его граф состояний вытянут в цепочку, т.е. только l n,n+1 и. l n,n-1 не равны нулю, т.е. не равны нулю только плотности вероятностей перехода в соседнее состояние.

Пример 1 . Техническое устройство состоит из трех одинаковых узлов; каждый из них может выходить из строя (отказывать); отказавшее устройство немедленно начинает восстанавливаться. Состояние системы нумеруем по числу неисправных узлов.

В дальнейшем для процесса гибели и размножения будем обозначать l n,n+1 =l n , l n,n-1 =m n .

Определим общую схему решения для процессов гибели и размножения. Напишем алгебраические уравнения для вероятностей состояний

Для первого состояния S 1 имеем:

l 1 p 1 =m 2 p 2

Для второго состояния имеем:

l 2 p 2 +m 2 p 2 =l 1 p 1 +m 3 p 3

Но в силу (9.1) можно сократить справа и слева равные друг другу члены l 1 p 1 и m 2 p 2 , получим

l 3 p 3 =m 4 p 4

и вообще для всех k

l k p k =m k+1 p k+1 для k=1,2,..., n-1

Решение этой системы есть:

p 1 +p 2 +....+p n = 1

Пример 2 . Найти предельные вероятности состояний для процесса гибели и размножения с графом

Пример 3 . Прибор состоит из трех узлов; поток отказов - простейший, среднее время безотказной работы каждого узла равно Т в. Отказавший узел сразу же начинает ремонтироваться; среднее время ремонта (восстановления) узла равно t p ; закон распределения этого вемени показательный (поток восстановлений - простейший). Найти среднюю производительность прибора, если при трех работающих узлах она равна 100%, при двух - 50%, а при одном и менее - прибор вообще не работает.

Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем

на примере случайного процесса из задачи 15.1, граф которого изображен на рис. 15.1. Будем полагать, что все переходы системы из состояния 5 в 5 происходят под воздействием простейших потоков событий с интенсивностями λ . (i, j = = 0, 1,2, 3); так, переход системы из состояния S 0 в 5, будет происходить под воздействием потока отказов первого узла, а обратный переход из состояния в S 0 – под воздействием потока "окончаний ремонтов" первого узла и т.п.

Граф состояния системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 15.1). Рассматриваемая система S имеет четыре возможных состояния. 5q, iSj, S 2, 5"->-

Вероятностью i-го состояния называется вероятность pit) того, что в момент t система будет находиться в состоянии 5(.. Очевидно, что для любого момента t сумма вероятностей всех состояний равна единице:

Рассмотрим систему в момент t и, задав малый промежуток At, найдем вероятность p 0(t + At) того, что система в момент (ί + Δί) будет находиться в состоянии 50. Это достигается разными способами.

1. Система в момент t с вероятностью p Q(t) находилась в состоянии 50, а за время At не вышла из него.

Вывести систему из этого состояния (см. граф на рис. 15.1) можно суммарным простейшим потоком с интенсивностью (λ01 + λ02), т.е. в соответствии с (15.7) с вероятностью, приближенно равной (λ01 + λ0.,)Δί. Л вероятность того, что система не выйдет из состояния 50, равна [ΐ-(λοι + λ0.,)Δί]. Вероятность того, что система будет находиться в состоянии 50 по первому способу (т.е. того, что находилась в состоянии 50 и не выйдет из него за время Δί), равна по теореме умножения вероятностей

2. Система в момент t с вероятностью p^t) (или p 2(t)) находилась в состоянии 5) или S2 и за время At перешла в состояние 50.

Потоком интенсивностью λ10 (или λ20 – см. рис. 15.1) система перейдет в состояние 50 с вероятностью, приближенно

равной λ,0Δί (или λ20Δί) Вероятность того, что система будет находиться в состоянии 50 по этому способу, равна Ρι(ί)10Δί (или ρ2(ί)λ20Δί).

Применяя теорему сложения вероятностей, получим откуда

Переходя к пределу при At → 0 (приближенные равенства, связанные с применением формулы (15.7), перейдут в точные), получим в левой части уравнения производную р" 0 (ί) (обозначим ее для простоты р "0):

Получили дифференциальное уравнение первого порядка, т.е. уравнение, содержащее как саму неизвестную функцию, так и ее производную первого порядка.

Рассуждая аналогично для других состояний системы 5, можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:

(15.9)

Сформулируем правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности i-го состояния. В правой части – сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния).

В системе (15.9) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (15.8).

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном случае вероятности состояний системы в начальный момент t = 0. Так, например, систему уравнений (15.9) естественно решать при условии, что в начальный момент оба узла исправны и система находилась в состоянии 50, т.е. при начальных условиях р 0 (0) = 1, р х (о) = р 2 (О) = р 3 (О) = 0.

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени. Особый интерес представляют вероятности системы р-(!) в предельном, стационарном режиме, т.е. при t → ∞, которые называются предельными (или финальными) вероятностями состояний.

В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.

Предельная вероятность состояния S j имеет четкий смысл: она показывает среднее относительное время пребывания системы в этом состоянии. Например, если предельная вероятность состояния 50, т.е. р 0 = 0,5, то это означает, что в среднем половину времени система находится в состоянии 50.

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы S с графом состояний, изображенном на рис. 15.1, такая система уравнений имеет вид:

(15.10)

Систему (15.10) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом, согласно которому слева в уравнениях стоит предельная вероятность данного состояния р г умноженная на суммарную интенсивность всех потоков, ведущих из данного

состояния, а справа – сумма произведений интенсивностей всех потоков, входящих в i-е состояние, на вероятности тех состояний, из которых эти потоки исходят.

15.2. Найти предельные вероятности для системы S из задачи 15.1, граф состояний которой приведен на рис. 15.1, при

Решение. Система алгебраических уравнений, описывающих стационарный режим для данной системы, имеет вид (15.10) или

(15.11)

Здесь мы вместо одного "лишнего" уравнения системы (15.10) записали нормировочное условие (15.8).

Решив систему (15.11), получим р () = 0,40, p i = 0,20, р 2 = 0,27, р 3 = 0,13, т.е. в предельном, стационарном режиме система S в среднем 40% времени будет находиться в состоянии 5Н (оба узла исправны), 20% – в состоянии 5, (первый узел ремонтируется, второй работает), 27% – в состоянии S 2 (второй узел ремонтируется, первый работает) и 13% времени – в состоянии 53 (оба узла ремонтируются).

15.3. Найти средний чистый доход от эксплуатации в стационарном режиме системы 5 в условиях задач 15.1 и 15.2, если известно, что в единицу времени исправная работа первого и второго узлов приносит доход соответственно в 10 и 6 ден. ед., а их ремонт требует затрат соответственно в 4 и 2 ден. ед. Оценить экономическую эффективность имеющейся возможности уменьшения вдвое среднего времени ремонта каждого из двух узлов, если при этом придется вдвое увеличить затраты на ремонт каждого узла (в единицу времени).

Решение. Из задачи 15.2 следует, что в среднем первый узел исправно работает долю времени, равную р {) + р 2 = = 0,40 + 0,27 = 0,67, а второй узел – р 0 + p = 0,40 + 0,20 = = 0,60. В то же время первый узел находится в ремонте в среднем долю времени, равную р { + р3 = 0,20 + 0,13 = 0,33, а второй узел – р 2 + р 3 = 0,27 + 0,13 = 0,40. Поэтому средний чистый доход в единицу времени от эксплуатации системы, т.е. разность между доходами и затратами, равен

Уменьшение вдвое среднего времени ремонта каждого из узлов в соответствии с (15.6) будет означать увеличение вдвое интенсивностей потока "окончаний ремонтов" каждого узла, т.е. теперь, и система линейных алгебраических уравнений (15.10), описывающая стационарный режим системы У, вместе с нормировочным условием (15.8) примет вид :

Решив систему, получим р 0 = 0,60, р, = 0,15, р 2 = 0,20, р 3 = 0,05.

Учитывая, что р 0 + р 2 = 0,60 + 0,20 = 0,80, р 0 + р { = 0,60 + + 0,15 = 0,75, р { + р 3 = 0,15 + 0,05 = 0,20, р 2 + р 3 = 0,20 + + 0,05 = 0,25, а затраты на ремонт первого и второго узла составляют теперь соответственно 8 и 4 ден. ед., вычислим средний чистый доход в единицу времени:

Так как Д1 больше Д (примерно на 20%), то экономическая целесообразность ускорения ремонтов узлов очевидна.

При записи системы (15.10) одно "лишнее" уравнение мы исключили.

7 ГЛАВА

Элементы теории случайных процессов и теории массового обслуживания

В главе рассматриваются:

определение случайного процесса и его характеристики, понятие марковского случайного процесса;

основные понятия теории массового обслуживания;

потоки событий;

уравнение Колмогорова;

СМО с отказами;

метод Монте-Карло.

Типовые задачи

Пример 7.1

Случайный процесс определяется формулой X (t ) = Xcoswt , где X – случайная величина. Найти основные характеристики этого процесса, если М(Х) = а, D (X ) = а 2 .

Решение

На основании свойств математического ожидания и дисперсии имеем:

Корреляционную функцию найдем по формуле (7.1):

Нормированную корреляционную функцию найдем по формуле (7.2):

Пример 7.2

Построить граф состояний следующего случайного процесса: устройство S состоит из двух узлов, каждый из которых в случайный момент времени может выйти из строя, после чего мгновенно начинается ремонт узла, продолжающийся заранее неизвестное случайное время.

Решение

Возможные состояния системы: S 0 – оба узла исправны; S 1 – первый узел ремонтируется, второй исправен; S 2 – второй узел ремонтируется, первый исправен; S 3 - оба узла ремонтируются. Граф системы приведен на рис. 7.4.

Стрелка, направленная, например, из S 0 в S 1 , означает переход системы в момент отказа первого узла, из S 1 в S 0 – переход в момент окончания ремонта этого узла.

На графе отсутствуют стрелки из S 0 в S 3 и из S 1 в S 2 . Это объясняется тем, что выходы узлов из строя предполагаются независимыми друг от друга и, например, вероятностью одновременного выхода из строя двух узлов (переход из S 0 в S 3 ) или одновременного окончания ремонтов двух узлов (переход из S 3 в S 0 ) можно пренебречь.

Пример 7.3

На автоматическую телефонную станцию поступает простейший поток вызовов с интенсивностью альфа = 1,2 вызовов в минуту. Найти вероятность того, что за две минуты:

а) не придет ни одного вызова;

б) придет ровно один вызов;

в) придет хотя бы один вызов.

Решение

а) Случайная величина X – число вызовов за две минуты – распределена по закону Пуассона с параметром λτ = 1,2*2 = 2,4. Вероятность того, что вызовов не будет (m = 0), по формуле (7.5):

б) Вероятность одного вызова (m = 1):

в) Вероятность хотя бы одного вызова:

Пример 7.4

Найти предельные вероятности для системы S из примера 7.2, граф состояний которой приведен на рис. 7.4, при λ 01 = 1, λ 02 = 2, λ 10 = 2, λ 13 = 2, λ 20 = 3, λ 23 = 1, λ 31 = 3, λ 32 = 2.

Решение

Система алгебраических уравнений, описывающих стационарный режим для данной системы, имеет вид (7.14) или

(7.15)

(Здесь вместо одного «лишнего»уравнения системы (7.14) записали нормировочное условие(7.12).)

Решив систему (7.15), получим p 0 = 0,40, p 1 = 0,20, p 2 = 0,27, p 3 = 0,13, т.е. в предельном стационарном режиме системе S в среднем 40% времени будет находиться в состоянии S 0 (оба узла исправны), 20% - в состоянии S 1 (первый узел ремонтируется, второй работает), 27% - в состоянии S 2 (второй узел ремонтируется, первый работает) и 13% времени – в состоянии S 3 (оба узла ремонтируются).

Пример 7.5

Найти средний чистый доход от эксплуатации в стационарном режиме системы S в условиях примеров 7.2 и 7.4, если известно, что в единицу времени исправная работа первого и второго узлов приносит доход соответственно в 10 и 6 ден. ед., а их ремонт требует затрат соответственно в 4 и 2 ден. ед. Оценить экономическую эффективность имеющейся возможности уменьшения вдвое среднего времени ремонта каждого из двух узлов, если при этом придется вдвое увеличить затраты на ремонт каждого узла (в единицу времени).

Решение

Из примера 7.4 следует, что в среднем первый узел исправно работает долю времени, равную p 0 + р 2 = 0,40 + 0,27 = 0,67, а второй узел – p 0 + р 1 = 0,40 + 0,20 = 0,60. в то же время первый узел находится в ремонте в среднем долю времени, равную р 1 + р 3 = 0,20 + 0,13 = 0,33, а второй узел – р 2 +р 3 = =0,27+0,13=0,40. Поэтому средний чистый доход в единицу времени от эксплуатации системы, т.е. разность между доходами и затратами, равен

D = 0,67*10+0,60*6-0,33*4-0,40*2 = 8,18 ден. ед.

Уменьшение вдвое среднего времени ремонта каждого из узлов в соответствии с (7.10) будет означать увеличение вдвое интенсивностей потока «окончаний ремонтов» каждого узла, т.е. теперь λ 10 = 4, λ 20 = 6, λ 31 = 6, λ 32 = 4 и система линейных алгебраических уравнений (7.14), описывающая стационарный режим системы S , вместе с нормировочным условием (7.12) примет вид:

Решив систему, получим р 0 = 0,60, р 1 = 0,15, р 2 = 0,20, р 3 = 0,05.

Учитывая, что р 0 + р 2 = 0,60 + 0,20 = 0,80, р 0 + р 1 = 0,60 + 0,15 = 0,75, р 1 + р 3 = 0,15 + 0,05 = 0,20, р 2 + р 3 = 0,20 + 0,05 = 0,25, а затраты на ремонт первого и второго узлов составляют теперь соответственно 8 и 4 ден. ед., вычислим средний чистый доход в единицу времени:

D 1 = 0,80*10+0,75*6-0,20*8-0,25*4 = 9,9 ден. ед.

Так как D 1 больше D (примерно на 20%), то экономическая целесообразность ускорения ремонтов узлов очевидна.

Пример 7.6

Процесс гибели и размножения представлен графом (рис.7.8). Найти предельные вероятности состояний.

Решение

По формуле (7.20) найдем

,
,

т.е. в установившемся стационарном режиме в среднем 70,6% времени система будет находится в состоянии S 0 , 17,6% - в состоянии S 1 и 11,8% - в состоянии S 2 .

Пример 7.7

Известно, что заявки на телефонные переговоры в телевизионном ателье поступают с интенсивностью Я, равной 90 заявок в час, а средняя продолжительность разговора по телефону t o 6 – 2 мин. Определить показатели эффективности работы СМО (телефонной связи) при наличии одного телефонного номера.

Решения

Имеем λ = 90 (1/ч), t об = 2 мин. Интенсивность потока обслуживаний μ = 1/ t об = 1/2 = 0,5 (1/мин) = 30 (1/ч). По (7.24) относительная пропускная способность СМО Q = 30/(90+30) = 0,25, т.е. в среднем только 25% поступающих заявок осуществят переговоры по телефону. Соответственно вероятность отказа в обслуживании составит P ОТК =0,75 (см. (7.25)). Абсолютная пропускная способность СМО по (7.26) A=90*0,25=22,5, т.е. в среднем в час будут обслужены 22,5 заявки на переговоры. Очевидно, что при наличии только одного телефонного номера

СМО будет плохо справляться с потоком заявок.

Пример 7.8

В условиях примера 7.7 определить оптимальное число телефонных номеров в телевизионном ателье, если условием оптимальности считать удовлетворение из каждых 100 заявок на переговоры в среднем не менее 90 заявок.

Решение

Интенсивность нагрузки канала по формуле (7.28) р =90/30=3, т.е. за время среднего (по продолжительности) телефонного разговора tоб = 2 мин поступает в среднем 3 заявки на переговоры.

Будем постепенно увеличивать число каналов (телефонных номеров) п = 2, 3, 4,... и определим по формулам (7.29), (7.32), (7.33) для получаемой n-канальной СМО характеристики обслуживания. Например, при п = 2 p o =(1 + 3 + 3 2 /2!) -1 = 0,118 ≈ 0,12;

Q = 1-(3 2 /2!)*0,118 ≈ 0,471; А = 90*0,471 = 42,4.

Значение характеристик СМО сведем в табл. 7.1.

Таблица 7.1

Характеристика обслуживания	Обозначение	Число каналов (телефонных номеров)
Характеристика обслуживания	Обозначение
Относительная пропускная способность
Абсолютная пропускная способность

По условию оптимальности Q ≥ 0,9, следовательно, в телевизионном ателье необходимо установить 5 телефонных номеров (в этом случае Q = 0,90 – см. табл. 7.1). При этом в час будут обслуживаться в среднем 80 заявок (А = 80,1), а среднее число занятых телефонных номеров (каналов) по формуле (7.34) = 80, 1/30 = 2,67.

Пример 7.9

В вычислительный центр коллективного пользования с тремя ЭВМ поступают заказы от предприятий на вычислительные работы. Если работают все три ЭВМ, то вновь поступающий заказ не принимается, и предприятие вынуждено обратиться в другой вычислительный центр. Среднее время работы с одним заказом составляет 3 ч. Интенсивность потока заявок 0,25 1/ч. Найти предельные вероятности состояний и показатели эффективности работы вычислительного центра.

Решение

По условию п=3, λ =0,25 (1/ч), t o 6 =3 (ч). Интенсивность потока обслуживаний μ=1/ t o 6 =1/3=0,33. Интенсивность нагрузки ЭВМ по формуле (7.28) р =0,25/0,33=0,75. Найдем предельные вероятности состояний:

по формуле (7.29):

p 0 =(1+0,75+0,75 2 /2!+0,75 3 /3!) -1 =0,476;

по формуле (7.30):

p 1 = 0,75*0,476 = 0,357; p 2 = (0,75 2 /2!)*0,476 = 0,134; p 3 = (0,75 3 /3!)*0,476 = 0,033,

т.е. в стационарном режиме работы вычислительного центра в среднем 47,6% времени нет ни одной заявки, 35,7% – имеется одна заявка (занята одна ЭВМ), 13,4% – две заявки (две ЭВМ), 3,3% времени – три заявки (заняты три ЭВМ).

Вероятность отказа (когда заняты все три ЭВМ), таким образом, Р 0ТК = р 3 = 0,033.

Согласно формуле (7.32) относительная пропускная способность центра Q = 1 – 0,033 = 0,967, т.е. в среднем из каждых 100 заявок вычислительный центр обслуживает 96,7 заявок.

По формуле (7.33) абсолютная пропускная способность центра А = 0,250,967 = 0,242, т.е. в один час в среднем обслуживается 0,242 заявки.

Согласно формуле (7.34) среднее число занятых ЭВМ к = = 0,242/0,33 = 0,725, т.е. каждая из трех ЭВМ будет занята обслуживанием заявок в среднем лишь на 72,5/3 = 24,2%.

При оценке эффективности работы вычислительного центра необходимо сопоставить доходы от выполнения заявок с потерями от простоя дорогостоящих ЭВМ (с одной стороны, здесь высокая пропускная способность СМО, а с другой – значительный простой каналов обслуживания) и выбрать компромиссное решение.

Случайный процесс определяется формулой X(t)= Хе(- t ) (t > 0), где X – случайная величина, распределенная по нормальному закону с параметрами а и а 2 . Найти математическое ожидание, дисперсию, корреляционную и нормированную корреляционную функции случайного процесса.

Построить граф состояний следующего случайного процесса: система состоит из двух автоматов по продаже газированной воды, каждый из которых в случайный момент времени может быть либо занятым, либо свободным.

Построить граф состояний системы S , представляющей собой электрическую лампочку, которая в случайный момент времени может быть либо включена, либо выключена, либо выведена из строя.

Среднее число заказов на такси, поступающих на диспетчерский пункт в одну минуту, равно 3. Найти вероятность того, что за две минуты поступит:

а) 4 вызова;

б) хотя бы один;

в) ни одного вызова.

(Поток заявок простейший.)

Найти предельные вероятности для систем S , граф которых изображен на рис. 7.11 и 7.12.

Рассматривается круглосуточная работа пункта проведения профилактического осмотра автомашин с одним каналом (одной группой проведения осмотра). На осмотр и выявление дефектов каждой машины затрачивается в среднем 0,5 ч. На осмотр поступает в среднем 36 машин в сутки. Потоки заявок и обслуживаний – простейшие. Если машина, прибывшая в пункт осмотра, не застает ни одного канала свободным, она покидает пункт осмотра необслуженной. Определить предельные вероятности состояний и характеристики обслуживания профилактического пункта осмотра.

Решить задачу 7.15 для случая п = 4 канала (групп проведения осмотра). Найти минимальное число каналов, при котором относительная пропускная способность пункта осмотра будет не менее 0,9.

Одноканальная СМО с отказами представляет собой одну телефонную линию, на вход которой поступает простейший поток вызовов с интенсивностью 0,4 вызовов/мин. Средняя продолжительность разговора 3 мин.; время разговора имеет показательное распределение. Найти предельные вероятности состояний и характеристики обслуживания СМО. Сравнить пропускную способность СМО с номинальной, которая была бы, если разговор длился в точности 3 мин., а заявки шли одна за другой регулярно, без перерывов.

Имеется двухканальная простейшая СМО с отказами. На ее вход поступает поток заявок с интенсивностью 4 заявки/ч. Среднее время обслуживания одной заявки 0,8 ч. Каждая обслуженная заявка приносит доход 4 ден. ед. Содержание каждого канала обходится 2 ден. ед./ч. Выяснить, выгодно или невыгодно в экономическом отношении увеличить число каналов до трех.

Задания по вариантам

Варианты	Главы
Варианты

Рассматривая марковские процессы с дискретными состояниями и непрерывным временем, удобно будет представлять себе, что все переходы системы S из состояния в состояние происходят под действием каких-то потоков событий (поток вызовов, поток отказов, поток восстановлений и т.д.). Если все потоки событий, переводящие систему S из состояния в состояние – простейшие, то процесс протекающий в системе, будет марковским (простейший характер потоков – достаточное, но не необходимое условие для марковского процесса, т.к. простейший поток не обладает последействием: в нем "будущее" не зависит от "прошлого").

Если система S находится в каком-то состоянии S i , из которого есть непосредственный переход в другое состояние S j , то это представим так, что на систему, пока она находится в состоянии S i , действует простейший поток событий, переводящий ее по стрелке . Как только появится первое событие этого потока, происходит переход системы изS i в S j . Для наглядности на графе состояний у каждой стрелки проставим интенсивность того потока событий, который переводит систему по данной стрелке. Обозначим λ ij интенсивность потока событий, переводящего систему из состояния S i в S j . Такой граф будем называть размеченным (рис. 4.8). (вернемся к примеру технического устройства из двух узлов).

Напомним состояния системы:

S 0 – оба узла исправны;

S 1 – первый узел в ремонте, второй исправен;

S 2 – второй узел в ремонте, первый исправен;

S 3 – оба узла в ремонте.

Интенсивности потоков событий, переводящих систему из состояния в состояние, будем вычислять, предполагая, что среднее время ремонта узла не зависит от того, ремонтируется один узел или оба сразу. Это будет так, если ремонтом каждого узла занят отдельный специалист.

Найдем все интенсивности потоков событий, переводящих систему из состояния в состояние. Пусть система находится в состоянии S 0 . Какой поток событий переводит ее в состояние S 1 ? Очевидно, поток отказов первого узла. Его интенсивность  1 равна единице, деленной на среднее время безотказной работы первого узла. Поток событий, переводящий систему обратно из S 1 в S 0 – поток окончаний ремонтов первого узла. Его интенсивность  1 равна единице, деленной на среднее время ремонтов первого узла. Аналогично вычисляются интенсивности потоков событий, переводящих систему по всем стрелкам графа рис. 4.9.

Имея размеченный граф состояний системы, можно построить математическую модель данного процесса.

Пусть рассматривается система S, имеющая n возможных состояний S 1 , S 2 , …, S n . Назовем вероятностью i – го состояния вероятность P i (t) того, что в момент t система будет находится в состоянии S i . Очевидно, что для любого момента сумма всех вероятностей состояний равна единице.

(4.5)

Имея в своем распоряжении размеченный граф состояний, можно найти все вероятности состояний P i (t) как функции времени. Для этого составляются и решаются уравнения Колмогорова – особого вида дифференциальные уравнения, в которых неизвестными функциями являются вероятности состояний.

Посмотрим на примере, как эти уравнения составляются. Пусть система S имеет 4 состояния: S 1 , S 2 , S 3 , S 4 , размеченный граф которых показан на рис. 4.10. Рассмотрим одну из вероятностей состояний, например P 1 (t). Это – вероятность того, что в момент t система будет в состоянии S 1 . Придадим t малое приращение t и найдем P 1 (t+t) – вероятность того, что в момент t+t система будет находится в состоянии S 1 . Как это может произойти? Очевидно, двумя способами:

в момент t система уже была в состоянии S 1 , а за время t не вышла из него; либо

в момент t система была в состоянии S 2 , а время t перешла из него в S 1 .

Найдем вероятность первого варианта. Вероятность того, что в момент t система была в состоянии S 1 , равна P 1 (t). Эту вероятность нужно умножить на вероятность того, что находившись в момент t в состоянии S 1 , система за время t не перейдет из него ни в S 2 , ни в S 3 . Суммарный поток событий, выводящий систему из состояния S 1 тоже будет простейшим, с интенсивностью  12 + 13 (при наложении – суперпозиции – двух простейших потоков получается опять простейший поток, т.к. свойства стационарности, ординарности и отсутствия последействия сохраняются), значит, вероятность того, что за время t система выйдет из состояния S 1 , равна ( 12 + 13) t, вероятность того, что не выйдет: 1-( 12 + 13) t. Отсюда вероятность первого варианта равна P 1 (t).

Найдем вероятность второго варианта. Она равна вероятности того, что в момент t система будет в состоянии S 2 , а за время t перейдет из него в состояние S 1 , т.е. она равна P 2 (t) 21 t.

Складывая вероятности обоих вариантов (по правилу сложения вероятностей), получим: P 1 (t+t)=P 1 (t)+P 2 (t) 21 t.

Раскроем квадратные скобки, перенесем P 1 (t) в левую часть и разделим обе части на t:

Устремим t к нулю; слева получим в пределе производную функции P 1 (t). Т.о., запишем дифференциальное уравнение для P 1 (t):

, или, отбрасывая аргумент t у функций P 1 , P 2:

(4.6)

Рассуждая аналогично для всех остальных состояний, напишем еще три дифференциальных уравнения. В результате получим систему дифференциальных уравнений для вероятностей состояний:

(4.7)

Это – система из 4-х линейных дифференциальных уравнений с четырьмя неизвестными функциями P 1 , P 2 , P 3 , P 4 . Одно из них (любое) можно отбросить, пользуясь тем, что
; выразить любую из вероятностейP i через другие, это выражение подставить в (4.7), а соответствующее уравнение с производной отбросить.

Сформулируем теперь общее правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности какого-то (i -го) состояния. В правой части – сумма произведений вероятностей всех состояний, из которых идут стрелки в данное состояние, на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i -го) состояния.

Пользуясь этим правилом, напишем уравнения Колмогорова для системы S (рис. 4.9):

(4.8)

Чтобы решить уравнения Колмогорова и найти вероятности состояний, необходимо задать начальные условия. Если мы точно знаем начальное состояние системы S i (при t=0) P i (0)=1, а все остальные начальные вероятности равны 0. Так уравнения (4.8) естественно решать при начальных условиях P 0 (0)=1, P 1 (0)=P 2 (0)=P 3 (0)=0 (в начальный момент оба узла исправны). Обычно, когда число уравнений больше двух (трех) их решают численно на ЭВМ.

Т.о., уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени.

Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем* на примере случайного процесса из примера 1, граф которого изображен на рис. 1. Будем полагать, что все переходы системы из состояния впроисходят под воздействием простейших потоков событий с интенсивностями; так, переход системы из состояниявбудет происходить под воздействием потока отказов первого узла, а обратный переход из состоянияв- под воздействием потока "окончаний ремонтов" первого узла и т.п.

Граф состояний системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 1). Рассматриваемая система имеет четыре возможных состояния:.

Вероятностью i-го состояния называется вероятность того, что в моментсистема будет находиться в состоянии. Очевидно, что для любого моментасумма вероятностей всех состояний равна единице:

Рассмотрим систему в момент и, задав малый промежуток, найдем вероятностьтого, что система в моментбудет находиться в состоянии. Это достигается разными способами.

1. Система в момент с вероятностьюнаходилась в состоянии, а за времяне вышла из него.

Вывести систему из этого состояния (см. граф на рис. 1) можно суммарным простейшим потоком с интенсивностью , т.е. в соответствии с формулой (7), с вероятностью, приближенно равной. А вероятность того, что система не выйдет из состояния, равна. Вероятность того, что система будет находиться в состояниипо первому способу (т.е. того, что находилась в состояниии не выйдет из него за время), равна по теореме умножения вероятностей:

2. Система в момент с вероятностями(или) находилась в состоянииилии за времяперешла в состояние.

Потоком интенсивностью (или- с- рис. 1) система перейдет в состояниес вероятностью, приближенно равной(или). Вероятность того, что система будет находиться в состояниипо этому способу, равна(или).

Применяя теорему сложения вероятностей, получим

Переходя к пределу при (приближенные равенства, связанные с применением формулы (7), перейдут в точные), получим в левой части уравнения производную(обозначим ее для простоты):

Рассуждая аналогично для других состояний системы , можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:

Сформулируем правило составления уравнений Колмогорова . В левой части каждого из них стоит производная вероятности i-го состояния. В правой части - сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния).

В системе (9) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (8).

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном случае вероятности состояний системы в начальный момент . Так, например, систему уравнений (9) естественно решать при условии, что в начальный момент оба узла исправны и система находилась в состоянии, т.е. при начальных условиях.

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени . Особый интерес представляют вероятности системы впредельном стационарном режиме , т.е. при , которые называютсяпредельными (или финальными) вероятностями состояний.

Предельная вероятность состояния имеет четкий смысл: она показываетсреднее относительное время пребывания системы в этом состоянии . Например, если предельная вероятность состояния , т.е., то это означает, что в среднем половину времени система находится в состоянии.

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы с графом состояний, изображенном на рис. 1), такая система уравнений имеет вид:

Систему (10) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом, согласно которому слева в уравнениях стоит предельная вероятность данного состояния , умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа - сумма произведений интенсивностей всех потоков, входящих в i-е состояние, на вероятности тех состояний, из которых эти потоки исходят.