2014-02-02
1923
Классификация марковских процессов
Моделирование по схеме марковских случайных процессов
Для вычисления числовых параметров, характеризующих стохастические объекты, нужно построить некоторую вероятностную модель явления, учитывающую сопровождающие его случайные факторы. Для математического описания многих явлений, развивающихся в форме случайного процесса, может быть с успехом применен математический аппарат, разработанный в теории вероятностей для так называемых марковских случайных процессов. Поясним это понятие. Пусть имеется некоторая физическая система S, состояние которой меняется с течением времени (под системой S может пониматься что угодно: техническое устройство, ремонтная мастерская, вычислительная машина и т.д.). Если состояние S меняется по времени случайным образом, говорят, что в системе S протекает случайный процесс. Примеры: процесс функционирования ЭВМ (поступление заказов на ЭВМ, вид этих заказов, случайные выходы из строя), процесс наведения на цель управляемой ракеты (случайные возмущения (помехи) в системе управления ракетой), процесс обслуживания клиентов в парикмахерской или ремонтной мастерской (случайный характер потока заявок (требований), поступивших со стороны клиентов).
Случайный процесс называется марковским процессом (или «процессом без последствия»), если для каждого момента времени t0 вероятность любого состояния системы в будущем (при t> t0) зависит только от её состояния в настоящем (при t= t0) и не зависит от того, когда и каким образом система пришла в это состояние (т.е. как развивался процесс в прошлом). Пусть S техническое устройство, которое характеризуется некоторой степенью изношенности S. Нас интересует, как оно будет работать дальше. В первом приближении характеристики работы системы в будущем (частота отказов, потребность в ремонте) зависят от состояния устройства в настоящий момент и не зависят от того, когда и как устройство достигло своего настоящего состояния.
Теория марковских случайных процессов – обширный раздел теории вероятности с широким спектром приложений (физические явления типа диффузии или перемешивания шихта во время плавки в доменной печи, процессы образования очередей).
Марковские случайные процессы делятся на классы. Первый классификационный признак – характер спектра состояний. Случайный процесс (СП) называется процессом с дискретными состояниями, если возможные состояния системы S1, S2, S3… можно перечислить, а сам процесс состоит в том, что время от времени система S скачком (мгновенно) перескакивает из одного состояния в другое.
Пример. Техническое устройство состоит из двух узлов I и II, каждый из которых может выйти из строя. Состояния: S1 – оба узла работают; S2 – первый узел отказал, второй рабочий; S 3 – второй узел отказал, первый рабочий; S4 – оба узла отказали.
Существуют процессы с непрерывными состояниями (плавный переход из состояния в состояние), например, изменение напряжения в осветительной сети. Будем рассматривать только СП с дискретными состояниями. В этом случае удобно пользоваться графом состояний, в котором возможные состояния системы обозначаются узлами, а возможные переходы - дугами.
 |
Второй классификационный признак – характер функционирования во времени. СП называется процессом с дискретным временем, если переходы системы из состояния в состояние возможны только в строго определенные, заранее фиксированные моменты времени: t1, t2…. Если переход системы из состояния в состояние возможен в любой наперед неизвестный случайный момент, то говорят о СП с непрерывным временем.
Пусть имеется физическая система S с дискретными состояниями S1, S2, … Sn и дискретным временем t1, t2, …, tk, … (шаги, этапы процесса, СП можно рассматривать как функцию аргумента (номера шага)). В общем случае СП состоит в том, что происходят переходы S1® S1 ® S2® S3® S4® S1® … в моменты t1, t2, t3 ….
Будем обозначать 
событие, состоящее в том, что после k – шагов система находится в состоянии Si. При любом k события 
образуют полную группу и несовместны. СП, происходящий в системе, можно представить как последовательность событий 
.
Такая случайная последовательность событий называется марковской цепью. Будем описывать марковскую цепь (МЦ) с помощью вероятностей состояний. Пусть 
– вероятность того, что после k - шагов система находится в состоянии Si. Легко видеть, что "k 
. Поставим задачу: найти вероятности состояний системы для любого k.
Для любого шага (момента времени t1, t2, …, tk) существуют какие-то вероятности перехода системы из любого состояния в любое другое (некоторые из них равны нулю, если непосредственный переход за один шаг невозможен), а также вероятности задержки системы в одном состоянии. Будем их называть переходными вероятностями МЦ. Марковская цепь называется однородной, если переходные вероятности не зависят от номера шага, в противном случае - неоднородная МЦ. Рассмотрим однородную МЦ.
Пусть S= S1, S2, … Sn. Обозначим переходные вероятности через Pij. Пусть известна матрица
.
Пользуюсь введенными выше событиями , переходные вероятности можно написать как условные вероятности:
. Сумма членов в каждой строке матрицы должна быть равна 1. Вместо матрицы переходных вероятностей часто используют размеченный граф состояний (обозначают на дугах ненулевые вероятности переходов, вероятности задержки не требуются, поскольку они легко вычисляются, например P11=1-(P12+P13)). Имея в распоряжении размеченный граф состояний (или матрицу переходных вероятностей) и зная начальное состояние системы, можно найти вероятности состояний p1(k),p2(k),…pn(k) "k.
Пусть начальное состояние системы Sm, тогда
p1(0)=0 p2(0)=0… pm(0)=1… pn(0)=0.
Первый шаг:
p1(1)=Pm1, p2(1)=Pm2, …pm(1)=Pmm, …,pn(1)=Pmn.
После второго шага по формуле полной вероятности получим:
p1(2)=p1(1)P11+p2(1)P21+…pn(1)Pn1,
pi(2)=p1(1)P1i+p2(1)P2i+…pn(1)Pni или 
.
Для произвольного шага k получаем:
(i=1,2,..n).
Для неоднородной МЦ переходные вероятности зависят от номера шага. Обозначим переходные вероятности для шага k через
.
Тогда формула для расчета вероятностей состояний приобретает вид:
.
