Уравнения колмогорова для графа состояний

Марковские случайные процессы. Уравнения Колмогорова для вероятностей состояний.

Наиболее полное исследование процесса функционирования систем получается, если известны явные математические зависимости, связывающие искомые показатели с начальными условиями, параметрами и переменными исследуемой системы. Для многих современных систем, являющихся объектами моделирования, такие математические зависимости отсутствуют или малопригодны, и следует применять другое моделирование, как правило, имитационное.

Большой класс случайных процессов составляют процессы без последействия, которые в математике называют марковскими процессами в честь Андрея Андреевича Маркова — старшего (1856 — 1922), выдающегося русского математика, разработавшего основы теории таких процессов.

Случайный процесс называется марковским, если вероятность перехода системы в новое состояние зависит только от состояния системы в настоящий момент и не зависит от того, когда и каким образом система перешла в это состояние.

Практически любой случайный процесс является марковским или может быть сведен к марковскому. В последнем случае достаточно в понятие состояния включить всю предысторию смен состояний системы.

Марковские процессы делятся на два класса:

· дискретные марковские процессы (марковские цепи);

· непрерывные марковские процессы.

Дискретной марковской цепьюназывается случайный процесс, при котором смена дискретных состояний происходит в определенные моменты времени.

Непрерывным марковским процессомназывается случайный процесс, при котором смена дискретных состояний происходит в случайные моменты времени.

Рассмотрим ситуацию, когда моделируемый процесс обладает следующими особенностями.

Система имеет возможных состояний: , . . Вообще говоря, число состояний может быть бесконечным. Однако модель, как правило, строится для конечного числа состояний.

Смена состояний происходит, будем считать, мгновенно и в строго определенные моменты времени . В дальнейшем будем называть временные точки шагами.

Известны вероятности перехода системы за один шаг из состояния в состояние .

Цель моделирования: определить вероятности состояний системы после -го шага.

Обозначим эти вероятности (не путать с вероятностями ).

Если в системе отсутствует последействие, то есть вероятности не зависят от предыстории нахождения системы в состоянии , а определяются только этим состоянием, то описанная ситуация соответствует модели дискретной марковской цепи.

Марковская цепь называется однородной, если переходные вероятности от времени не зависят, то есть от шага к шагу не меняются. В противном случае, то есть если переходные вероятности зависят от времени, марковская цепь называется неоднородной.

Значения обычно сводятся в матрицу переходных вероятностей:

Значения могут также указываться на графе состояний системы. На рис. показан размеченный граф для четырех состояний системы. Обычно вероятности переходов «в себя» — , и т. д. на графе состояний можно не проставлять, так как их значения дополняют до 1 сумму переходных вероятностей, указанных на ребрах (стрелках), выходящих из данного состояния.

Не указываются также нулевые вероятности переходов. Например, на рис. это вероятности , и др.

Математической моделью нахождения вероятностей состояний однородной марковской цепи является рекуррентная зависимость

где — вероятность -го состояния системы после -го шага, ;

— вероятность -го состояния системы после -го шага, ;

— число состояний системы;

-переходные вероятности.

Рис.Размеченный граф состояний системы

Для неоднородной марковской цепи вероятности состояний системы находятся по формуле:

где — значения переходных вероятностей для -го шага.

Сформулируем методику моделирования по схеме дискретных марковских процессов (марковских цепей).

1. Зафиксировать исследуемое свойство системы.

Определение свойства зависит от цели исследования. Например, если исследуется объект с целью получения характеристик надежности, то в качестве свойства следует выбрать исправность. Если исследуется загрузка системы, то — занятость. Если состояния объектов, то — поражен или непоражен.

2. Определить конечное число возможных состояний системы и убедиться в правомерности моделирования по схеме дискретных марковских процессов.

3. Составить и разметить граф состояний.

4. Определить начальное состояние.

5. По рекуррентной зависимости определить искомые вероятности.

В рамках изложенной методики моделирования исчерпывающей характеристикой поведения системы является совокупность вероятностей .

При моделировании состояния систем с непрерывными марковскими процессами мы уже не можем воспользоваться переходными вероятностями , так как вероятность «перескока» системы из одного состояния в другое точно в момент времени равна нулю (как вероятность любого отдельного значения непрерывной случайной величины).

Поэтому вместо переходных вероятностей вводятся в рассмотрение плотности вероятностей переходов :

где — вероятность того, что система, находившаяся в момент времени в состоянии за время перейдет в состояние .

С точностью до бесконечно малых второго порядка из приведенной формулы можно представить:

Непрерывный марковский процесс называется однородным,если плотности вероятностей переходов не зависят от времени (от момента начала промежутка ). В противном случае непрерывный марковский процесс называется неоднородным.

Целью моделирования,как и в случае дискретных процессов, является определение вероятностей состояний системы Эти вероятности находятся интегрированием системы дифференциальных уравнений Колмогорова.

Сформулируем методику моделирования по схеме непрерывных марковских процессов.

1. Определить состояния системы и плотности вероятностей переходов .

2. Составить и разметить граф состояний.

3. Составить систему дифференциальных уравнений Колмогорова. Число уравнений в системе равно числу состояний. Каждое уравнение формируется следующим образом.

4. B левой части уравнения записывается производная вероятности -го состоянии

5. В правой части записывается алгебраическая сумма произведений и . Число произведений столько, сколько стрелок связано с данным состоянием. Если стрелка графа направлена в данное состояние, то соответствующее произведение имеет знак плюс, если из данного состояния — минус.

6. Определить начальные условия и решить систему дифференциальных уравнений.

Пример. Составить систему дифференциальных уравнений Колмогорова для нахождения вероятностей состояний системы, размеченный граф состояний которой представлен на рисунке.

Рис. Размеченный граф состояний

Очевидно, .

Поэтому любое из первых трех уравнений можно исключить, как линейно зависимое.

Для решения уравнений Колмогорова необходимо задать начальные условия. Для рассмотренного примера можно задать такие начальные условия: , .

Дата добавления: 2015-04-03 ; просмотров: 7867 ; ЗАКАЗАТЬ НАПИСАНИЕ РАБОТЫ

Уравнения Колмогорова.
Предельные вероятности состояний

Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем* на примере случайного процесса из примера 1, граф которого изображен на рис. 1. Будем полагать, что все переходы системы из состояния в происходят под воздействием простейших потоков событий с интенсивностями ; так, переход системы из состояния в будет происходить под воздействием потока отказов первого узла, а обратный переход из состояния в — под воздействием потока «окончаний ремонтов» первого узла и т.п.

Граф состояний системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 1). Рассматриваемая система имеет четыре возможных состояния: .

Вероятностью i-го состояния называется вероятность того, что в момент система будет находиться в состоянии . Очевидно, что для любого момента сумма вероятностей всех состояний равна единице:

Рассмотрим систему в момент и, задав малый промежуток , найдем вероятность того, что система в момент будет находиться в состоянии . Это достигается разными способами.

1. Система в момент с вероятностью находилась в состоянии , а за время не вышла из него.

Вывести систему из этого состояния (см. граф на рис. 1) можно суммарным простейшим потоком с интенсивностью , т.е. в соответствии с формулой (7), с вероятностью, приближенно равной . А вероятность того, что система не выйдет из состояния , равна . Вероятность того, что система будет находиться в состоянии по первому способу (т.е. того, что находилась в состоянии и не выйдет из него за время ), равна по теореме умножения вероятностей:

2. Система в момент с вероятностями (или ) находилась в состоянии или и за время перешла в состояние .

Потоком интенсивностью (или — с- рис. 1) система перейдет в состояние с вероятностью, приближенно равной (или ). Вероятность того, что система будет находиться в состоянии по этому способу, равна (или ).

Применяя теорему сложения вероятностей, получим

Переходя к пределу при (приближенные равенства, связанные с применением формулы (7), перейдут в точные), получим в левой части уравнения производную (обозначим ее для простоты ):

Получили дифференциальное уравнение первого порядка, т.е. уравнение, содержащее как саму неизвестную функцию, так и ее производную первого порядка.

Рассуждая аналогично для других состояний системы , можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:

Сформулируем правило составления уравнений Колмогорова . В левой части каждого из них стоит производная вероятности i-го состояния. В правой части — сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния).

В системе (9) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (8).

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном случае вероятности состояний системы в начальный момент . Так, например, систему уравнений (9) естественно решать при условии, что в начальный момент оба узла исправны и система находилась в состоянии , т.е. при начальных условиях .

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени . Особый интерес представляют вероятности системы в предельном стационарном режиме , т.е. при , которые называются предельными (или финальными) вероятностями состояний.

В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.

Предельная вероятность состояния имеет четкий смысл: она показывает среднее относительное время пребывания системы в этом состоянии . Например, если предельная вероятность состояния , т.е. , то это означает, что в среднем половину времени система находится в состоянии .

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы с графом состояний, изображенном на рис. 1), такая система уравнений имеет вид:

Систему (10) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом , согласно которому слева в уравнениях стоит предельная вероятность данного состояния , умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа — сумма произведений интенсивностей всех потоков, входящих в i-е состояние, на вероятности тех состояний, из которых эти потоки исходят.

Пример 2. Найти предельные вероятности для системы из примера 1, граф состояний которой приведен на рис. 1, при

Решение. Система алгебраических уравнений, описывающих стационарный режим для данной системы, имеет вид (10) или

(Здесь мы вместо одного «лишнего» уравнения системы (10) записали нормировочное условие (8)).

Решив систему (11), получим , т.е. в предельном, стационарном режиме система в среднем 40% времени будет находиться в состоянии (оба узла исправны), 20% — в состоянии (первый узел ремонтируется, второй работает), 27% — в состоянии (второй узел ремонтируется, первый работает) и 13% времени — в состоянии (оба узла ремонтируются)

Пример 3. Найти средний чистый доход от эксплуатации в стационарном режиме системы в условиях примеров 1 и 2, если известно, что в единицу времени исправная работа первого и второго узлов приносит доход соответственно в 10 и 6 ден.ед., а их ремонт требует затрат соответственно в 4 и 2 ден.ед. Оценить экономическую эффективность имеющейся возможности уменьшения вдвое среднего времени ремонта каждого из двух узлов, если при этом придется вдвое увеличить затраты на ремонт каждого узла (в единицу времени).

Решение. Из примера 2 следует, что в среднем первый узел исправно работает долю времени, равную , а второй узел — . В то же время первый узел находится в ремонте в среднем долю времени, равную , а второй узел — . Поэтому средний чистый доход в единицу времени от эксплуатации системы, т.е. разность между доходами и затратами, равен

Уменьшение вдвое среднего времени ремонта каждого из узлов в соответствии с (6) будет означать увеличение вдвое интенсивностей потока «окончаний ремонтов» каждого узла, т.е. теперь и система линейных алгебраических уравнений (10), описывающая стационарный режим системы , вместе с нормировочным условием (8) примет вид:

Решив систему, получим .

Учитывая, что , а затраты на ремонт первого и второго узла составляют теперь соответственно 8 и 4 ден.ед., вычислим средний чистый доход в единицу времени:

Так как больше (примерно на 20%), то экономическая целесообразность ускорения ремонтов узлов очевидна.

Процесс гибели и размножения

В теории массового обслуживания широкое распространение имеет специальный класс случайных процессов — так называемый процесс гибели и размножения . Название этого процесса связано с рядом биологических задач, где он является математической моделью изменения численности биологических популяций.

Граф состояний процесса гибели и размножения имеет вид, показанный на рис. 4.

Рассмотрим упорядоченное множество состояний системы . Переходы могут осуществляться из любого состояния только в состояния с соседними номерами, т.е. из состояния возможны переходы только либо в состояние , либо в состояние .

Предположим, что все потоки событий, переводящие систему по стрелкам графа, простейшие с соответствующими интенсивностями или .

По графу, представленному на рис. 4, составим и решим алгебраические уравнения для предельных вероятностей состояний (их существование вытекает из возможности перехода из каждого состояния в каждое другое и конечности числа состояний).

В соответствии с правилом составления таких уравнений (см. 13) получим: для состояния

для состояния имеем , которое с учетом (12) приводится к виду

Аналогично, записывая уравнения для предельных вероятностей других состояний, можно получить следующую систему уравнений:

к которой добавляется нормировочное условие

При анализе численности популяций считают, что состояние соответствует численности популяции, равной , и переход системы из состояния в состояние происходит при рождении одного члена популяции, а переход в состояние — при гибели одного члена популяции.

Решая систему (14), (15), можно получить

Легко заметить, что в формулах (17) для коэффициенты при есть слагаемые, стоящие после единицы в формуле (16). Числители этих коэффициентов представляют произведение всех интенсивностей, стоящих у стрелок, ведущих слева направо до данного состояния , а знаменатели — произведение всех интенсивностей, стоящих у стрелок, ведущих справа налево до состояния .

Пример 4. Процесс гибели и размножения представлен графом (рис. 5). Найти предельные вероятности состояний.

Тема 5. Случайные процессы с дискретными состояниями и непрерывным временем.
Статистическое моделирование экономических систем
(метод Монте-Карло)

Оглавление

Вступление

На прошлой лекции мы начали рассматривать вероятностные модели.

Первая группа моделей, которые мы рассмотрели, относится к системам с конечным числом состояний, в которых переходы из состояния в состояние осуществляются в дискретные моменты времени (заранее заданные и, как правило, с равными промежутками).

С такими системами связывается матрица переходных вероятностей. Если эти вероятности постоянны (не зависят от времени), то цепь Маркова называется однородной. Кроме этого должен быть задан вектор начальных вероятностей.

Была дана формула, которая позволяет получить вектор вероятностей оказаться в том или ином состоянии после k-го шага функционирования процесса.

Непрерывные цепи Маркова

Теперь рассмотрим процессы, в которых переход из узла в узел (из состояния в состояние) может произойти через любой случайный промежуток времени.

В этом случае мы должны ввести в рассмотрение непрерывное время, чтобы отслеживать (ловить) эти случайные моменты срабатывания переходов.

Марковский случайный процесс с дискретными состояниями и непрерывным временем называется при условии, что переход системы из состояния в состояние происходит не в фиксированные, а в случайные моменты времени.

Примеры

Поступление заявок на выполнение банковских операций.

Поломка машины в дороге.

Задание системы с конечным числом состояний и непрерывным временем наступления события (перехода из состояния в состояние)

Пусть система характеризуется n состояниями S₀, S₁, S₂. S_n, а переход из состояния в состояние может осуществляться в любой момент времени. Обозначим через P_i(t) вероятность того, что в момент времени t система S будет находиться в состоянии S_i (i = 0,1. n). Требуется определить для любого t вероятности состояний P₀(t), P₁ (t), …P_n(t). Очевидно, что

Определение плотности вероятностей перехода

Для процесса с непрерывным временем вместо переходных вероятностей Р_ij рассматриваются плотности вероятностей перехода λ_ij, представляющие собой предел отношения вероятности перехода системы за время из состояния S_i в состояние S_j к длине промежутка :

Если λ_ij=const, то процесс называется однородным.

Если плотность вероятности λ_ij(t), то процесс — неоднородный.

При рассмотрении непрерывных марковских процессов принято представлять переходы системы S из состояния в состояние как происходящие под влиянием некоторых потоков событий.

Потоки событий

Поток событий – последовательность однородных событий, следующих одно за другим в какие-то случайные моменты времени.

В предыдущем примере – это поток отказов машины и поток восстановлений. Другие примеры: поток заявок в банкомат, поток покупателей в магазине, поток документов и т. д.

Поток событий можно наглядно изобразить рядом точек на оси времени Ot (рис. 1).

Рис. 1

Положение каждой точки случайно, и здесь изображена лишь какая-то одна реализация потока.

Интенсивность потока событий (λ) – это среднее число событий, приходящееся на единицу времени.

Пусть задан момент времени t и промежуток времени .

Обозначим – среднее число событий на промежутке .

Тогда .

Свойства потока событий

Рассмотрим некоторые свойства (виды) потоков событий.

Различают следующие основные свойства, которыми могут обладать случайные потоки событий:

• стационарность;
• ординарность;
• отсутствие последействия.

Стационарность

Свойство стационарности проявляется в том, что вероятность попадания того или иного числа событий на участок времени зависит только от длины участка и не зависит от расположения на оси 0t (времени). Другими словами, стационарность означает неизменность вероятностного режима потока событий во времени. Поток, обладающий свойством стационарности, называют стационарным. Для стационарного потока среднее число событий, воздействующих на систему в течение единицы времени, остается постоянным.

В частности, интенсивность стационарного потока постоянна λ=const. Поток событий неизбежно имеет сгущения или разрежения, но они не носят закономерного характера, и среднее число событий, приходящееся на единицу времени, постоянно и от времени не зависит.

Поток событий называется стационарным, если его вероятностные характеристики не зависят от времени.

Реальные потоки событий в экономике предприятия являются в действительности стационарными лишь на ограниченных участках времени. Поэтому, чтобы применить свойство стационарности, модели исследуют на ограниченных участках времени.

Ординарность

Свойство ординарности потока присутствует, если вероятность попадания на элементарный участок времени двух и более событий пренебрежимо мала по сравнению с длиной этого участка. Свойство ординарности означает, что за малый промежуток времени практически невозможно появление более одного события. Поток, обладающий свойством ординарности, называют ординарным.

Можно сказать, что для любого t на сколь угодно малом промежутке два события не произойдут.

Поток событий называется ординарным, если события в нем появляются поодиночке, а не группами по нескольку сразу. Иначе говоря, два события не происходят в один и тот же момент времени. Например, две машины не подъедут одновременно к стоянке, два человека не подойдут к банкомату, не обратятся с запросом к одной и той же БД и т.д.

За промежуток времени что может произойти?

• ни одного события;
• 1 событие;
• > 1 события.

Если рассмотреть очень маленький промежуток времени (0), то на нем можно выписать вероятности, которые зависят от времени t и от :

– вероятность того, что ничего не случится;

– вероятность, что случится 1 событие;

– вероятность, что случится больше 1-го события.

По природе вероятности можно записать

Последним слагаемым пренебрегаем в виду его малости.

Можно сформулировать свойство ординарности таким образом: для любого момента времени t можно указать две вероятности: (ничего не произойдет), (произойдет 1 событие)

Реальные потоки событий в различных экономических системах либо являются ординарными, либо могут быть достаточно просто приведены к ординарным.

Для ординарных потоков интенсивность (математическое ожидание числа событий в единицу времени) (число событий может быть либо 0, либо 1)

Таким образом, интенсивность потока – это вероятность появления одного события на бесконечно малом промежутке времени. На практике интенсивность замеряют на некотором конечном промежутке времени и она приводится к этому промежутку.

Отсутствие последействия

Данное свойство потока состоит в том, что для любых непересекающихся участков времени ₁ и ₂(см. рис. ниже) число событий, попадающих на один из них, не зависит от того, сколько событий попало на другой. Другими словами, это означает, что события, образующие поток, появляются в те или иные моменты времени независимо друг от друга и вызваны каждое своими собственными причинами. Иначе говоря, количество событий, попадающих на один из них, не зависит от того, сколько событий попало на другие участки времени. Поток, обладающий свойством отсутствия последействия, называют потоком без последействия.

Например, поставили сачок в двух местах реки. Можно ли утверждать, что если в первый сачок поймали 10 рыб, то и во второй попадутся 10 рыб?

Простейший поток

Поток событий называется простейшим (или стационарным пуассоновским), если он обладает сразу тремя свойствами:

• стационарен;
• ординарен;
• не имеет последействия.

Простейший поток имеет наиболее простое математическое описание. Он играет среди потоков такую же особую роль, как и закон нормального распределения среди других законов распределения. А именно, при наложении достаточно большого числа независимых, стационарных и ординарных потоков (сравнимых между собой по интенсивности) получается поток, близкий к простейшему.

Если поток событий не имеет последействия, ординарен, но не стационарен, то его называют нестационарным пуассоновским потоком, а его интенсивность зависит от времени, т. е. .

Если поток событий удовлетворяет описанным выше свойствам, то справедлива теорема Цинлара.

Теорема. Пусть <N (t), > – простейший поток событий. Пусть некоторый фиксированный интервал времени. Тогда количество событий k, приходящихся на промежуток, является случайной величиной с распределением Пуассона, имеющим параметр a = (), т.е.

а — среднее число событий, приходящееся на промежуток времени.

Для простейшего потока , где – длина участка времени; – интенсивность потока:

Отметим еще одно важное свойство простейшего потока событий. Промежуток времени t между соседними событиями распределен по показательному закону, а его среднее значение T и среднее квадратичное отклонение равны.

Для простейшего потока с интенсивностью λ=const интервал T между соседними событиями имеет так называемое показательное (экспоненциальное) распределение с плотностью

Для случайной величины T, имеющей показательное распределение, математическое ожидание m_T есть величина, обратная параметру, а среднее квадратичное отклонение σ_T равно математическому ожиданию

Если в системе все потоки пуассоновские, то процесс, протекающий в системе S, будет марковским. И к нему применима теория непрерывных цепей Маркова.

Задача

Банкомат обслуживает одного человека в среднем 2 мин. К банкомату подходит в среднем 20 чел/ч. Считая поток клиентов к банкомату и поток выдачи денег из банкомата простейшими пуассоновскими, определить интенсивности этих потоков в одних единицах измерения (единиц/мин).

– интенсивность потока клиентов к банкомату = 1/3 чел/мин;

μ – интенсивность потока выдачи денег = 0,5 операции/мин.

Модель 8. Гараж-непрерывный

Автомобиль может находиться в двух состояниях – Исправен S₁ или Ремонт S₂. Поток событий, при котором автомобиль переходит из состояния Исправен в состояние Ремонт, является простейшим и характеризуется заданной интенсивностью λ, которую можно трактовать как количество поломок (отказов) в единицу времени. Поток восстановлений автомобиля также является простейшим и характеризуется заданной интенсивностью µ, которую можно трактовать как количество отремонтированных машин в единицу времени.

Рис. 2

Интенсивность потока отказов – λ.

Интенсивность потока восстановлений – μ.

Введем вектор вероятностей наступления событий

Начинаем выписывать производные:

Поясним смысл слагаемых в правой части этих выражений.

Событие (состояние) S₁ наступает за счет того, что осуществляется переход из узла (состояния) S₂ с интенсивностью μ, таким образом 1-е слагаемое показывает приращение вероятности, а уменьшение вероятности происходит от того, что осуществляется обратный переход к другому узлу с интенсивностью.

Пояснение на примере автомобиля. p₁(t)– вероятность того, что автомобиль исправен, может быть определено как отношение промежутка нахождения в исправном состоянии на общее время протекания процесса. Что увеличивает промежуток исправного состояния? Переход из неисправного состояния в исправное с интенсивностью μ. А что уменьшает этот промежуток? Соответственно, обратный переход с интенсивностью. Если автомобили ломаются и чинятся с одинаковой интенсивностью, то можно предположить, что вероятности нахождения в обоих состояниях будут равны 1/2.

Если автомобили ломаются часто, а ремонт происходит медленно, то вероятность быть в неисправном состоянии будет больше чем в исправном.

Таким образом, изменение вероятности p₁(t) (т. е. производная функции) увеличивается за счет выхода из ремонта и уменьшается за счет нахождения в ремонте. Это и отражают слагаемые в 1-м уравнении (соответственно со знаком «+» и «–»).

p₂(t) – вероятность того, что автомобиль неисправен, может быть определено как отношение времени неисправного состояния на общее время протекания процесса.

Если сложим эти равенства, то получим

Интегрируя ДУ, получим, .

Если забудем, что функции – это вероятности, то получим систему ДУ, которые можно решить и получить законы вероятности нахождения в состояниях.

Одно из ДУ можно заменить соотношением вида, т. е., например, решать такую систему уравнений

Что может интересовать исследователя при решении таких ДУ?

Например, устойчивые решения, т. е. параметры, при которых имеют место устойчивые решения. То есть если есть устойчивое решение, то переходные процессы заканчиваются и, начиная с некоторого T*, функции p₁(t),p₂(t) выходят на стационарное значение (финальная вероятность).

Таким образом исследователя может интересовать, можно ли заранее предсказать, что система выйдет на стационар. И если да, то чему он будет равен.

Другое направление исследования – это собственно сами эти переходные процессы.

Если в рассмотренном примере считать, что описаны два возможных состояния автомобиля, то можно определить подвижной состав для автопредприятия. Та же ситуация с оборудованием, со штатным составом сотрудников и пр.

Уравнения Колмогорова

Пусть система характеризуется n состояниями S₀, S₁, S₂. S_n, а переход из состояния в состояние может осуществляться в любой момент времени и является простейшим потоком событий. Обозначим через Р_i(t) вероятность того, что в момент времени t система S будет находиться в состоянии S_i(i = 0,1. n). Требуется определить для любого t вероятности состояний P₀(t), P₁ (t), …P_n(t).

Прежде всего, построим граф состояний системы.

Итак, на систему, находящуюся в состоянии S_i, действует простейший поток событий. Как только появится первое событие этого потока, происходит «перескок» системы из состояния S_i в состояние S_j(на графе состояний по стрелке S_iS_j).

Для наглядности на графе состояний системы у каждой дуги проставляют интенсивности того потока событий, который переводит систему по данной дуге (стрелке). λ_ij– интенсивность потока событий, переводящий систему из состояния S_i в S_j. Такой граф называется размеченным.

Уравнения Колмогорова представляют собой систему ДУ для определения вероятностей P_i(t)

Слагаемые вида , которые входят в систему со знаками «+» и «–», называются потоком вероятности перехода. При этом λ_ij могут быть постоянными или зависящими от времени.

Производная вероятности каждого состояния равна сумме всех потоков вероятности, идущих из других состояний в данное, и минус сумма всех потоков вероятности, идущих из данного состояния в другие.

Сформулируем мнемоническое правило, по которому в ДУ включаются те или иные слагаемые и те или иные знаки.

К этой системе можно добавить нормирующее уравнение:

Это уравнение дает возможность составить на одно ДУ меньше.

Систему можно решить вручную или с помощью компьютера.

Если записать ДУ Колмогорова для системы «Гараж», то получатся именно такие уравнения, которые мы выписали исходя из эмпирических рассуждений.

Финальные вероятности состояний

Если процесс, протекающий в системе, длится достаточно долго, то имеет смысл говорить о предельном поведении вероятностей P₁ (t), P₂ (t)… при .

Что будет происходить с вероятностями состояний при ? Будут ли P₁ (t), P₂ (t)… стремиться к каким-либо пределам? Если эти пределы существуют и не зависят от начального состояния системы, то они называются финальными вероятностями состояний.

где n – конечное число состояний системы.

Финальные вероятности состояний – это уже не переменные величины (функции времени), а постоянные числа. Очевидно, что

Говорят, что в системе S устанавливается предельный стационарный режим, в ходе которого она переходит из состояния в состояние, но вероятности состояний уже не меняются. Система, для которой существуют финальные вероятности, называется эргодической, а соответствующий случайный процесс — эргодическим.

Финальные вероятности состояний (если они существуют) могут быть получены путем решения системы линейных алгебраических уравнений, которые получаются из дифференциальных уравнений Колмогорова, если приравнять производные к нулю, а вероятностные функции состояний P₁(t), P₂(t)… в правых частях уравнений заменить соответственно на неизвестные финальные вероятности p ₁, p ₂ …

Финальная вероятность состояния S_i – это, по существу, среднее относительное время пребывания системы в этом состоянии.

Сделать предположения, что будет с системой, в некоторых случаях можно по графу

Пример 1.

Например, рассмотрим граф системы:

Здесь мы видим однонаправленное движение (ухудшение или улучшение). Глядя на граф можно сказать, что в будущем система обязательно скатится в состояние 4, 5 или 6 и там останется (стационар).

Пример 2.

Здесь циклическое повторение событий.

На данном графе случайные блуждания из состояния в состояние.

Эргодичность может быть не по отношению ко всем узлам системы. Можно эргодическое поведение выделить в отдельную систему.

Пример. Составление ДУ Колмогорова

Система имеет размеченный граф. В начальный момент система находилась в состоянии S₁.

Написать над дугами обозначения интенсивностей, составить систему ДУ Колмогорова. Реализовать ее в среде MVS и найти финальные вероятности.

Граф после разметки

ДУ для состояния S₁:

Задание для самостоятельной работы.

Дописать систему ДУ Колмогорова.

Как найти финальные вероятности системы?

Вернемся к примеру состояний автомобиля (модель 8).

Мы выписали ДУ для вероятностей состояний исходя из здравого смысла. Но, зная уравнения Колмогорова, которые теоретически строго доказаны, мы видим, что полученная система уравнений соответствует этим уравнениям.

У нас записана система ДУ 1-го порядка, однородная с постоянными коэффициентами. Условие стационара для такой системы – равенство нулю правой части.

Это уравнения зависимые, т. к. в сумме дают 0.

Поэтому вместо одного используем равенство p₁+p₂=1, где p₁, p₂– финальные вероятности, т. е. система будет иметь вид:

Решив эту систему относительно p₁ и p₂, получим финальные вероятности системы:

Процессы гибели и размножения

Особый раздел теории — так называемые процессы гибели и размножения.

Встречается в разнообразных практических задачах.

Марковский процесс с дискретными состояниями S₀, S₁, S₂. S_n называется процессом гибели и размножения, если все состояния можно вытянуть в одну цепочку, в которой каждое из средних состояний (S₀, S₁, S₂. S_n) может переходить только в соседние состояния, которые, в свою очередь, переходят обратно, а крайние состояния (S₀, S_n) переходят только в соседние состояния (рис. 3).

Рис. 3. Граф состояний для процесса гибели и размножения

Название взято из биологических задач, где состояние популяции S_k означает наличие в ней k единиц особей.

Переход вправо связан с размножением единиц, а влево — с их гибелью.

У λ и μ индекс того состояния, из которого стрелка выходит.

С состоянием S_k связана неслучайная величина X_k: которая означает следующее: если система S в момент времени t находится в состоянии S_k, то дискретная случайная величина X(t), связанная с функционированием системы, принимает значение k. Таким образом, получаем случайный процесс X(t), который в случайные, заранее неизвестные моменты времени скачком изменяет свое состояние.

Марковским процессом гибели и размножения с непрерывным временем называется такой случайный процесс, который может принимать только целые неотрицательные значения. Изменения этого процесса могут происходить в любой момент времени, т. е. в любой момент времени он может либо увеличиться на единицу, либо уменьшиться на единицу, либо остаться неизменным.

В практике встречаются процессы чистого размножения и чистой гибели. Процессом чистого размножения называется такой процесс гибели и размножения, у которого интенсивности всех потоков гибели равны нулю; аналогично процессом чистой гибели называется такой процесс гибели и размножения, у которого интенсивности всех потоков размножения равны нулю.

Пример

Рассмотрим эксплуатацию компьютеров в вычислительном центре. Интенсивность приобретения новых компьютеров равна (t). Каждый поступивший компьютер списывается через случайное время Т_с. Срок службы компьютера Т_с распределен по показательному закону с параметром μ. Процесс эксплуатации компьютера является случайным процессом. А(t) – число компьютеров, находящихся в эксплуатации в момент t. Требуется вычислить вероятности P_i(t)=Р , если: 1) нет ограничений на число эксплуатируемых компьютеров, 2) может эксплуатироваться не более N компьютеров.

Пример

Процесс чистого размножения – производство товаров.

Статистическое моделирование экономических систем
(метод Монте-Карло)

Теоретические основы метода

Метод статистического моделирования (или метод Монте-Карло) – это способ исследования поведения вероятностных систем в условиях, когда неизвестны в полной мере внутренние взаимодействия в этих системах.

Метод основан на многократных испытаниях построенной вероятностной математической модели с последующей статистической обработкой полученных результатов.

Цель метода – определение числовых характеристик рассматриваемого процесса в виде статистических оценок его параметров.

Процесс моделирования функционирования экономической системы сводится к машинной имитации изучаемого процесса со всеми сопровождающими его случайностями.

Закон больших чисел

Основой метода статистического моделирования является закон больших чисел (ЗБЧ). ЗБЧ доказывает для различных условий сходимость по вероятности средних значений результатов большого числа наблюдений к некоторым постоянным величинам.

Практика изучения случайных явлений показывает, что хотя результаты отдельных наблюдений, даже проведенных в одинаковых условиях, могут сильно отличаться, в то же время средние результаты для достаточно большого числа наблюдений устойчивы и слабо зависят от результатов отдельных наблюдений.

Теоретическим обоснованием этого замечательного свойства случайных явлений является закон больших чисел. Названием «закон больших чисел» объединена группа теорем, устанавливающих устойчивость средних результатов большого количества случайных явлений и объясняющих причину этой устойчивости.

Центральная предельная теорема объясняет широкое распространение нормального закона распределения. Теорема утверждает, что всегда, когда случайная величина образуется в результате сложения большого числа независимых случайных величин с конечными дисперсиями, закон распределения этой случайной величины оказывается практически нормальным законом.

Предположим какой-то случайный процесс состоит из последовательности элементарных независимых процессов. Длительность каждого процесса t_i – является случайной величиной, распределенной по неизвестному закону с МО t_i и дисперсией . Допустим, что это непрерывное распределение, имеющее ограниченный (по абсолютной величине) третий момент. Тогда – случайная величина, являющаяся суммой n независимых случайных величин, распределенных по неизвестному закону и имеющих конечный третий момент.

Теорема (центральная предельная). Если сделать предельный переход, то распределение случайной величины t будет стремиться к нормальному с МО, равным сумме МО t_i и дисперсией, равной сумме дисперсий t_i

Рассматривается в различных математических постановках в литературе по теории вероятностей.

Пояснение. Практический смысл.

Любые сложные работы на объектах экономики (ввод информации их документа в компьютер, проведение переговоров, ремонт оборудования и пр.) состоят из множества коротких последовательных элементарных работ. Причем количество их велико, и требования теоремы можно считать выполняющимися. Поэтому при оценках трудозатрат всегда справедливо предположение о том, что их продолжительность – это случайная величина, распределенная по нормальному закону.

Предельная теорема о суперпозиции (наложении) потоков

Предположим, что можно наблюдать k независимых потоков событий. В каждом потоке можно наблюдать m_j элементарных событий. Интервалы между событиями – это независимые случайные величины, распределенные по неизвестному закону с МО . Если спроецировать на временную ось моменты наступления событий из наблюдаемых потоков, то получим случайные интервалы времени между событиями.

– случайный интервал между соседними событиями полученного суммарного потока.

Теорема. Если сделать предельный переход , то распределение случайной величины интервала t будет стремиться к показательному с МО, равным

Пример.

Имеется некая крупная фирма. Клиенты – физические и юридические лица. Каждый имеет свое расписание (набор планов и дел) на значительном интервале времени. Однако если рассмотреть суммарный поток обращений клиентов к служащим фирмы, то интервал между двумя последовательными обращениями будет случайной величиной, распределенной по экспоненциальному закону.

Примеры потоков, имеющих показательное (экспоненциальное) распределение:

• время поступления заказа на предприятие;
• посещение покупателями магазина;
• телефонные разговоры;
• срок службы деталей и узлов в компьютере.

Схема решения задачи методом статистического моделирования

1. Разработка и построение структурной схемы процесса, выявление основных взаимосвязей.
2. Формальное описание процесса.
3. Моделирование случайных явлений (случайных событий, случайных величин, случайных функций), сопровождающих функционирование исследуемой системы.
4. Моделирование функционирования системы – воспроизведение процесса в соответствии с разработанной структурной схемой и формальным описанием.
5. Накопление результатов моделирования, статистическая обработка, анализ и обобщение.

Результаты, получаемые при статистическом моделировании подвержены экспериментальным ошибкам.

Экспериментальные ошибки в значительной степени зависят от точности моделирования случайных явлений, сопровождающих функционирование системы. Моделирование случайных явлений сводится к моделированию случайных событий, случайных величин, случайных функций. Так как случайные события и случайные функции могут быть представлены через случайные величины, то моделирование случайных событий и случайных функций проводится с помощью случайных величин.

Моделирование случайных величин

Для моделирования случайной величины необходимо знать ее закон распределения.

Наиболее общим способом получения последовательности случайных чисел, распределенных по произвольному закону, является способ, основанный на формировании их из последовательности равномерно распределенных чисел на промежутке [0, 1].

Опишем этот способ более подробно на примере получения случайной величины с экспоненциальным распределением.

Экспоненциальное (показательное) распределение случайной величины задается плотностью распределения:

(мат.ожидание и среднеквадратическое отклонение равны 1/).

Существует связь между пуассоновским и экспоненциальным распределениями. Если случайная величина подчинена закону Пуассона и представляет собой число отказов в единицу времени, то случайная величина, которая определяет промежуток времени между двумя отказами, распределена по экспоненциальному закону. Чтобы получить величину этого интервала применяют следующий способ:

1. Генерируется случайное равномерно распределенное число ξ на промежутке [0,1]. В среде MVS это можно сделать с помощью функции uniform (0,1).
2. Для преобразования равномерно распределенного случайного числа в случайное число с заданным законом распределения F(t) надо решить уравнение вида. Если закон распределения задан плотностью распределения, то уравнение имеет вид.

Для показательного распределения уравнение имеет вид. Отсюда получаем величину , или поскольку выражение в скобках тоже равномерно распределенная случайная величина, то можно считать, что .

Такие же соотношения получены и для других законов распределения