Периодическая цепь Маркова

Периоди́ческое состоя́ние - это такое состояние цепи Маркова, которое навещается цепью только через промежутки времени, кратные фиксированному числу.

Период состояния

Пусть дана однородная цепь Маркова с дискретным временем $\{X_n\}_{n \ge 0}$ с матрицей переходных вероятностей P. В частности, для любого $n \in \mathbb{N}$, матрица $P^n = \left(p_{ij}^{(n)} \right)$ является матрицей переходных вероятностей за n шагов. Рассмотрим последовательность $p^{(n)}_{jj},\, n \in \mathbb{N}$. Число

$d(j) = \gcd \left(n \in \mathbb{N} \mid p_{jj}^{(n)} > 0 \right)$,

где gcd обозначает наибольший общий делитель, называется пери́одом состояния j.

Замечание

Таким образом, период состояния j равен d(j), если из того что $p_{jj}^{(n)}>0$ следует, что n делится на d(j).

Периодические состояния и цепи

• Если d(j) > 1, то состояние j называется периоди́ческим. Если d(j) = 1, то состояние j называется апериоди́ческим.

• Периоды сообщающихся состояний совпадают:

$( i \leftrightarrow j ) \Rightarrow ( d(i) = d(j) )$.

Таким образом период любого неразложимого класса цепи Маркова определён и равен периоду любого своего представителя. Соответственно, классы делятся на периодические и апериодические.

• Если цепь Маркова неразложима, то периоды всех её состояний совпадают и принимаемое ими общее значение называется периодом цепи. Цепь называется периодической, если её период больше единицы, и апериодической в обратном случае.