Łańcuch Markowa: Różnice pomiędzy wersjami

[wersja nieprzejrzana][wersja nieprzejrzana]
Usunięta treść Dodana treść
Evod (dyskusja | edycje)
Macierz przejść instnieje tylko dla jednorodnego łańcucha markowa.
Evod (dyskusja | edycje)
rozszerzenie artykułu (jeszcze nie koniec)
Linia 15:
 
== Własności łańcuchów Markowa ==
=== MacierzRozkład przejściapoczątkowy ===
Rozkładem początkowym nazywamy rozkład ([[rozkład dyskretny|dyskretny]]) zmiennej <math> X_{0}\;</math>.
Jeśli przestrzeń stanów jest zbiorem skończonym, a łańcuch Markowa jest jednorodny, rozkład prawdopodobieństw przejść między poszczególnymi stanami może być przedstawiony jako [[macierz]], zwaną macierzą prawdopodobieństw przejścia. Jest to [[macierz stochastyczna]], oznaczamy ją literą '''P''', gdzie elementy (''i'', ''j'') są równe:
=== Macierz przejść ===
==== Definicja ====
Jeśli przestrzeń stanów jest zbiorem skończonym, a łańcuch Markowa jest jednorodny, rozkład prawdopodobieństw przejść między poszczególnymi stanami może być przedstawiony jako [[macierz]], zwaną macierzą prawdopodobieństw przejścia. Jest to [[macierz stochastyczna]], oznaczamy ją literą '''<math>\mathbb{P'''}</math>, gdzie elementy (''i'', ''j'') są równe:
 
: <math>P_p_{iji,j} = P(X_{n+1}=j\mid X_n=i) \,</math>
 
* z jednorodności otrzymujemy, że rzeczywiście <math>p_{ij}</math> nie zależy od n;
* czyliprzykładowo element <math> p_{131,3} </math> oznacza prawdopodobieństwo przejścia ze stanu pierwszego do stanu trzeciego.
 
==== Własności ====
Na przestrzeni dyskretnej całkowanie k-tego stopnia macierzy przejścia jest zwykłym sumowaniem i może być obliczane jako ''k''-ta potęga macierzy przejścia. Czyli jeśli '''P''' jest macierzą przejścia w jednym kroku, wówczas '''P'''<sup>''k''</sup> jest macierzą przejścia w ''k'' krokach.
Definicja.
Prawdopodobieństwem przejścia ze stanu "i" do stanu "j" w n krokach nazywamy prawdopodobieństwo warunkowe <math>p_{i,j}^{(n)} = P(X_{m+n}=j| X_m = i)</math>.
===== Równania Chapmana-Kołmogorowa =====
<math>p_{i,j}^{(n + m)} = \sum_{k \in E} p_{i,k}^{(n)}p_{k,j}^{(m)}</math>. Intuicyjne jest jasne, że aby dojść do stanu "j" możemy po drodze przejść przez dowolny inny stan skomunikowany z "j" i "i". W zapisie macierzowym równania Ch-K można zapisać tak: <math> \mathbb{P}^{m+n} = \mathbb{P}^{m}\mathbb{P}^{n} </math>, gdzie przez <math>\mathbb{P}^{n}</math> rozumiemy macierz przejść w n krokach.
 
=== Rozkład stacjonarny ===