* ( ) ( ) ( ) +
Peluang keadaan j dicapai dari keadaan i pertama kali dalam n langkah. (dalam 0 langkah j dicapai dari i , tidak terjadi) (dalam 1 langkah j dicapai dari i , peluang transisi satu langkah)
Definisi : Jika ingat : 1 maka keadaan i dikatakan recurrent keadaan i dicapai dari keadaan i (kembali dikunjungi) dimana 1,2,... = langkah (bukan pangkat) Syarat Perlu dan Cukup Keadaan Recurrent Teorema : Keadaan i dikatakan recurrent jika dan hanya jika
(tak hingga)
Mudah dipahami untuk keadaan recurrent i , proses menuju keadaan i kembali adalah tak hingga kali. Teorema : Jika keadaan i recurrent dan i Bukti : Terdapat bilangan bulat m dan n sedemikian sehingga maka: untuk
Jumlahkan atas s
yang menyatakan keadaan j recurrent. Akibatnya : Suatu Rantai Markov irreducible dapat memiliki keadaan yang recurrent