Persamaan formal HMM

pada postingan sebelumnya, sudah dibahas mengenai pengertian HMM dan apa bedanya dengan Markov Chain biasa. Sekarang, kita akan lanjut untuk membahas persamaan formal yang terkait dengan HMM.

HMM secara formal adalah 3 tuple:

M = (A, B, p)                   (1)

dengan M adalah HMM itu sendiri, Penjelasan apa itu A? B? dan p? akan ditulis dibagian bawah.

Berikutnya adalah:

S = (s1, s2, s3, ..., sN)                      (2)

V = (v1, v2, v3,.....,vN)                     (3)

dimana S adalah himpunan state dan V adalah himpunan observasi.

berikutnya,

Q = q1, q2, .., qT            (4)

O = o1, o2, ..,oT             (5)

dengan Q adalah urutan pasti state dengan panjang T yang sesuai dengan observasi O.

persamaan (1) sampai (5) diatas hanyalah sebagai pengantar untuk penjelasan formal suatu HMM. jadi,

A adalah array transisi yang menyimpan probabilitas transisi dari state i ke state j.

A = [a ij], a ij = P(qt = sj | qt-1 = si)

B adalah array observasi yang menyimpan beberapa probabilitas state j menghasilkan observasi k.

B = [bi (k)], bi(k) = P(xt = vk | qt = si)

dan p adalah array yang berisi probabilitas awal, (saat implementasi ke code, ini bisa diterjemahkan jadi nol)

p = [pi], pi = P(q1 = si)

--
lambang [] menandakan array

model yang digunakan ini mempunyai beberapa asumsi,

1. current state hanya bergantung pada state sebelumnya
2. observasi yang diemisikan oleh sebuah state pada waktu t hanya bergantung pada current state.

contoh pada kasus Part-of-Speech Tagging

asumsi 1 : P(t2 | t1) atau P(t3 | t2, t1)  => current tag hanya melihat konteks tag sebelumnya/tidak kedepan

asumsi 2 : P(w | t) => peluang sebuah lexicon/kata jika diketahui sebuah tag. Dia tidak melihat tag apa yang ada pada posisi sebelum atau sesudah kata w.

--

referensi masih sama seperti pada postingan sebelumnya

ok, sekian dulu catatan saya mengenai persamaan formal HMM. semoga bermanfaat.