Catatan Kuliah MA5181 Proses Stokastik “Precise. Prospective.”
Dosen: Khreshna I.A. Syuhada, MSc. PhD.
Kelompok Keilmuan Statistika - FMIPA Institut Teknologi Bandung 2016
1
Tentang MA5181 Proses Stokastik
Jadwal kuliah: Selasa, 13- (R. Sem 5.1); Rabu, 7- (R. Sem 5.1) Jadwal Perkuliahan: M1 (22/8): Pengantar; Kejadian dan Peubah Acak M2 (29/8): Peluang dan Ekspektasi Bersyarat M3 (5/9): Distribusi Eksponensial M3 (5/9): Ujian 1, Kamis 8/9/16 M4 (12/9): Distribusi Eksponensial (lanjutan) M5 (19/9): Proses Poisson M6 (26/9): Proses Poisson M6 (26/9): Gerak Brown M6 (26/9): Ujian 2, Kamis 29/9/16 M7 (3/10): Proses Renewal M8 (10/10): Proses Renewal M8 (10/10): Rantai Markov M9 (17/10): Rantai Markov M9 (17/10): Ujian 3, Kamis 20/10/16 Buku teks: • Sheldon Ross, 1996, Stochastic Processes (2nd ed.) •Penilaian: • Ujian: 8/9/16; 29/9/16; 20/10/16 (@ 25%) • Kuis (25%)
2
Tentang saya. Ilustrasi film/model/proses stokastik.
3
Bab 1 - Kejadian dan Peubah Acak
Kejadian adalah koleksi, baik sebagian atau semua, hasil yang mungkin dari suatu tindakan “percobaan”. Dalam praktiknya, percobaan dapat dirancang terlebih dahulu ataupun terjadi dengan sendirinya. Kejadian merupakan komponen utama peluang. Suatu kejadian E akan terjadi dengan peluang P (E) dengan memperhatikan rasio hasil percobaan yang memiliki “sifat” E terhadap seluruh hasil percobaan yang dilakukan tak hingga banyak. Secara matematis, Peluang kejadian E adalah P (E) = lim
n→∞
sampel S, peluang kejadian E adalah P (E) =
n(E) . n
Untuk suatu ruang
n(E) . n(S)
Untuk setiap kejadian E dari ruang sampel S, peluang P (E) haruslah memenuhi: • Aksioma (1): 0 ≤ P (E) ≤ 1. • Aksioma (2): P (S) = 1. • Aksioma (3): Untuk barisan kejadian E1 , E2 , . . . yang saling asing, P
(∪
∞ i=1
) Ei =
∞ ∑
P (Ei ).
i=1
Teorema: • P (E c ) = 1 − P (E). • Jika E ⊂ G maka P (E) ≤ P (G). • P (E ∪ G) = P (E) + P (G) − P (E ∩ G) ≤ P (E) + P (G) (Ketaksamaan Boole). Barisan kejadian {En , n ≥ 1} dikatakan naik jika En ⊂ En+1 , n ≥ 1. Kita dapat mendefinisikan ∞ ∪ kejadian baru lim En = Ei . n→∞
i=1
Proposisi: Jika {En , n ≥ 1} barisan kejadian naik atau turun maka lim P (En ) = P n→∞
Lema Borel-Cantelli: Jika {En , n ≥ 1} barisan kejadian dan
∑∞ i=1
(
) lim En .
n→∞
P (Ei ) < ∞ maka peluang terjadi tak hingga
banyak Ei adalah nol. Kejadian dapat “ditransformasi” menjadi peubah acak.
4
Peubah Acak X adalah fungsi yang memetakan setiap anggota S ke bilangan real R. Untuk setiap himpunan bilangan real A, peluang peubah acak X memiliki nilai yang termuat dalam A sama dengan peluang hasil percobaan termuat dalam X −1 (A), atau P {X ∈ A} = P (X −1 (A)), dengan X −1 (A) kejadian yang memuat semua s ∈ S sehingga X(s) ∈ A. Fungsi distribusi F dari peubah acak X didefinisikan, untuk semua bilang real x, sebagai F (x) = P {X ≤ x} = P {X ∈ (−∞, x]}. Perhatikan bahwa untuk peubah acak diskrit, F (x) = kontinu, F (x) =
∫x
∑ y≤x
f (t) dt, dengan f (·) fungsi peluang.
−∞
5
P {X = y}. Untuk peubah acak
Bab 2 - Peluang dan Ekspektasi Bersyarat
Peluang bersyarat akan memberikan “manfaat” lebih dari sudut pandang (i) informasi atau kejadian yang lalu (ii) kerumitan derivasi statistik/matematik. Beberapa kajian tentang peluang dan ekspektasi (bersyarat) antara lain adalah 1. Menentukan fungsi peluang dengan memanfaatkan peluang bersyarat atas kejadian Ilustrasi: Laila, seorang tenaga pemasaran cantik, memiliki dua jadwal pertemuan dengan calon klien untuk menjual suatu produk. Pertemuan pertama berpotensi untuk terjualnya produk dengan peluang 0.3; pertemuan kedua mungkin akan menghasilkan penjualan dengan peluang 0.6 (kedua pertemuan saling bebas). Hasil pertemuan dengan klien akan menghasilkan penjualan (dengan peluang sama) produk kelas 1 dengan harga 1000 atau produk standar dengan harga 500. Misalkan peubah acak X yang menyatakan nilai penjualan. Hitung E(X). 2. Menentukan eskpektasi total dengan syarat peubah acak atau kejadian Ilustrasi: Hista akan membaca satu bab buku Prob atau satu bab buku Stats. Banyak kesalahan ketik pada sebuah bab buku Prob adalah peubah acak berdistribusi Poisson dengan mean 2; pada buku Stats dengan mean 5. Asumsikan bahwa Hista memilih buku Prob atau Stat secara acak. Tentukan banyak kesalahan ketik yang diharapkan yang akan Hista temukan. 3. Menentukan peluang dan ekspektasi bersyarat dengan memanfaatkan formula ekspektasi total Ilustrasi: Diketahui N kerugian acak berdistribusi Poisson dengan parameter mean 0.1. Tentukan P (N = 1|N ≤ 1). Diketahui N ∼ P OI(2). Hitung E(N |N > 1). 4. Menentukan ekspektasi total dengan menentukan distribusi bersyarat terlebih dahulu Ilustrasi: K meninggalkan kantor setiap hari kerja antara pukul 6-7 malam. Jika dia pergi t menit setelah pukul 6 maka waktu untuk mencapai rumah adalah peubah acak berdistribusi Uniform pada selang (20, 20 + (2t)/3). Misalkan Y adalah banyak menit setelah pukul 6 dan X banyak menit untuk mencapai rumah, berapa lama waktu mencapai rumah? 5. Menentukan ekspektasi bersyarat berulang Ilustrasi: Sebuah koin memiliki peluang p untuk muncul Muka (M). Koin dilantunkan terus hingga berpola M,M,B. Misalkan X banyak lantunan yang harus dilakukan. Hitung E(X). 6
Konsep Ekspektasi Bersyarat Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi peluang bersama fX,Y (x, y). Jika fY (y) > 0 maka ekspektasi bersyarat dari X diberikan Y = y adalah ekspektasi dari X relatif terhadap distribusi bersyarat X diberikan y = y, ∫
∫
∞
E(X|Y = y) = −∞
x fX|Y (x|y) dx =
∞
x −∞
fX,Y (x, y) dx. fY (y)
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi peluang bersama fX,Y (x, y). Misalkan ekspektasi dari X hingga. Maka ∫
∞
E(X) = −∞
E(X|Y = y) fY (y) dy
atau E(X) = E(E(X|Y )).
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi peluang bersama fX,Y (x, y). Jika fY (y) > 0 maka variansi bersyarat dari X diberikan Y = y adalah variansi dari X relatif terhadap distribusi bersyarat X diberikan Y = y, V ar(X|Y = y) = E
((
) )2 X − E(X|Y = y) Y = y .
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi peluang bersama fX,Y (x, y). Misalkan variansi dari X hingga. Maka V ar(X) = E(V ar(X|Y )) + V ar(E(X|Y )).
Diskusi: Kajian dua peubah acak atau lebih memberikan kita satu masalah penting yaitu kebergantungan antar dua peubah acak. Dapatkah anda menjelaskan prinsip kovariansi dan korelasi? Bagaimana kita dapat menghitung kedua ukuran tersebut?
7
Bab 3 - Distribusi Eksponensial
Pemahaman tentang peubah acak akan mengajak kita untuk kemudian menggali lebih jauh tentang fungsi distribusi (dan fungsi kesintasan), fungsi peluang serta plot fungsi-fungsi tersebut. Selain itu, kita dapat menghitung peluang dan ekspektasi (bersyarat) dari nilai (fungsi) peubah acak (termasuk statistik terurut). Sifat sifat statistik (sifat distribusi dan momen) merupakan kajian lebih jauh dari peubah acak
Peubah acak eksponensial didefinisikan sebagai peubah acak yang memiliki fungsi distribusi F (x) = 1−e−θ x , x ≥ 0, dengan parameter θ > 0 (notasi: X ∼ exp(θ)). Distribusi eksponensial dapat dipandang sebagai analog (kontinu) dari distribusi geometrik. Kita ketahui bahwa distribusi geometrik memodelkan banyaknya percobaan yang dibutuhkan oleh suatu proses diskrit untuk mengubah keadaan. Sedangkan distribusi eksponensial menjelaskan waktu untuk proses kontinu untuk mengubah keadaan.
Diskusi: Bagaimana kita mendapatkan data berdistribusi eksponensial?
Misalkan X suatu peubah acak. Sifat Tanpa Memori atau memoryless property pada X adalah sifat: “peluang X lebih dari s + t dengan syarat/diberikan X lebih dari t sama den ( ) ( ) gan peluang X lebih dari s”, atau P X > t + s X > t = P X > s . Ilustrasi: misalkan X menyatakan waktu tunggu seseorang mendapatkan “sesuatu”. Peluang orang tersebut menunggu lebih dari 7 tahun setelah dia menunggu lebih dari 5 tahun sama dengan peluang dia menunggu lebih dari 2 tahun, atau P (X > 2 + 5|X > 5) = P (X > 2). Orang itu tidak lagi mengingat bahwa dia telah menunggu selama 5 tahun. Itu sebabnya dikatakan sifat tanpa memori. Perhatikan bahwa ( ) ( ) ) P X > t + s, X > t ( ) P X > t + s ( ) ( ) =P X>s P X > t + s X > t = = P X>t P X>t (
( ) ( ) ( ) atau P X > s + t = P X > s P X > t , yang dipenuhi HANYA oleh X yang berdistribusi eksponensial dengan parameter θ.
8
Latihan: 1. Misalkan waktu tunggu (dalam menit) antrean di Bank berdistribusi eksponensial dengan mean 10. Peluang bahwa seorang nasabah menunggu lebih dari 15 menit untuk dilayani adalah... Sedangkan peluang seseorang menunggu lebih dari 15 menit setelah dia menunggu lebih dari 10 menit adalah... 2. Misalkan disebuah Bank terdapat 2 orang teller A dan B yang sibuk melayani nasabah Alen dan Inne. Tidak ada orang lain yang antre. Seseorang, Dani, yang datang akan dilayani salah satu teller yang telah selesai dengan nasabahnya. Diketahui waktu layanan (service time) teler A dan B berturut-turut adalah p.a. eksponensial dengan parameter θ1 dan θ2 . Misalkan θ1 = θ2 = θ. Berapa peluang bahwa Dani adalah nasabah terakhir yang akan meninggalkan Bank? Apakah sifat tanpa memori dapat digunakan? 3. Banyaknya uang yang “terlibat” dalam kecelakaan (dalam kaitannya dengan asuransi) adalah peubah acak eksponensial dengan mean 1000. Banyaknya uang yang dibayar oleh perusahaan asuransi tergantung apakah klaim pemegang polis lebih dari 400. Tentukan mean dan variansi banyak uang yang dibayar perusahaan asuransi pada setiap kecelakaan.
Diskusi: Dapatkah kita menentukan distribusi (i) jumlahan peubah acak dan (ii) statistik terurut eksponensial? Apa yang dimaksud dengan antrean eksponensial?
9
Bab 4 - Proses Poisson
Kajian tentang antrean merupakan aplikasi dari distribusi eksponensial. Perilaku antrean akan menjadi lebih menarik apabila kita juga mempelajari proses kedatangan subyek pada sistem antrean tersebut. Proses Poisson(PP) adalah proses menghitung (counting process) untuk banyaknya kejadian yang terjadi hingga suatu waktu tertentu. Proses ini sering disebut proses ‘lompatan’ atau “jump process” karena keadaan akan berpindah ke yang lebih tinggi setiap kali kejadian terjadi. PP adalah kasus khusus dari proses Markov kontinu. PP memiliki aplikasi dalam bidang asuransi: (i) total klaim asuransi yang merupakan jumlahan dari klaim individu (ii) banyak klaim yang sering diasumsikan mengikuti PP.
Peubah Acak Poisson: Suatu peubah acak X dikatakan sebagai peubah acak Poisson dengan parameter λ jika, untuk suatu λ > 0, memiliki fungsi peluang P (X = k) = e−λ
λk , k = 0, 1, . . . k!
Catatan: Salah satu sifat penting dari peubah acak Poisson adalah bahwa p.a ini dapat digunakan untuk mendekati peubah acak Binomial saat n besar dan p kecil. Definisi lain mengenai peubah acak Poisson adalah sebagai berikut. Banyaknya kejadian pada interval dengan panjang t adalah peubah acak Poisson dengan parameter λt, P (Nt = k) = e−λt
(λt)k , k = 0, 1, . . . k!
Proses Menghitung: Suatu proses stokastik {Nt , t ≥ 0} adalah proses menghitung (counting process) jika Nt merupakan total banyaknya kejadian (events) yang terjadi sampai waktu t. Proses menghitung {Nt , t ≥ 0} haruslah memenuhi hal-hal berikut: (i) Nt ≥ 0, (ii) Nt bernilai integer, (iii) Jika s < t maka Ns ≤ Nt , (iv) Untuk s < t, Nt − Ns adalah banyaknya kejadian pada interval (s, t]. Terdapat dua sifat penting (yang melekat pada Proses Poisson) yaitu kenaikan bebas (independent increments) dan kenaikan stasioner (stationary increments). Pertama, suatu proses menghitung {Nt } memiliki independent increments jika banyak kejadian yang terjadi pada 10
(s, t], yaitu Nt − Ns , saling bebas dengan banyak kejadian sampai waktu s. Dengan kata lain, banyak kejadian yang terjadi pada selang waktu yang saling asing adalah saling bebas. Kedua, suatu proses menghitung {Nt } memiliki stationary increments jikadistribusi banyak kejadian pada setiap selang hanya bergantung pada panjang selang.
Proses menghitung {Nt , t ≥ 0} adalah Proses Poisson dengan laju λ(> 0), jika (i) N0 = 0, (ii) Proses memiliki kenaikan independen, (iii) Banyaknya kejadian di sebarang interval dengan panjang t berdistribusi Poisson dengan mean λt; untuk setiap s, t ≥ 0, ( ) (λt)n P {Ns+t − Ns = n} = e−λt , n = 0, 1, 2, . . . n! Proses menghitung {Nt , t ≥ 0} adalah Proses Poisson dengan laju λ(> 0), jika (i) N0 = 0, ( ) (ii) Proses memiliki kenaikan stasioner dan independen, (iii) P {Nh = 1} = λh + o(h), (iv) ( ) P {Nh ≥ 2} = o(h).
Misalkan T1 menyatakan waktu dari kejadian pertama. Untuk n > 1, misalkan Tn menyatakan waktu tersisa antara kejadian ke-(n − 1) dam kejadian ke-n. Barisan {Tn , n = 1, 2, . . .} adalah barisan waktu antar kejadian (interarrival times). Untuk menentukan distribusi dari Tn , perhatikan bahwa kejadian {T1 > t} terjadi jika dan hanya jika tidak ada kejadian dari proses Poisson yang terjadi pada interval [0, t], sehingga P (T1 > t) = P (Nt = 0) = e−λt . Jadi T1 berdistribusi eksponensial dengan mean 1/λ. ( ) Perhatikan juga bahwa P (T2 > t) = E P (T2 > t | T1 ) , sedangkan P (T2 > t | T1 = s) = P (tidak ada kejadian pada (s, s + t] | T1 = s) = P (tidak ada kejadian pada (s, s + t]) = e−λt Dengan demikian, T2 juga peubah acak eksponensial dengan mean 1/λ, dan T2 saling bebas dengan T1 .
11
Statistik lain yang kita perhatikan berikut adalah Sn yaitu waktu kedatangan kejadian ke-n atau waktu tunggu (waiting time) hingga kejadian ke-n, Sn = T1 + · · · + Tn , n ≥ 1 yang berdistribusi...
Pandang dua proses Poisson {N1 (t)} dan {N2 (t)} yang saling bebas dengan parameter, berturutturut, λ1 dan λ2 . Kita dapat melakukan kajian lebih jauh tentang proses ini dengan melakukan 1. Jumlahan dua atau lebih Proses Poisson 2. “Thinning” dari Proses Poisson: Diketahui suatu proses Poisson {Nt } dengan parameter λ. Misalkan setiap kali terdapat suatu kejadian, kejadian tersebut dapat diklasifikasi ke Tipe I dengan peluang p atau Tipe II dengan peluang 1 − p, yang saling bebas untuk seluruh kejadian. Jika N1 (t) dan N2 (t) berturut-turut adalah kejadian tipe I dan II pada selang [0, t] maka • {N1 (t)} adalah proses Poisson dengan parameter λ p • {N2 (t)} adalah proses Poisson dengan parameter λ (1 − p) • Kedua proses saling bebas
Sejauh ini Proses Poisson yang kita kaji adalah proses yang homogen. Dapatkah anda menjelaskan Proses Poisson yang tak homogen ?
12
Bab 5 - Gerak Brown
Proses atau model stokastik melibatkan beberapa peubah acak dengan indeks waktu. Kalau kita mempunyai satu peubah acak, maka nilai yang mungkin dari peubah acak tersebut akan mengikuti distribusi peluang yang bersesuaian. Kini, kita akan melihat peubah acak setiap waktu, artinya kita akan melihat beberapa peubah acak. Akibatnya, tingkat kesulitan akan menjadi lebih tinggi. Misalkan kita punyai proses stokastik {Xt , t ≥ 0}. Proses stokastik atau deret waktu (sederhana) yang bergantung pada observasi sebelumnya adalah: Xt = α Xt−1 + εt , dengan asumsi-asumsi yang ditentukan. Proses ini dikenal dengan nama Autoregressive (AR). Proses stokastik diatas kita sederhanakan sebagai berikut: • Xt ∼ i.i.d. N (0, 1) Kita dapat menuliskan proses ini sebagai Xt = εt , dengan {εt } barisan peubah acak saling bebas dan berdistribusi identik (normal/Gauss) dengan mean nol dan variansi satu. • Xt ∼ N (0, σt2 ). Apa perbedaan dengan model sebelumnya? Jika X1 , X2 , . . . dari proses ini saling (tidak) bebas, dapatkah kita menentukan fungsi peluang bersamanya? Mungkinkah Xt dan Xt+s − Xs yang bersifat saling bebas? Pandang koleksi peubah acak {Xt , t ≥ 0} dengan sifat-sifat: (i) X0 = 0 (atau konstanta tidak nol ) (ii) ∀ t > 0, Xt berdistribusi normal dengan mean µt dan variansi σ 2 t (iii) Xtn − Xtn−1 , Xtn−1 − Xtn−2 , . . . , Xt2 − Xt1 , Xt1 saling bebas (memiliki kenaikan bebas) (iv) Xt+s − Xt tidak bergantung pada t (memiliki kenaikan stasioner). Proses stokastik tersebut dikatakan sebagai Gerak Brown atau GB dengan parameter drift µ dan parameter variansi σ 2 .
13
Misalkan dipunyai proses stokastik GB dengan µ = 0, σ 2 = 1 atau dikenal dengan GB standar. Perhatikan kasus t = 1, 2. Fungsi peluang Xt adalah ) ( 1 1 2 fXt (xt ) = √ exp − xt , −∞ < xt < ∞. 2t 2πt Fungsi peluang bersama dari X1 dan X2 adalah... Fungsi peluang bersama dari X1 − X0 dan X2 − X1 adalah fX1 −0,X2 −X1 (x1 − 0, x2 − x1 ) = f (x1 )f (x2 − x1 ), karena sifat kenaikan saling bebas. Persamaan diatas sama dengan ( ( 2 )) 1 1 x1 (x2 − x1 )2 exp − + , (2π)2/2 ((1 − 0)(2 − 1))1/2 2 1−0 2−1 dengan t1 = 1, t2 = 2 dan sifat kenaikan stasioner X2 − X1 ∼ N (0, 2 − 1). Kita dapat menentukan fungsi peluang bersyarat dengan memanfaatkan fungsi peluang bersama diatas. Untuk t1 = 1 < t2 = 2 diatas, fungsi peluang bersyarat Xt1 , diberikan Xt2 = xt2 adalah... fX1 |X2 (x1 |x2 ) =
fX (x1 ) · fX2 −X1 (x2 − x1 ) fX1 ,X2 −X1 (x1 , x2 − x1 ) = 1 = ··· fX2 (x2 ) fX2 (x2 )
Dengan kata lain, distribusi dari X1 |X2 = x2 adalah normal dengan mean dan variansi E(X1 |X2 = x2 ) = · · · ; V ar(X1 |X2 = x2 ) = · · ·
Latihan: 1. Dapatkah kita menentukan distribusi dari X2 |X1 = x1 ? Jelaskan! 2. Pandang {Xt , 0 ≤ t ≤ 1} sebagai proses stokastik yang mengikuti GB dengan parameter variansi σ 2 . Misalkan Xt menyatakan lama (detik) kompetitor 1 memimpin saat 100t persen dari suatu kompetisi telah diselesaikan. Jika kompetitor 1 memimpin σ detik di tengah kompetisi, berapa peluang dia adalah pemenang? Jika kompetitor 1 memenangkan kompetisi dengan margin σ detik, berapa peluang dia memimpin di tengah kompetisi?
14
Proses stokastik GB dapat bernilai negatif yang dianggap tidak tepat untuk memodelkan harga saham. Untuk itu, diusulkan model stokastik St = S0 eXt , dengan nilai awal S0 ; St berdistribusi lognormal. Tentu saja ln St − ln S0 = Xt berdistribusi normal dengan mean µt dan variansi σ 2 t. Model ini dikenal sebagai GB geometrik. Sifat mean dan variansi dari St dapat diturunkan dengan memanfaatkan sifat distribusi lognormal. Kita dapatkan E(St ) = · · · ; V ar(St ) = · · ·
Latihan: 1. Pandang GB dengan µ = 3, σ 2 = 9. Diketahui X0 = 10. Hitung E(X2 ), V ar(X2 ), P (X2 > 20), P (X0.5 > 10) . 2. Pandang GB geometrik {St , t ≥ 0} dengan µ = 0.1, σ 2 = 0.4. Hitung P (S1 > S0 ), P (S3 < S1 > S0 ). 3. Pandang GB geometrik {St , t ≥ 0}; µ = 0.1, σ 2 = 0.16, S0 = 2. Tentukan E(S3 ) dan V ar(S3 ).
15
