J. Pijar MIPA, Vol. V No.2, September : 81 - 85 ISSN 1907-1744 PENDEKATAN ESTIMATOR KERNEL UNTUK ESTIMASI DENSITAS MULUS Laila Hayati Program Studi Pendidikan Matematika PMIPA FKIP Universitas Mataram Jl. Majapahit No. 62 Mataram 83125 e-mail:
[email protected] Abstrak : Misalkan diberikan data pengamatan independen X i : i 1, 2 ,..., n dengan fungsi densitas f. Ada dua pendekatan dalam mengestimasi f yaitu dengan pendekatan parametrik dan pendekatan nonparametik. Pada pendekatan nonparametrik dilakukan jika asumsi bentuk f tidak diketahui. Dalam hal ini diasumsikan bahwa fungsi f termuat dalam kelas fungsi mulus. Salah satu teknik untuk mengestimasi fungsi mulus adalah teknik pemulus kernel. Tingkat kemulusan fungsi estimasi ditentukan oleh parameter pemulus. Semakin besar parameter pemulusnya semakin mulus fungsi estimasi dan sebaliknya. Kata-kata Kunci: densitas mulus, estimator kernel, parameter pemulus KERNEL ESTIMATOR APPROACHES FOR ESTIMATES SMOOTH DENSITY Abstract: Let X i : i 1, 2 ,..., n be independent observation data from a distribution with density function f. There are two basic approaches for estimating f, the parametric and the nonparametric approaches. In nonparametric approaches, an unknown density function f. The function f is assumed to be a smooth function, so the function f could be estimated by kernel estimator. The smoothing level of kernel estimator depends to the smoothing parameter. The big smoothing parameter gives the estimation function which over smooth and the contrary. Key Words: smooth density, kernel estimator, smoothing parameter I. PENDAHULUAN Dalam analisa regresi, tidak semua variabel penjelas dapat didekati dengan pendekatan parametrik, karena tidak adanya informasi yang jelas bagaimana bentuk hubungan variabel penjelas dengan variabel responnya sehingga harus digunakan pendekatan nonparametrik. Tujuan analisa regresi adalah menentukan hampiran untuk kurva regresi m. Jika diberikan data pengamatan independen
X i
: i 1, 2 ,..., n , untuk menentukan distribusi dari X
ekivalen dengan menentukan fungsi densitasnya. Untuk mengestimasi fungsi densitas f dapat dilakukan dengan dua pendekatan yaitu pendekatan parametrik dan nonparametrik. Pendekatan nonparametrik dilakukan jika asumsi bentuk f tidak diketahui. Dalam hal ini diasumsikan bahwa fungsi f termuat dalam kelas fungsi mulus yaitu mempunyai turunan kontinu atau terintegralkan secara kuadrat. Permasalahan dalam densitas nonparametrik adalah bagaimana mengkonstruksikan estimasi dari fungsi densitas tanpa membuat asumsi struktural seperti tentang bentuk fungsi, tetapi hanya mensyaratkan bahwa fungsi densitas tersebut sekurang-kurangnya mempunyai dua turunan yang terbatas. Salah satu teknik untuk mengestimasi fungsi mulus adalah teknik pemulus kernel [1]. Metode yang paling sederhana adalah histogram. Teknik pemulus kernel pada estimator densitas merupakan pengembangan dari estimator histogram. Dari Hayati [4], dengan menggunakan pendekatan regresi nonparametrik untuk menemukan estimator untuk fungsi regresi m diperoleh estimator yang konsisten (dengan menggunakan kernel normal, bandwidth 0.01; 0.1; dan 1), yaitu estimasi total populasi semakin mendekati total populasi dengan semakin bertambahnya
jumlah sampel (n). Semakin besar bandwidth, maka estimasi total populasi semakin menjauhi total populasi. Dalam tulisan ini dibahas tentang pencarian estimator kernel dari densitas mulus, sifat-sifat dan contoh simulasinya dengan program S-Plus for Windows. Estimator Histogram [2] Metode estimasi densitas secara nonparametrik yang paling populer adalah histogram. Namun sebenarnya, histogram ini bukanlah merupakan alat estimasi densitas yang baik, karena bentuknya yang sangat mudah dipengaruhi oleh jumlah kelas dan lokasi nilai tengahnya, dan juga estimasi densitas yang dihasilkan tidak kontinu pada batas kelas. Diketahui sampel random
X i : i 1, 2,..., n
dari suatu populasi dengan fungsi
densitas tak diketahui f. Berdasarkan sampel random ini akan diestimasi fungsi densitasnya. Misalkan daerah nilai x dibagi menjadi disjoin interval-interval dengan panjang 2h. Peluang observasi yang masuk ke dalam interval
X 0
h , X 0 h adalah: P X X
0
X 0h
h, X
0
h
f ( x ) dx
X 0 h
Diperoleh estimator histogram untuk f(x) yaitu: fˆ h ( x )
1 # X 2 nh
i
X
0
h, X
0
h
untuk semua X X 0 h , X 0 h . ini berarti bahwa observasi yang masuk ke dalam interval yang tergantung h, yakni X 0 h , X 0 h memberi sokongan yang sama besar terhadap f h x . pemilihan lebar kelas h kecil, histogram memuat banyak batang kecil-kecil, sedangkan untuk h besar histogram memuat sedikit batang besarbesar. 81
J. Pijar MIPA, Vol. V No.2, September : 81 - 85 Estimator Kernel [2] Fungsi kernel K yang umum dipakai adalah fungsi densitas dan biasanya dilengkapi dengan asumsi-asumsi tertentu. Jika X X 1 , X 2 ,..., X n sampel random dari suatu distribusi densitas f dan K suatu fungsi terbatas dan positif yang memenuhi sifat sebagai berikut: 1, jika i 0 y i K ( y ) dy 0, jika 1 i r 1, untuk suatu bilangan r 0, jika i r
Maka fungsi K yang memenuhi sifat di atas disebut dengan Kernel berorder-r. sifat-sifat lainnya adalah bahwa K merupakan fungsi densitas dan simetrik sekitar nol. Ini didasarkan atas kenyataan bahwa:
K ( y)dy 1 dan
yK ( y)dy 0.
Kernel ini akan
digunakan untuk mengkonstruksikan estimator densitas
1 n 1 n x Xi fˆh ( x ) K h x X i ...(*) K n i 1 nh i 1 h Dengan h penghalus kernel, yang akan memegang peranan
fˆh ( x) dan menentukan
dalam mendefinisikan estimator
Misalkan X i iN1 pengamatan variabel random yang berdistribusi independen dan identik, dengan densitas f. Estimasi densitas kernel berdasarkan dua parameter yaitu: • Bandwidth h • Fungsi densitas kernel K Dalam estimator kernel, parameter penghalus h merupakan pengontrol keseimbangan antara kesesuaian kurva terhadap data dan kemulusan kurva, maka sangat penting untuk menentukan hopt sehingga estimator yang diperoleh juga optimal. Berikut diuraikan sifat-sifat statistik densitas kernel. Teorema 1.1 [3] Jika fˆh x diberikan oleh persamaan (*), maka untuk
h 0, fˆh x tak bias secara asimtotis. Bukti:
f h x , yaitu:
nonparametrik dari
Sifat-sifat Statistik Densitas Kernel
Karena X i berdistribusi independen dan identik maka: 1 n E fˆh x E K h x X i n i 1 1 n E K h x X i n i 1 E K h x X
variansi dan biasnya. Beberapa contoh fungsi Kernel: K u
1. Kernel Uniform:
1 I u 1 2
3. Kernel Epanechnikov: K u
15 1 u2 16
5. Kernel Triweight:
35 K u 1 u2 32
I u 2
I u 3
6. Kernel Gaussian: 1 1 exp u 2 I , u 2 2
dimana I adalah fungsi karakteristik. 1 , jika I u 1 0 , jika
dengan
u 1
1 1
K u du
K u du
1
0du
1
1
fˆ x h
h2 f x 2 K o h 2 , h 0 dengan 2
s 2 K s ds .
fˆ
h
x K s f x
sh ds f x
1
hs h2s2 K s f x f x f x o h 2 1! 2! ds f x
f x K s ds h f x sK s ds
1
f x
f C 2 (kontinu diferensiabel dua kali). Teorema 1.2 [3] Jika fˆh x diberikan oleh persamaan (*), maka
Bias
2 du 0du
1
K s f x ds
Taylor dari f x sh disekitar x, yang diasumsikan
Bukti:
1 , jika u 1 K u 2 0 , jika u 1
akan ditunjukkan bahwa
:
Jadi estimasinya tak bias secara asimtotis. Sifat bias dapat juga dianalisis menggunakan ekspansi
u 1
1 I u 1 2
u x sh ,
2 K
Kernel Uniform: K u
E fˆh x
Bias
Contoh:
substitusi
untuk h 0 , diperoleh
K u
K s f x sh ds ,
3 1 u 2 I u 1 4
4. Kernel Quartic:
K u
h
K u 1 u I u 1
2. Kernel Triangle:
K x u f u du
1
s
2
h2 f x 2
K s ds o h 2 f x
f x
82
h2 f x 2 K o h 2 f x 2
Pendekatan Estimator Kernel Untuk Estimasi Densitas Mulus. (Laila Hayati) dimana,
II. PEMBAHASAN
sh3 f
o h 3! 2
0, untukh 0, dengan x x sh h2 Jadi estimasi densitas kernel:
h2 Bias fˆh x f x 2 K o h 2 , h 0 2
Terlihat bahwa bias merupakan fungsi kuadrat dalam h. Oleh karena itu, dibutuhkan h yang kecil untuk menurunkan biasnya.
Telah diketahui secara umum, bahwa permasalahan utama pada pemulus kernel tidak erletak pada pemilihan kernel tetapi pada pemilihan bandwidth. Pemilihan bandwidth optimum lebih ditekankan pada penyeimbangan antara bias dan varians. Satu perumusan masalah yang dapat memperlihatkan hubungan antara bias dan varians adalah MSE, karena itu dengan meminimumkan MSE maka masalah antara bias dan varians dapat diminimumkan juga. Teorema 2.1 [3]
Teorema 1.3 [3]
fˆh x diberikan oleh persamaan (*), maka
Jika
var fˆh x nh 2
1
2
K
f x o nh
2
1 , nh
Jika
fˆh x diberikan oleh persamaan (2.6), maka
MSE
fˆ x nh
1
h
K s ds .
2
h4 f x 2 K 2 4 o h 4 , h 0 , nh
f x
2
2
K
o nh
1
Bukti:
Bukti: Dari
Karena
MSE fˆh x Var fˆh x + Bias
dengan K
Var
2
X i berdistribusi independen dan identik maka:
h
1 2 n
1 n
fˆ x Var
n
K
h
x
X
i
i 1
n
var
K
h x
X
1 2 x X x X 2 E K E K nh 2 h h
maka
fˆh x . D e n g a n
i
i 1
Teorema 2.2 [3]
2 1 x u x u K 2 f u du K f u du 2 nh h h 2 1 1 K 2 s f x sh ds K s f x sh ds n h
1 1 2 K 2 s f x sh ds f x o h n h 1 1 2 2 K 2 f x o h f x o h n h 1 2 1 K 2 f x o nh , nh nh
Jika h 0, nh , maka fˆh x adalah estimator konsisten untuk f(x). Bukti: Dari teorema 3.1, terlihat bahwa jika h 0, nh , maka
2
menggunakan teorema 2.6 dan 2.7 maka diperoleh: 1 h4 2 K f x f x 2 K 2 ˆ MSE f h x 2 nh 4 1 o nh o h 4 , h 0 , nh
(2.3),
persamaan
p MSE fˆh x 0.
Dengan
kata
lain
p fˆh x f x . Selanjutnya didefinisikan bandwidth
optimal hopt , yang diperoleh dari,
h opt arg min MSE mˆ h x h
sehingga diperoleh teorema berikut:
dimana, 2
sh
o nh
f
2!
oh
h
1
untuk
Teorema 2.3 [3] 0, untuk h 0, dengan x x sh
nh 1
nh
K
2 2
o h
h f x o h nh
nh 1
1
Jika h 0, nh , maka:
2
0,
0 , nh
Terlihat bahwa variansi proporsional dengan nh 1. Oleh karena itu, dibutuhkan h yang besar untuk menurunkan variansinya. Hal ini bertentangan dengan biasnya, sehingga diperhatikan MSE yang memberikan kontrol antara bias kuadrat dan variansi.
(i).
hopt o n 1 / 5
(ii). MSE
mˆ on 4 / 5
h opt
Bukti: (i). Dari teorema [3], dikatakan bahwa Jika , maka Pendekatan MSE untuk
mˆ h x adalah
1 2 x 2 h4 m x f x ˆ h x )= nh f x K 2 4 mx 2 f x MSE( m
2
22 K
o nh, 1 o h 4
83
J. Pijar MIPA, Vol. V No.2, September : 81 - 85 diperoleh: MSE( m ˆ
h4
1
) = nh A 4 B h x
dengan, A
x K f x
2
2 2 2
m x f x 22 K B m x 2 f x
MSE mˆ h x 1 A h3B 2 h nh Apabila diambil A hopt nB
MSE mˆ h x 0 , diperoleh: h
1/5
2 2 K 2 2 2 m x f x f x n m x 22 K f x
o n 1/ 5
1/5
(ii). Apabila nilai hopt disubstitusi ke
MSE mˆ h opt
diperoleh: A MSE mˆ h opt n
4/5
B1/ 5
1 A 4 n
5 2 K 4 f x n
2
4/5
B1/ 5
4/5
2
2 m x 2 m x f x 2 K 2 f x
o n 4 / 5
1/ 5
Contoh simulasi estimasi densitas Kernel Bagaimana pengaruh fungsi Kernel (Triangle, Parzen, Gaussian) dan bandwidth (h=0.01; 0.05; 0.1; 0.5). Misalkan:
Y sin 2t
t sort(unif (0,1)) ~ N 2,4 Estimasi densitas nonparametrik dengan menggunakan kernel di atas ditunjukkan pada gambar berikut ini:
84
Pendekatan Estimator Kernel Untuk Estimasi Densitas Mulus. (Laila Hayati) Dari tampilan gambar 1, 2, dan 3 dapat dibuat kesimpulan yaitu: 1. Dengan bandwidth yang tetap, tidak ada perbedaan signifikan secara visual (grafik) dengan berubahnya fungsi kernel. 2. Dengan fungsi kernel yang tetap, terdapat perbedaan yang signifikan secara visual (grafik) dengan berubahnya bandwidth. Dimana semakin besar bandwidth maka garis grafik yang dihasilkan semakin mulus. III. KESIMPULAN DAN SARAN Dari uraian di atas, dapat disimpulkan bahwa untuk mengestimasi fungsi densitas f, jika informasi model distribusi X tak diketahui maka f dapat diestimasi dengan menggunakan pendekatan nonparametrik. Salah satu pendekatan nonparametrik dengan menggunakan teknik pemulus kernel. Tingkat kemulusan fungsi estimasi ditentukan oleh parameter pemulus. Semakin besar parameter pemulusnya semakin mulus fungsi estimasinya dan sebaliknya. Adapun saran yang dapat dikemukakan adalah: perlu dilanjutkan pembahasan pada masalah fungsi kernel yang lainnya selain Kernel Triangle, Kernel Parzen, dan Kernel Gaussian, dengan bandwidth yang bervariasi, dan perlu dikaji juga teknik untuk mengestimasi fungsi mulus yang lainnya.
DAFTAR PUSTAKA [1] Hardle, W. 1990. Applied Nonparametric Regression Analysis. Cambridge University Press, Cambridge. [2] Hardle, W. 1990. Smoothing T echniques Wih Implementation in S. Springer Verlag, New York [3] Hardle, W. 1991. Sampling Technique . Springer Verlag, London. [4] Hayati, L. 2010. Regresi Nonparametrik Untuk Mengestimasi Total Populasi Berhingga. Jurnal Penelitian Universitas Mataram. 2 (15): 1-8.
85
