Pemilihan Model Terbaik Hazmira Yozza Jur. Matematika FMIPA Univ. Andalas
LOGO
Jadi banyakLOGO model yang mungkin dibentuk Var. Bebas : X1, X2, X3 Model Mana Yang Mampu Mewakili Data
X1
X2
X3
X1, X2
X1, X3
X2, X3
+ model akar, log, hasil kali, dll Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
X1, X2, X3
Kriteria dan Metode Pemilihan Model Terbaik
R2 S2 R2adj PRESS Cp-Mallow dll
Kriteria
Metode
All Possible, Best Subset, Sekuensial
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Kompetensi
LOGO
menghitung nilai berbagai kriteria yang biasa digunakan untuk memilih model terbaik memilih model regresi terbaik dengan teknik validasi silang menghitung nilai Cp-Mallow dari suatu model dan menggunakannya untuk memilih model terbaik memilih model regresi terbaik dengan menggunakan berbagai prosedur pemilihan model terbaik (best subset dan sekuensial) Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
Hal-hal yang harus diperhatikan dalam memilih model terbaik
Kesederhanaan model
Tujuan penelitian : Pendugaan, Memilih peubah yang berpengaruh/tidak, mempelajari sistem darimana data tersebut diambil Teori/pendapat ahli dari bidang darimana data tersebut didapat
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Kriteria Standar Pemilihan Model Terbaik 1. Koefisien Determinasi n ∑ ( yˆ i − y ) 2 2 JKR b X Y − n Y ' ' 2 i =1 100% R = 100% = n 100% = 2 JKT 2 Y ' Y − nY ( y − y ) ∑ i i =1 •Merupakan ukuran kesesuaian model dengan data •Semakin tinggi R2, semakin baik model •Model terbaik adalah model dengan R2 tertinggi
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Kriteria Pemilihan Model Terbaik 2. Simpangan baku galat (error) JKS s = KTS = n − p −1 2
• Semakin kecil s2, semakin baik model • Model terbaik adalah model dengan s2 terkecil
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Kriteria Pemilihan Model Terbaik 3. Koefisien Determinasi yang Disesuaikan •Mengatasi kelemahan koef. determinasi
JKR JKS R = = 1− JKT JKT 2
2 JKS /( n − p − 1 ) s 2 100% 100% = 1− Radj = 1− JKT /(n −1) JKT /(n −1)
s2 (n −1) 100% =1− JKT •Semakin tinggi R2, semakin baik model •Model sama dengan model terbaik yang dipilih dengan kriteria R2 Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
LOGO
No
X1
X2
X3
X4
Y
X1 = kadar 3CaO.Al2O3
1 7.0
26.0
6.0
60.0
78.5
X2 = kadar 3 CaO.SiO2
2 1.0
29.0
15.0
52.0
74.3
X3 = kadar 4 CaO.Al2O3.Fe2O3
3 11.0
56.0
8.0
20.0
104.3
X4 = kadar 2 CaO.SiO2
4 11.0
31.0
8.0
47.0
87.6
Y = panas /gr semen
5 7.0
52.0
6.0
33.0
95.9
6 11.0
55.0
9.0
22.0
109.2
7 3.0
71.0
17.0
6.0
102.7
8 1.0
31.0
22.0
44.0
72.5
9 2.0
54.0
18.0
22.0
93.1
10 21.0
47.0
4.0
26.0
115.9
11 1.0
40.0
23.0
34.0
83.8
12 11.0
66.0
9.0
12.0
113.3
13 10.0
68.0
8.0
12.0
109.4
LOGO No
Peubah dalam model
R
2
s
2
2 Radj
1
X1
53.4
115.1
49.2
2
X2
66.6
82.4
63.6
3
X3
28.6
176.3
22.1
4
X4
67.5
80.4
64.5
5
X1 , X2
97.9
5.8
97.4
6
X1 , X3
54.8
122.7
45.8
7
X1 , X4
97.2
7.5
96.7
8
X2 , X3
84.7
41.5
81.6
9
X2 , X4
68.0
86.9
61.6
10
X3 , X4
93.5
17.6
92.2
11
X1 , X2 , X3
98.2
5.35
97.6
12
X1 , X2 , X4
98.2
5.33
97.6
13
X1 , X3 , X4
98.1
5.65
97.5
14
X2 , X3 , X4
97.3
8.20
96.4
15
X1, X2 , X3 , X4
98.2
5.98
97.4
Jk mempertimbangkan kesedrhanaa model
Kriteria Validasi Silang dalam Pemilihan Model
R2,S2 dan R2adj • digunakan untuk prediksi •Dihitung dari R2,S2 dan R2adj Bukan mengukur kemampuan prediksi
ei = y i − yˆ i
Prediksi : menduga Respons dari Suatu pengamatan lain
LOGO
Perlu suatu mekanisme yang benar-benar mengukur kemampuan prediksi dari suatu model
Validasi silang 1. Data Splitting 2. PRESS
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Data Splitting Untuk setiap kemungkinan model, lakukan : 1. Bagi data menjadi : Fitting sample dan validation sample
2. 3. 4.
y1
x11
x12
K
x1 k
y2 M
x 21 M
x 22 M
K M
x2k M
y n1 y n1 +1
x n1 1
x n1 2
x n1 k
x ( n1 + 1 )1
x ( n1 +1 ) 2
K K
M
M
M
y n1 + n 2
x ( n1 + n 2 )1
x ( n1 + n 2 ) 2
M K
Fitting sample
x ( n1 +1 ) k M
Validation sample
x ( n1 + n 2 ) k
Bentuk model dari data pada fitting sample Berdasarkan model (2), Hitung sisaan dari setiap data pada validation sample Dasar pemilihan model n +n n +n atau ∑ yi − yˆ i JKS = ∑ ( y i − yˆ i ) 2 1
2
i = n1 +1
1
2
i = n1 +1
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
No. Obs
Fitting Sample
Validation Sample
Y
X1
1
7
78.5
3
11
104.3
4
11
87.6
5
7
95.9
7
3
102.7
9
2
93.1
11
1
83.8
2
1
74.3
90.5852
-16.2852
6
11
109.2
93.9582
15.2418
8
1
72.5
90.5852
-18.0852
10
21
115.9
97.3312
18.5688
12
11
113.3
93.9582
19.3418
13
10
109.4
93.6209
15.7791
JKS
1792.48
yˆ = 90.2479 + 0.3373X1 Yˆ
(Y − Yˆ )
Lakukan untuk kemungkinan model yang lain
Pilih model dgn JKS terkecil
Catatan
LOGO
Menempatkan data pada fitting sampel dan validation sample dilakukan secara acak Data deret waktu : penempatan data berdasarkan urutan waktu Aturan yang banyak digunakan : Banyak data : n ≥ 2 p + 20 Data dibagi sama banyak.
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
ei ,− i = yi − yˆ i , −i
PRESS (Prediction Sum of Squares)
LOGO Model terbaik : PRESS terkecil
Kriteria Pemilihan Model
R2pred terbesar
n
PRESS = ∑ (eyˆi , − i )
2
i ,− i
R
2 pred
i =1
PRESS = 1 − 100 % JKT
ei , − i = y i − yˆ i , − i Sisaan PRESS
Mendapatkan sisaan PRESS •Hilangkan data ke-I (i=1,2, ,n)
n
PRESS = ∑ (ei , −i ) 2
•Berdasarkan (n-1) data sisanya, bentuk model
i =1
•Berdasarkan model yang terbentuk, hitung : Nilai dugaan untuk pengamatan ke-i : sisaan untuk data-i
yˆ i , −i
e i , − i = y i − yˆ i , − i
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
No
X1
X2
X3
X4
Y
X1 = kadar 3CaO.Al2O3
1 7.0
26.0
6.0
60.0
78.5
X2 = kadar 3 CaO.SiO2
2 1.0
29.0
15.0
52.0
74.3
X3 = kadar 4 CaO.Al2O3.Fe2O3
3 11.0
56.0
8.0
20.0
104.3
X4 = kadar 2 CaO.SiO2
4 11.0
31.0
8.0
47.0
87.6
Y = panas /gr semen
5 7.0
52.0
6.0
33.0
95.9
6 11.0
55.0
9.0
22.0
109.2
7 3.0
71.0
17.0
6.0
102.7
8 1.0
31.0
22.0
44.0
72.5
9 2.0
54.0
18.0
22.0
93.1
10 21.0
47.0
4.0
26.0
115.9
11 1.0
40.0
23.0
34.0
83.8
12 11.0
66.0
9.0
12.0
113.3
13 10.0
68.0
8.0
12.0
109.4
Yˆ = 83.107 + 1.8201(7) = 95.85
Model dengan X1 No. Obs
Y
X1 1
7
78.5
3
11
104.3
4
11
87.6
5
7
95.9
7
3
102.7
9
2
93.1
11
1
83.8
2
1
74.3
6
11
109.2
8
1
72.5
10
21
115.9
12
11
113.3
13
10
109.4
Yˆ = 83.107 + 1.8201 X 1 Yˆ1 , − 1 = 83 . 107 + 1 . 8201 ( 7 ) = 95 . 85
e1, − 1 = y 1 − yˆ 1, − 1 = 78 . 5 − 5 . 85 = − 17 . 35
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Yˆ = 83.107 + 1.8201(7) = 95.85
Model dengan X1 No. Obs
Y
X1 1
7
78.5
2
1
74.3
3
11
87.6
4
7
95.9
5
3
102.7
6
2
93.1
7
1
83.8
8
11
104.3
9
11
109.2
10
1
72.5
11
21
115.9
12
11
113.3
13
10
109.4
Yˆ = 83.781 + 1.6659 X 1 yˆ 2, −2 = 83.781 + 1.6659 (1) = 85.45 e2, −2 = y2 − yˆ 2, −2 = 74.3 − 85.45 = −11.15
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
LOGO
yˆ i , −i
ei , − i
78.5
95.85
-17.35
2
74.3
85.45
-11.15
3
104.3
101.57
2.73
4
87.6
103.57
-15.97
5
95.9
94.39
1.51
6
109.2
100.98
8.22
7
102.7
84.93
17.77
8
72.5
85.84
-13.34
9
93.1
83.95
9.15
10
115.9
125.91
-10.01
11
83.8
83.40
0.40
12
113.3
100.49
12.81
13
109.4
99.07
10.33
No.
yi
1
n
PRESS = ∑ (ei , − i ) 2 = 1725.13 i =1
PRESS 2 R pred = 1 − 100 % JKT 1725 .13 = 1 − 100 % 2679 . 7 = 35 .62 %
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Perhitungan sisaan PRESS
ei , −i =
ei 1 − hi
dengan hi adalah unsur diagonal utama dari matriks Hat
H = X ( X T X ) −1 X T X adalah matriks rancangan yang bersesuaian
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
No
Peubah dalam model
PRESS
(%) 2 R pred
1
X1
1725.130
35.62
2
X2
1156.490
56.84
3
X3
2587.800
3.43
4
X4
1156.970
56.82
5
X1 , X2
87.434
96.74
6
X1 , X3
2266.760
15.41
7
X1 , X4
130.226
95.14
8
X2 , X3
662.191
75.29
9
X2 , X4
1402.520
47.66
10
X3 , X4
270.392
89.91
11
X1 , X2 , X3
88.995
96.68
12
X1 , X2 , X4
83.683
96.88
13
X1 , X3 , X4
91.551
96.58
14
X2 , X3 , X4
135.572
94.94
15
X1, X2 , X3 , X4
107.419
95.99
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Statistik Cp-Mallow Model Underfitting
Overfitting
Mengabaikan peubah-peubah penting
Memasukkan peubah-peubah yang tidak perlu
Penduga berbias
MODEL YANG PAS
Ragam Penduga besar
Cp-Mallow Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
Statistik Cp-Mallow
Cp =
JKS s
2
p
LOGO
− (n − 2 p )
JKSp : Jumlah Kuadrat Sisaan dari model yang mengandung p parameter p s2
n
: banyaknya parameter regresi (termasuk β0) : * dugaan ragam galat dari model penuh (model yang mengandung semua peubah yang ada). * Nilai ini diasumsikan merupakan nilai penduga takbias bagi ragam 2 2 galat ( E ( s ) = σ ) : banyak data
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO P
Peubah dalam model
s
2
JKS
Cp
1
2
X1
115.1
1248.74
199.82
2
2
X2
82.4
895.02
140.67
3
2
X3
176.3
1913.31
310.95
4
2
X4
80.4
870.90
136.64
5
3
X1 , X2
5.8
56.27
2.41
6
3
X1 , X3
122.7
1211.22
195.55
7
3
X1 , X4
7.5
75.03
5.55
8
3
X2 , X3
41.5
409.99
61.56
9
3
X2 , X4
86.9
857.50
136.40
10
3
X3 , X4
17.6
174.18
22.13
11
4
X1 , X2 , X3
5.35
48.23
3.07
12
4
X1 , X2 , X4
5.33
48.23
3.07
13
4
X1 , X3 , X4
5.65
50.91
3.51
14
4
X2 , X3 , X4
8.20
72.35
7.10
15
5
X1, X2 , X3 , X4
5.98
48.23
5.07
LOGO
Statistik Cp-Mallow Model dengan p peubah
JKS p = σ E ( s ) = E n− p E ( JKS p ) = ( n − p )σ 2
Model tidak underfitting
2 p
Model penuh
2
E(s2 ) =σ 2
JKS p ( n − p )σ E (C p ) = p E = 2 2 s σ Model yang baik adalah model yang nilai Cp ~ p Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
2
LOGO
Model yang baik • Cp ~ p • Cp kecil
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO P
Peubah dalam model
s
2
JKS
Cp
1
2
X1
115.1
1248.74
199.82
2
2
X2
82.4
895.02
140.67
3
2
X3
176.3
1913.31
310.95
4
2
X4
80.4
870.90
136.64
5
3
X1 , X2
5.8
56.27
2.41
6
3
X1 , X3
122.7
1211.22
195.55
7
3
X1 , X4
7.5
75.03
5.55
8
3
X2 , X3
41.5
409.99
61.56
9
3
X2 , X4
86.9
857.50
136.40
10
3
X3 , X4
17.6
174.18
22.13
11
4
X1 , X2 , X3
5.35
48.23
3.07
12
4
X1 , X2 , X4
5.33
48.23
3.07
13
4
X1 , X3 , X4
5.65
50.91
3.51
14
4
X2 , X3 , X4
8.20
72.35
7.10
15
5
X1, X2 , X3 , X4
5.98
48.23
5.07
LOGO P
Peubah dalam model
Cp
1
2
X1
199.82
2
2
X2
140.67
3
2
X3
310.95
4
2
X4
136.64
5
3
X1 , X2
2.41
6
3
X1 , X3
195.55
7
3
X1 , X4
5.55
8
3
X2 , X3
61.56
9
3
X2 , X4
136.40
10
3
X3 , X4
22.13
11
4
X1 , X2 , X3
3.07
12
4
X1 , X2 , X4
3.07
13
4
X1 , X3 , X4
3.51
14
4
X2 , X3 , X4
7.10
15
5
X1, X2 , X3 , X4
5.07
14
7 15
13 11,12 5
Prosedur Pemilihan Model Terbaik All Possible Regression Best Subset Regression Prosedur Sekuensial dll
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
All Possible Regression
LOGO
Evaluasi seluruh kemungkinan model Pilih model terbaik diantara semua kemungkinan berdasarkan berbagai suatu kriteria tertentu. Dapat digunakan kombinasi dari beberapa kriteria Prosedur ini tidak praktis
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
R2
R2adj
s2
PRESS
R2pred
Cp
X1
53.4
49.2
115.1
1725.130
35.62
199.82
2
X2
66.6
63.6
82.4
1156.490
56.84
140.67
3
X3
28.6
22.1
176.3
2587.800
3.43
310.95
4
X4
67.5
64.5
80.4
1156.970
56.82
136.64
5
X1 , X2
97.9
97.4
5.8
87.434
96.74
2.41
6
X1 , X3
54.8
45.8
122.7
2266.760
15.41
195.55
7
X1 , X4
97.2
96.7
7.5
130.226
95.14
5.55
8
X2 , X3
84.7
81.6
41.5
662.191
75.29
61.56
9
X2 , X4
68.0
61.6
86.9
1402.520
47.66
136.40
10
X3 , X4
93.5
92.2
17.6
270.392
89.91
22.13
11
X1 , X2 , X3
98.2
97.6
5.35
88.995
96.68
3.07
12
X1 , X2 , X4
98.2
97.6
5.33
83.683
96.88
3.07
13
X1 , X3 , X4
98.1
97.5
5.65
91.551
96.58
3.51
14
X2 , X3 , X4
97.3
96.4
8.20
135.572
94.94
7.10
15
X1, X2 , X3 , X4
98.2
97.4
5.98
107.419
95.99
5.07
No
Peubah dlm mdl
1
Best Subset Regression
LOGO
Pilih m model terbaik yang mengandung 1 peubah, 2 peubah, 3 peubah, , k peubah (gunakan kriteria standar) Pilih model terbaik diantara semua kandidat model diatas. Kriteria : Cp, PRESS, analisis sisaan, studi diagnostik & pertimbangan-pertimbangan lain
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
LOGO
Banyak peubah dalam model 1 peubah 2 Peubah 3 Peubah 4 Peubah
R2
s2
R2adj
X2
66.6
82.4
63.6
X4
67.5
80.4
64.5
X1 , X2
97.9
5.8
97.4
X1 , X4
97.2
7.5
96.7
X1 , X2 , X3
98.2
5.35
97.6
X1 , X2 , X4
98.2
5.33
97.6
X1, X2 , X3 , X4
98.2
5.98
97.4
Peubah dalam model
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
Prosedur Regresi Sekuensial
LOGO
Seleksi Langkah Maju (forward selection) Eliminasi Langkah Mundur (backward elimination) Regresi bertatar (Stepwise)
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
PROSEDUR SELEKSI LANGKAH MAJU
LOGO
Model awal : model tanpa peubah Peubah dimasukkan satu persatu ke dalam model dimulai dengan memasukkan 1 peubah, 2 peubah, sampai tidak ada lagi peubah yang dapat dimasukkan ke dalam model Kriteria dapat / tidaknya peubah dimasukkan ke dalam model adalah FIN Melibatkan uji F dalam menentukan peubah dapat masuk atau tidak
Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
Prosedur Seleksi Langkah Maju 0. Bentuk model awal Y = Y
LOGO
0. Model awal : Y = 1240.5
Tentukan FIN
FIN = 4
1a. Bentuk dengan 1 var penjelas, hitung JKR dari masing-masing model b. Pilih model dengan JKR tertinggi (misal modelnya adalah model dg Xi)
1
R2
JKR
X1
53.4
1430.96
X2
66.6
1784.68
X3
28.6
766.39
X4
67.5
1808.80
Peubah dlm model
S2 = 80.4
H0 : β4 = 0
c. Uji hipotesis : H0 : βi = 0
vs H1:βi ≠ 0
Statistik Uji :
F=
JKR( Xi ) s 2 ( Xi )
vs H1:β4 ≠ 0
JKR( X 4 ) 1808.8 F= 2 = = 22.5 s (X4) 80.4 Fhit > FIN→tolak H0 →X4 berperan dalam menerangkan Y → X4 masuk
Prosedur Seleksi Langkah Maju 2a. Bentuk dengan 2 var penjelas (salah satunya harus Xi, hitung JKR dari masing-masing model b. Pilih model dengan JKR tertinggi (misal modelnya adalah model dg Xi dan Xj) c. Uji hipotesis : H0 : βj = 0
vs H1:βj ≠ 0
JKR ( X
j
JKR ( X j , X i ) − JKR ( X i ) =
s2(X i, X j)
Bila tolak H0, lanjut; Bila tidak tolak H0, STOP dan model terbaik adalah model sebelumnya
JKR
97.2
2604.67
X2 , X4
68
1822.20
X3 , X4
93.5
2505.52
S2 = 7.5
H0 : β1 = 0
| X i)
s2(X i, X j)
R2
X1 , X4
F=
Statistik Uji : F =
Peubah dalam model
LOGO
=
vs H1:β1 ≠ 0
JKR ( X 4 | X 1 ) s 2 ( X1, X 4 ) 2604.67 − 1808.8 = 106.12 7.5
Fhit > FIN→tolak H0 →penambahan X1 berperan dalam menerangkan Y → X1 masuk
LOGO
Prosedur Seleksi Langkah Maju Peubah dalam model
3. Ulangi langkah 2 (a-c) dengan memasukkan satu persatu peubah sampai tidak ada lagi peubah yang layak masuk ke dalam model
R2
JKR
X1 , X2 , X4
98.2
2631.47
X1 , X3 , X4
98.1
2628.79
S2 = 5.33
H0 : β2 = 0
F= =
vs H1:β2 ≠ 0
JKR ( X 2 | X 1 , X 4 ) s 2 ( X1, X 2 , X 4 ) 2631.47 − 2604.67 = 5.03 > 4 5.33
Fhit > FIN→tolak H0 →penambahan X2 masih berperan dalam menerangkan Y → X2 masuk
Prosedur Seleksi Langkah Maju 3. Ulangi langkah 2 (a-c) dengan memasukkan satu persatu peubah sampai tidak ada lagi peubah yang layak masuk ke dalam model
LOGO
Model dengan X1, X2, X3 dan X4 JKR : 2631.47 H0 : β3 = 0
s2 =5.98 vs H1:β3 ≠ 0
JKR ( X 3 | X 1 , X 2 , X 4 ) F= 2 s ( X1, X 2 , X 3 , X 4 ) 2631.47 − 2631.47 = =0<4 5.98 Fhit < FIN→ tidak tolak H0 →penambahan X2 tidak berperan dalam menerangkan Y → X3 tidak masuk → model terbaik adalah model yang mengandung X1, X2, X4
Y = 71.648+ 1.452X1 + 0.416X 2 − 0.237X 4
Prosedur Eliminasi Langkah Mundur 0. Bentuk model awal yang mengandung semua peubah penjelas, hitung s2&JKR Tentukan FOUT 1a. Bentuk model dengan p-1 var penjelas, dg cara mengeluarkan satu persatu var dari model sebelumnya. hitung JKR dari masing-masing model b. Pilih model dengan JKR tertinggi (misal model tanpa Xi) c. Uji hipotesis : H0 : βi = 0
Model awal : JKR =2631.47 FOUT = 3 Peubah dalam model
F=
JKR ( X i | X 1 ,..., X i −1 , X i +1 ,..., X p ) s 2 ( X 1 ,..., X p )
JKR
98.2
2631.47
X1 , X2 , X4
98.2
2631.47
X1 , X3 , X4
98.1
2628.79
X2 , X3 , X4
97.3
2607.35
H0 : β3 = 0
vs H1:β3 ≠ 0
JKR ( X 3 | X 1 , X 2 , X 3 ) s 2 ( X 1 ,..., X 4 )
2631 . 47 − 2631 . 47 = 0<3 5 . 98 Fhit < FOUT→tidak tolak H0 →X3 tidak berperan dalam menerangkan Y → X3 keluar →lanjut =
Statistik Uji :
R2
X1 , X2 , X3
F =
vs H1:βi ≠ 0
LOGO
Prosedur Eliminasi Langkah Mundur 2a. Bentuk model berikutnya dengan cara mengeluarkan satu var dari model terbaik tahap sebelumnya. Hitung JKR dari masing-masing model b. Pilih model dengan JKR tertinggi (misal yang dikeluarkan adalah var Xj)
H0 : βj = 0
vs H1:βj ≠ 0
Statistik Uji :
JKR( X j | ∀X k ; k ≠ i, j ) s 2 (∀X k ; k ≠ i)
R2
JKR
X1 , X2
97.9
2623.43
X1 , X4
97.2
2604.67
X2 , X4
68
1822.20
H0 : β3 = 0
c. Uji hipotesis :
F=
Peubah dalam model
LOGO
vs H1:β3 ≠ 0
JKR ( X 4 | X 1 , X 2 ) F= 2 s ( X1, X 2 , X 4 ) 2631.47 − 2623.43 = 5.33 = 1.51 < 3 Fhit < FOUT→tidak tolak H0 →X4 tidak berperan dalam menerangkan Y → X4 keluar →lanjut
LOGO
Prosedur Eliminasi Langkah Mundur 3. Ulang langkah 2 sampai tidak ada lagi var yang dikeluarkan dari model
Peubah dalam model
R2
JKR
X1
53.4
1430.96
X2
66.6
1784.68
H0 : β1 = 0
vs H1:β1 ≠ 0
JKR ( X 1 | X 2 ) F= 2 s ( X1, X 2 ) 2623.43 − 1764.68 = 5.8 = 144.6 > 3 Fhit < FOUT→tolak H0 →X2 berperan dalam menerangkan Y → X2 tetap ada →STOP Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
Prosedur Stepwise
LOGO
Merupakan gabungan dari dua prosedur sebelumnya Model awal adalah model tanpa peubah Satu persatu var dimasukkan ke dalam model Setiap masuknya variabel dalam model, dilakukan pengujian ulang untuk memutuskan apakah var yang telah ada di dalam model akan dikeluarkan/tidak Prosedur dihentikan jika tidak ada lagi var yang keluar dari atau masuk ke dalam model Hazmira Yozza-Jur. Matematika FMIPA Univ. Andalas
www.themegallery.com
LOGO
