Department of Statistics

Faculty of Mathematics and Natural Sciences

STA501 Teori Statistika

Pertemuan – 14
Aplikasi dalam pemodelan
Rancangan Perkuliahan
Rancangan Perkuliahan

Pertemuan Waktu Materi

11 21/11/2020 Rasio Likelihood, Bayes
12 28/11/2020 Evaluasi Uji
13 05/12/2020 Penduga Selang
14 12/12/2020 Aplikasi dalam pemodelan

anang kurnia (anangk@apps.ipb.ac.id)

Model linier - regresi
Regresi Linier : tujuan

• Gambaran hubungan sebab akibat: X menyebabkan Y dengan kontrol yang baik

terhadap faktor lain
• Prediksi: memperkirakan nilai Y berdasarkan nilai X tertentu, diperlukan
hubungan sebab akibat yang cukup tepat
• Deskripsi data: penyarian data dan pembandingan
• Penyusunan model dugaan: pola hubungan antara peubah penjelas dengan
peubah respon
• Peningkatan ketelitian dalam pembandingan: → ANCOVA

anang kurnia (anangk@apps.ipb.ac.id) 3

Model linier - regresi
Model Regresi

• Model Linier ➔ peubah respon merupakan kombinasi linier dari parameter-

parameter
– Regresi Linier Sederhana
Yi = 0 + 1Xi + i
– Regresi Linier Berganda
Yi = 0 + 1X1i + … + kXki + i
– Regresi Polynomial
Yi = 0 + 1Xi + 2X2i + i
• Model Non Linier ➔ peubah respon bukan merupakan kombinasi linier dari
parameter-parameter
– Model Cobb-Douglas Yi = 0 Li1 Ki2 i
anang kurnia (anangk@apps.ipb.ac.id) 4
Model linier - regresi
OLS (ordinary least squares)

• Mencari penduga koefisien regresi sehingga

jumlah kuadrat dari residual (error) sekecil-
kecilnya.

• Meminimumkan e2

• Merupakan penduga yang bersifat tak bias

dan terbaik (minimum variance) jika error
bersifat
independently and identically distributed
(iid).

anang kurnia (anangk@apps.ipb.ac.id) 5

Model linier - regresi
OLS (ordinary least squares)

anang kurnia (anangk@apps.ipb.ac.id) 6

Model linier - regresi
OLS (ordinary least squares)

anang kurnia (anangk@apps.ipb.ac.id) 7

Model linier - regresi
Kemungkinan Maksimum

anang kurnia (anangk@apps.ipb.ac.id) 8

Model linier - regresi
Kemungkinan Maksimum

anang kurnia (anangk@apps.ipb.ac.id) 9

Model linier - regresi
Kemungkinan Maksimum

anang kurnia (anangk@apps.ipb.ac.id) 10

GLM – Regresi logistik

• Respon biner :

• Model :

• ?

anang kurnia (anangk@apps.ipb.ac.id)

GLM – Regresi logistik

• Penduga kemungkinan maksimum (maximum likelihood)

• Fungsi likelihood :

anang kurnia (anangk@apps.ipb.ac.id)

GLM – Regresi logistik

• Penduga kemungkinan maksimum (maximum likelihood)

• Interpretasi :

anang kurnia (anangk@apps.ipb.ac.id)

GLM – Regresi logistik

• Newton-Raphson

anang kurnia (anangk@apps.ipb.ac.id) 14

GLM – Regresi logistik

• Newton-Raphson

anang kurnia (anangk@apps.ipb.ac.id) 15

GLM – Regresi logistik

• Newton-Raphson

• Solusi sehingga :

• Kenapa ? → Berdasarkan deret Taylor

anang kurnia (anangk@apps.ipb.ac.id) 16

GLM – Regresi logistik

• Newton-Raphson

anang kurnia (anangk@apps.ipb.ac.id) 17

Sebaran Penarikan Contoh

• OLS

• Maximum likelihood

anang kurnia (anangk@apps.ipb.ac.id) 18

GLM – Regresi logistik

• Aplikasi

#### iterative bit ####

while(diff > threshold ) #tests for convergence
{
p = as.vector(calc_p(X,beta))
W = diag(p*(1-p)) #weights W
beta_chane = solve(t(X)%*%W%*%X) %*% t(X)%*%(y - p)
beta = beta + beta_change

diff = sum(beta_change^2)
iter_count = iter_count + 1
}

anang kurnia (anangk@apps.ipb.ac.id) 19

GLM – Regresi logistik

• Aplikasi

#using R package
M1 = glm(y~x1+x2+x3, family = "binomial")
M1$coefficients
(Intercept) x1 x2 x3
-1.3512086 0.3191309 0.2033449 -0.0832102

#our version
manual_logistic_regression(X,y)
(Intercept) x1 x2 x3
-1.3512086 0.3191309 0.2033449 -0.0832102

anang kurnia (anangk@apps.ipb.ac.id) 20

Preface Slide