Model Regresi Linier terdiri dari intercept serta slope.

Slope menunjukkan seberapa

besar peranan peubah penjelas (X) dalam menjelaskan peubah respon (Y). Model regresi linier
secara umum dapat ditulis dalam bentuk persamaan.
𝑌 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝑝 𝑋𝑝 …….........………………................................. (1)
Model Regresi Logistik (Model Logit) merupakan model regresi non linier yang
digunakan untuk mengetahui hubungan antara peubah respon biner (dikotomis) dengan peubah
penjelas, baik kategorik maupun numerik. Model regresi logistik secara umum dapat ditulis
dalam bentuk persamaan.
exp(𝛽0 +𝛽1 𝑋1 +𝛽2 𝑋2 +⋯+𝛽𝑝 𝑋𝑝 )
𝜋(𝑥) = ………………….....…………………………. (2)
1+exp(𝛽0 +𝛽1 𝑋1 +𝛽2 𝑋2 +⋯+𝛽𝑝 𝑋𝑝 )

Atau dapat pula ditulis dalam bentuk logit.

𝜋(𝑥)
𝑙𝑜𝑔𝑖𝑡[𝜋(𝑥)] = 𝑙𝑛 (1−𝜋(𝑥)) = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝑝 𝑋𝑝 ……………………. (3)

Model Regresi Logistik Multinomial merupakan perluasan (generalisasi) dari model

regresi logistik biner, yakni peubah respon Y dengan J kategori akan menghasilkan (J-1) logit.
Model logit akan membandingkan setiap kategori j dengan kategori referensi (reference
category) yang biasanya merupakan kategori terakhir atau kategori yang paling sering
digunakan. Model logit multinomial dengan p penjelas dapat ditulis dalam bentuk persamaan.
𝑃(𝑌=𝑗|𝑥) 𝜋𝑗 (𝑥)
𝑔𝑗 (𝑥) = 𝑙𝑛 [𝑃(𝑌=𝐽|𝑥)] = 𝑙𝑛 𝜋 = 𝛽𝑗0 + 𝛽𝑗1 𝑥1 + 𝛽𝑗2 𝑥2 + ⋯ + 𝛽𝑗𝑝 𝑥𝑝 ……………. (4)
𝐽 (𝑥)

Dengan bentuk probabilitas dari peubah respon ke-j adalah.

𝑔 (𝑥)
𝜋𝑗 (𝑥)/𝜋𝐽 (𝑥) 𝑒 𝑗
𝑃(𝑌 = 𝑗|𝑥) = 𝜋𝑗 (𝑥) = = ……...………………………... (5)
∑𝐽𝑗=1 𝜋𝑗 (𝑥)/𝜋𝐽 (𝑥) 𝑔 (𝑥)
∑𝐽𝑗=1 𝑒 𝑗

Jika terdapat peubah penjelas kategorik, maka diperlukan transformasi dengan

membuat peubah boneka (dummy variables) yang bernilai 0 dan 1. Misal, terdapat peubah
penjelas ke-m yang merupakan peubah kategorik sebanyak h kategori, maka banyak peubah
boneka yang terbentuk adalah h-1. Peubah boneka ke-m dilambangkan dengan 𝐷𝑚𝑣 , dengan v
menyatakan banyaknya peubah boneka yang terbentuk. Sehingga, model logit yang
mengandung p peubah penjelas dengan peubah kategorik ke-m adalah sebagai berikut.
ℎ −1
𝑚
𝑔𝑗 (𝑥) = 𝛽𝑗0 + 𝛽𝑗1 𝑥1 + ⋯ + ∑𝑣=1 𝛽𝑗𝑚𝑣 𝐷𝑚𝑣 + ⋯ + 𝛽𝑗𝑝 𝑥𝑝 ……………..………… (6)
 Secara umum, langkah-langkah yang dilakukan dalam analisis regresi logistik multinomial
adalah sebagai berikut.

1. Pendugaan Parameter (Estimasi Parameter)

Metode estimasi yang biasa digunakan dalam regresi logistik adalah Maximum
Likelihood Estimator (MLE), yang akan menghasilkan parameter yang memaksimumkan
fungsi likelihood, yakni fungsi peluang dari amatan dengan parameter yang belum
diketahui.

2. Pengujian Signifikansi Parameter

Pengujian signifikansi parameter dilakukan untuk melihat apakah melalui koefisien
yang dihasilkan, peubah penjelas tersebut secara signifikan memengaruhi peubah respon.
a. Pengujian signifikansi parameter secara simultan
Pengujian ini bertujuan untuk melihat pengaruh seluruh peubah penjelas terhadap
peubah respon secara bersama-sama. Pengujian dilakukan dengan membandingkan
antara 2 model, yaitu model yang mengandung peubah penjelas (model penuh) dengan
model yang hanya mengandung intercept (model tereduksi).
H0: 𝛽𝑗1 = 𝛽𝑗2 = ⋯ = 𝛽𝑗𝑘 = 0
H1: minimal terdapat satu 𝛽𝑗𝑖 ≠ 0
Statistik uji yang digunakan adalah uji likelihood ratio test.
𝐿
𝐺 2 = −2 𝑙𝑛 [𝐿0 ] ~ 𝜒𝑝(𝐽−1) ……………………………………………..…………… (7)
1

Dimana: L0 = likelihood model tereduksi dan L1 = likelihood model penuh

2
H0 akan ditolak jika 𝐺 2 > 𝜒𝛼;𝑝(𝐽−1) atau p-value < α yang berarti bahwa minimal
ada satu peubah penjelas yang signifikan memengaruhi peubah respon. Jika demikian,
maka akan dilanjutkan dengan pengujian signifikansi parameter secara parsial.
b. Pengujian signifikansi parameter secara parsial
Pengujian ini bertujuan untuk melihat peubah penjelas manakah yang
memengaruhi peubah respon secara signifikan, sehingga peubah penjelas tersebut dapat
dijadikan sebagai dasar penarikan kesimpulan.
H0: 𝛽𝑗𝑖 = 0
H1: 𝛽𝑗𝑖 ≠ 0
Statitik uji yang dapat digunakan adalah uji Wald.
 2
𝛽
𝑊 = [𝑠𝑒(𝛽𝑗𝑖 )] ~ 𝜒(1) ……………………………………..………….……………… (8)
𝑗𝑖

2
H0 akan ditolak jika W > 𝜒𝛼;1 atau p-value < α yang berarti bahwa peubah penjelas
ke-i pada logit ke-j memengaruhi peubah respon 𝑌𝑗 secara signifikan.

3. Pengujian Kesesuaian Model (Goodness of Fit Test)

Pengujian kesesuaian model yang dimaksud adalah untuk melihat apakah kombinasi
peubah penjelas (dengan interaksi atau tanpa interaksi) dan fungsi penghubung yang
digunakan sudah tepat. Model yang diamati akan dibandingkan dengan model jenuh/model
saturated, yakni model yang memuat seluruh parameter dan suku interaksi (fit perfect).
H0: Model sesuai dengan data (tidak terdapat perbedaan signifikan antara hasil prediksi dan
nilai observasi dari model).
H1: Model tidak sesuai dengan data (terdapat perbedaan signifikan antara hasil prediksi dan
nilai observasi dari model).
Statistik uji yang digunakan adalah uji Pearson (𝜒 2 ) atau uji Deviance Chi-Square (D).
(𝑂𝑖 −𝐸𝑖 )2
𝜒 2 = ∑𝑛𝑖=1 ………………………………..…………………..…...………… (9)
𝐸𝑖
𝑂
𝐷 = 2 ∑𝑛𝑖=1 𝑂𝑖 𝑙𝑛 [𝐸𝑖 ]……………..…………………………..…………………… (10)
𝑖

4. Kriteria Model Terbaik

Kriteria model terbaik dapat dilihat melalui ukuran koefisien determinasi (R2), yang
menunjukkan seberapa besar peubah respon dapat dijelaskan oleh peubah penjelas yang
termuat dalam model. Terdapat beberapa ukuran R2 yang dikembangkan untuk regresi
logistik, di antaranya adalah statistik Pseudo-R2 yang dikembangkan Cox dan Snell (1989).
2⁄
𝐿(0) 𝑛
𝑅 2 = 1 − [𝐿(𝛽̂)] ………...………………………………………………………. (11)

Statistik Pseudo-R2 tersebut kemudian disempurnakan oleh Nagelkerke (1991).

𝑅 2
𝑅̅ 2 = max(𝑅2 )…………………………...………………………………………….. (12)