1.

Pengertian Regresi Logistik

Analisis regresi logistik adalah sebuah pendekatan untuk membuat model
prediksi seperti halnya regresi linear yang digunakan untuk menjelaskan hubungan
antara variabel respon yang berupa data dikotomik/biner dengan variabel bebas yang
berupa data berskala interval dan atau katagorik (Hosmer dan Lemeshow, 1989).
Variabel yang dikotomik/biner adalah variabel yang hanya mempunyai dua kategori
saja, yaitu kategori yang menyatakan kejadian sukses (Y=1) dan kategori yang
menyatakan kejadian gagal (Y=0).
Untuk menentukan persamaan regresi logistik yang akan digunakan untuk
memprediksi nilai variabel dependent harus dicari estimasi parameter pada model
regresi logistik. Ada beberapa metode yang dapat digunakan untuk mengestimasi
parameter model regresi logistik, yaitu maximum likehood methods, noniterative
weighted least squares methods, dan discriminant function analysis.
Regresi logistik tidak terbatas hanya dapat diterapkan pada kasus dimana
variabel X nya bertipe interval atau rasio saja. Tapi regresi logistik juga bisa
diterapkan untuk kasus dimana variabel X nya bertipe data nominal atau ordinal. Hal
ini seperti ini analog dengan regresi linier dengan variabel dummy.
Regresi logistik adalah sebuah pendekatan untuk membuat model prediksi
seperti halnya regresi linear atau yang biasa disebut Ordinary Least Squares (OLS)
regression. Namun terdapat beberapa perbedaan diantara keduanya. Perbedaan antara
regresi linear dengan regresi logistik :
i.
Regresi linear atau berganda
1. Hanya jenis data tertentu : nominal
2. Data variabel dependennya adalah numerik
3. Analisis regresi berganda terdapat uji F yaitu uji pengaruh bersamasama variabel independen terhadap variabel dependen dan uji t yaitu
untuk mengetahui pengaruh tiap variabel/masing-masing variabel
independen terhadap variabel dependen. sedangkan analisis regresi
logistik hanya terdapat uji t.
4. Apabila pada OLS mewajibkan
ii.

syarat

atau

asumsi

bahwa

error varians (residual) terdistribusi secara normal.

Regresi logistik
1. Dapat diterapkan di semua jenis data : rasio, interval, nominal maupun
orginal.
2. Data variabelnya berbentuk kategori dikotomi
3. Pada analisis logistik variabel dependennya berskala dikotomis (dua
pilihan), misalnya ya atau tidak, berkualitas atau tidak berkualitas,
lulus atau gagal, sering atau jarang

4. Pada ada regresi logistik tidak dibutuhkan asumsi tersebut sebab pada
regresi logistik mengikuti distribusi logistik.
2. Asumsi Regresi Logistik antara lain:
1) Regresi logistik tidak membutuhkan hubungan linier antara variabel
independen dengan variabel dependen.
2) Variabel independen tidak memerlukan asumsi multivariate normality.
3) Asumsi homokedastisitas tidak diperlukan
4) Variabel bebas tidak perlu diubah ke dalam bentuk metrik (interval atau skala
ratio).
5) Variabel dependen harus bersifat dikotomi (2 kategori, misal: tinggi dan
rendah atau baik dan buruk)
6) Variabel independen tidak harus memiliki keragaman yang sama antar
kelompok variabel
7) Kategori dalam variabel independen harus terpisah satu sama lain atau bersifat
eksklusif
8) Sampel yang diperlukan dalam jumlah relatif besar, minimum dibutuhkan
hingga 50 sampel data untuk sebuah variabel prediktor (independen).
Model persamaan aljabar layaknya OLS yang biasa kita gunakan adalah berikut:
Y = B0 + B1X + e
Dimana e adalah error varians atau residual. Dengan regresi logistik, tidak
menggunakan

interpretasi yang sama seperti halnya persamaan regresi OLS.

Model persamaan yang terbentuk berbeda dengan persamaan OLS. Berikut

persamaannya :

Persamaan Regresi Logistik

Di mana:
Ln: Logaritma Natural.
B0 + B1X: Persamaan yang biasa dikenal dalam OLS.
Sedangkan P Aksen adalah probabilitas logistik yang didapat rumus sebagai
berikut:

Probabilitas Regresi Logistik

Di mana:
exp atau ditulis "e" adalah fungsi exponen.
(Perlu diingat bahwa exponen merupakan kebalikan dari logaritma natural.
Sedangkan logaritma natural adalah bentuk logaritma namun dengan nilai
konstanta 2,71828182845904 atau biasa dibulatkan menjadi 2,72).
3. Macam-macam Regresi Logistik
1) Regresi logistik sederhana
Untuk mempelajari hubungan antara satu variabel prediktor dengan satu
variabel dependen dikotomus.
Persamaan Regresi logistik sederhana :
Z= + 1X1
Misal:
Y : 1 : PJK (Penyakit Jantung Koroner), 0 : Non OJ
X1: Tingkat katekolamin: 1 : Kat. Tinggi, 0 : Kat. Rendah
= -3,911
= katekolamin = 0,652
Maka modelnya adalah :
Z= + 1X1
PJK = -3,911 + 0,652 katekolamin
2) Regresi logistik ganda (Multiple Regression Logistic)
Untuk mempelajari hubungan antara beberapa variabel prediktor dengan satu
varibel dependen dikotomus.
Persamaan Regresi logistik berganda :
Z = + 1X1 + 2X2 + + 1X1
4. Analisa Regresi Logistik dengan SPSS
Pada analisa regresi, bila peubah respon bukan lagi peubah (variabel)
kuantitatif melainkan berupa peubah (variabel) kategorik yang hanya terdiri dari

beberapa nilai maka regresi linear klasik tidak dapat digunakan. Adapun model regresi
yang sering digunakan untuk menganalisis peubahan respon berskala biner adalah
regresi logistik.
Model regresi logistik termasuk dalam model linear terampat (Generalized
Linear Models/GLM). GLM merupakan suatu metode yang dapat digunakan untuk
memecahkan masalah peubah respon tidak lagi kontinu, melainkan kategorik
(misalnya biner), dengan menggunakan fungsi penghubung (link function) tertentu
sehingga diperoleh suatu model yang mampu menganalisa hubungan antara peubah
respon kategorik (Dependen Variabel) dengan satu atau beberapa peubah penjelas
(Independen Variabel).
Uji Regresi Logistik ganda adalah uji regresi yang dilakukan pada penelitian
apabila variabel dependen berskala dikotom (nominal dengan 2 kategori). Tentunya
semua variabel independen haruslah berskala data dikotom juga, tetapi apabila
skalanya kategorik nominal lebih dari 2 kategori, masih dapat dilakukan uji regresi
logistik ganda dengan cara melakukan dummy.
Contoh soal regresi logistik dengan SPSS :

Judul penelitian adalah Pengaruh nilai akademik dan keaktifan organisasi

terhadap prestasi mahasiswa Ekonomi Islam. Di mana variabel bebas ada 2 yaitu
nilai akademik dan keaktifan organisasi dan variabel terikatnya adalah prestasi
mahasiswa ekonomi islam. Nilai akademik terdiri dari 2 kategori yaitu "nilai standar
(kode 0)" dan "nilai bagus (kode 1)." Keaktifan organisasi terdiri dari 2 kategori yaitu
"tidak aktif (kode 0)" dan "aktif (kode 1)." Prestasi mahasiswa terdiri dari 2 kategori
yaitu "prestasi standar (kode 0)" dan "prestasi tinggi (kode 1)." Sebagai catatan:
kategori yang terburuk diberi kode 1 dan kategori yang terbaik diberi kode 0.
Langkah-langkah :
1. Mengganti values tiap variabel (x1,x2,y) dengan nilai 0 cenderung
tidak dan 1 cenderung iya.

2. Klik Analize
3. Klik regression setelah itu klik binary logistic
4. Masukkan variabel terikat ke dependent, dan masukkan variabel bebas
ke covariates
5. klik options dan centang semua kotak lalu klik continue
6. klik save lalu centang kotak seperti gambar di bawah lalu klik continue
7. Klik OK lalu keluar hasi output dari regresi logistik.
5. Interpretasi Logistik dengan SPSS
Case Processing Summary
Unweighted Casesa
Selected Cases Included in Analysis
Missing Cases
Total
Unselected Cases
Total

N
200
0
200
0
200

Percent
100,0
,0
100,0
,0
100,0

a. If weight is in effect, see classification table for the total number of

cases.

Di atas pada tabel Case Processing Summary adalah ringkasan jumlah sampel, yaitu
sebanyak 200 sampel.
Dependent Variable Encoding
Original Value
prestasi standar
prestasi tinggi

Internal Value
0
1

Di atas adalah kode variabel dependen. Yaitu kategori "prestasi standar" dengan kode
0 dan "prestasi tinggi" dengan kode 1.
Oleh karena yang diberi kode 1 adalah "prestasi tinggi", maka "prestasi tinggi"
menjadi referensi atau efek dari sebab. Sebab yang dimaksud adalah kejadian yang
dihipotesiskan sebagai penyebab munculnya efek atau masalah. Dalam hal ini, nilai
bagus (kode 1) dan aktif organisasi (kode 1) menjadi sebab yang dapat meningkatkan
prestasi mahasiswa tinggi (kode 1).

Block 0: Beginning Block

Iteration Historya,b,c
Coefficients
Constant
,080
,080

Iteration
-2 Log likelihood
Step 0 1
276,939
2
276,939
a. Constant is included in the model.
b. Initial -2 Log Likelihood: 276,939
c. Estimation terminated at iteration number 2 because parameter estimates
changed by less than ,001.

Di atas: Tabel Iteration History pada block 0 atau saat variabel independen
tidak dimasukkan dalam model: N=200 mendapatkan Nilai -2 Log Likelihood:
276,939.
Degree of Freedom (DF) = N - 1 = 200-1=199. Chi-Square (X2) Tabel Pada
DF 199 dan Probabilitas 0.05 = 232,912.
Nilai -2 Log Likelihood (276,939) > X2 tabel (232,912) sehingga menolak
H0, maka menunjukkan bahwa model sebelum memasukkan variabel independen
adalah TIDAK FIT dengan data.
Classification Tablea,b
Predicted
Y_prestasi_mahasiswa_ekis
prestasi
prestasi
Observed
standar
Step 0 Y_prestasi_mahasiswa_ prestasi standar 0
prestasi tinggi 0
ekis
Overall Percentage
a. Constant is included in the model.

Percentage

tinggi
96

Correct
,0

104

100,0
52,0

b. The cut value is ,500

Di atas pada tabel Classifacation Table: Merupakan tabel kontingensi 2 x 2 yang seharusnya
terjadi atau disebut juga frekuensi harapan berdasarkan data empiris variabel dependen, di
mana jumlah sampel yang memiliki kategori variabel dependen referensi atau (kode 1) yaitu
"prestasi tinggi" sebanyak 104. Sedangkan yang "prestasi standar" sebanyak 96 orang.
Jumlah sampel sebanyak 200 orang. Sehingga nilai overall percentage sebelum variabel
independen dimasukkan ke dalam model sebesar: 104/200 = 52,0%.
Variables in the Equation
B
Step 0 Constant ,080

S.E.
,142

Wald
,320

Df
1

Sig.
,572

Exp(B)
1,083

Di atas pada tabel Variables in The Equation: Saat sebelum var independen di masukkan ke
dalam model, maka belum ada variabel independen di dalam model. Nilai Slope atau
Koefisien Beta (B) dari Konstanta adalah sebesar 0,080 dengan Odds Ratio atau Exp(B)
sebesar 1,083. Nilai Signifikansi atau p value dari uji Wald sebesar 0,572.
Perlu diingat bahwa nilai B identik dengan koefisien beta pada Ordinary Least Square
(OLS) atau regresi linear. Sedangkan Uji Wald identik dengan t parsial pada OLS. Sedangkan
Exp(B) adalah nilai eksponen dari B, maka Exp(0,080) = 1,083.
Variables not in the Equation
Step 0 Variables X1_nilai_akademik(1)
X2_keaktifan_organisas
i(1)
Overall Statistics

Score
61,191

Df
1

Sig.
,000

50,261

,000

64,605

,000

Di atas pada tabel Variables not in the Equation: Menunjukkan variabel yang belum
dimasukkan ke dalam model regresi, yaitu variabel X1 dan X2. Di mana X1 adalah variabel
nilai akademik dan X2 adalah variabel aktif organisasi.
Block 1: Method = Enter
Iteration Historya,b,c,d
Iteration

Coefficients

-2

Log

X2_keaktifan_organisa

likelihood
Constant X1_nilai_akademik(1)
si(1)
Step 1 1
208,765
1,334
-1,621
-,790
2
207,580
1,577
-1,823
-,962
3
207,575
1,596
-1,837
-,973
4
207,575
1,596
-1,837
-,973
a. Method: Enter
b. Constant is included in the model.
c. Initial -2 Log Likelihood: 276,939
d. Estimation terminated at iteration number 4 because parameter estimates changed by less
than ,001.
Di atas pada tabel Iteration history Block 1 atau saat variabel independen dimasukkan dalam
model: N=200. Degree of Freedom (DF) = N - jumlah variabel independen - 1 = 200-21=197. Chi-Square (X2) Tabel Pada DF 197 dan Prob 0.05 = 230,746.
Nilai -2 Log Likelihood (207,575) < X2 tabel (230,746) sehingga menerima H0, maka
menunjukkan bahwa model dengan memasukkan variabel independen adalah FIT dengan
data. Hal ini berbeda dengan Block Beginning di atas, di mana saat sebelum variabel
independen dimasukkan ke dalam model, model TIDAK FIT dengan data.
Omnibus Test
Omnibus Tests of Model Coefficients
Chi-square
Step 1 Step
69,364
Block
69,364
Model
69,364

Df
2
2
2

Sig.
,000
,000
,000

Tampak di atas bahwa selisihnya (-2 Log likelihood sebelum variabel independen
masuk model: 276,939 dikurangi -2 Log likelihood setelah variabel independen masuk
model: 207,575 = 69,364) adalah nilai chi-square 69,394.
Nilai X2 69,394 > X2 tabel pada DF 2 (jumlah variabel independen 2) yaitu 5,991 atau
dengan signifikansi sebesar 0,000 (< 0,05) sehingga menolak H0, yang menunjukkan bahwa
penambahan variabel independen DAPAT memberikan pengaruh nyata terhadap model, atau
dengan kata lain model dinyatakan FIT.

Perlu diingat jika pada OLS untuk menguji signifikansi simultan menggunakan uji F,
sedangkan pada regresi logistik menggunakan nilai Chi-Square dari selisih antara -2 Log
likelihood sebelum variabel independen masuk model dan -2 Log likelihood setelah variabel
independen masuk model. Pengujian ini disebut juga dengan pengujian Maximum likelihood.
Sehingga jawaban terhadap hipotesis pengaruh simultan variabel independen terhadap
variabel dependen adalah menerima H1 dan menolak H0 atau yang berarti ada pengaruh
signifikan secara simultan merokok dan riwayat keluarga terhadap kejadian kanker paru oleh
karena nilai p value Chi-Square sebesar 0,000 di mana < Alpha 0,05 atau nilai Chi-Square
Hitung 69,364 > Chi-Square tabel 5,991.
Pseudo R Square
Model Summary
Step -2 Log likelihood
Cox & Snell R Square
Nagelkerke R Square
a
1
207,575
,293
,391
a. Estimation terminated at iteration number 4 because parameter estimates changed by
less than ,001.
Di atas pada tabel Model Summary: Untuk melihat kemampuan variabel independen dalam
menjelaskan variabel dependen, digunakan nilai Cox & Snell R Square dan Nagelkerke R
Square. Nilai-nilai tersebut disebut juga dengan Pseudo R-Square atau jika pada regresi linear
(OLS) lebih dikenal dengan istilah R-Square.
Nilai Nagelkerke R Square sebesar 0,391 dan Cox & Snell R Square 0,293, yang
menunjukkan

bahwa

kemampuan

variabel independen dalam

menjelaskan

variabel dependen adalah sebesar 0,391 atau 39,1% dan terdapat 100% - 39,1% = 60,9%
faktor lain di luar model yang menjelaskan variabel dependen.
Hosmer and Lemeshow Test
Hosmer and Lemeshow Test adalah uji Goodness of fit test (GoF), yaitu uji untuk
menentukan apakah model yang dibentuk sudah tepat atau tidak. Dikatakan tepat apabila
tidak ada perbedaan signifikan antara model dengan nilai observasinya.

Hosmer and Lemeshow Test

Step
1

Chi-square

df

Sig.

13,671

,000

Nilai Chi Square tabel untuk DF 1 (Jumlah variabel independen - 1) pada taraf signifikansi
0,05 adalah sebesar 3,841. Karena nilai Chi Square Hosmer and Lemeshow hitung 13,671 >
Chi Square table 3,841 atau nilai signifikansi sebesar 0,000 (< 0,05) sehingga menolak H0,
yang menunjukkan bahwa model TIDAK dapat diterima dan pengujian hipotesis TIDAK
dapat dilakukan sebab ada perbedaan signifikan antara model dengan nilai observasinya.
Oleh karena dalam tutorial ini, nilai Hosmer and Lemeshow Test menolak H0, sebaiknya
anda mencoba untuk membuat agar nilai Hosmer and Lemeshow Test menerima H0. Caranya
adalah dengan mengubah model persamaan regresi logistik dengan menambahkan variabel
interaksi antar variabel independen. Sehingga anda untuk sementara bisa melanjutkan
pembelajaran ini, seolah-olah hasil uji Hosmer and Lemeshow Test menerima H0.
Classification Result
Classification Tablea
Predicted
Y_prestasi_mahasiswa_ekis
prestasi
prestasi
Observed
standar
Step 1 Y_prestasi_mahasiswa_ prestasi standar 78
prestasi tinggi 27
ekis

Percentage

tinggi
18

Correct
81,3

77

74,0

Overall Percentage
a. The cut value is ,500

77,5

Berdasarkan tabel Classification Table di atas, jumlah sampel yang prestasi standar 78 + 18 =
96 orang. Yang benar-benar berprestasi standar sebanyak 78 orang dan yang berprestasi
standar namun berprestasi tinggi, sebanyak 18 orang. Jumlah sampel yang berprestasi tinggi
27 + 77 = 104 orang. Yang benar-benar berprestasi tinggi sebanyak 27 orang dan yang
seharusnya berprestasi tinggi namun berprestasi standar, sebanyak 77 orang.
Tabel di atas memberikan nilai overall percentage sebesar (78+77)/200 = 77,5% yang berarti
ketepatan model penelitian ini adalah sebesar 77,5%.

Pendugaan Parameter
Variables in the Equation
95%
Exp(
Step X1_nilai_akademik(1)
1a
X2_keaktifan_organisa
si(1)
Constant

S.E.

1,837

,455

,973

,452

-1,596 ,240

EXP(B)
Lower Upper

Wald Df Sig. B)
16,30
1 ,000 6,277 2,573
1
4,638 1

C.I.for

,031 2,645 1,091

15,313
6,411

25,57

1 ,000 ,297
8
a. Variable(s) entered on step 1: X1_nilai_akademik, X2_keaktifan_organisasi.
Lihat tabel Variabel in the equation di atas: semua variabel independen
nilai P value uji wald (Sig) < 0,05, artinya masing-masing variabel
mempunyai pengaruh parsial yang signifikan terhadap Y di dalam model.
X1 atau nilai akademik mempunyai nilai Sig Wald 0,000 < 0,05 sehingga
menolak H0 atau yang berarti nilai bagus memberikan pengaruh parsial
yang signifikan terhadap prestasi tinggi mahasiswa ekis. X2 atau keaktifan
organisasi mempunyai nilai Sig Wald 0,031 < 0,05 sehingga menolak H0
atau yang keaktifan organisasi memberikan pengaruh parsial yang
signifikan terhadap prestasi tinggi mahasiswa ekis.
Besarnya pengaruh ditunjukkan dengan nilai EXP (B) atau disebut juga ODDS RATIO (OR).
Variabel nilaik akademik dengan OR 6,277 maka orang nilai akademik tinggi (kode 1
variabel independen), lebih berprestasi (kode 1 variabel dependen) sebanyak 6,277 kali lipat
di bandingkan mahasiswa bernilai akademik standar (kode 0 variabel independen). Nilai B =
Logaritma Natural dari 6,277 = 1,837. Oleh karena nilai B bernilai positif, maka nilai
akademik mempunyai hubungan positif dengan prestasi mahasiswa ekis.
Variabel keaktifan organisasi dengan OR 2,645 maka orang yang aktif organisasi(kode 1
variabel independen), lebih berprestasi (kode 1 variabel dependen) sebanyak 2,645 kali lipat
di bandingkan orang yang tidak aktif organisasi (kode 0 variabel independen). Nilai B =
Logaritma Natural dari 2,645 = 0,973. Oleh karena nilai B bernilai positif, maka keaktifan
organisasi mempunyai hubungan positif dengan prestasi mahasiswa ekonomi islam.

Berdasarkan nilai-nilai B pada perhitungan di atas, maka model persamaan yang dibentuk
adalah sebagai berikut:
Ln P/1-P = -1,214 + 1,837 nilai akademik + 0,973 keaktifan organisasi
Atau bisa menggunakan rumus turunan dari persamaan di atas, yaitu:
Probabilitas = exp(-1,214 + 1,837 nilai akademik + 0,973 keaktifan organisasi) / 1 + exp(1,214 + 1,837 nilai akademik + 0,973 keaktifan organisasi).
Misalkan sampel yang merokok dan ada riwayat keluarga, maka nilai akademik=1 dan
keakifan organisasi=1. Jika dimasukkan ke dalam model persamaan di atas, maka sebagai
berikut:
Probabilitas atau Predicted = (exp(-1,214 + (1,837 x 1) + (0,973 x 1))) / (1 + exp(-1,214
+ (1,837 x 1) + (0,973 x 1))).
Probabilitas atau Predicted = (exp(-1,214 + (1,837) + (0,973))) / (1 + exp(-1,214 + (1,837) +
(0,973))).
Probabilitas atau Predicted = 0.8315.
Oleh karena Predicted: 0,8315 > 0,5 maka nilai Predicted Group Membership dari sampel di
atas adalah 1. Di mana 1 adalah kode prestasi tinggi mahasiswa ekis. Jadi jika sampel nilai
bagus (kode 1) dan aktif organisasi (kode 1) maka prediksinya adalah prestasi tinggi (kode 1).
Jika seandainya sampel yang bersangkutan ternyata faktanya tidak prestasi tinggi (kode 0)
maka sampel tersebut keluar dari nilai prediksi.
Besarnya perbedaan atau yang disebut dengan Residual = Predicted Group Membership
- Predicted. Pada kasus di atas di mana orang yang nilai akademik bagus dan aktif organisasi
namun faktanya tidak berprestasi tinggi, maka Residual = 0 - 0,8315 = -0,8315.