Anda di halaman 1dari 13

MAKALAH

“LOGISTIC REGRESSION”

DOSEN PENGAMPU:
Dr.Syafri Arlis, S.Kom, M.kom

DISUSUN OLEH:
Tania Putri (22101152630277)

JURUSAN TEKNIK INFORMATIKA


FAKULTAS ILMU KOMPUTER
UNIVERSITAS UPI YPTK PADANG
2024
KATA PENGANTAR

Puji syukur diucapkan kehadirat Allah SWT. atas segala rahmat-Nya sehingga
makalah ini dapat tersusun sampai selesai. Tidak lupa kami mengucapkan terima kasih
terhadap bantuan dari pihak yang telah berkontribusi dengan memberikan sumbangan
baik pikiran maupun materi.

Penulis sangat berharap semoga makalah ini dapat menambah pengetahuan dan
pengalaman bagi pembaca. Bahkan kami berharap lebih jauh lagi agar makalah ini bisa
pembaca praktikkan dalam kehidupan sehari-hari.

Bagi kami sebagai penyusun merasa bahwa masih banyak kekurangan dalam
penyusunan makalah ini karena keterbatasan pengetahuan dan pengalaman kami. Untuk
itu kami sangat mengharapkan kritik dan saran yang membangun dari pembaca demi
kesempurnaan makalah ini.

Padang, April 2024

Penulis

i
DAFTAR ISI

KATA PENGANTAR ..................................................................................................... i


DAFTAR ISI ................................................................................................................... ii
BAB I PENDAHULUAN ............................................................................................... 3
A. Latar Belakang ....................................................................................................... 3
B. Rumusan Masalah ................................................................................................. 4
C. Tujuan Penulisan ................................................................................................... 4
D. Manfaat Penulisan ................................................................................................. 5
BAB II PEMBAHASAN ................................................................................................ 6
A. Regresi Logistik..................................................................................................... 6
B. Jenis-Jenis Regresi Logistik .................................................................................. 8
C. Analisis Uji Regresi Logistik ................................................................................ 9
BAB III PENUTUP ...................................................................................................... 11
A. Kesimpulan .......................................................................................................... 11
B. Saran .................................................................................................................... 11
DAFTAR PUSTAKA ................................................................................................... 12

ii
BAB I
PENDAHULUAN

A. Latar Belakang
Statistika merupakan salah satu disiplin ilmu yang penerapannya hampir
di semua aspek kehidupan. Hal ini menunjukkan bahwa peranan statistika sangat
diperlukan dalam kehidupan sehari-hari. Begitu pula dalam sebuah penelitian,
statistika merupakan alat yang berguna bagi perencanaan dan evaluasi hasil
penelitian, sehingga dapat dilakukan perbaikan dan penyempurnaan terhadap
hasil penemuan (Gunardi, 1999). Sebagai salah satu disiplin ilmu, statistika
berperan untuk mengumpulkan, menyajikan dan menganalisis data. Apabila
terbatas pada tiga peran tersebut maka dinamakan statistika deskriptif.

Salah satu analisis pada statistika adalah analisis regresi. Analisis regresi
merupakan suatu metode yang digunakan untuk menganalisis hubungan antara
dua atau lebih variabel. Pada analisis regresi terdapat dua jenis variabel yaitu
variabel bebas dan variabel terikat. Berdasarkan pola hubungannya analisis
regresi dibagi menjadi dua yaitu analisis regresi linear dan analisis regresi non
linear. Data hasil penelitian yang berupa data kualitatif dapat dianalisis dengan
regresi non-linear. Salah satu model regresi non linear adalah regresi logistik.
Regresi logistik merupakan sebuah metode analisis statistik untuk
menggambarkan hubungan antara variabel terikat dengan variabel bebas yang
mempunyai dua atau lebih kategori dengan variabel terikat yang menggunakan
skala kategori maupun interval (Hosmer dan Lemeshow, 1989). Regresi logistik
terbagi menjadi dua yaitu regresi logistik biner dan regresi logistik multinomial.
Regresi Logistik biner adalah suatu analisis regresi yang digunakan untuk
menggambarkan hubungan antara variabel bebas dengan sekumpulan variabel
terikat, dimana variabel terikat bersifat biner atau dikotomus. Variabel dikotomus
adalah variabel yang hanya mempunyai dua kemungkinan nilai, misalnya sukses
dan gagal. Sedangkan variabel bebas sering disebut juga dengan covariate. Hasil
pengukuran suatu variabel sering mempunyai ciri berupa dua atau lebih
kemungkinan nilai yang dikenal sebagai variabel kategorik. Variabel kategorik
yang tidak memiliki urutan disebut sebagai variabel nominal sedangkan yang

3
memiliki urutan disebut variabel ordinal. Kedua jenis variabel ini, baik nominal
maupun ordinal sering disebut juga sebagai variabel multinomial. Regresi logistik
multinomial, yang tidak mempertimbangkan sifat ordinal data, juga dapat
diterapkan untuk meneliti sebuah variabel ordinal namun memanfaatkan sifat
ordinal data dapat meningkatkan kesederhanaan dan kekuatan model (Agresti,
2002). Model regresi logistik multinomial dapat digunakan untuk model dimana
variabel bebasnya merupakan himpunan diskrit, dua atau lebih. Model regresi
logistik multinomial efektif digunakan pada variabel terikat yang terdiri atas
banyak kategori (Zulkifli, 2014).

Menurut Hosmer dan Lemeshow (1989) ada beberapa metode yang dapat
digunakan untuk mengestimasi parameter model regresi logistik, yaitu maximum
likelihood methods, noniterative weighted least square methods, dan discriminant
function analysis methods. Salah satu metode yang lebih umum dan digunakan
pada sebagian besar paket program komputer adalah maximum likelihood
methods atau metode maksimum likelihood. Metode maksimum likelihood
merupakan metode pendugaan parameter yang digunakan pada model regresi
logistik. Metode ini merupakan dasar pendekatan dalam menaksir parameter pada
model regresi logistik. Pada dasarnya metode maksimum likelihood memberikan
nilai taksiran parameter dengan memaksimalkan fungsi likelihood. Untuk itu
digunakan uji dan hipotesis statistik untuk menentukan apakah variabel bebas
dalam model signifikan atau berpengaruh secara nyata terhadap variabel terikat.
Maka dari itu kami akan membahas tentang regresi logistik, jenis- jenis regresi
logistik dan analisis regresi logistik.

B. Rumusan Masalah
1. Apa yang di maksud dengan logistic regression?
2. Apa jenis-jenis logistic regression?
3. Bagaimana Analisis uji logistic regression?

C. Tujuan Penulisan
1. Untuk mengetahui apa itu logistic regression.
2. Untuk mengetahui apa saja jenis-jenis logistic regression
3. Untuk mengetahui bagaimana analisis uji logistic regression.

4
D. Manfaat Penulisan
Manfaat penulisan makalah ini untuk penulis yaitu meningkatkan
pemikiran kritis, belajar berpikir sistematis, belajar bertanggung jawab dengan
sumber yang dicantumkan, lebih peka terhadap permasalahan di lingkungan
sekitar dan dapat menambah pengetahuan. Manfaat penulisan makalah ini untuk
pembaca yaitu untuk menambah wawasan pembaca mengenai permasalahan yang
dibahas

5
BAB II
PEMBAHASAN

A. Regresi Logistik
1. Pengertian Regresi Logistik

Regresi logistik adalah sebuah pendekatan untuk membuat model


prediksi seperti halnya regresi linear atau yang biasa disebut dengan istilah
Ordinary Least Squares (OLS) regression. Perbedaannya adalah pada regresi
logistik, peneliti memprediksi variabel terikat yang berskala dikotomi. Skala
dikotomi yang dimaksud adalah skala data nominal dengan dua kategori,
misalnya: Ya dan Tidak, Baik dan Buruk atau Tinggi dan Rendah.

Apabila pada OLS mewajibkan syarat atau asumsi bahwa error


varians (residual) terdistribusi secara normal. Sebaliknya, pada regresi ini
tidak dibutuhkan asumsi tersebut sebab pada regresi jenis logistik ini
mengikuti distribusi logistik.

Analisis regresi logistik merupakan metode analisis yang biasanya


digunakan oleh mahasiswa dalam menyelesaikan skripsi berkaitan dengan
skripsi tentang persepsi. Bahasa gaul metode ini biasa disebut reglog.
Analisis regresi logistik digunakan untuk menjelaskan hubungan antara
variabel respon yang berupa data dikotomik/biner dengan variabel bebas
yang berupa data berskala interval dan atau kategorik (Hosmer dan
Lemeshow, 1989). Variabel yang dikotomik/biner adalah variabel yang
hanya mempunyai dua kategori saja, yaitu kategori yang menyatakan
kejadian sukses (Y=1) dan kategori yang menyatakan kejadian gagal (Y=0).
pada model-model linear umum komponen acak tidak harus mengikuti
sebaran normal, tapi harus masuk dalam sebaran keluarga eksponensial.
Sebaran bernoulli termasuk dalam salah satu dari sebaran keluarga
eksponensial. Variabel respon Y ini, diasumsikan mengikuti distribusi
Bernoulli.

Sebenarnya untuk masalah diatas bisa digunakan analisis regresi


OLS. Tapi harus memenuhi asumsi bahwa 0 <= E(Yi ÷ Xi) <= 1. Namun
persyaratan tersebut sulit untuk terpenuhi. sehingga metode regresi OLS

6
kurang cocok untuk data kuantitatif dan lebih baik menggunakan metode
regresi logistik.

2. Tujuan Menggunakan Regresi Logistik

Pemahaman tujuan menggunakan regresi logistik sangat diperlukan


sebelum anda menggunakannya sebagai alat penelitian. Anda bisa
mendalami dan membahas secara detil jika tujuan penggunaan regresi
logistik anda kuasai secara detil. Setelah saya membaca beberapa jurnal yang
menggunakan regresi logistik, saya menyimpulkan tujuan penggunaan
regresi logistik secara umum ada tiga, yakni

a) Menghitung peluang

Persamaan yang diperoleh dari proses regresi logistik, dapat


digunakan untuk menghitung peluang responden diluar responden yang
termasuk dalam penelitian. Tentunya model yang digunakan oleh petugas
bank adalah model regresi logistik berdasarkan data-data peminjam
sebelumnya. Dalam model tersebut terdapat komponen bahwa biasanya
peminjam yang memiliki pendapatan dibawah sekian dengan pinjaman
yang telah dimiliki sebelumnya sekian, ditambah tanggungan kerja
sekian, memiliki peluang untuk mengembalikan pinjaman sebesar sekian
( nilai 0 -1). 2.

b) Melihat karakteristik

Tujuan melihat karakteristik ini biasanya membahas nilai odds


ratio di masing masing variabel independen (nilai odds ratio adalah
(exp(koefisien)) masing-masing variabel). Nilai odds ratio menjelaskan
peluang responden beralih ke organik (contoh kasus diatas). Penjelasan
nilai odds ratio berbeda dari nilai koefisien regresi pada umumnya. Bila
koefisien regresi menjelaskan : “ jika variabel X naik 1 satuan, maka nilai
Y akan naik sebesar nilai koefisien satuan” maka exp(koefisien) atau
odds ratio pada regresi logistik menjelaskan : “ responden yang memiliki
variabel x lebih tinggi, maka akan berpeluang untuk memilih organik

7
(contoh kasus diatas) sebesar “exp(nilai koefisien) atau biasa disebut
odds ratio” kali dibandingkan responden yang memiliki variabel x lebih
rendah”. Iya, nilai exp(koefisien) pada regresi logistik atau disebut
sebagai odds ratio menjelaskan peluang, dan tidak menjelaskan berapa
yang dimaksud “lebih tinggi” dari variabel X tersebut.

c) Faktor Yang mempengaruhi

Tujuan ketiga ini merupakan pengembangan dari tujuan kedua,


peneliti mampu mengetahui faktor yang mempengaruhi mengapa
terdapat perbedaan antara kedua kelompok tersebut. Nilai odds ratio yang
tinggi menandakan varaibel tersebut memiliki pengaruh yang tinggi
terhadap pemilihan beda dari responden. Tujuan untuk mengetahui faktor
yang mempengaruhi ini adalah diharapkan faktor yang signifikan
mempengaruhi tersebut merupakan faktor yang bisa diatur oleh peneliti
atau pengambil kebijakan sehingga bisa menggiring responden lainnya
untuk berbuat yang sama terhadap responden yang bernilai 1 sebelumnya.

B. Jenis-Jenis Regresi Logistik


1. Regresi Logistik Biner

Regresi logistik biner (logistic regression) sebenarnya sama dengan


analisis regresi berganda, hanya variabel terikatnya merupakan variabel
dummy (0 dan 1). Sebagai contoh, pengaruh beberapa rasio keuangan
terhadap keterlambatan penyampaian laporan keuangan. Maka variabel
terikatnya adalah 0 jika terlambat dan 1 jika tidak terlambat (tepat). Regresi
logistik tidak memerlukan asumsi normalitas, meskipun screening data
outliers tetap dapat dilakukan.

2. Regresi Logistik Multinomial

Dalam statistik, regresi logistik multinomial adalah metode klasifikasi


yang menggenerelisasi regresi logistik ke masalah multikelas, yaitu dengan
lebih dari dua kemungkinan hasil diskrit. Yaitu adalah model yang digunakan
untuk memprediksi probablilitas dari hasil yang berbeda dari variabel
dependen yang terdistribusi secara kategoris, mengingat sekumpulan variabel

8
independen (yang mungkin bernilai riil, bernilai biner, bernilai kategorikal,
dan lain-lain.). Regresi logistik multinomial dikenal dengan berbagai nama
lain, termasuk LR polytomous, multiclass LR , Softmax regresi , multinomial
logit ( mlogit ), yang maksimum entropi ( MAXENT ) classifier, dan model
yang maksimum entropi bersyarat . Regresi logistik multinomial digunakan
ketika variabel dependen yang dimaksud adalah nominal (ekuivalen
kategorikal , yang berarti bahwa ia termasuk dalam salah satu dari sekumpulan
kategori yang tidak dapat diurutkan dengan cara yang berarti) dan yang mana
terdapat lebih dari dua kategori

C. Analisis Uji Regresi Logistik


1. Model Persamaan Regresi Logistik

Model persamaan aljabar layaknya OLS yang biasa kita gunakan


adalah berikut: Y = B0 + B1X + e. Dimana e adalah error varians atau residual.
Dengan model regresi ini, tidak menggunakan interpretasi yang sama seperti
halnya persamaan regresi OLS. Model Persamaan yang terbentuk berbeda
dengan persamaan OLS.

Berikut persamaannya:

Persamaan Regresi Logistik


Ln: Logaritma Natural.Di mana:
B0 + B1X: Persamaan yang biasa dikenal dalam OLS.
Sedangkan P Aksen adalah probabilitas logistik yang didapat rumus sebagai
berikut:

Probabilitas Regresi Logistik Di mana:


exp atau ditulis “e” adalah fungsi exponen.

9
(Perlu diingat bahwa exponen merupakan kebalikan dari logaritma natural.
Sedangkan logaritma natural adalah bentuk logaritma namun dengan nilai
konstanta 2,71828182845904 atau biasa dibulatkan menjadi 2,72).
Dengan model persamaan di atas, tentunya akan sangat sulit untuk
menginterprestasikan koefisien regresinya. Oleh karena itu maka
diperkenalkanlah istilah Odds Ratio atau yang biasa disingkat Exp (B) atau
OR. Exp(B) merupakan exponen dari koefisien regresi.
2. Nilai Odds Ratio

Odds ratio merupakan ukuran risiko atau kecenderungan untuk


mengalami kejadian ‘sukses ‘ antara satu kategori dengan kategori lainnya,
didefinisikan sebagai ratio dari odds untuk xj = 1 terhadap xj = 0. Odds ratio
ini menyatakan risiko atau kecenderungan pengaruh observasi dengan xj = 1
adalah berapa kali lipat jika dibandingkan dengan observasi dengan xj = 0.
Untuk variabel bebas yang berskala kontinyu maka interpretasi dari koefisien
βj pada model regresi logistik adalah setiap kenaikan c unit pada variabel
bebas akan menyebabkan risiko terjadinya Y = 1, adalah exp(c.βj) kali lebih
besar.
Odds ratio dilambangkan dengan θ, didefinisikan sebagai perbandingan dua
nilai odds xj = 1 dan xj = 0, sehingga:

10
BAB III
PENUTUP

A. Kesimpulan
Analisis regresi merupakan suatu metode yang digunakan untuk
menganalisis hubungan antara dua atau lebih variabel. Regresi logistik merupakan
sebuah metode analisis statistik untuk menggambarkan hubungan antara variabel
terikat dengan variabel bebas yang mempunyai dua atau lebih kategori dengan
variabel terikat yang menggunakan skala kategorik maupun interval (Hosmer dan
Lemeshow, 1989). Regresi logistik terbagi menjadi dua yaitu regresi logistik biner
dan regresi logistik multinomial.

B. Saran
Dalam penulisan makalah ini banyak terdapat kekurangannya, maka dari
itu penulis mengharapkan kritik dan saran dari pembaca agar makalah ini lebih
baik kedepannya lagi.

11
DAFTAR PUSTAKA
Dana, D. D. (2018). Binary Logistic Regression Analysis of Identifying Demographic,
Socioeconomic, and Cultural Factors thatAffect Fertility Among Women of
Child bearing Age in Ethiopia. Science Journal of Applied Mathematics and
Statistics, 65-73.

Dina Monica, D. D. (2017). Pemodelan Faktor-faktor Yang Mempengaruhi Kejadian


DBD Menggunakan Regresi Logistik Biner Untuk Wilayah Regional 2
Indonesia (Sumatera). Jurnal Matematika UNAND, 9-16

Gerson, G. D. (2014). Logistic Regression: Binary & Multinomial. North Carolina, USA:
Statistical Associates Publishing.

Hosmer, D. W., & Lemeshow, S. (1991). The Importance of Assesing the Fit of Logistic
Regression Models: A Case Study. American Jurnal of Public Health, 12.

Hosmer, D. W., & Lemeshow, S. (2000). Applied Logistic Regression. Columbus, Ohio:
A Wiley-Interscience Publication

Pamungkas, E. T. (2017). Metode Regresi Logistik Biner Pada Faktor Yang


Mempengaruhi Kesembuhan Pasien Penderita Demam Berdarah Dengue di
RSUD Dr. Iskak Kabupaten Tulung Agung. Surabaya: Institut Teknologi
Sepuluh Nopember .

12

Anda mungkin juga menyukai