Pengantar Analisi Multivariat: Analisis

Regresi Logistik, Analisi Regresi linier

OLEH :
Kelompok 13:
Nova Yulianti (21142019021.P)
Lusi Satilawaty (21142019020.P)
Fadli Ariansyah (21142019034.P)
M.Heriyanto (21142019015.P)

PROGRAM STUDI ILMU KEPERAWATAN SEKOLAH

TINGGI ILMU KESEHATAN BINA HUSADA
PALEMBANG
2022
 BAB I
PENDAHULUAN

A. Latar Belakang

Analisis regresi merupakan

alat statistik yang banyak
digunakan dalam berbagai
bidang.
Analisis tersebut bertujuan
untuk mengetahui hubungan
antara variabel dependen dan
variabel independen. Ada tiga
macam tipe dari analisis
regresi. Tipe yang pertama
adalah
regresi linier sederhana yang
berfungsi untuk mengetahui
hubungan linier antara dua
variabel, satu variabel
dependen dan satu variabel
independen. Tipe kedua
adalah regresi
linier berganda yang
merupakan model regresi
linier dengan satu variabel
dependen dan lebih
dari satu variabel independen.
Tipe ketiga adalah regresi
non linier yang berasumsi
bahwa
hubungan antara variabel
dependen dan variabel
independen tidak linier pada
parameter
regresinya (Yan and Gang
Su, 2009).
Dalam regresi linier
sederhana, metode yang biasa
digunakan dalam
mengestimasi
parameter regresi adalah
metode kuadrat terkecil atau
Ordinary Least Squares
(OLS). Konsep
metode ini adalah untuk
mengestimasi parameter
dengan memilih garis regresi
yang terdekat
dengan garis dari semua data.
Secara matematika penentuan
parameter regresi ini dengan
cara meminimumkan jumlah
kuadrat dari residualnya
(Walpole dan Myers, 1986).
Analisis regresi merupakan
alat statistik yang banyak
digunakan dalam berbagai
bidang.
Analisis tersebut bertujuan
untuk mengetahui hubungan
antara variabel dependen dan
variabel independen. Ada tiga
macam tipe dari analisis
regresi. Tipe yang pertama
adalah
regresi linier sederhana yang
berfungsi untuk mengetahui
hubungan linier antara dua
variabel, satu variabel
dependen dan satu variabel
independen. Tipe kedua
adalah regresi
linier berganda yang
merupakan model regresi
linier dengan satu variabel
dependen dan lebih
dari satu variabel independen.
Tipe ketiga adalah regresi
non linier yang berasumsi
bahwa
hubungan antara variabel
dependen dan variabel
independen tidak linier pada
parameter
regresinya (Yan and Gang
Su, 2009).
Dalam regresi linier
sederhana, metode yang biasa
digunakan dalam
mengestimasi
parameter regresi adalah
metode kuadrat terkecil atau
Ordinary Least Squares
(OLS). Konsep
metode ini adalah untuk
mengestimasi parameter
dengan memilih garis regresi
yang terdekat
dengan garis dari semua data.
Secara matematika penentuan
parameter regresi ini dengan
cara meminimumkan jumlah
kuadrat dari residualnya
(Walpole dan Myers, 1986).
Statistika merupakan salah satu disiplin ilmu yang penerapannya hampir di semua aspek
kehidupan. Hal ini menunjukkan bahwa peranan statistika sangat diperlukan
dalam kehidupan sehari - hari. Begitu pula dalam penelitian ilmiah, statistika merupakan alat
yang berguna bagi perencanaan dan evaluasi hasil penelitian, sehingga dapat dilakukan
perbaikandan penyempurnaan terhadap hasil penemuan (Gunardi, 1999). Sebagai salah satu
disiplin ilmu, statistika berperan untuk mengumpulkan, menyajikan dan menganalisis data.
Analisis multivariat merupakan analisis multivariabel yang berhubungan dengan semua
teknik statistik yang secara simultan menganalisis sejumlah pengukuran pada individu atau
objek (Santoso, 2010: 7). Analisis ini dikelompokkan menjadi dua, yaitu analisis dependensi dan
analisis interdependensi. Analisis dependensi merupakan analisis untuk mengetahui hubungan
antara variabel dependen dan independen. Contoh analisis dependensi, yaitu: anova, ancova,
analisis regresi berganda, dan analisis diskriman. Sedangkan analisis interdependensi adalah
analisis untuk mengetahui hubungan antar variabel independen. Contoh analisis
interdependensi, yaitu: analisis faktor, analisis cluster, penskalaan multidimensi, dan analisis
kategori.
Analisis multivariat dapat digunakan untuk mengatasi permasalahan dalam kehidupan
sehari-hari, seperti mengelompokkan objek-objek yang mempunyai kesamaan karakteristik.
Analisis yang dapat digunakan yaitu analisis cluster. Analisis cluster bertujuan untuk
mengelompokkan objek- objek pengamatan berdasarkan karakteristik yang dimiliki. Ukuran
kesamaan yang digunakan adalah ukuran jarak antar objek. Dua objek yang memiliki jarak
paling dekat akan bergabung menjadi satu cluster. Kedekatan jarak yang dimiliki menunjukkan
bahwa kedua objek tersebut memiliki kesamaan

karakteristik. Ciri-ciri pengelompokan yang baik yaitu (Yulianto dan Hidayatullah, 2014: 57):
a) mempunyai kesamaan (homogenitas) yang tinggi antar anggota dalam satu cluster (within
cluster), dan
b) mempunyai ketaksamaan (heterogenitas) yang tinggi antar cluster (between cluster).
Analisis regresi merupakan suatu metode yang digunakan untuk menganalisis hubungan
antara dua atau lebih variabel. Pada analisis regresi terdapat dua jenis variabel yaitu variabel
bebas dan variabel terikat. Berdasarkan pola hubungannya analisis regresi dibagi
menjadi dua yaitu analisis regresi linear dan analisis regresi non-linear. Data hasil penelitian
yang berupa data kualitatif dapat dianalisis dengan regresi non-linear. Salah satu model
regresi nonlinear adalah regresi logistik.

Pada analisis regresi linier terbagi menjadi dua, yaitu analisis regresi linier
sederhana dan analisis regresi linier berganda. Yang membedakan keduanya adalah
hanya terletak pada variabel bebas atau variabel prediktornya, untuk analisis
regresi linier sederhana variabel bebasnya hanya satu sedangkan untuk analisis regresi
linier berganda banyaknya variabel bebas adalah lebih dari satu.

B. Rumusan masalah

1. Jelaskan konsep dan model analisis regresi logistik!

2. Jelaskan konsep dan model analisis regresi linier!

C. TUJUAN
Tujuan yang didapat dari penelitian ini yaitu untuk mengetahui dan memberi informasi tentang
Analisis Regresi Logistik dan Analisi Regresi linier.
 BAB II
TINJAUAN PUSTAKA

A. Analisis Regresi
Istilah regresi pertama kali digunakan oleh Sir Francis Galton pada tahun 1886. Galdon
menemukan adanya hubungan bahwa orang tua yang tubuh tinggi memiliki anak-anak yang
tinggi, dan orang tua yang tubuh pendek memiliki anak- anak yang pendek pula (Nirwana,
2015). Secara umum ada dua macam hubungan antara dua variabel atau lebih, yaitu bentuk
hubungan dan keeratan hubungan.

Analisis Regresi adalah teknik analisis yang menjelaskan bentuk hubungan antara dua atau
lebih khususnya hubungan antara variabel-variabel yang mengandung sebab akibat (Nirwana,
2015). Analisis regresi merupakan suatu metode yang digunakan untuk menganalisis hubungan
bermodal antar variabel. Hubungan bermodel tersebut dapat diekspresikan dalam bentuk
persamaan yang menghubungakn antara dependent variabel Y dengan satu independent variabel
X. Jika dalam model regresi terdapat satu variabel bebas yang dinamakan X dan satu variabel
tak bebas yang bergantung pada X dinamakan Y, maka hubungan diantara variabel ini
dicirikan melalui model matematik disebut model regresi. Jika hanya terdapat satu variabel
respon Y dan satu variabel bebas X, maka model yang diperoleh disebut model regresi
sederhana dan apabila variabel bebasnya lebih dari satu maka model yang diperoleh disebut
model regresi ganda. Variabel prediktor dalam analisis regresi seringkali bersifat kuantitatif.

Regeresi mempunyai banyak kegunan, pertama-tama kita dapat menentukan ada atau
tidaknya hubungan antara Y dan X, kemudian mempelajari bentuk hubungan tersebut.
Memperkirakan nilai Y berdasarkan nilai X juga salah satu tujuan digunakannya analisis regresi
(Akbar, 2011).

B. Regresi Logistik

Regresi logistik merupakan metode statistik yang diterapkan untuk memodelkan variabel
respon yang bersifat kategori (skala nominal/ordinal) berdasarkan satu atau lebih pengubah
prediktor yang dapat berupa variabel kategori maupun kontinu (skala interval atau rasio).
Apabila pengubah respon hanya terdiri dua kategori maka metode regresi logistk yang dapat
digunakan adalah regresi logistik biner.
 Regresi logistik adalah bagian dari analisis regresi yang dapat digunakan jika variabel
dependent (respon) merupakan variabel dikotomi. Variabel dikotomi biasanya hanya terdiri atas
dua nilai, yang mewakili kemunculan atau tidak adanya suatu kejadian yang biasanya diberi
angka 0 atau 1 (Nirwana, 2015).

Tidak seperti regresi linier biasa, regresi logistik tidak mengasumsikan hubungan antara
variabel independent dan dependent secara linier. Regresi logistik merupakan regresi non linier
dimana model yang ditentukan akan mengikuti pola kurva linier. Regresi logistik akan
membentuk variabel prediktor/respon yang merupakan kombinasi linier dari variabel
independent. Nilai variabel prediktor ini kemudian ditransformasikan menjadi probabilitas
dengan fungsi logit.

Regresi logistik bertujuan untuk menanggulangi kelemahan dari LPM (Linier Probability
Model) yang dapat memberi hasil kurang memuaskan, karena menghasilkan probabilitas
taksiran yang kurang dari nol atau lebih dari satu. Dalam hal ini, yang mampu menjamin nilai
variabel dependent terletak antara 0 dan 1 sesuai dengan teori probabilitas adalah dengan model
CDF (Cumulative Distribution Function). Dengan CDF yang memiliki dua sifat yaitu: 1) jika
variabel bebas naik, maka 𝑃(𝑌i = 1/Xi) juga ikut naik, tetapi tidak pernah melewati rentangan 0
– 1, dan 2) hubungan antara 𝑃i dan Xi adalah non linear, sehingga, tingkat perubahannya tidak
sama, tingginyanya semakin besar kemudian mengecil. Ketika nilai probabilitasnya mendekati
nol, tingkat penurunannya semakin kecil, demikian juga ketika nilai probabilitasnya mendekati
satu, maka tingkat tingginyanya semakin kecil. Secara umum, persamaan regresi logistik untuk
k variabel dependent (Nirwana, 2015). Terdapat pada persamaan (2.1).

𝑙𝑛[𝑜𝑑𝑑𝑠(𝑇/X1, X2, . . X𝑘)] = 𝛽0 + 𝛽1X1 + 𝛽2X2+. . + 𝛽𝑘X𝑘 (2.1)

Regresi logistik akan membentuk variabel predictor atau respon (𝑙𝑛 (𝑃/(1 −

𝑃)) yang merupakan kombinasi linier dari variabel independent. Nilai variabel prediktor ini
kemudian ditransformasikan menjadi probabilitas dengan fungsi logit.

Jadi model regresi linear sederhana terdapat pada persamaan (2.2).

𝑌i = 𝛽0+ 𝛽1Xi + si (2.2)

 Di mana 𝑌i merupakan variable respon, 𝛽0 dan 𝛽1 merupakan parameter, si

merupakan galat ke i, di mana i = 1, 2, …, n. Apabila persamaan 𝑌i =

𝛽0+ 𝛽1X1 + s1 merupakan model regresi yang tidak memiliki intersep maka persamaan
tersebut terdapat pada persamaan (2.3).

𝑌i = 𝛽1Xi + si (2.3)

Di mana 𝑌i dan Xi pengamatan yang dilakukan pada Y dan X dengan galat s di mana i =
1,2,….,n. Bila diambil pengamatan sebanyak n maka persamaan ini terdapat pada persamaan
(2.4), (2.5), dan (2.6).

𝑌1 = 𝛽1X1 + s1 (2.4)

𝑌2 = 𝛽1X2 + s2 (2.5)

𝑌𝑛 = 𝛽1X𝑛 + s𝑛 (2.6)

Yang mana s adalah variable acak normal bebas dan 𝛽1 merupakan parameter dengan E
(s) = 0 dan var (s) = 𝜎2. Variabel respon dalam persamaan regresi tidak hanya dipengaruhi
oleh variable bebas yang bersifat kuantitatif saja (seperti umur, pendapatan, harga dan
sebagainya), tetapi seringkali juga dipengaruhi oleh variabel yang bersifat kualitatif (seperti
jenis kelamin, musim, warna dan sebagainya).

Berdasarkan variabel-variabel yang bersifat kualitatif maka dapat diketahui regresi dengan
variabel kualitatif yang hanya memiliki 2 nilai yaitu nilai 1 dan 0,

salah satu model yang memiliki variabel yang bersifat kualitatif yaitu model regresi
logistik.
C. Model Regresi Logistik

Analisis regresi logistik adalah analisis yang digunakan untuk melihat hubungan antara
variabel respon yang berupa data kualitatif dengan variabel penjelas yaitu data kualitatif
maupun kuantitatif. Pengubah respon dalam regresi logistik membentuk kolom (binear)
maupun polikotom (ordinal atau nominal).

Model regresi logistik adalah pemodelan statistik yang diterapkan untuk memodelkan
variabel respon yang bersifat kategon berdasarkan satu atau lebih covariate (variabel penjelas).
Model regresi logistik sering digunakan dalam epidemiologi yaitu studi tentang pola terjadinya
penyakit dan faktor-faktor yang mempengaruhinya (Akbar, 2011).

Model regresi adalah suatu cara yang dapat digunakan untuk:

a. Menyatakan kecendrungan berubah-ubahnya variabel tak bebas Y apabila varibel bebas

X berubah-ubah dalam cara tertentu.
b. Menyatakan terpencarnya pengamatan sekitar kurva yang dinyatakan suatu hubungan
statistik.

Model logistik dinyatakan dalam bentuk model probabilitas di mana model ini variable
responnya adalah logit dari probabilitas suatu situasi atau atribut akan berlaku dengan syarat
atau kondisi adanya variabei-variabel bebas tertentu (Sritua dalam Akbar, 2011).

Model regresi logistik yang variabel responnya terdiri dari dua kategori di sebut dengan
regresi logistik dikotomi atau biner. Dua kategon tersebut yaitu sukses atau gagal, dengan
menetapkan 𝑃(𝑌 = 1) = 𝜋 sebagai sukses dan 𝑃(𝑌 = 0) = 1 − 𝜋 sebagai gagal. Untuk setiap
pengamatan variabel Y yang demikian dikatakan mengikuti distribusi Bernoulli (Nirwana,
2015).

Berikut ini adalah model Probabilitas regresi logistik (Nirwana, 2015) terdapat
pada persamaan (2.7).

𝜋(𝑥1 exp(𝛽 +𝛽 𝑥 ) 1+exp(𝛽 +𝛽 𝑥 )

0 1 1 0 1 1 (2.7)
)=
D. Regresi Linear
Regresi linear (linear regression) adalah metode yang digunakan untuk memperoleh
model hubungan antara satu variabel terikat (dependen) dengan satu atau lebih variabel
bebas (independen). Harlan (2018:5) menyebutkan bahwa Variabel dependen pada regresi
linear disebut juga sebagai respons, sedangkan variabel independen dikenal pula sebagai
prediktor atau regresor. Jika hanya terdapat satu variabel independen dalam model maka
teknik ini disebut sebagai regresi linear sederhana (simple linear regression), sedangkan
jika terdapat beberapa variabel independen, teknik ini disebut regresi linear ganda
(multiple linear regression). Analisis regresi memiliki 3 kegunaan, yaitu untuk tujuan
deskripsi fenomena data atau kasus yang sedang diteliti, untuk tujuan kontrol, serta untuk
tujuan prediksi.
1. Hubungan fungsional antara variabel
Regresi linear sederhana adalah persamaan regresi yang menggambarkan hubungan antara
suatu peubah bebas (x) dan suatu peubah tak bebas (y), dimana hubungan keduanya
dapat di gambarkan sebagai suatu garis lurus (Juanda, 2003).
2. Metoda tangan bebas
Metoda ini merupakan metoda yang menggunakan diagram pencar berdasarkan hasil
pengamatan. Jika fenomena meliputi sebuah variabel bebas X dan variabel takbebas Y,
maka data yang dapat digambarkan pada diagram dengan sumbu datar menyatakan X dan
sum,buh tegak menyatakan Y. Titik yang ditentukan oleh absis X dan ordinat Y
digambarkan dan terjadilah diagram pancar. Dengan memperhatikan letak titik-titik dalam
diagram, bentuk regresi dapat diperkirakan. Jika letak titik-titik tersebut sekitar garis lurus,
maka cukup beralasan untuk menduga regresi linier. Jika letak titik-titik sekitar garis
lengkung, wajarlah untu menduga regresi nonlinier.

3. Metoda kuadrat terkecil untuk regresi linear

Menurut Sudjana (1989) metoda tangan bebas dapat di pakai untuk menolong menentukan
dugaan bentuk regresi apakah linier atau tidak. Persamaannya, jika tidak betul-betul yakin,
lebih baik ditentukan dengan cara lain, misalnya dengan cara kuadrat terkecil. Cara ini
berpangkal pada kenyataan bahwa jumlah pangkat dua (kuadrat) daripada jarak antara titik-
titik dengan garis regresi yang sedang dicari harus sekecil mungkin.
 4. Berbagai variansi sehubungan dengan regresi linear sederhana
Menurut Sudjana (1989) untuk analisis selanjutnya tentang regresi linear sederhana
beberapa asumsi harus diambil. Pertama mengingat hasil pengamatan variable takbebas Y
belumtentu sama besarnya dengan harga di harapkan, yakni Ŷ yang didapat dari regresi
hasil pengamatan, maka terjadi perbedaan e=|Y - Ŷ|, bias disebut kekeliruan prediksi
atau galat prediksi.

5. Interval kepercayaan sehubungan dengan regresi linear

Kita lihat bahwa regresi liniear populasi dalam rumus a.8 telah di taksir oleh regresi linear
sampel Ŷ = a + b X dengan koefesien-koefesien a dan b dihitung menggunakan rumus a.6.
Jadi Nampak bahwa a dan b masing- masing merupakan titik taksiran untuk Ɵ1 dan Ɵ2.
Dengan asumsi-asumsi yang di berikan dalam pembahasan sebelumnya, maka berbagai
interval taksiran sehubungan dengan regresi linier, termasuk untuk Ɵ1 dan Ɵ2 dapat
ditentukan.
6. Menguji hipotesis sehubungan dengan regresi linear sederhana
Dalam penelitian sering ingin mengetahui apakah koefisien-koefisien regresi linear populasi Ɵ1 dan
Ɵ2, mempunyai harga yang dihipotesiskan ataukah tidak. Dengan demikian perlu diadakan
pengujian terhadap hipotesis nol Ho : Ɵ1 = Ɵ10 dan Ho : Ɵ2 = Ɵ20 dengan Ɵ10 dan Ɵ20 harga-harga
yang di ketahui. Pertama-tama akan di uji dengan pengujian hipotesis nol:

Ho : Ɵ2 = Ɵ20, melawan salah satu alternatif

H1 : Ɵ2 ≠ Ɵ20, atau mungkin
H1 : Ɵ2 < Ɵ20, atau
H1 : Ɵ2 > Ɵ20.

7. Uji kelinieran regresi

Akan adanya perbedaan antara hasil pengamatan Y dan hasil Ŷ yang diperoleh dari model
linier. Kekeliruan yang terjadi perlu dinilai dan satu- satunya cara untuk mendapatkannya
iyalah dengan jalan melakukan ulangan terhadap variable bebasX.
 BAB III
PENUTUP

A. Kesimpulan
Dewasa ini statistik digunakan sebagai suatu alat bantu utama dalam
menyelesaikan suatu permesalahan ilmu pengetahuan dan teknologi. Korelasi
merupakan hubungan antara dua kejadian dimana kejadian yang satu dapat
mempengaruhi eksistensi kejadian yang lain, Misalnya kejadian X
mempengerahui kejadian Y. Apabila dua variable X dan Y mempunyai hubungan,
maka nilai variable X yang sudah diketahui dapat dipergunakan untuk
memperkirakan/menaksir atau meramalkan Y. Ramalan pada dasarnya merupakan
perkiraan/taksiran mengenai terjadinya suatu kejadian (nilai suatu variabel) untuk
waktu yang akan datang. Variable yang nilainya akan diramalkan disebut variable
tidak bebas (dependent variable), sedangkan variabel C yang nilainya
dipergunakan untuk meramalkan nilai Y disebut variable bebas (independent
variable) atau variable peramal (predictor) atau seringkali disebut variable yang
menerangkan (explanatory).
Jadi jelas analisis korelasi ini memungkinkan kita untuk mengetahui suatu
di luar hasil penyelidikan, Salah satu cara untuk melakukan peramalan adalah
dengan menggunakan garis regresi. Sedangkan regeresi di bagi menjadi dua, yaitu
regresi linier dan regresi nonlinier.

B. Saran

Dengan disusunnya makalah ini mengharapkan kepada semua

pembaca agar  dapat mengetahui dan memahami tentang Analisis Regresi
Logistik, Analisi Regresi linier.
.
 DAFTAR PUSTAKA

Akbar. M.A. 2011. Analisis Regresi Logistik Multinominal untuk Mengetahui Faktor-
Faktor Utama yang Mempengaruhi Keputusan Mahasiswa matematika UNM Setelah
Selesai S1. Skripsi. Universitas Negeri Makassar. Makassar.

Masmuda. M. 2011. Analisis Regresi Logistik Biner dan Aplikasinya untuk

Mengidentifikasi faktor-faktor yang Mempengaruhi Tingkat Kesejahteraan Petani.
Skripsi. Universitas Negeri Makassar. Makassar.

Nirwana. S.R.A. 2015. Regresi Logistik Multinomial dan Penerapannya dalam Menentukan
Faktor yang Berpengaruh pada Pemilihan Program Studi di Jurusan Matematika
UNM. Skripsi. Universitas Negeri Makassar. Makassar.