Analisis Regresi Linear

Kelompok :

Anggota : Fasha A.

Galih I.

Dwi Suci P.

Tsatsa A.

SEKOLAH TINGGI ILMU EKONOMI (STIE)

SEBELAS APRIL SUMEDANG
Analisis Regresi

Analisis regresi digunakan untuk memprediksi seberapa jauh peubahan nilai variable
dependen bila nilai variable independen di manipulasi/dirubah-rubah atau dinaik-turunkan.
Manfaat dari hasil analisi regresi adalah untuk membuat keputusan apakah akan naik dan
menurunnya variable dependen dapat dilakukan memalaui peningkatan variable independen atau
tidak.

Dalam praktik regresi sering dibedakan antara regresi sederhana dan regresi barganda. Disebut
regresi sederhana ( Simple Regression) jika hanya ada satu variable independent. Sedangkan
disebut regresi barganda ( Multiple Regression) jika ada lebih dari satu variable independent.
Sebelum analisi regresi digunakan maka diperlukan uji linearitas dan keberartian.

 Analisis Linear Sederhana

Regresi linear sederhana didasarkan pada hubungan fungsional ataupun kausal
suatu variable independent dengan satu variable dependen. Persamaan umum regresi
linear sederhana adalah :

Ý = a – bX
Dimana :
Ý = Subyek dalam variable dependen yang di prediksikan
a = Harga Y ketika harga X = 0 (harga konstan)

b = Angka arah atau koefisien regresi, yang menunjukan angka peningkatan

ataupun penurunan variable dependen yang di dasarkan pada perubahan
variable independent. Bila (+) arah garis naik, dan bila (-) maka rah garis
turun

X = Subyek pada variable independent yang mempunyai nilai tertentu

Secara teknis harga b merupakan tangen dari perbandingan antara panjang garis variable
dependen , setelah persamaan regresi di temukan.

Harga b = r Sy
Sx
 Harga a = Y – bX
Dimana :

r = koefisien korelasi produk momen antara momen antara variable X dengan variable Y

Sy = Simpangan baku variable Y

Sx = Simpangan baku variable X

Jadi harga b merupakan fungsi dari koefisien korelasi. Bila koefisien korelasi tinggi,
maka harga b juga besar, sebaliknya bila koefisien korelasi rendah maka harga b rendah (kecil.
Selain itu bila koefisien korelasi negatif maka harga b juga negatif dan sebaliknya.

Selain itu harga a dan b dapat dicari dengan rumus berikut

a = (⅀Yi)(⅀Xi2)- (⅀Xi)(⅀XiYi)

n⅀Xi2 - (⅀Xi)2

b = n⅀XiYi - (⅀Xi) (⅀Yi)

n⅀Xi2 - (⅀Xi)2
 1. Contoh perhitungan regresi linear

Data berikut adalah hasil pengamatan terhadap nilai kualitas layanan (Xi) dan nilai rata-
rata penjualan barang tertentu tiap bulan (Yi)

Untuk menghitung persamaan regresinya maka diperlukan table penolong seperti table
dibawah
 2. Uji Linearitas Regresi

Salah satu asumsi dari analisi regresi adalah linearitas. Maksudnya apakah garis regresi X
dan Y membentuk garis linear atau tidak. Kalua tidak linear maka analisis regresi tidak dapat
dilanjutkan.
Rumus yang digunakan adala uji linearitas :

JK(T) = ⅀ Y2

JK(A) = (⅀ Y)2

JK(b|a) = b{⅀ XY – (⅀ X)(⅀ Y)}

= [n⅀ XY – (⅀ X)(⅀ Y)]2⅀

n[ n ⅀ X2 – (⅀ X)2 ]

JK(S) = JK(T) – JK(a) - JK(b|a)

JK(TC) = ⅀{ ⅀Y2 – (⅀ Y)2}

ni

JK(G) = JK(S) – JK(TC)

Dimana :

JK(T) = Jumlah Kuadrat Total

JK(a) = Jumlah Kuadrat Koefisien a

JK(b|a) = Jumlah Kudrat regresi (b|a)

JK(S) = Jumlah Kuadrat Sisa

JK(TC) = Jumlah Kuadrat Tuna Cocok

JK(G) = Jumlah Kuadrat Galat

 Daftar Analisis Varians Regresi Linear Sederhana

Sumber dK JK KT F
variansi
Total n ⅀Ý2 ⅀Ý2

Koefisien (a) 1 JK(a) JK(a)

S2reg
Regresi (b|a) 1 JK(b|a) S2reg JK(b|a) S2sis

Sisa n-2 JK(S) S2sis = JK(S)

n-2
Tuna Cocok k-2 JK(TC) S2TC = JK(TC)
k-2 S2TC
Galat n-k JK(G) S2G = JK(G) S2G
n-k

3. Menghitung Harga a dan b

a = (⅀Yi)(⅀Xi2)- (⅀Xi)(⅀XiYi)
n⅀Xi2 - (⅀Xi)2
= (5485)(94098) – (1784)(288280)
(34) (94098) - (1784)2
= 93,85

b = n⅀XiYi - (⅀Xi) (⅀Yi)

n⅀Xi2 - (⅀Xi)2

= (34)(288.30) – (1782)(5485)

(34)(94098) - (1782)2

= 1,29
 Sebelum mencari harga b terlebih dahulu dihitung korelasi antara nilai kualitas
layanan dan nilai rata-rata penjualan.

4. MenyusunPersamaan Regresi

Setelah harga a dan b ditemukan, maka persamaan regersi linear sederhana dapat
disusun. Persamaan regresi nilai layanan dan nilai rata-rata penjualan barang tertentu tipa
bulan adalah seperti berikut :

Ý = 93,85 + 1,29X

Persamaan regersi yang telah ditemukan dapat digunakan untuk melakukan prediksi
(ramalan) bagaimana individu dalam variable dependen akan terjadi bila individu dalam
variable independen ditetapkan. Misalnya nilai kualitas layanan = 64, maka nilai rata-rata
penjualannya adalah :

Ý = 93,85 + (1,29)(64)

= 176,41

Jadi diperkirakan nilai rata-rata penjualan tiap bulan sebesar 176,41. Dari persamaan
regresi diatas dapat dinyatakan bahwa, bila nilai layanan kulaitas bertambah 1, maka nilai
rata-rata pejualana barang tiap bulan akan bertambah 1,29 atau setiap nilai kualitas layanan
bertamabah 10maka nilai rata rata penjualan tiap bulan akan bertambah sebesar 12,9.

5. Membuat Garis Regresi

Garis regersi digambarkan berdasarkan persamaan yang telah ditemukan diatas :
JK(T) = ⅀ Y2
= 88729
JK(A) = (⅀ Y)2
N
= (5485)2
34
= 884859,6
JK(b|a) = b{⅀ XY – (⅀ X)(⅀ Y)}

= 1,29{288380 – (1728)(5485)}

34

= 1162,90

JK(S) = JK(T) – JK(a) - JK(b|a)

= 882791 – 884859,56 – 1162,90

= 1268,54

Untuk mempermudah mengitung JK(G) digunakan table berikut :

SKOR KUALITAS LAYANAN (X) DAN PENJUALAN

BARANG (Y) SETELAH X DIKELOMPOKAN

DAFTAR ANAVA UNTUK REGRESI LINEAR
Uji keberartian :

Ho : koefisien arah regresi tidak berarti (b = 0)

Hi : koenfisien itu berarti (b ≠ 0)

Untuk menguji himpotensis nol, dipakai statistik F = S2reg ( F hitung )

S2reg

dibandingkan dengan F tabel dk pembilang = 1 dan dk penyebut = n – 2. Untuk menguji

hipotensi nol, kretirianya adalah tolak hipotesis nol apabila koefisien F hitung lebih besar dari
harga F tabel berdasarkan taraf kesalahan yang dipilih dan dk yang bersesuaian

F = S2reg ( F hitung ) = 29, 34

S2reg

Untuk taraf kesalahan 5%, F tabel (1,32) = 4,15

Untuk taraf kesalahan 1%, F tabel (1,32) = 7,50

F hitung > F tabel baik untuk taraf kesalahan 5% maupun 1%.

Kesimpulannya koefisieun itu berarti (b≠0).

Uji Linearitas

Ho = Regresi Linear

Hi = Regresi Non-linear

Statistik F = S2TC (F hitung) dibandingkan dengan F tabel dengan

S2G

dk pembilang (k – 2) dan dk penyebut (n – k). Untuk menguji hipotensi nol, tolang hipotensi
regresi linear, jika statistik F hitung untuk tuna cocok yang di peroleh lebih besar dari harga F
dari tabel menggunakan taraf kesalahan yang dipilih dan dk yang tersesuain.

Uji hipotesis hubungan antara dua variabel

Ho : tidak ada hubungan antara kualitas pelayanan terhadap nilai penjualan

Ha : ada hubungan antara kualitas pelayanan terhadap nilai penjualan.

Antara nilai kualitas layanan dengan nilain penjualan tiap bulan dapat dihitung
korelasinya. Korelasi dapat dihitung dapat rumus yang telah dibeikan (Rumus 8.5) atau dengan
Rumus 8.7 berikut.

Harga – harga yang telah ditemukan dalam Tabel 8.2 dapat dimasukan dalam rumus di atas
sehingga :

34(288380) –(1782)(5485)
r=
√❑¿ ¿

= 0,6909

Harga r tabel untuk taraf kesalahan 5% dengan n = 34 diperoleh r tabel = 0,339 dan
untuk 1% diperoleh r = 0,436. Karena harga r hitung lebih besar dari r tabel baik untuk kesalahan
5% maupun 1% ( 0,6909 > 0,436 > 0,339), maka dapat disimpulkan terdapat dihubungkan yang
positif dan signifikan sebesar 0,6909 antara nilai kualitas layanan dan rata – rata penjualan
barang tiap bulan.

Koefisien determinasinya r2 = 0,6909 2= 0,4773. Hal ini berarti nilai rata – rata penjualan
barang tiap bulan 47,73% ditentukan oleh nilai kualitas layanan yang diberikan, melalui
persamaan regresi Y = 93,85 + 1,29 X. Sisanya 52,27% ditentukan oleh faktor lain.
Analisis Regresi Sederhana Menggunakan SPSS

Contoh soal

PT Cemerlang dalam beberapa bulan gencar mempromosikan sejumlah peralatan

elektronik sejumlah peralatan elektronik dengan membuka outlet di berbagai daerah. Berikut
adalah data mengenai penjualan dan biaya promosi yang dikeluarkan di 15 daerah.

Daerah Sales (juta Rupiah) Promosi (juta Rupiah)

Jakarta 205 26
Tanggerang 206 28
Bekasi 254 35
Bogor 246 32
Bandung 201 31
Semarang 291 49
Solo 234 30
Yogya 209 30
Surabaya 204 24
Purwokerto 216 31
Madiun 245 32
Tuban 286 47
Malang 312 54
Kudus 265 40
Pekaongan 322 42
Akan dilakukan analisis regresi untuk mengetahui hubungan diantara variable penjualan
dengan biaya promosi.

Penyelesaian :

Disini karena akan diketahui besar hubungan atau seberapa besar jauh biaya promosi
berpengaruh kepada penjualan PT Cemerlang, maka akan dilakukan uji regresi dengan variable
independen adalah biaya promosi. Karena hanya satu variable independen , maka uji regresi itu
dinamakan uji regresi sederhana.
 Langkah pengolahan data dengan SPSS

1. Masukan data tadi ke dalam SPSS

2. Buka file yang sudah disimpan
3. Klik Analyze  Regression  Linear untuk uji regresi secara linear

Pengesian kotak :

 Dependent atau variable tergantung. Karena variable yang akan di prediksi adalah
variable sales, maka masukan variable sales pada kotak Dependent
 Independent atau variable bebas. Dalam hal ini, variable bebas (predictor) adalah
promosi. Maka, maasukan variable promosi ke kotak Independent
 Case labels atau keterangan pada kasus. Karena kasus didasarkan pada daerah-daerah,
maka masukan variable daerah ke kotak Case labels
 Method atau cara memasukkan/seleksi variable. Untuk keseragaman pilih default yang
ada yaitu Enter yang mana merupakan prosedur pemilihan variable dimana semua
variabel dalam blok dimasukkan dalam perhitungan ‘single step’
 Pilih kolom Options dengan klik mouse pada pilihan tersebut
 Untuk Stepping Method Criteria, digunakan uji F yang mengambil standar angka
probabilitas sebesar 5%. Karena itu angka Entry 05
 Biarkan pilihan include constan in equation aktif
 Penanganan missing value atau data yang hilang, digunakan default dari SPSS yaitu
Exclude cases listwise
 Lalu klik continue dan pilih kolom Statistics

 Regression Coefficient atau perlakuan koefisien regeresi, tetap diaktifkan pilihan

Estimate. Jika pilihan Estimate tidak diaktifkan maka koefisien regresi tidak ditampilkan
di output SPSS
 Klik Descriptive dan tetap aktifkan Model fit
 Residual klik mouse pada Casewise Diagnostic dan dari situ pilih all acses untuk melihat
pengaruh regresi terhadap semua daerah. Lalu klik continue
 Pilih kolom Plots atau berhubungan dengan gambar/grafik untuk regresi
 (Fasilitas PLOT berguna untuk menguji asumsi-asumsi pada regresi, seperti normalitas,
linearitas, kesamaan varians, PLOT juga dapat digunakan untuk mendeteksi ada tidaknya
data yang tidak normal/outlier). Direncanakan ada tiga PLOT (gambar) sehubungan
dengan dengan pengujian asusmsi pada analisis regresi :
 Klik SDRESID dan masukan ke pilihan Y. Lalu klik ZPRED dan masukan ke pilihan X.
lalu klik tombol Next
 Klik ZPRED masukan ke Y. Dan klik DEPENDNT masukan ke pilihan X. Klik Next
(Duan plot diatas untuk menguji linearitas dan keamaan varians (homoskedastisitas)
 Untuk plot ke tiga pilihan Standardized Residual Plots, pilih Normal Probability Plot
(plot ini digunakan untuk menguji normalitas)
 Klik Continue lalu tekan OK
Output SPSS dan Analisis
Simpan output dengan nama regresi sederhana
Analisis :
Output bagian pertama dan kedua :
Analisis :
 Rata-rata sales (dengan jumlah data 15 buah) adalah Rp246,4 juta dengan standar
deviasi Rp41,11 juta
 Rata-rata Biaya Promosi (dengan jumlah data 15 buah) adalah Rp.34,67 juta
dengan standar deviasi Rp9,68 juta
 Besar hubungan antarvariabel Sales dengan Promosi yang hitung dengan
koefisien korelasi adalah 0,96. Hal ini menunjukan hubungan yang sangat erat
(mendekati 1) di antara Sales dengan Biaya Pomosi. Arah hubungan yang positif
(tidak ada tanda negative pada angka 0,96) menunjukan semakin besar Biaya
Promosi, akan membuat Sales cenderung menigkat. Demikian pula sebaliknya.
 Tingkat signifikansi koefsien korelasi satu sisi dari output (diukur dari
probabilitas) menghasilkan angka 0.000 atau praktis 0. Karena probabilitas jauh
dibawah 0,5 maka korelasi antara Sales dengan Promosi sangat nyata

Output bagian ketiga dan keempat :

Analisis :

 Tabel pertama menunjukan variable yang dimasukkan adalah Promosi dan

tidak ada variable yang dikeluarkan (removed). Hal ini disebabkan metode
yang dipakai adalah single step (enter) dan bukannya stepwise
  Angka R square adalah 0,839 (adalah pengkuadratan dari koefisien korelasi,
atau 0,916 x 0,916 = 0,839) R square bisa disebut koefisien determinasi, yang
dalam hal ini berarti 83,9% dari variasi Sales perusahaan bisa dijelaskan oleh
variable biaya promsi. Sedangkan sisanya (100% - 83,9% = 16,1%)dijelaskan
oleh sebab-sebab lain. R square berkisar pada angka 0 sampai 1, dengan
catatan semakin kecil angka square R, semakin lemah hubungan kedua
variable
 Stanadar Error Estimate adalah 17,127 atau Rp17,127 juta (satuan yang
dipakai adalah variable dependen, atau dalam hal ini dalah Sales). Perhatikan
pada analisis sebelumnya, bahwa standar deviasi Sales adalah Rp41,11 juta,
yang jauh lebih besar dari standar error of estimate yang hany Rp17,127 juta.
Karena lebih kecil dari standar deviasi Sales maka model regresi lebih bagus
dalam bertindak sebagai predictor Sales daripada Rata-rata Sales itu sendiri

Output bagian kelima dan keenam :

Analisis :

 Dari uji ANOVA atau F test, didapat F hitung adalah 6,673 dengan tingkat
signifikansi 0,0000. Karena probabilitas (0,000) jauh lebih kecil dari 0,05
maka model regresi bisa dipakai untuk meprediksi Sales
 Tabel selanjutnya menggambarkan persamaan regresi
 Y = 111,523 + 3,891 X
Dimana :
Y = sales
X = Biaya Promosi
Keterangan :
o Konstanta sebesar 111,523 menyatakan bahwa jika tidak ada Biaya
promosi, maka sales adalah Rp111,523 juta
o Koefisien regresi sebesar 3,891 menyatakan bahwa setiap
penambahan (karena tanda +) Rp1 biaya promosiakan semakin
meningkatkan penjualan sebesasar Rp3,891. Namun sebaliknya
jika biaya promosi turun sebesar Rp1 maka penjualan juga
diprediksi mengalami penurunan sebesar Rp3,891. Jadi tanda +
menyatakan arah hubungan yang searah, dimana kenaikan atau
penurunan variable independent (X) akan mengakibatkan
kenaikan/penurunan variable dependen (Y)
o Untuk regresi sederhana, agka korelasi (0,916) yang sudah
dijelaskan saat membahas R, adalah juga angka Standardized
Coefficient (beta)
 Uji t untuk menguji signifikan si kosntanta dan variable dependen
(promosi).
Persamaan regresi yang didapat atas selanjutnya akan diuji apakah memag
valid untuk memprediksi variable dependen. Dengan kata lain, akan
dilakukan pengujian apakah biaya promosi benar-benar bisa memprediksi
penjualan di masa mendatang. Disini akan diberi contoh uji koefisien regresi
variable Proomosi.
Hipotesis :
- H0 = Koefisien regresi tidak signifikan
- Hi = Koefisien regresi signifikan

Pegambilan Keputusan :

Dasar pengambilan keputusan :

Ada dua cara pengambilan keputusan, yang sebenarnya sama dengan
pengambilan keputusan uji t

Dengan membandigakan Statistik Hitung dengan Statistik Tabel

- Jika Statistik t Hitung < Statistik t Tabel, maka Ho diterima

- Jika Statistik t Hitung > Statistik t Tabel, maka Ho ditolak

Mencari statistik t Hitung, dari table output diatas terlihat bahwa t hitung
(tertulis t) adalah 8,226

Prosedur mencari satistik tabrl, dengan kriteria :

- Tingka signifikansi (α) = 10% untuk diuji DUA SISI

- df (derajat kebebasan) = jumlah data – 2 atau 15 - 2 = 13
- Uji dilakukan dua sisi, karena ingin mengetahui signifikan tidaknya
koefisien regresi, dan bukan mencari ‘lebih kecil’ atau ‘lebih besar’.

Untuk t tabel dua sisi, didapat angka 2,1604

Keputusan :

Karena Statistik Hitung > Statistik Tabel (aatau 8,266 > 2,1604), maka Ho
ditolak

Berdasarkan Probabilitas

- Jika probabilitas > 0,025 maka Ho diterima

- Jika probabilitas <0,025 maka Ho ditolak

NB : uji dilakukan dua sisi sehingga niali probabilias = 0,05/2 = 0,025

Keputusan :

Terliha bahwa pada kolom Sig/significance adalah 0,000 atau probabilitas

jauh dibawah 0,025. Maka Ho ditolak atau koefisien regresi signifikan
terhadap Sales.
 Demikian juga untuk analisis konstanta (111,532) dengan du acara tadi dihasilkan angka
konstanta yang signifikan. Hal ini didapat karena karena angka t hitung untuk konstanta adalah
6,65, sedang tabel t hanya 2,1604. Juga probabilitas jau dibaawah 0,025, yakni 0,000. Walaupun
demikian jika pada proses uji koefisien regresi, ternyata konstanta dinyatakan tidak valid
sementara koefisien regresi (X) adalah valid persamaanregresi tetap bisa digunakan.

Output Bagian Ketujuh :

Bagian ketujuh yang berjudul Casewise Diagnotic (tidak ditampilkan tabelnya disini)
memperlihatkan hasil prediksi dari persamaan regresi.

 Sebagai contoh baris pertama untuk regresi daerah Jakarta

Persamaan regresi adalah :
Y = 111,523 + 3,3891 X
Untuk biaya promosi di Jakarta dari awal kasus adalah Rp26 juta maka:
Y = 111,523 + (3,891 x 26) atau 212,689 atau Rp212,689 juta
Terlihat pada kolom Predicted Value atau nilai yang diprediksi adalah 212,689 atau sama
dengan perhitungan di atas (dengan pembulatan dua angka di belakang koma)
 Sedangkan kolom Residual adalah selisih antara Sales yang sesungguhnya dan Sales hasil
preiksi atau:
205 – 212,68 = -7,68 atau Rp7,68 juta
 Kolom Std Residual atau Standardized Residual/residual yang distandarasasikan adalah
hasil perhitungan :
STD RESIDUAL = RESIDUAL
STANDAR ERROR OF ESTIMATI
Untuk daerah Jakarta :
-7,68 / 17,13 = -0,448
NB : Angka 17,13 dari output bagian empat (Model Summary) dan berlaku untuk semua
daerah (15 buah data)
Semakin kecil Residual atau Standadized Residual akan semakinbaik bagi persamaan
regresi dalam memprediksi data. Demikian untuk data lainnya perhitungan sama dengan
contoh diatas.
 Output Bagian Kedelapan :

Bagian ini berjudul Residual Satistic (tidak ditampilkan tabelnya disini) dan membuat ringkasan
yang meliputi nilai minimum dan maksimum, mean dan standar deviasi dari predicted value
(nilai yang diprediksi) dan statistik residu.

Bagian Gambar/Chart :

Setelah diuraikan bagian output angka, sekarang beralih ke bagian output berupa chart untuk
menganalisis apakah syarat persamaan regresi dipenuhi. Berikut uji model regresi dengan
menggunakan output chart yang relevan.

a. Persyaratan Normalitas
Gambar dari Normal Probability Plot :

Jika residual beasal dari distribusi normal, maka nilai-nilai sebran data (lihat noktah
dengan nama daerah) akan terletak di sekitar garis lurus. Terlihat bahwa sebaran data
pada chart diatas bisa dikatakan tersebar di sekeliling garis lurus tersebut (tidak terpencar
jauh dari garis lurus). Maka bisa dikatakan bahwa persyaratan Normalitas bisa dipenuhi.
b. Persyaratan Kelayakan Model Regresi (Model Fit)
Chart kedua menggambarkan hubungan antara Nilai yang diprediksi dan Studentized
Delete Redsidual-nya dengan tampilan pada Chart kedua sebagai berikut :
Jika model regresi layak untuk dipakai untuk prediksi (fit) maka data akan berpencar di
sekitar angka nol (0 pada sumbu Y) dan tidak membentuk suatu pola atau trend garis
tertentu. Dari chart di atas terlihat selebaran data ada pada sekitar titik nol (hanya
Pekalongan yang jauh dari luar titik nol), serta tidak tampak adanya suatu pola tertentu
pada sebaran data tersebut. Maka, bisa dikatakanmodel regresi memenuhi syarat untuk
memprediksi Sales.
NB : Maksud membentuk ‘pola tertentu’ misal gambar membentuk kumpulan koordinat
(titik) yang cenderung ke kanan atas, ke kiri bawah, atau menarik kemudian menurun,
dan pola-pola lainnya.