ANALISIS REGRESI

A. SEJARAH REGRESI
Istilah regresi pertama kali diperkenalkan oleh Sir Francis Galton pada tahun 1886.
Galton menemukan adanya tendensi bahwa orang tua yang memiliki tubuh tinggi memiliki
anak-anak yang tinggi, orang tua yang pendek memiliki anak-anak yang pendek pula.
Kendati demikian. Ia mengamati bahwa ada kecenderungan tinggi anak cenderung
bergerak menuju rata-rata tinggi populasi secara keseluruhan. Dengan kata lain, ketinggian
anak yang amat tinggi atau orang tua yang amat pendek cenderung bergerak kearah rata-
rata tinggi populasi. Inilah yang disebut hukum Golton mengenai regresi universal. Dalam
bahasa galton, ia menyebutkan sebagai regresi menuju mediokritas.
Hukum regresi semesta (law of universal regression) dari Galton diperkuat oleh
temannya Karl Pearson, yang mengumpulkan lebih dari seribu catatan tinggi anggota
kelompok keluarga. Ia menemukan bahwa rata-rata tinggi anak laki-laki kelompok ayah
(yang) pendek lebih besar dari pada tinggi ayah mereka, jadi
“mundurnya” (“regressing”) anak laki-laki yang tinggi maupun yang pendek serupa kea
rah rata-rata tinggi semua laki-laki. Dengan kata lain Galton, ini adalah “kemunduran
kearah sedang”.
Secara umum, analisis regresi pada dasarnya adalah studi mengenai ketergantungan
satu variabel dependen (terikat) dengan satu atau lebih variabel independent (variabel
penjelas/bebas), dengan tujuan untuk mengestimasi dan/ atau memprediksi rata-rata
populasi atau niiai rata-rata variabel dependen berdasarkan nilai variabe! independen yang
diketahui. Pusat perhatian adalah pada upaya menjelaskan dan mengevalusi hubungan
antara suatu variabel dengan satu atau lebih variabel independen.
Hasil analisis regresi adalah berupa koefisien regresi untuk masing-masing variable
independent. Koefisien ini diperoleh dengan cara memprediksi nilai variable dependen
dengan suatu persamaan.
Analisis regresi merupakan alat analisis staistik yang memanfaatkan hubungan antara
dua variabel atau lebih. Tujuannya adalah untuk membuat perkiraan (prediksi) yang dapat
dipercaya untuk nilai suatu variabel (biasa disebut variabel terikat atau variabel dependent
atau variabel respons), jika nilai variabel lain yang berhubungan dengannya diketahui
(biasa disebut variabel bebas atau variabel independent atau variabel prediktor).
Analisis regresi pertama kali dikenalkan sebagai metode analisis statistik pada tahun
1877 oleh Sir Francis Galton (1822-1911) yang meneliti tentang hubungan antara tinggi
 badan orang tua (ayah) dengan anaknya. Beliau mengungkapkan bahwa terdapat
kecenderungan orang tua yang tinggi badannya akan memiliki anak yang tinggi pula atau
sebaliknya orang tua yang pendek badannya akan memiliki anak yang pendek pula, tetapi
distribusi (penyebaran) rata-rata tinggi badan dari generasi kegenerasi adalah tetap.
Selanjutnya hasil analisis Galton disempurnakan oleh Karl Pearson dengan
mengambil sampel lebih dari 1000 pengamatan. Pearson menemukan bahwa untuk
kelompok anak yang tinggi dan kelompok orang tua yang tinggi, ternyata tinggi badan
anak lebih pendek dari ayahnya. Sedangkan dari kelompok ayah dan anak yang lebih
pendek, ternyata tinggi badan anaknya lebih tinggi dari ayahnya. Peristiwa yang berbalikan
inilah disebut merosot (to regres).
B. KONSEP REGRESI
Setiap analisis regresi pasti ada korelasinya, tetapi analisis korelasi belum tentu
dilanjutkan dengan analisis regresi. Analisis korelasi yang dilanjutkan dengan analisis
regresi yaitu apabila korelasi mempunyai hubungan kausal (sebab – akibat) atau hubungan
fungsional. Untuk menetapkan dua variable mempunyai hubungan kausal atau tidak, harus
didasarkan pada teori atau konsep-konsep tentang dua variable tersebut.
C. KEGUNAAN REGRESI
Kegunaan dari analisis regresi adalah :
1. Analisis regresi digunakan untuk mengetahui bagaimana pola variable dependent
2. Untuk memperoleh suatu persamaan garis yang menunjukkan persamaan hubungan
antara dua variabel. Persamaan garis yang diperoleh disebut persamaan regresi.
3. Untuk mengetahui besarnya pengaruh perubahan tiap unit variabel bebas terhadap
perubahan variabel terikatnya. Pengaruh perubahan tiap unit variabel bebas ditunjukkan
oleh nilai koefisien regresinya.
4. Untuk menaksir nilai variabel terikat (Y) berdasarkan variabel bebas (X) yang nilainya
telah diketahui. Penaksiran disini bersifat deterministik (pasti) atau non-stokastik,
maksudnya penaksiran atau pendugaan yang dilakukan mengabaikan faktor
ketidakpastian.
D. REGRESI LINIER SEDERHANA
Analisis regresi sederhana hanya terdiri atas satu variabel bebas (peubah
penjelas/eksplanatori/prediktor) X dan satu variabel terikat (respon) Y dengan hubungan
linier. Kedua variabel ini merupakan variabel kuantitatif, khusus untuk Y harus dengan
skala interval atau rasio. Dengan visualisasi secara geometris dapat ditafsirkan bahwa
dengan analisis regresi kita ingin menduga garis populasi yang sesungguhnya tidak pernah
diketahui (garis lurus putus-putus) berdasarkan sampel pasangan data pada sampel.
Persoalanvini merupakan persoalan estimasi uji inferensi daam regresi. Garis regresi
penduga ini dapat dipergunakan untuk meramal (prediksi) rentang rata-rata nilai Y pada
saat nilai X diketahui, demikian juga rentang nilai-nilai Y pada saat nilai tertentu dari X .

Bentuk Umum Regresi Linier Sederhana

̂ = a + bx
𝒀
𝑌̂ : variable (peubah) dependent (tak bebas)/Kriteria (yang diprediksikan)
x : variable (peubah) independent (bebas/predictor)
a : konstanta (harga Y untuk X = 0)
b : angka arah (koefisien regresi); bila b positif (+), arah regresi naik dan bila
b negative (-) arah regresi turun.
Harga a dan b dapat ditentukan dengan rumus :
𝑺𝒀
𝒃=𝒓 ̅ − 𝒃𝑿
dan 𝒂 = 𝒀 ̅
𝑺𝑿

Keterangan :
𝑟 = koefisien korelasi product moment antara variable X dan variable Y.
𝑆𝑌 = simpangan baku variable Y
𝑆𝑌 = simpangan baku variable X
Harga a dan b dapat pula ditentukan dengan rumus :
𝑛 ∑ 𝑋𝑌 − ∑ 𝑋. ∑ 𝑌
𝑏=
𝑛 ∑ 𝑋 2 − (∑ 𝑋)2
∑ 𝑌 ∑ 𝑋 2 − ∑ 𝑋 . ∑ 𝑋𝑌
𝑎=
𝑛 ∑ 𝑋 2 − (∑ 𝑋)2
Berdasarkan nilai a dan b tersebut, selanjutnya dapat diketahui model persamaan
̂ = a + bx
regresi linier 𝒀
1. Pengujian keberartian koefisien regresi linier sederhana dengan Uji-F
Hipotesis yang diuji untuk menguji keberartian koefisien regresi linier yaitu :
H0 : 𝛽 = 0 (koefisien regresi tidak berarti/tidak nyata)
H1 : 𝛽 ≠ 0 (koefisien regresi berarti/nyata)
Untuk pengujian hipotesis ini menggunakan Uji-F dengan Rumus :
2
𝑅𝐽𝐾𝑅𝑒𝑔(𝑏⁄𝑎) 𝑆𝑅𝑒𝑔(𝑏 ⁄𝑎)
𝐹ℎ = = 2
𝑅𝐽𝐾𝑅𝑒𝑠 𝑆𝑅𝑒𝑠
𝑅𝐽𝐾𝑅𝑒𝑔(𝑏⁄𝑎) = rerata jumlah kuadrat regresi b/a (varians regresi b/a)
𝑅𝐽𝐾𝑅𝑒𝑠 = rerata jumlah kuadrat residu/sisa (varians residu/sisa)
 Kriteria pengujian :
Terima H0 jika Fh < Ftabel dan
Terima H0 jika Fh < Ftabel
Ftabel ditentukan dari tebel distribusi F untuk 𝛼 tertentu serta dk pembilang k = 1 dan
dk penyebut = n – 2 (k = banyaknya variable independent).
Untuk memudahkan perhitungan Fh, disajikan dalam table ringkasan ANAVA seperti
berikut :
Tebel 1. Ringkasan ANAVA Regresi Linier Sederhana
Rerata
Sumber Jumlah
Jumlah
Varians dk Kuadrat Fhitung Ftabel
Kuadrat
(SV) (JK)
(RJK)

Total n ∑ 𝑌2 - - -

Regresi (a) 1 JKReg (a) RJKReg(a)

Regresi 1 JKReg (b/a) RJKReg(b/a) 𝑅𝐽𝐾𝑅𝑒𝑔(𝑏⁄𝑎)
F(1 – 𝛼 ,dk1,dk2)
(b/a) 𝑅𝐽𝐾𝑅𝑒𝑠
Residu n–2 JKRes RJKRes

2. Pengujian keberartian koefisien regresi linier sederhana dengan Uji-t

Pengujian dengan Uji-t ini dapat dilakukan untuk uji satu pihak (baik pihak kanan
maupun pihak kiri) dan dapat juga digunakan untuk uji hipotesis dua pihak. Sehingga
hipotesis statistic yang dapat diuji dengan Uji-t, yaitu :
a. Uji hipotesis dua pihak
H0 : 𝛽 = 0
H1 : 𝛽 ≠ 0
b. Uji hipotesis satu pihak kanan
H0 : 𝛽 ≤ 0 (Buku Supardi)
H1 : 𝛽 > 0
c. Uji hipotesis satu pihak kiri
H0 : 𝛽 ≥ 0 (Buku Supardi)
H1 : 𝛽 < 0
Langkah-langkah pengujiannya yaitu :
a. Tentukan varians kekeliruan taksiran (varians error), dengan rumus :
 ∑(𝑌𝑖 −𝑌̂𝑖
𝑆𝑒2 = 𝑆𝑦.𝑥
2
= dan
𝑛−𝑘−1

𝑆2
𝑆𝑏 = √∑(𝑋 𝑦.𝑥 atau dengan rumus :
−𝑋̅)2
𝑖

𝑛−1
𝑆𝑒2 = 𝑆𝑦.𝑥
2
= (𝑛−2) (𝑆𝑦2 − 𝑏 2 𝑆𝑥2 )

b. Hitung kekeliruan baku koefisien regresi, dengan rumus :

𝑒 𝑆2
𝑆𝑏 = √∑(𝑋 −𝑋̅ )2
𝑖

c. Tentukan harga thitung, dengan rumus :

𝑏
𝑡ℎ =
𝑆𝑏

Atau, jika hipotesis menduka misalkan X berpengaruh p% terhadap Y, maka

thitung ditentukan dengan rumus :
𝒃−𝒑
𝒕𝒉 = 𝑆𝑏

d. Menentukan harga ttabel, yaitu didapat dari membaca table distribusi-t untuk taraf
signifikansi (𝛼 tertentu) dan dk = n – k – 1. Dalam hal ini n = banyaknya pasang
data (sampai unit analisis) dan k = banyaknya variable bebas.
e. Pengujian hipotesis
Pengujian hipotesis dilakukan dengan kriteria :
- Terima H0 jika |𝑡ℎ | < 𝑡𝑡 dan
- Tolak H0 jika |𝑡ℎ | > 𝑡𝑡
f. Pengujian keberartian konstanta regresi (a)
Selain digunakan untuk pengujian keberartian koefisien regresi, Uji-t juga dapat
digunakan untuk menguji keberartian konstanta regresi. Langkah-langkah
pengujian konstanta regresi secara prinsip hamper sama dengan pengujian koefisien
regresi, hanya bedanya yaitu pada : 1) rumusan hipotesis, dan 2) rumus menentukan
simpangan baku konstanta.
1. Hipotesis yang dapat diuji yaitu :
H0 : a = 0 (koefisien regresi tidak berarti/tidak nyata)
H1 : 𝑎 ≠ 0 (koefisien regresi berarti/nyata)
2. Simpangan baku kostanta dihitung dengan rumus :

2
1 𝑋̅ 2
𝑆𝑎 = √𝑆𝑒 ( + )
𝑛 ∑(𝑋𝑖 − 𝑋̅)2

3. Harga thitung ditentukan dengan rumus:

 𝑏
𝑡ℎ = 𝑆
𝑎

Atau, jika hipotesis menduka misalkan konstanta regresi adalah p%, maka
thitung ditentukan dengan rumus :
𝒃−𝒑
𝒕𝒉 = 𝑆𝑎

4. Menentukan harga ttabel, yaitu didapat dari membaca table distribusi-t untuk
taraf signifikansi (𝛼 tertentu) dan dk = n – k – 1. Dalam hal ini n = banyaknya
pasang data (sampai unit analisis) dan k = banyaknya variable bebas.
5. Pengujian hipotesis
Pengujian hipotesis dilakukan dengan kriteria :
- Terima H0 jika |𝑡ℎ | < 𝑡𝑡 dan
- Tolak H0 jika |𝑡ℎ | > 𝑡𝑡

Contoh soal regresi sederhana :

Data berikut adalah data kenaikan biaya promosi penjualan (sales Promotion) Selama 1
tahun dan kenaikna hasil Penjualan selama 1 tahun dalam persen.

X 1 2 4 6 7
Y 3 5 7 8 10
X = % kenaikan biaya promosi penjualan (sales promotion) selama 1 tahun.

Y = % kenaikan hasil penjualan selama 1 tahun

a. Hitung a dan b dari regresi linier sederhana 𝑌̂ = a + bx

b. Berapa ramalan hasil penjualan kalau biaya promosi penjualan dinaikan menjadi 10%
E. REGRESI LINIER BERGANDA
Analisis regresi linier berganda adalah hubungan secara linear antara dua atau lebih
variabel independen (X1, X2,….Xn) dengan variabel dependen (Y). Analisis ini untuk
mengetahui arah hubungan antara variabel bebas/independen dengan variabel tidak
bebas/dependen apakah masing-masing variabel independen berhubungan positif atau
negatif dan untuk memprediksi nilai dari variabel dependen apabila nilai variabel
independen mengalami kenaikan atau penurunan. Data yang digunakan biasanya berskala
interval atau rasio. Dalam uji regresi berganda, seluruh variable predictor (bebas)
dimasukan kedalam perhitungan regresi secara serentak. Jadi, peneliti bisa menciptakan
persamaan regresi guna memprediksi variable terikat dengan memasukan, secara serentak
serangkaian variable bebas. Persamaan regresi kemudian menghasilkan konstanta dan
koefisien regresi bagi masing-masing variable bebas.
Jika terdapat dua variable bebas (X1) dan (X2) serta variable tidak bebas (Y) maka
persamaan regresi ganda diselesaikan dengan langkah-langkah sebagai berikut :
1. Menentukan skor deviasi ukuran deskriftif seperti berikut :
𝟐
(∑ 𝑿𝟏 )
a. ∑ 𝑿𝟐𝟏 = ∑ 𝑿𝟐𝟏 − 𝒏
𝟐
(∑ 𝑿𝟐 )
b. ∑ 𝑿𝟐𝟐 = ∑ 𝑿𝟐𝟐 − 𝒏
𝟐
(∑ 𝒀)
c. ∑ 𝒚𝟐 = ∑ 𝒀𝟐 − 𝒏

(∑ 𝑿𝟏 ) (∑ 𝒀)
d. ∑ 𝒙𝟏 𝒚 = ∑ 𝑿𝟏 𝒀 − 𝒏

(∑ 𝑿𝟏 ) (∑ 𝒀)
e. ∑ 𝒙𝟐 𝒚 = ∑ 𝑿𝟐 𝒀 − 𝒏

(∑ 𝑿𝟏 ) (∑ 𝑿𝟐 )
f. ∑ 𝒙𝟏 𝒙𝟐 = ∑ 𝑿𝟏 𝑿𝟐 − 𝒏

2. Menentukan koefisien-koefisien dan konstanta persamaan regresi ganda :

a. Koefisien regresi X1
(∑ 𝒙𝟐𝟐 )(∑ 𝒙𝟏 𝒚) − (∑ 𝒙𝟏 𝒙𝟐 ) (∑ 𝒙𝟐 𝒚)
𝒃𝟏 = 𝟐
(∑ 𝒙𝟐𝟏 )(∑ 𝒙𝟐𝟐 ) − (∑ 𝒙𝟏 𝒙𝟐 )
b. Koefisien regresi X2
(∑ 𝒙𝟐𝟏 )(∑ 𝒙𝟐 𝒚) − (∑ 𝒙𝟏 𝒙𝟐 ) (∑ 𝒙𝟏 𝒚)
𝒃𝟐 = 𝟐
(∑ 𝒙𝟐𝟏 )(∑ 𝒙𝟐𝟐 ) − (∑ 𝒙𝟏 𝒙𝟐 )
c. Konstanta regresi ganda
∑𝒀 ∑ 𝑿𝟏 ∑ 𝑿𝟐
𝒂= − 𝒃𝟏 ( ) − 𝒃𝟐 ( )
𝒏 𝒏 𝒏
Harga-harga koefisien b1, b2 dan konstanta a dapat pula dicari dengan
menyelesaikan system persamaan berikut:
(i) ∑ 𝑥1 𝑦 = 𝑏1 ∑ 𝑥12 + 𝑏2 ∑ 𝑥1 𝑥2
(ii) ∑ 𝑥2 𝑦 = 𝑏1 ∑ 𝑥1 𝑥2 + 𝑏2 ∑ 𝑥22
(iii) 𝑎 = 𝑌̅ − 𝑏1 𝑋
̅̅̅1 − 𝑏2 𝑋
̅̅̅2
3. Persamaan umum regresi ganda dengan dua variable bebas dan satu variable tidak
bebas sebagai berikut:
𝒀 = 𝒂 + 𝒃𝟏 𝑿𝟏 + 𝒃𝟐 𝑿𝟐
4. Menentukan jumlah kuadrat (JK) sumber varians yang diperlukan :
 a. JKReg, yaitu jumlah kuadrat regresi ganda Y atas X1 dan X2, diperoleh dari :
𝐽𝐾𝑅𝑒𝑔 = 𝑏1 ∑ 𝑥1 𝑦 + 𝑏2 ∑ 𝑥2 𝑦
b. JKRes, yaitu jumlah kuadrat residu/sisa, diperoleh dari : 𝐽𝐾𝑅𝑒𝑠 = ∑ 𝑦 2 − 𝐽𝐾𝑅𝑒𝑔
5. Menentukan derejat kebebasan (dk) sumber varians yang diperlukan, yaitu:
a. dkReg = k
b. dkRes = n – k – 1
k = banyaknya variable predictor
n = banyaknya pasang data (banyaknya subjek sampel)
6. Menentukan Rerata Jumlah Kuadrat (RJK) sumber varians yang diperlukan:
𝑱𝑲𝑹𝒆𝒈
a. 𝑹𝑱𝑲𝑹𝒆𝒈 = 𝒅𝒌𝒓𝒆𝒈

𝑱𝑲
b. 𝑹𝑱𝑲𝑹𝒆𝒔 = 𝒅𝒌𝑹𝒆𝒔
𝑹𝒆𝒔

7. Menentukan harga Fhitung, yaitu :

𝑹𝑱𝑲𝑹𝒆𝒈 𝑹𝑱𝑲𝑹𝒆𝒈 (𝑱𝑲𝑹𝒆𝒈 )/𝒌
𝑭𝒉 = atau dapat dihitung langsung : 𝑭𝒉 = = (𝑱𝑲
𝑹𝑱𝑲𝑹𝒆𝒔 𝑹𝑱𝑲𝑹𝒆𝒔 𝑹𝒆𝒔 )/(𝒏−𝒌−𝟏)

8. Menentukan harga Ftabel dan menguji hipotesi penelitian, hipotesis yang di uji yaitu:
H0 : Regresi ganda Y atas X1 dan X2 tidak berarti/tidak nyata (tidak signifikan)
H1 : Regresi ganda Y atas X1 dan X2 berarti/nyata (signifikan)
Atau secara statistic ditulis :
H0 : 𝛽 1 = 𝛽 2 = 0
H1 : selain H0
Hipotesis tersebut diuji menggunakan Uji-F dengan kriteria pengujian :
Terima H0 jika Fh < Ft , dan
Tolak H0 jika Fh > Ft
Ftabel ditentukan dari table distribusi F untuk 𝛼 tertentu (missal 𝛼 = 0,05) serta dkpembilang
= k dan dkpenyebut = n – k – 1.
9. Selanjutnya dilakukan uji lanjut untuk menguji keberartian pengaruh setiap variable
bebas (predictor) secara parsial/sendiri-sendiri.
Dalam regresi ganda dengan dua variable bebas, maka uji lanjut ini dilakukan untuk
menguji :
a. Pengaruh X1 terhadap Y, dengan mengendalikan X2
b. Pengaruh X2 terhadap Y, dengan mengendalikan X1

Pengujian hipotesis uji lanjut ini dilakukan dengan Uji-t, baik uji dua pihak, uji satu
pihak kanan, maupun uji satu pihak kiri.
Hipotesis yang di uji untuj dua pihak yaitu :

H0 : 𝛽 i = 0
H1 : 𝛽 i ≠ 0 ; i = 1, 2, 3, …, k
Uji hipotesis satu pihak kanan
H0 : 𝛽 i ≤ 0
H1 : 𝛽 i > 0 ; i = 1, 2, 3, …, k
Uji hipotesis satu pihak kiri
H0 : 𝛽 i ≥ 0
H1 : 𝛽 i < 0 ; i = 1, 2, 3, …, k
Langkah-langkah pengujiannya yaitu :

a. Hitung varians kekeliruan taksiran regresi ganda

2
2
∑(𝑌𝑖 − 𝑌̂)
𝑆𝑒2 = 𝑆𝑦.12 =
(𝑛 − 𝑘 − 1)
𝑎𝑡𝑎𝑢 𝑑𝑒𝑛𝑔𝑎𝑛 𝑟𝑢𝑚𝑢𝑠 𝑙𝑎𝑖𝑛 ∶
∑ 𝑦 2 − 𝑏1 ∑ 𝑥1 𝑦 − 𝑏2 ∑ 𝑥2 𝑦
𝑆𝑒2 =
𝑛−𝑘−1
b. Hitung R = koefisien korelasi antara variable bebas Xi yang dianggap sebagai
variable terikat dengan variable-variabel bebas lainnya yang ada dalam system
regresi.
Untuk regresi dengan 2 variabel bebas, maka :
𝑛 ∑ 𝑋1 𝑋2 − (∑ 𝑋1 ) (∑ 𝑋2 )
𝑅 = 𝑟21 = 𝑟12 =
√𝑛 ∑ 𝑋12 − (∑ 𝑋1 ) 2 √𝑛 ∑ 𝑋22 − (∑ 𝑋2 ) 2

𝑎𝑡𝑎𝑢 𝑑𝑒𝑛𝑔𝑎𝑛 𝑟𝑢𝑚𝑢𝑠 𝑙𝑎𝑖𝑛 ∶

𝑏1 (∑ 𝑥1 𝑦) + 𝑏2 (∑ 𝑥2 𝑦)
𝑅=√
∑ 𝑦2

c. Hitung varians dan/atau simpangan kekeliruan baku setiap koefisien regresi b,

yaitu :

𝑆𝑒2 𝑆𝑒2
𝑆𝑏𝑖 = √ 2 atau rumus : 𝑆𝑏𝑖 = √ 2 atau rumus lain :
̅̅̅𝑖 ) )(1−𝑅𝑖2 )
(∑(𝑋𝑖𝑗 −𝑋 (∑ 𝑥𝑖𝑗 )(1−𝑅𝑖2 )

(𝑆𝑒2 )(∑ 𝑥22 )

𝑆𝑏𝑖 = √ 2
(∑ 𝑥12 ) (∑ 𝑥22 ) − (∑ 𝑥1 𝑥2 )
 d. Tentukan nilai thitung :
𝑏𝑖
𝑡ℎ = ; 𝑖 = 1,2
𝑆𝑏𝑖
e. Menentukan nilai ttebel dan pengujian hipotesis :
Harga ttabel dibaca dari table distribusi t untuk taraf signifikansi (𝛼) tertentu, misal
𝛼 = 0,05 dengan dk = n – k – 1; k = banyaknya variable bebas.
Pengujian hipotesis dilakukan dengan kriteria :
Terima H0 jika |𝑡ℎ | < 𝑡𝑡 dan
Tolak H0 jika |𝑡ℎ | > 𝑡𝑡

Contoh penerapan regresi berganda :

F. REGRESI LINIER BERGANDA LANJUTAN (3 ATAU LEBIH VARIABEL

BEBAS)
1. Regresi Linear Berganda Tiga Variabel Prediktor
Bentuk umum persamaannya:
Ŷ = a + b1 X 1 +b2 X 2 +b3 X 3
Ŷ = variabel dependent/terikat (yang diprediksikan)
a = konstanta (harga Y untuk X 1 = 0, X 2 = 0 dan X 3 = 0
b1 = angka arah (koefisien regresi) dari prediktor X1
b2 = angka arah (koefisien regresi) dari prediktor X2
b3 = angka arah (koefisien regresi) dari prediktor X3
X1 = variabel independent 1 (prediktor 1)
X2 = variabel independent 2 (prediktor 2)
X3 = variabel independent 3 (prediktor 3)
Langkah-langkah menentukan persamaan regresi dan pengujian
keberartian koefisien regresi ganda dengan tiga variabel prediktor sebagai berikut:
1. Tentukan harga-harga deskriptif:
∑ X1 , ∑ 𝑋2 , ∑ X3 , ∑ 𝑌 , n, X1 , X2 , X3 , Y, ∑ X1 2 , ∑ X2 2 , ∑ X3 2 ,
∑ Y2 , n
∑ X1 Y , ∑ X2 Y , ∑ X3 Y , ∑ X1 X2 , ∑ X1 X3 , ∑ X2 X3 .

2. Lakukan konversi penyederhanaan dengan metode skor deviasi:

2
(∑ 𝑌)
 ∑𝑦 = ∑𝑌 −
2 2
𝑛
2
(∑ 𝑋1 )
 ∑ 𝑥1 2 = ∑ 𝑋1 2 −
𝑛
 2
(∑ 𝑋2 )
 ∑ 𝑥2 2 = ∑ 𝑋2 2 −
𝑛
2
(∑ 𝑋3 )
 ∑ 𝑥3 2 = ∑ 𝑋3 2 −
𝑛
∑ 𝑋1 . ∑ 𝑌
 ∑ 𝑥1 𝑦 = ∑ 𝑋1 𝑌 −
𝑛
∑ 𝑋2 . ∑ 𝑌
 ∑ 𝑥2 𝑦 = ∑ 𝑋2 𝑌 −
𝑛
∑ 𝑋3 . ∑ 𝑌
 ∑ 𝑥3 𝑦 = ∑ 𝑋3 𝑌 −
𝑛
∑ 𝑋1 . ∑ 𝑋2
 ∑ 𝑥1 𝑥2 = ∑ 𝑋1 𝑋2 −
𝑛
∑ 𝑋1 . ∑ 𝑋3
 ∑ 𝑥1 𝑥3 = ∑ 𝑋1 𝑋3 −
𝑛
∑ 𝑋2 . ∑ 𝑋3
 ∑ 𝑥2 𝑥3 = ∑ 𝑋2 𝑋3 −
𝑛

3. Tentukan harga-harga 𝑏1 , 𝑏2 , 𝑏3 dan a dengan cara menyelesaikan sistem

persamaan berikut:
a. ∑ 𝑥1 𝑦 = 𝑏1 ∑ 𝑥1 2 + 𝑏2 ∑ 𝑥1 𝑥2 + 𝑏3 ∑ 𝑥1 𝑥3
b. ∑ 𝑥2 𝑦 = 𝑏1 ∑ 𝑥1 𝑥2 + 𝑏2 ∑ 𝑥2 2 + 𝑏3 ∑ 𝑥2 𝑥3
c. ∑ 𝑥3 𝑦 = 𝑏1 ∑ 𝑥1 𝑥3 + 𝑏2 ∑ 𝑥2 𝑥3 + 𝑏3 ∑ 𝑥3 2
d. 𝑎 = 𝑌 − 𝑏1 𝑋1 − 𝑏2 𝑋2 − 𝑏3 𝑋3

4. Membentuk persamaan regresi ganda dengan tiga variabel predictor:

Ŷ = a + b1 X 1 +b2 X 2 +b3 X 3

5. Menentukan harga jumlah kuadrat (JK) setiap sumber varian:

a. 𝐽𝐾𝑇𝑅 = ∑ 𝑦 2
b. 𝐽𝐾𝑅𝑒 𝑔 = 𝑏1 ∑ 𝑥1 𝑦 + 𝑏2 ∑ 𝑥2 𝑦 + 𝑏3 ∑ 𝑥3 𝑦
c. 𝐽𝐾𝑅𝑒 𝑠 = ∑ 𝑦 2 − 𝐽𝐾𝑅𝑒 𝑔

6. Menentukan harga derajat kebebasan (dk) sumber varian yang diperlukan:

𝑑𝑘𝑟𝑒 𝑔 = 𝑘
𝑑𝑘𝑟𝑒 𝑠 = 𝑛 − 𝑘 − 1

7. Menentukan harga Rerata Jumlah Kuadrat (RJK) sumber varian yang

diperlukan:
𝐽𝐾𝑟𝑒 𝑔
a. 𝑅𝐽𝐾𝑟𝑒 𝑔 =
𝑑𝑘𝑟𝑒 𝑔
𝐽𝐾𝑟𝑒 𝑠
b. 𝑅𝐽𝐾𝑟𝑒 𝑠 =
𝑑𝑘𝑟𝑒 𝑠
 8. Menentukan harga 𝐹ℎ :
𝑅𝐽𝐾𝑅𝑒 𝑔 (𝐽𝐾𝑅𝑒 𝑔 )/𝑘
𝐹ℎ = =
𝑅𝐽𝐾𝑅𝑒 𝑠 (𝐽𝐾𝑅𝑒 𝑠 )/(𝑛−𝑘−1)

9. Menentukan harga 𝐹𝑡𝑎𝑏𝑒𝑙 :

Harga 𝐹𝑡𝑎𝑏𝑒𝑙 dari tabel distribusi –F untuk taraf signifikasi tertentu (misal 𝛼 =
0,05) dengan 𝑑𝑘1 = 𝑑𝑘𝑝𝑒𝑚𝑏𝑖𝑙𝑎𝑛𝑔 = 𝑑𝑘𝑅𝑒 𝑔 dan
𝑑𝑘2 = 𝑑𝑘𝑝𝑒𝑛𝑦𝑒𝑏𝑢𝑡 = 𝑑𝑘𝑅𝑒 𝑠 .

10. Melakukan pengujian hipotesis :

Hipotesis yang diuji yaitu:
𝐻0 ∶ 𝛽1 = 𝛽2 = 𝛽3 = 0
𝐻1 ∶ selain 𝐻0
Kriteria pengujian: Tolak𝐻0 jika
𝐹ℎ𝑖𝑡𝑢𝑛𝑔 > 𝐹𝑡𝑎𝑏𝑒𝑙 , 𝑑𝑎𝑛 𝑡𝑒𝑟𝑖𝑚𝑎 𝐻0 𝑑𝑖𝑡𝑒𝑟𝑖𝑚𝑎 𝑗𝑖𝑘𝑎 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 < 𝐹𝑡𝑎𝑏𝑒𝑙 .

2. Regresi Linear Ganda Empat Variabel Prediktor

Bentuk umum persamaannya:
Ŷ = a + b1 X1 +b2 X2 +b3 X3 + b4 X4
Ŷ = variabel dependent/terikat (yang diprediksikan)
a = konstanta (harga Y untuk X1 = 0, X2 = 0, X3 = 0 dan X4
b1 = angka arah (koefisien regresi) dari prediktor X1
b2 = angka arah (koefisien regresi) dari prediktor X2
b3 = angka arah (koefisien regresi) dari prediktor X3
b4 = angka arah (koefisien regresi) dari prediktor X4
X1 = variabel independent 1 (prediktor 1)
X2 = variabel independent 2 (prediktor 2)
X3 = variabel independent 3 (prediktor 3)
X4 = variabel independent 3 (prediktor 4)
Langkah-langkah menentukan persamaan regresi dan pengujian keberartian
koefisien regresi ganda dengan tiga variabel prediktor sebagai berikut:
1. Tentukan harga – harga:
∑ X1 , ∑ X2 , ∑ X3 , ∑ X4 , ∑ Y , 𝑛, X1 , X2 , X3 , X4 , Y,
∑ 𝑋1 2 , ∑ 𝑋2 2 , ∑ 𝑋3 2 , ∑ 𝑋4 2 , ∑ Y 2 , ∑ X1 Y , ∑ X2 Y , ∑ X3 Y , ∑ X4 Y , ∑ X1 X2 ,
∑ X1 X 3 , ∑ X1 X 4 , ∑ X 2 X 3 , ∑ X 2 X 4 , ∑ X 3 X 4 .

2. Lakukan konversi penyederhanaan dengan metode skor deviasi :

2
(∑ 𝑌)
 ∑ 𝑦2 = ∑ 𝑌2 −
𝑛
2
(∑ 𝑋1 )
 ∑ 𝑥1 2 = ∑ 𝑋1 2 −
𝑛
2
(∑ 𝑋2 )
 ∑ 𝑥2 2 = ∑ 𝑋2 2 −
𝑛
 2
(∑ 𝑋3 )
 ∑ 𝑥3 2 = ∑ 𝑋3 2 −
𝑛
2
(∑ 𝑋4 )
 ∑ 𝑥4 2 = ∑ 𝑋4 2 −
𝑛
∑ 𝑋1 . ∑ 𝑌
 ∑ 𝑥1 𝑦 = ∑ 𝑋1 𝑌 −
𝑛
∑ 𝑋2 . ∑ 𝑌
 ∑ 𝑥2 𝑦 = ∑ 𝑋2 𝑌 −
𝑛
∑ 𝑋3 . ∑ 𝑌
 ∑ 𝑥3 𝑦 = ∑ 𝑋3 𝑌 −
𝑛
∑ 𝑋4 . ∑ 𝑌
 ∑ 𝑥4 𝑦 = ∑ 𝑋4 𝑌 −
𝑛
∑ 𝑋1 . ∑ 𝑋2
 ∑ 𝑥1 𝑥2 = ∑ 𝑋1 𝑋2 −
𝑛
∑ 𝑋1 . ∑ 𝑋3
 ∑ 𝑥1 𝑥3 = ∑ 𝑋1 𝑋3 −
𝑛
∑ 𝑋1 . ∑ 𝑋4
 ∑ 𝑥1 𝑥4 = ∑ 𝑋1 𝑋4 −
𝑛
∑ 𝑋2 . ∑ 𝑋3
 ∑ 𝑥2 𝑥3 = ∑ 𝑋2 𝑋3 −
𝑛
∑ 𝑋2 . ∑ 𝑋4
 ∑ 𝑥2 𝑥4 = ∑ 𝑋2 𝑋4 −
𝑛
∑ 𝑋3 . ∑ 𝑋4
 ∑ 𝑥3 𝑥4 = ∑ 𝑋3 𝑋4 −
𝑛

3. Tentukan harga-harga 𝑏1 , 𝑏2 , 𝑏3 , 𝑏4 dan a dengan cara menyelesaikan sistem

persamaan berikut:
a. ∑ 𝑥1 𝑦 = 𝑏1 ∑ 𝑥1 2 + 𝑏2 ∑ 𝑥1 𝑥2 + 𝑏3 ∑ 𝑥1 𝑥3 + 𝑏4 ∑ 𝑥1 𝑥4
b. ∑ 𝑥2 𝑦 = 𝑏1 ∑ 𝑥1 𝑥2 + 𝑏2 ∑ 𝑥2 2 + 𝑏3 ∑ 𝑥2 𝑥3 + 𝑏4 ∑ 𝑥2 𝑥4
c. ∑ 𝑥3 𝑦 = 𝑏1 ∑ 𝑥1 𝑥3 + 𝑏2 ∑ 𝑥2 𝑥3 + 𝑏3 ∑ 𝑥3 2 + 𝑏4 ∑ 𝑥3 𝑥4
d. ∑ 𝑥4 𝑦 = 𝑏1 ∑ 𝑥1 𝑥4 + 𝑏2 ∑ 𝑥2 𝑥4 + 𝑏3 ∑ 𝑥3 𝑥4 + 𝑏4 ∑ 𝑥4 2
e. 𝑎 = 𝑌 − 𝑏1 𝑋1 − 𝑏2 𝑋2 − 𝑏3 𝑋3 − 𝑏4 𝑋4

4. Membentuk persamaan regresi ganda dengan empat variabel predictor:

Ŷ = a + b1 X 1 +b2 X 2 +b3 X 3 + b4 X 4

5. Menentukan harga jumlah kuadrat (JK) setiap sumber varian:

a. 𝐽𝐾𝑇𝑅 = ∑ 𝑦 2
b. 𝐽𝐾𝑅𝑒 𝑔 = 𝑏1 ∑ 𝑥1 𝑦 + 𝑏2 ∑ 𝑥2 𝑦 + 𝑏3 ∑ 𝑥3 𝑦 + 𝑏4 ∑ 𝑥4 𝑦
c. 𝐽𝐾𝑅𝑒 𝑠 = ∑ 𝑦 2 − 𝐽𝐾𝑅𝑒 𝑔

6. Menentukan harga derajat kebebasan (dk) sumber varian yang diperlukan:

𝑑𝑘𝑟𝑒 𝑔 = 𝑘
𝑑𝑘𝑟𝑒 𝑠 = 𝑛 − 𝑘 − 1
 k = banyaknya variabel bebas/predictor
n = banyaknya pasang data (sampel unit analisis)

7. Menentukan harga Rerata Jumlah Kuadrat (RJK) sumber varian yang

diperlukan:
𝐽𝐾𝑟𝑒 𝑔
a. 𝑅𝐽𝐾𝑟𝑒 𝑔 =
𝑑𝑘𝑟𝑒 𝑔
𝐽𝐾𝑟𝑒 𝑠
b. 𝑅𝐽𝐾𝑟𝑒 𝑠 =
𝑑𝑘𝑟𝑒 𝑠

8. Menentukan harga 𝐹ℎ :
𝑅𝐽𝐾𝑅𝑒 𝑔 (𝐽𝐾𝑅𝑒 𝑔 )/𝑘
𝐹ℎ = =
𝑅𝐽𝐾𝑅𝑒 𝑠 (𝐽𝐾𝑅𝑒 𝑠 )/(𝑛−𝑘−1)

9. Menentukan harga 𝐹𝑡𝑎𝑏𝑒𝑙 :

Harga 𝐹𝑡𝑎𝑏𝑒𝑙 dari tabel distribusi –F untuk taraf signifikasi tertentu (misal 𝛼 =
0,05) dengan 𝑑𝑘1 = 𝑑𝑘𝑝𝑒𝑚𝑏𝑖𝑙𝑎𝑛𝑔 = 𝑑𝑘𝑅𝑒 𝑔 dan
𝑑𝑘2 = 𝑑𝑘𝑝𝑒𝑛𝑦𝑒𝑏𝑢𝑡 = 𝑑𝑘𝑅𝑒 𝑠 .

10. Melakukan pengujian hipotesis:

Hipotesis yang diuji yaitu:
𝐻0 ∶ 𝛽1 = 𝛽2 = 𝛽3 = 𝛽4 = 0
𝐻1 ∶ bukan 𝐻0
Kriteria pengujian: Tolak𝐻0 jika
𝐹ℎ𝑖𝑡𝑢𝑛𝑔 > 𝐹𝑡𝑎𝑏𝑒𝑙 , 𝑑𝑎𝑛 𝑡𝑒𝑟𝑖𝑚𝑎 𝐻0 𝑑𝑖𝑡𝑒𝑟𝑖𝑚𝑎 𝑗𝑖𝑘𝑎 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 < 𝐹𝑡𝑎𝑏𝑒𝑙 .

DAFTAR PUSTAKA

Dr. Supardi U.S, M.M., M.Pd dalam buku “Aplikasi Statistika dalam Penelitian”
Edisi Revisi Tahun 2013.

Akbar, Purnomo Setiady dan Husaini Usman. 2006. Pengantar Statistika Edisi
Kedua. Jakarta : PT Bumi Aksara

Akdon dan Riduwan .2013. Rumus dan Data dalam Analisis Statistika. Bandung
: Alfabeta.
Hamid, H.M. Akib dan Nar Herrhyanto. 2008. Statistika Dasar. Jakarta :
Universita Terbuka.

Sugiyono. 2015. Statistika untuk Penelitian. Bandung : Alfabeta.

Supranto. 2009. Statistik Teori dan Aplikasi Edisi Ketujuh. Jakarta : Erlangga