ANALISIS REGRESI

Analisis Regresi adalah analisis yang mengkaji

pola hubungan antara 2 variabel atau lebih yaitu
antara variabel bebas (variabel independen)
dan variabel tak bebas/terikat (variabel
dependen) yang dinyatakan dalam suatu bentuk
persamaan matematis yaitu persamaan regresi
yang tujuannya adalah untuk meramalkan nilai
variabel tak bebas (Y) berdasarkan variabel
bebas (X) tertentu.
 influences
Y X
Dependent variable Independent variable
Variabel tergantung Variabel bebas
Variabel respon Variabel prediktor

Explained variable Explanatory variable

(variabel yang dijelaskan) (variabel yang menjelaskan)
Contoh penerapan analisis regresi
1. Analisis Regresi antara tinggi orang tua
terhadap tinggi anaknya (Gultom).
2. Analisis Regresi antara pendapatan terhadap
konsumsi rumah tangga.
3. Analisis Regresi antara harga terhadap
penjualan barang.
4. Analisis Regresi antara tingkat upah terhadap
tingkat pengangguran.
5. Analisis Regresi antara tingkat suku bunga bank
terhadap harga saham
6. Analisis regresi antara biaya periklanan
terhadap volume penjualan perusahaan.
Tahap-tahap dalam Analisis Regresi
1. Plot data (scater plot)
2. Koefisien Korelasi
3. Pendugaan (estimasi) model regresi
4. Evaluasi (diagnostic check) kesesuaian model
regresi
5. Prediksi (forecast) suatu nilai Y pada suatu X
tertentu
1. Plot data (scater plot)
Langkah pertama dalam analisis regresi adalah
dengan membuat plot data yang berupa
diagram pencar (scatter diagram) yang
menggambarkan titik-titik plot dari data yang
diperoleh. Diagram pencar ini berguna untuk :
- membantu menunjukkan apakah terdapat
hubungan yang bermanfaat antara dua
variabel,
- dan membantu menetapkan tipe
persamaan yang menunjukkan hubungan
antara kedua variabel tersebut.
2. Koefisien Korelasi
Analisis Korelasi adalah analisis yang mengkaji
kuat hubungan linier antara 2 variabel yang
dinyatakan melalui koefisien korelasi (r).

n XY   X  Y
r
n X 2

  X 2  n Y 2   Y 2 
Besarnya koefisien korelasi –1  r  1
Arti besar nilai r
• Jika r = 1 atau mendekati 1 maka hubungan antara
2 variabel sangat kuat secara positif yaitu hubungan
yang terjadi searah yaitu apabila nilai X meningkat
maka Y juga akan semakin meningkat dan
sebaliknya.
• Jika r = -1 atau mendekati -1 maka hubungan
antara 2 variabel sangat kuat secara negatif yaitu
hubungan yang terjadi berbalik arah yaitu apabila
nilai X meningkat maka akan diikuti dengan
penurunan Y atau sebaliknya.
• Jika r = 0 atau mendekati 0 maka hubungan antara
2 variabel tidak ada atau lemah maka dapat
dikatakan tidak terdapat hubungan antara X dan Y.
Y r = -1

Y r=0

X
Menurut Sugiyono (2007) pedoman untuk
memberikan interpretasi koefisien korelasi adalah
sebagai berikut.

0.00 – 0.199 = sangat rendah

0.20 – 0.399 = rendah
0.40 – 0.599 = sedang
0.60 – 0.799 = kuat
0.80 – 1.000 = sangat kuat
Uji Signifikansi Koefisien Korelasi

Uji signifikansi koefisien korelasi digunakan untuk

menguji apakah hubungan yang terjadi itu berlaku
untuk populasi (dapat digeneralisasi)

Langkah-langkah pengujian :
1. Menentukan hipotesis
𝐻0 : 𝜌 = 0 (tidak ada hubungan yang signifikan
antar variabel
𝐻1 : 𝜌 ≠ 0 (ada hubungan yang signifikan antar
variabel)
2. Menentukan daerah penolakan (𝛼)
𝛼 = 1%, 𝛼 = 5% atau 𝛼 = 10%
3. Menentukan statistik uji
𝑟 𝑛−2
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 =
1 − 𝑟2
dibandingkan dengan 𝑡𝑡𝑎𝑏𝑒𝑙 = 𝑡(𝛼,𝑛−2)
2

atau jika menggunakan output komputer

menggunakan p-value dibandingkan dengan
nilai 𝛼
4. Menentukan daerah kritis
Ho ditolak jika 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 > 𝑡𝑡𝑎𝑏𝑒𝑙 atau p-value < 𝛼
5. Menentukan kesimpulan
3. Pendugaan Model Regresi
Untuk menduga nilai parameter 𝑎 dan 𝑏 terdapat
bermacam-macam metode yaitu :
o Metode kuadrat terkecil (least square
methode)
o Metode kemungkinan maksimum (maximum
likelihood methode)
o Metode kuadrat terkecil terboboti (weighted
least square methode)
o dsb
Metode Kuadrat Terkecil

Regresi merupakan suatu alat ukur yang juga

digunakan untuk mengukur ada atau tidaknya
korelasi antar variabelnya.

Istilah regresi itu sendiri berarti ramalan atau

taksiran.

Persamaan yang digunakan untuk mendapatkan

garis regresi pada data diagram pencar disebut
persamaan regresi.
Untuk menempatkan garis regresi pada data
yang diperoleh maka digunakan metode kuadrat
terkecil, sehingga bentuk persamaan regresi
adalah sebagai berikut:

𝑌෠ = 𝑎 + 𝑏𝑋

Dimana:
𝑌෠ : nilai estimate variabel terikat
𝑎 : titik potong garis regresi pd sumbu Y (nilai
estimate 𝑌෠ bila x=0)
𝑏 : gradien garis regresi (perubahan nilai
estimate 𝑌෠ per satuan perubahan nilai X)
𝑋 : nilai variabel bebas
Kesamaan diantara garis regresi dan garis trend tidak
dapat berakhir dengan persamaan garis lurus. Garis
regresi (seperti garis trend dan nilai tengah aritmatika)
memiliki dua sifat matematis berikut :

(Y – 𝑌)
෠ =0

dan (Y – 𝑌)
෠ 2 = nilai terkecil atau terendah

Dengan perkataan lain, garis regresi akan

ditempatkan pada data dalam diagram sedemikian
rupa sehingga penyimpangan (perbedaan) positif
titik-titik terhadap titik-titik pencar di atas garis akan
mengimbangi penyimpangan negatif titik-titik pencar
yang terletak di bawah garis, sehingga hasil
penyimpangan keseluruhan titik-titik terhadap garis
lurus adalah nol.
Untuk tujuan di atas, perhitungan analisis regresi
dan analisis korelasi dapat dipermudah dengan
menggunakan rumus dalam bentuk
penyimpangan nilai tengah variabel X dan Y,
yaitu penyimpangan dari

𝑋ത dan 𝑌ത
Oleh karena itu, dapat digunakan simbol berikut
ini :

𝑥 = 𝑋 − 𝑋ത

𝑦 = 𝑌 − 𝑌ത

dan

𝑥𝑦 = 𝑋 − 𝑋ത 𝑌 − 𝑌ത
Nilai dari a dan b pada persamaan regresi dapat
dihitung dengan rumus berikut :

σ 𝑥𝑖 𝑦𝑖
𝑏=
σ 𝑥𝑖2

𝑛 σ 𝑋𝑖 𝑌𝑖 − σ 𝑋𝑖 σ 𝑌𝑖
𝑏=
𝑛 σ 𝑋𝑖2 − σ 𝑋𝑖 2

𝑎 = 𝑌ത − 𝑏𝑋ത
Koefisien Regresi

• Adalah lereng garis regresi (nilai b)

• Nilai b positif , menunjukkan hubungan
antara variabel x dan y searah atau
hubungannya positif.
• Nilai b negatif, menunjukkan hubungan
antara variabel x dan y berlawanan arah
atau hubungannya negatif
• Besar kecilnya perubahan variabel x
terhadap variabel y ditentukan besar
kecilnya koefisien regresi.
Karyawan Hasil Produksi Skor Tes
(lusin) Kecerdasan
(Y) (X)
A 30 6

B 49 9

C 18 3

D 42 8

E 39 7

F 25 5

G 41 8

H 52 10
 PEMBACAAN GARIS REGRESI

Y  1,02  5,14 X
Dari model tersebut dapat diinterpretasikan sbb :
→ konstanta sebesar 1.02 menyatakan bahwa jika
tidak ada skor tes kecerdasan (X) maka hasil
produksinya (Y) sebesar 1.02 lusin
→ konstanta sebesar 5.14 menyatakan bahwa setiap
penambahan (karena tanda +) skor tes kecerdasan
(X) sebesar 1 satuan maka hasil produksinya (Y) akan
meningkat sebesar 5.14 lusin
 PEMBACAAN GARIS REGRESI

Y  1,02  5,14 X
Dari model tersebut dapat diinterpretasikan sbb :
→ konstanta sebesar 1.02 menyatakan bahwa jika
tidak ada skor tes kecerdasan (X) maka hasil
produksinya (Y) sebesar 1.02 lusin
→ konstanta sebesar 5.14 menyatakan bahwa setiap
penambahan skor tes kecerdasan (X) sebesar 1
satuan maka hasil produksinya (Y) akan MENURUN
(karena -) sebesar 5.14 lusin
 KOEFISIEN DETERMINASI

Koefisien Determinasi (R2)

Untuk mengetahui seberapa besar pengaruh variabel
X terhadap variabel Y atau seberapa besar variasi Y
dapat dijelaskan oleh X.
R2 = r2 x 100%

Misalkan : r = 0.8 maka R2 = 0.82 x 100% = 64%

artinya : Variabel Y dipengaruhi oleh
variabel X sebesar 64%
sisanya 100-64 = 36% dipengaruhi faktor lain.
PROBLEM 1: DATA HASIL PENGAMATAN …

Penjualan Harga
Minggu
(ribu unit) (ribu rupiah)
1. 10 1.3
2. 6 2.0
3. 5 1.7
4. 12 1.5
5. 10 1.6
6. 15 1.2
7. 5 1.6
8. 12 1.4
9. 17 1.0
10. 20 1.1

Pengamatan dilakukan dengan mengambil

secara random data 10 minggu penjualan
4. Evaluasi Kesesuaian Model Regresi
• Pengujian secara parsial (per koefisien)
dengan menggunakan uji t digunakan
untuk mengetahui apakah variabel-
variabel independen secara parsial
berpengaruh nyata atau tidak
terhadap variabel dependen.
• Pengujian bersama-sama dengan
menggunakan uji F (ANOVA)
digunakan untuk mengatahui apakah
variabel independen secara simultan
berpengaruh signifikan terhadap
variabel dependen.
 (LANJUTAN)

Pengujian secara parsial (per koefisien)

dengan menggunakan uji t
Pengujian terhadap 𝛽𝑖
Langkah-langkah :
• Menentukan H0 dan H1
𝐻0 ∶ 𝛽𝑖 = 𝛽𝑖.0
𝐻1 ∶ 𝛽𝑖 ≠ 𝛽𝑖.0
𝛽𝑖.0 adalah konstanta yang kita
tentukan, bila kita tentukan 0 berarti kita
hanya menguji adanya pengaruh
(kontribusi) X dalam meramalkan nilai Y
 (LANJUTAN)

• Menentukan 𝛼 (daerah penolakan)

• Menentukan Statistik Uji
𝛽መ𝑖 − 𝛽𝑖,0 𝛽መ𝑖 − 𝛽𝑖,0
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = =
𝜎ො 2 𝑠𝑒 𝛽መ1
𝑆𝑥𝑥
dibandingkan dengan 𝑡𝑡𝑎𝑏𝑒𝑙 = 𝑡(𝛼,𝑛−2)
2
atau jika menggunakan output
komputer menggunakan p-value
dibandingkan dengan nilai 𝛼
• Menentukan daerah kritis
Ho ditolak jika 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 > 𝑡𝑡𝑎𝑏𝑒𝑙 atau p-
value < 𝛼
• Menentukan kesimpulan
 (LANJUTAN)

Pengujian secara simultan dengan

menggunakan uji F
Pengujian terhadap 𝛽𝑖
Langkah-langkah :
• Menentukan H0 dan H1
Ho : semua variabel independen
secara simultan tidak berpengaruh
terhadap variabel dependen
H1 : semua variabel independen
secara simultan berpengaruh terhadap
variabel dependen
 (LANJUTAN)

• Menentukan 𝛼 (daerah penolakan)

• Menentukan Statistik Uji
𝑆𝑆𝑅
1 𝑀𝑆𝑅
𝐹ℎ𝑖𝑡𝑢𝑛𝑔 = =
𝑆𝑆𝐸 𝑀𝑆𝐸
(𝑛 − 2)
dibandingkan dengan 𝐹𝑡𝑎𝑏𝑒𝑙 = 𝐹(𝛼,1,𝑛−2)
atau jika menggunakan output
komputer menggunakan p-value
dibandingkan dengan nilai 𝛼
• Menentukan daerah kritis
Ho ditolak jika 𝐹ℎ𝑖𝑡𝑢𝑛𝑔 > 𝐹𝑡𝑎𝑏𝑒𝑙 atau p-
value < 𝛼
• Menentukan kesimpulan
 ANALYSIS OF VARIANCE (ANOVA)

o The analysis of variance identity is

o Simbol

o Jumlah kuadrat Total = JK (Regresi) + JK (Galat)

o JKT = JKR + JKG
Tabel ANOVA

dengan
 Y X
30 6 31.86 -5.14 26.4196 -1.86 3.4596
49 9 47.28 10.28 105.6784 1.72 2.9584
18 3 16.44 -20.56 422.7136 1.56 2.4336
42 8 42.14 5.14 26.4196 -0.14 0.0196
39 7 37 0 0 2 4
25 5 26.72 -10.28 105.6784 -1.72 2.9584
41 8 42.14 5.14 26.4196 -1.14 1.2996
52 10 52.42 15.42 237.7764 -0.42 0.1764
Total 296 56 296 0 951.1056 3.55271E-15 17.3056

Sum of Square DF Mean Square F_Hitung

SSR 951.1056 1 951.1056 329.7565
SSE 17.3056 6 2.884266667
SST 968.4112 7

df SS MS F Significance F
Regression 1 950.6944 950.6944 329.6148 1.79769E-06
Residual 6 17.30556 2.884259
Total 7 968
 (LANJUTAN)

Ho : tes skor kecerdasan secara simultan

tidak berpengaruh terhadap hasil produksi
H1 : tes skor kecerdasan secara simultan
berpengaruh terhadap hasil produksi

𝛼 = 0.05

F hitung = 329.7565
 (LANJUTAN)

dibandingkan dengan 𝐹𝑡𝑎𝑏𝑒𝑙 =

𝐹(𝛼,1,𝑛−2) =𝐹(0.05,1,6) =5.99
Karena F hitung > F tabel maka tolak Ho

Kesimpulan :
tes skor kecerdasan secara simultan
berpengaruh terhadap hasil produksi
 (LANJUTAN)

5. Prediksi (forecast) suatu nilai Y pada suatu X

tertentu

Dari contoh soal sebelumnya jika karyawan “I”

mempunyai tes skor kecerdasan sebesar 4
maka berapa hasil produksinya ?
 (LANJUTAN)

Persamaan regresi :

Y  1,02  5,14 X  1,02  5,14(4)  21,58
Jadi hasil produksinya sebesar 21,58 lusin