Analisis Regresi

Regresi Linear Berganda

Pengantar

• Pada sesi sebelumnya kita hanya menggunakan satu buah X, dengan

model Y = a + bX
• Dalam banyak hal, yang mempengaruhi X bisa lebih dari satu. Model
umum regresi linear berganda adalah
Y = a + b1X1 + b2X2 + … + bnXn
RUMUS UNTUK MENGHITUNG a, b1, b2,
. . .bn
Kita lihat untuk dua variabel bebas

b̂ 
 X  X Y    X X  X Y 
2
2i 1i i 1i 2i 2i i
1
 X  X   X X 
2
1i
2
2i 1i 2i
2

b̂2 
 X  X Y   X X  X Y 
2
1i 2i i 1i 2i 1i i

 X  X   X X 
2
1i
2
2i 1i 2i
2

a  Y  b1 X 1  b2 X 2
Ilustrasi
Ingin dicari model regresi dari mutu pendidikan di suatu sekolah (Y),
dengan variabel bebas berupa Inovasi guru di kelas (X1) dan
ketersediaan sarana dan prasarana (X2 dalam prosentase)

Data ke 1 2 3 4 5 6 7 8 9 10

X1 90 94 81 82 91 72 63 73 84 85
X2 83 74 73 75 64 75 76 67 72 68
Y 88 90 78 80 88 80 74 78 82 80
Data ini agak aneh
 Silakan salin data tsb dalam excel

Perhatikan rumusnya dan pikirkan

Kolom apa yang mesti dibuat
Diperoleh hasil persamaan
regresi linear berganda

Jadi Y = 0.11321+0.0604X1+0.4465X2

Beri penafsiran terhadap persamaan yang diperoleh

Persamaan ini akan memberikan Korelasi yang kecil

Misalkan Y = Pengeluaran KK Dalam sebulan

X1 = Pendapatan dalam sebulan (ribuan rupiah)

X2 = Banyak anggota keluarga

Misalkan diperoleh persamaan regresinya

Y = 167.52 + 20.68X1 – 10.48X2

Beri Penafsiran terhadap persamaan regresi tersebut

Kalau persamaan seperti di atas akan memberikan

Korelasi yang sangat besar
Korelasi

• Menyatakan hubungan antara dua atau lebih peubah  asosiasi

• Bila dua peubah tidak berhubungan ; korelasinya 0, bila sempurna
korelasinya 1 (kolinier)
• Koefisien korelasi dinotasikan dengan R2
• Setelah ditaksir persamaan regresi dari data masalah
berikutnya adalah menilai baik/buruknya kecocokan
model dengan data
• Rumus :

2 JKR
R 
JKT
  yˆ i  y 2


  yi  y 
2

0  R2  1
kalau digunakan rumus di atas cukup repot
jika kita bekerja dimulai dari data (Xi ,Yi )
dengan sampel berukuran n, dapat digunakan
rumus berikut

r
n X iYi   X  Y 
i i

n X 2
i   X  n Y   Y  
i
2
i
2
i
2
 Silakan lihat kembali data tentang hubungan
Biaya iklan dengan hasil penjualan

Tahun 1 2 3 4 5 6 7 8 9 10

X 10 9 11 12 11 12 13 13 14 15

Y 44 40 42 46 48 52 54 58 56 60

Silakan buat tabelnya

Diperoleh r = 0.92261
Atau
r2 = 0.8521

r2 disebut dengan koefisien determinasi

Artinya 85.21% hasil penjualan ditentukan oleh biaya iklan

Yang dikeluarkan

Ingat koefisien determinasi ini berbeda dengan Indeks

Determinasi,
Kalau indek determinasi ditentukan oleh rumus
Indek Determinasi

I
 Y i Y   Y  Ŷ 
2
i
2

 Y  Y 
2
i

JK tot  JK res
I
JK tot

Silakan coba sendiri buat tabelnya

Dan hitung Indek Determinasi serta bandingkan
Dengan koefisien determinasi
Korelasi ganda dan Korelasi Parsial

Jika ada 2 atau lebih variabel bebas, maka kita

punya regresi linear ganda, begitu juga halnya
dengan korelasi, jika ada 2 atau lebih variabel
bebas, maka kita punya korelasi ganda dan
korelasi parsial

Ingat persamaan regresi ganda

Y= a + b1X1 + b2X2

Selanjutnya akan dicari koefisien korelasinya

Derajat hubungan ketiga variabel atau lebih
Disimbulkan dengan R2

2
JK Re g
R 
 i
y 2

dengan yi  Yi  Y

2
b1  x1i yi  b2  x 2 i yi
R 
 i
y 2

Kita ambil contoh data pada regresi linear ganda

Yang di bahas di atas
Diperoleh R2 = 0.0835
Jadi koefisien korelasi gandanya adalah R = 0.289
Artinya 28.9% . . . . . . .

Sebenaarnya rumus di atas lebih baik digunakan

Untuk menentukan koefisien korelasi berganda
Jika variabel bebasnya banyak
Jika variabel bebasnya hanya sedikit sebaiknya gunakan
Rumus berikut
Untuk 2 variabel bebas

R y21  R y22  2 R y1 R y 2 R12

R y .12 
1  R122

R y21  koofisien korelasi antara Y dengan X 1

R y22  koofisien korelasi antara Y dengan X 2
R122  koofisien korelasi antara X 1 dengan X 2
Ingat rumus koefisien korelasi

Buat tabelnya

Hitung koefisien korelasinya

Beri tafsiran terhadap semua

koefisien korelasi yang diperoleh
R y1 
n X 1iYi   X  Y  1i i

n X 2
1i   X  n Y   Y  
1i
2
i
2
i
2

R y2 
n X 2 iYi   X  Y 2i i

n X 2
2i   X  n Y   Y  
2i
2
i
2
i
2

R12 
n X 1i X 2 i   X  X  1i 2i

n X 2
1i   X  n X   X  
1i
2 2
2i 2i
2
DIPEROLEH

Ry1= 0.89

Ry2 = -0,27

R12 = -0.36

INGAT

2 2
R  R  2 R y1 R y 2 R12
y1 y2
R y .12  2
1 R 12
DIPEROLEH Ry12 = 0.8915
ARTINYA 89.15% MUTU PENDIDIKAN TSB
DITENTUKAN OLEH INOVASI GURU DIDEPAN
KELAS DAN KETERSEDIAAN SARANA DAN
PRASARANA

SELANJUTNYA KITA LIHAT KOEFISIEN

KORELASI PARSIAL ANTARA VARIABEL Y
DENGAN X1 (RY1.2) DENGAN MENGANGGAP
X2 KONSTAN
DAN KOEFISIEN KORELASI PARSIAL ANTARA
VARIABEL Y DENGAN X2 (Ry2.1) DENGAN
MENGANGGAP X1 KONSTAN
 R y1  R y 2 R12
R y1.2 
1  R 2
y2 .1  R 
2
12

KOEFISIEN KORELASI ANTARA VARIABEL Y

DENGAN VAR BEBAS X1 DENGAN MENGANGGAP
VARIABEL BEBAS X2 TETAP

R y 2  R y1 R12
R y 2. 1 
1  R .1  R 
2
y1
2
12

KOEFISIEN KORELASI ANTARA VARIABEL Y

DENGAN VAR BEBAS X2 DENGAN MENGANGGAP
VARIABEL BEBAS X1 TETAP
PERHATIKAN LAGI DENGAN
BENAR CARA PENGERJAANNYA
DENGAN MENGGUNAKAN
MICROSOFT EXCEL
DIPEROLEH

Ry1.2 = 0.8198

Ry2.1 = 0.2628

JELASKAN MAKNA DARI KOEFISIEN

KORELASI DI ATAS
Kalau ada tiga variabel bebas, X1, X2 dan X2
Misalkan kita ingin mengcari Koefisien korelasi antara
Variabel Y dengan variabel X1 dengan mengganggap
Variabel X2 dan X2 konstan.

R y1.2  R y 3.2 R13.2

R y1.23 
1  R .1  R 
2
y 3.2
2
13.2

Silakan buat rumus untuk R y 2.13 dan R y3.12

Hubungan andara korelasi ganda dan korelasi parsial

Untuk variabel-variabel Y, X1 dan X2

1  R   1  R 1  R 
2
y .12
2
y1
2
y2

Untuk variabel-variabel Y, X1,X2 dan X3

1  R   1  R 1  R 1  R 
2
y .123
2
y1
2
y 2.1
2
y 3.12
BERBAGAI VARIANS SEHUBUNGAN
DENGAN REGRESI LINEAR SEDERHANA
Korelasi dengan SPSS
Assumsi Pada Korelasi Kart Pearson
•Var Berdistribusi Normal
• Variabel tidak bersifat kontinu atau interval

Assumsi Pada Korelasi Tau Kendall

• Kedua data mempunyai gejala ordinal
•Korelasi ini baik juga digunakan untuk korelasi parsial

Assumsi Pada Korelasi Spearman

•Data bersifat Ordinal sehingga objek yang diteliti
dimungkinkan untuk diberi jenjang atau ranking
Metoda Least Squares Secara Grafik
Maka varians  e2 ditaksir oleh rata - rata kuadrat
penyimpang an sekitas regresi, yang disebut dengan
rata - rata kuadrat residu

s2
YX
2
e 
 s   Yi  Ŷ  / n  2
2

s 2

n  1 2
s  b s 
2 2
YX Y X
n2
sY2 dan s X2 merupakan varians dari Y dan X
Lihat juga rumus lain pada perkuliahan ke 9 tentang sX
Varians lain yang juga bisa ditentukan adalah

2 2
sYX sYX
sb2  
 Xi  X    Xi   
2

 X i 
2

 n 
 1 X
2 
sb2  sYX
2
.  2


 n  X i  X   SEBAIKNYA
HITUNG
  DENGAN
  EXCEL
2
 1 X 
2
 sYX .  Sebagai latihan
2 
 n  
 Xi  
 X i 
2
 
  n  
Menguji hipotesis sehubungan dengan
regresi linear Sederhana

??? Apakah persamaan regresi yang diperoleh betul-betul

Linear, jangan-jangan kuadratik, eksponensial, logiritma dll

Apakah koesien regresi yang kita peroleh benar atau tidak

Dengan kata lain perlukah di uji

H0 : 2 = 56 dll, melawan suatu alternatif

H1 : 2 ≠ 56

Untuk ujinya digunakan statistik uji t

 b   56
t
sb

Dengan dk = n – 2
Tolak hipotesis jika t ≥ t1-1/2

Contoh, perhatikan persamaan regresi linear

sederhana pada perkuliahan ke 9 yaitu

Y  6.1  0.6X
 dari Y  6.1  0.6X
Berarti setiap pertambahan 100 orang pengunjung terjadi
Penambahan yang belanja sebanyak 66.1 orang

Maka kita harus menguji H0 : 0.66 melawan H1 : 0.60

Untuk itu pertama-tama kita hitung sb

Ingat
S 2

 X i X   n X   X 
2
i i
2

nn  1
X
n 1
Lihat latihan di excel
 0.59  0.66
t  0.47
0.15

Dari tabel t dengan n = 12, dk = 12-2 = 10 dan =0.05

Diperoleh nilai t tabel = 2.23

Diperoleh t tabel < t hitung, maka hipotesa diterima

Artinya benar banyaknya yang belanja tergantung pada
Banyaknya pengunjung

Kita lihat dengan menggunakan SPSS

spss

Siapa yang merasa perlu caranya catat sendiri

Materi
1.Regresi
2.Korelasi
3.Anova
4.Uji Hipotesi
Membuat histogram, dll
Pelajari sendiri
Ingat, Kalau menggunakan SPSS
Pada SPSS
H0 : Persamaan garis tidak linear
H1 : Persamaan garis linear
Dengan kriteria nilai F dan Sig pada tabel ANOVA
Tapi kalau kriteria ini digunakan kita harus melihat
Nilai F pada tabel

Untuk lebih mudah, kriterianya adalah sebagai berikut

Terima H0 jika nilai Sig Pada tabel ANOVA ≥0.05
Artinya persamaan garis tidak linear

Dan tolak H0 (terima H1 jika nilai sig < 0.05)

Artinya persamaan garis adalah liniear
Dengan SPSS diperoleh nilai Sig = 0.03
Jadi Tolak H0 : dengan kata lain terima H1 yang artinya
Persamaan garis adalah linear.

Jangan lupa baca juga uji kelinearan regresi pada buku

Statistik (Sudjana hal 330)
???? Bagaimana kalau data sudah dalam daftar
distribusi frekuensi?????

Bagaimana menentukan koefisien korelasinya

Perhatikan contoh tabel berikut

 Data penghasilan dan pengeluaran biaya
pendidikan (dalam Rp. 1000)
Penda
30-39 40-49 50-59 60-69 70-79 80-89 90-99 Jum
penge patan lah
luaran Fy
0.00-0.99 1 1
1.00-1.99 2 3 1 6
2.00-2.99 1 2 10 2 15
3.00-3.99 5 6 5 1 1 1 19
4.00-4.99 2 4 3 2 1 12
5.00-5.99 1 10 6 2 19
6.00-6.99 2 5 2 2 11
7.00-7.99 1 1 2
Jumlah 4 10 19 14 19 12 7 N=85
Fx
r
n f i X iYi   f X   f Y  x i y i

n f X   f X  n f Y   f Y  
2 2 2 2
x i x i y i y i

Jika panjang kelas interval sama maka

Misalkan
C x sebagai tanda untuk variabel X
C y sebagai tanda untuk variabel Y

Maka rumus bisa disederhanakan menjadi :

r
n f i C x C y  f C   f C x x y y

n f C   f C  n f C   f 
2 2 2 2
x x x x y y yCy