Regresi dan Korelasi

Linier Sederhana

Regresi Linear Sederhana 1

Grafik x vs y

Regresi Linear Sederhana 2

Regresi Linear Sederhana 3
Regresi Linear Sederhana 4
Regresi Linear Sederhana 5
Regresi Linear Sederhana 6
Regresi Linear Sederhana 7
Peramalan (Forecasting)
Peramalan sering diperlukan sebelum
pengambilan keputusan
Peramalan itu berkaitan dengan kemungkinan-
kemungkinan kejadian setelah suatu keputusan
diambil
Peramalan lebih mudah dilakukan dengan
adanya hubungan/relasi antara variabel yang
diramal dan variabel yang
diketahui/diantisipasi

Regresi Linear Sederhana 8

Analisis Regresi

Analisis ini mempelajari dan mengukur hubungan

statistik antar variabel
Regresi sederhana mengkaji dua variabel, regresi
majemuk mengkaji lebih dari dua variabel
Persamaan regresi dipakai menggambarkan pola/fungsi
hubungan antar variabel
Variabel yang diestimasi disebut variabel
terikat/respon, variabel yang mempengaruhinya disebut
variabel bebas/explanatory

Regresi Linear Sederhana 9

Diagram
Pencar
Gambar12.1

Regresi Linear Sederhana 10

 Analisis Regresi Linier Sederhana
Persamaan umum garis regresi linier sederhana
berbentuk persamaan garis lurus (pangkat satu)

ŷ = a + bx
dimana:
ŷ = nilai estimate variabel terikat
a = ttk ptg grs regresi pd sb y atau nilai estimate
ŷ bila x=0
b = gradien grs regresi (prbh nilai estimate ŷ per
satuan prbh nilai x)
x = nilai variabel bebas
Regresi Linear Sederhana 11
Diagram pencar dg garis regresi

Regresi Linear Sederhana 12

Garis Regresi Linier pd Diagram Pencar

Regresi Linear Sederhana 13

at a given x, Y and the corresponding both have variance
σ2.

Individual observations around true regression line.

Regresi Linear Sederhana 14

 metode least square
Sifat2 grs regresi linear:
1. Jumlah simpangan (deviasi) positif dari titik-titik yang
tersebar di atas garis regresi sama dengan jumlah
simpangan negatif dari titik-titik yang tersebar di
bawahnya

Σy = Σ(y- ŷ)=0

Regresi Linear Sederhana 15

2. Kuadrat simpangan-simpangan garis
regresi mencapai nilai minimum (least
square)

Σ(y)2 = Σ(y- ŷ)2 = minimum

Metode ini disebut juga metode least

square
Regresi Linear Sederhana 16
 Metode kuadrat terkecil

n
JKG   ei   yi  a  bxi 
2 2

i 1
minimum

Regresi Linear Sederhana 17

Bila JKG diturunkan thd a dan b:

 JKG  n
 2  yi  a  bxi 
a i 1

 JKG  n
 2  yi  a  bxi xi
b i 1

Regresi Linear Sederhana 18

Kedua persamaan disamakan dg nol,
akan diperoleh pers. Normal:

n n
na  b xi   yi
i 1 i 1

n n n
a  xi  b xi   xi yi
2

i 1 i 1 i 1

Regresi Linear Sederhana 19

Yg akan menghasilkan:
n
 n  n 
n xi y i    xi   y i 
b i 1  i 1  i 1 
2
n
 n

n xi    xi 
2

i 1  i 1 

a  y  bx

Regresi Linear Sederhana 20

Regresi Linear Sederhana 21
Contoh: data praktikum

uji ke x y xy x2 y2
1 3 18 54 9 324
2 5 25 125 25 625
3 6 30 180 36 900
4 7 39 273 49 1521
5 8 41 328 64 1681
6 8 42 336 64 1764
7 9 49 441 81 2401
8 10 52 520 100 2704
jml 56 296 2257 428 11920
rata2 7 37

Regresi Linear Sederhana 22

 uji ke x y xy x2 y2
...
jml 56 296 2257 428 11920
rata2 7 37

n
 n  n 
n xi yi    xi   yi 
b  i 1  i 1  i 1   8(2257)  (56)(296)  1480  5,1389
n
 n

2
8( 428)  (56) 2
288
n xi    xi 
2

i 1  i 1 

a  y  bx  37  (5,1389)(7)  1,0277

Jd pers garis regresi:

ŷ = a + bx = 1,0277 + 5,1389x
Regresi Linear Sederhana 23
Regresi Linear Sederhana 24
 Standar Error Estimasi
Derajat Ketergantungan (Dependability):
Kekuatan hubungan antar variabel bebas
dan terikat
Dua diagram pencar dengan persamaan
garis regresi yang sama dapat memiliki
kerapatan pencaran data yang berbeda

Regresi Linear Sederhana 25

Variasi Pencaran Data

Dari gambar di atas: suatu estimasi yg dlkk dg

persamaan grs regresi utk Gbr a akan lebih baik
dibandingkan Gbr b.

Regresi Linear Sederhana 26

Standar Error Estimasi

Standar Error Estimasi: Deviasi standar dari

penyebaran nilai-nilai teramati di sekitar garis
regresi

  y  yˆ   y  a y   b xy 
2 2

s y,x  
n2 n2

Regresi Linear Sederhana 27

Kesesatan Interpretasi Sampel
Interpretasi persamaan garis regresi atas data
sampel dapat menyesatkan (misleading) dalam
penerapannya terhadap populasi, misalnya utk
gbr berikut:

Regresi Linear Sederhana 28

 Analisis Korelasi

Analisis ini mengukur “seberapa kuat” atau

“derajat kedekatan” relasi antar variabel
Koefisien korelasi menggambarkan kekuatan
atau kedekatan relasi antar variabel itu
Analisis korelasi dan regresi biasa dilakukan
bersama-sama
Korelasi tidak menjelaskan hubungan sebab-
akibat dan bukan merupakan nilai persentase

Regresi Linear Sederhana 29

Analisis Korelasi Linier Sederhana
Deviasi Total: Penyimpangan nilai variabel
terhadap nilai rata-ratanya
Deviasi Total Terjelaskan: Penyimpangan nilai
variabel terikat, yang diprediksi persamaan
regresi, terhadap nilai rata-rata variabel itu
Deviasi Total Takterjelaskan: Penyimpangan
nilai variabel terhadap nilai prediksinya
Variasi Total: Jumlah variasi terjelaskan dan
takterjelaskan

Regresi Linear Sederhana 30

Deviasi Total

Gambar12.8

Regresi Linear Sederhana 31

Variasi total:
Variasi Total: Jumlah variasi terjelaskan
dan takterjelaskan

  y *  y     yˆ  y     y *  yˆ 
2 2 2

Regresi Linear Sederhana 32

Koefisien Determinasi:
Koefisien Determinasi (r2): Perbandingan variasi
terjelaskan dengan variasi total, nilainya antara
0 (tidak ada relasi) dan 1 (relasi sempurna)

  yˆ  y 
2

r 2

 y  y
2

a y   b xy   n y 
2

r  2

 y  n y 
2 2

Regresi Linear Sederhana 33

Koefisien Korelasi
Koefisien Korelasi: Akar dari koefisien
determinasi, tandanya (-/+) sesuai
konstanta b persamaan regresi, dan
nilainya antara -1 dan +1.

r =  r2

Regresi Linear Sederhana 34

Relasi Linier Sederhana
Relasi Linier Sederhana: Korelasi
positif/negatif sempurna, korelasi
berkekuatan relasi lebih besar/kecil, dan
tidak ada korelasi

Regresi Linear Sederhana 35

Relasi Linier
Sederhana
a. korelasi positif
sempurna
b. korelasi negatif
sempurna
c. dan d korelasi
positif dg
kekuatan relasi c
lbh bsr drpd d.
e. Tdk ada korelasi

Regresi Linear Sederhana 36

 Interpretasi relasi
Arti dari r2 = 0,982? Koef determinasi mrpk
rasio variasi terjelaskan dg variasi total.
Jadi sekitar 98,2% variasi dari nilai
variabel terikat dpt dijelaskan, artinya mmg
benar bhw variasi tsb dpt dijelaskan oleh
variasi variabel bebasnya (msh tdp 1,8%
variasi yg tdk terjelaskan dg sebab2 yg
blm diket).

Regresi Linear Sederhana 37

Regresi Linear Sederhana 38
 Contoh fenomena yg mpy hub linear

Hubungan antara kuat tarik dan regangan

Regresi Linear Sederhana 39

Contoh fenomena yg mpy hub linear

Pd detektor gamma: hubungan antara

energi gamma dan tinggi pulsa yg
dihasilkan detektor.

Regresi Linear Sederhana 40

 137Cs, E = 0,662 MeV
60Co, E = 1,17 dan
1,33 MeV

Regresi Linear Sederhana 41

Regresi Linear Sederhana 42
E vs no kanal puncak

Regresi Linear Sederhana 43

Regresi Linear Sederhana 44
Jk dipaksakan regresi linear, R kecil

Regresi Linear Sederhana 45

Jk diambil data sampai x = 3,5

Regresi Linear Sederhana 46

Pd umumnya persoalan penelitian yg
menggunakan regresi memerlukan lebih
dari satu variabel bebas dlm model
regresinya.
Byk gejala dlm ilmu dan rekayasa yg tidak
linear. Jk bentuk sesungguhnya diketahui,
maka seharusnya dicobakan model
sesungguhnya itu,

Regresi Linear Sederhana 47

multiple regression model

Regresi Linear Sederhana 48

multiple linear regression model

Jika suatu model mpy koefisien yg linear,

maka disebut model regresi linier
berganda (multiple linear regression
model)

Regresi Linear Sederhana 49

 Untuk suatu kasus dari k variabel bebas x1, x2, . . . ,
xk, mean dari Y |x1, x2, . . . , xk diberikan oleh model
regresi linear berganda

• βo, β1, β2, … , βk : koefisien / parameter model

estimated response didapatkan dari persamaan

regresi sampel:

Regresi Linear Sederhana 50

Pasangan data
No Variabel Variabel bebas
observasi terikat

Yi x1i x2i ….. xki

1 Y1 x11 x12 xk1
2 Y2 x21 x22 xk2

n Yn x1n x2n xkn

 Yi x1i x2 xki

Regresi Linear Sederhana 51

Menaksir koefisien

Menurut metode kuadrat terkecil untuk mencari taksiran

b0, b1, b2,… harus diminimalkan bentuk:

Regresi Linear Sederhana 52

Turunkan SSE secara berurutan thd bo, b1, b2,…dan
kmdn samakan dg nol, akan diperoleh pers normal:

Regresi Linear Sederhana 53

contoh
Suatu percobaan dlkk untuk menentukan
apakah berat binatang dpt diprediksi ssd
jangka wkt ttt berdasarkan berat badan
awal binatang tsb dan byknya makanan yg
dimakannya. Data percobaan di tabel slide
51.
Tentukan berat akhir binatang jika berat
awalnya 35 kg dan berat makanan yang
dikonsumsi 250 kg

Regresi Linear Sederhana 54

Regresi Linear Sederhana 55
Untuk 2 variabel bebas x1 dan x2

n n n
nb0  b1  x1i  b2  x2i   yi
i 1 i 1 i 1

n n n n
b0  x1i  b1  x12i  b2  x1i x2i   x1i yi
i 1 i 1 i 1 i 1

n n n n
b0  x2i  b1  x1i x2i  b2  x 22 i   x2i yi
i 1 i 1 i 1 i 1

Regresi Linear Sederhana 56

dari tabel di atas:

10 b0 + 379 b1 + 241 b2 = 825

379 b0 + 14.553 b1 + 92.628 b2 = 31.726
2417 b0 + 92.628 b1 + 601.365 b2 = 204.569

b0 = -22,9915 b1 = 1,3957 b2 = 0,2176

Jd pers regresinya:
Y = -22,9915 + 1,3957 x1 + 0,2176 x2

Regresi Linear Sederhana 57

Regresi Linear Sederhana 58
 SSE
R 
2

SST

Regresi Linear Sederhana 59

Semua model yg parameternya berbentuk linear
disebut model linear, tanpa memandang bgmn
bentuk peubah bebas tsb dlm model.
Contoh model tak linear adalah model
eksponensial.

– pers prediksi:

Regresi Linear Sederhana 60

Model regresi polinomial

Untuk pasangan data (xi, yi), I = 1, 2, …, n, taksiran

respon:

yˆ  b0  b1 x  b2 x  ...  br x
2 r

Regresi Linear Sederhana 61