Pengenalan Pola

Regresi Linier
Dewi Wulandari P07124322142
Elo Mariyah P07124322126
Rini Setyowati P07124322144
Utik Sri Lestari P07124322046
Erianggun Mahardani Widodo P07124322117
Anggun Dewi Fatmawati P07124322113
Ayu ariningtyas P07124322114
Lina susilawati P07124322146
Vina Dewantari p07124322137
Shintha kusumaning pribadi P07124322139
PTIIK P07124322034
Fitri Nur Hidayah - 2014
Dwi Suryawati P07124322115
Mita Safitri P07124322128
Course Contents

1 Definisi Regresi Linier

2 Model Regresi Linear

3 Estimasi Regresi Linear

4 Studi Kasus dan Latihan

 Definisi Regresi Linier

 Regresi adalah membangun model untuk

memprediksi
 nilai dari databerbeda
Prediksi masukan yang diberikan.
klasifikasi (catatan: dalam
dengan klasifikasi dianggap sebagai salah
satu jenis dari learning,
machine prediksi).
 Klasifikasi digunakan untuk memprediksi label kelas/kategori.
 Metode utama untuk melakukan prediksi : Membangun model
regresi yaitu dengan mencari hubungan antara satu atau lebih
variabel independen atau prediktor (X) dengan variabel
dependen atau respon (Y).
Definisi Regresi Linier

 Macam-Macam Analisis Regresi :

• Linear and multiple regression.
• Non-linear regression (neural networks, support
vector machines).
• Other regression methods : generalized linear model,
Poisson regression, log-linear models, regression trees.
Model Regresi Linier
 Model regresi linier sederhana
mendefinisikan hubungan linier
yang tepat antara nilai yang
diharapkan atau rata-rata Y,
variabel terikat Y, dan variabel
independen atau prediktor X:
y|x= + x
 Nilai yang diamati Realisasi Y (y)
berbeda dari nilai yang diharapkan
(y|x) dengan kesalahan yang tak
dapat dijelaskan atau acak ():
y +
= y|x
= + x +

 Model Regresi Linier
 Model Regresi Linier Sederhana :

y=  +  x + dengan y|x=+ x

 y adalah variabel respon (dependent), atau variabel
yang ingin kita prediksi, x adalah variabel prediktor
(independen) dan  adalah variabel tingkat kesalahan yang
merupakan satu-satunya komponen acak dalam model regresi.
 adalah titik potong garis regresi pada sumbu koordinat. 
adalah besarnya gradien/kemiringan garis regresi.
 y|x adalah mean dari y dengan syarat x telah ditentukan, atau
disebut sebagai rata-rata bersyarat y.
 Model Regresi Linier
 Model Umum Regresi Linier : y=  +  x +

 Keterangan :
  dan  adalah parameter yang akan ditentukan nilainya untuk
membangun persamaan regresi. Parameter tersebut tidak diketahui
sebelumnya. Kita perkirakan nilainya dengan menghitung dari data
yang ada.
  menunjukkan tingkat perubahan untuk setiap kenaikan nilai X.
 X telah diketahui sebelumnya dan bernilai konstan.
 Deviasi/Penyimpangan nilai  bersifat independent
dan
berdistribusi
 Hasil Normal  Regresi
Estimasi Persamaan ~ N(0,:2).
yˆ  b0 
b1 x
 Visualisasi Regresi Linier
LINE assumptions of the Simple
Y
Linear Regression Model  Hubungan antara X dan Y
adalah Stright-Line (linear).
 Nilai-nilai variabel X
independen diasumsikan tetap
y|x= +  x (tidak acak), satu-satunya
keacakan dalam nilai-nilai Y
berasal dari kesalahan 
y  Kesalahan  tidak berkorelasi
(yaitu Independent) dalam
Identical normal pengamatan berturut-turut.
distributions of errors,
all centered on the Kesalahan  biasanya
N(y|x, y|x2) regression line.
didistribusikan dengan mean 0
dan varians 2 yaitu: ~ N(0,2)
X
x
 Estimasi Regresi Linier

 Estimasi Persamaan Umum Regresi : yˆ  b0 

b1 x n
SSE   ( yi  yiˆ 2) 
n
y  b0  b
 Menghitung sum of squared
i1 1 errors (SSE):
 x
i1 2

 Metode least squares/ kuadrat terkecil memberikan kita

hasil estimasi "terbaik" untuk kita set pada data sampel.
 Metode least squares / kuadrat terkecil memilih nilai-nilai
b0 dan b1 untuk meminimalkan sum of squared
(SSE).
errors n xy -  x  y   y -1b
b1 b0  y  b x
  x 1 n
n  x 2   x 
2
 Y

yi
Error ei  yi  yˆ i
. yˆa
 bx
the fitted regression line

yˆ yˆ the predicted value of Y for x

i {
X
xi
Y Y

Data
Three errors from the
least squares regression
X line X
Y e

Three errors Errors from the

from a fitted least squares
line regression line are
X X
minimized
 Contoh Studi Kasus
 Perhatikan data biaya pemeriksaan ANC yang digunakan (X) dan
hubungannya dengan Tingkat kunjungan ANC (Y) diberikan dalam
datasetNo
berikut : X Y

1 1250 41
2 1380 54
3 1425 63
4 1425 54
5 1450 48
6 1300 46
7 1400 62

Tentukan persamaan Regresinya!

 Penyelesaian :
 Mengestimasi least squares/kuadrat terkecil dari koefisien Regresi :

 13280650
n  7  x  9630  x 2

 y  368  xy  508695
n  xy   x y 7(508695)  (9630)(368)
b1    0.075
7 (1 3 2 8 0 6 5 0 )  (9 6 3 0 ) 2

n  x 2  ( x) 2

368 
b0   y - b   50.3125
n
1
0.075(9630)
7
yˆ  b0 x b1 x

 Hasil Estimasi Persamaan Regresinya adalah : yˆ  0.075x -

50.3125
 afif.supianto@ub.ac.i
d 081 331 834 734 / 088 160 127
40