REGRESI

LINIER
Statistik Ekonomi
OTG
166
ODP 14 25%
PDP 4
Positif 4
Covid19 Salatiga, update: 19 april 2020
Regresi adalah suatu metode analisis statistik
yang digunakan untuk melihat pengaruh antara
dua atau lebih banyak variabel.
Tujuan Penggunaan Analisis Regresi antara
lain: Membuat estimasi rata-rata dan nilai
variabel tergantung (dependen) dengan
didasarkan pada nilai variabel bebas

2
Pendugaan parameter model regresi linier sederhana dengan
menggunakan metode least square. Metode ini pada
dasarnya untuk meminimalisasi error titik data terhadap garis
lurus terbaik. Misalkan satu set data regresi Yi, Xi dimana i =
1, 2, ... , n, maka bentuk hubungan Yi dan Xi dalam
persamaan regresi linearnya yaitu
𝑌𝑖 = 𝑏0 + 𝑏1 𝑋𝑖 + 𝑒𝑖

3
Metode ini berdasarkan error
minimum. Yang penting dari
metode kuadrat terkecil ada tiga
parameter, yaitu gradien garis
lurus terbaik (b1), perpotongan
garis lurus di sumbu Y terbaik (b0),
dan koefisien korelasi (r); untuk
persamaan garis lurus atau garis
regresinya
𝑌෠𝑖 = 𝑏0 + 𝑏1 𝑋𝑖
4
• error data yang terjadi antara setiap titik data, dapat dituliskan

𝑒𝑖 = 𝑌𝑖 − 𝑌෠𝑖 dengan i = 1,2, ...... ,n

n = banyaknya data; 𝑌𝑖 nilai real; 𝑌෠𝑖 nilai 𝑝𝑟𝑒𝑑𝑖𝑡𝑒𝑑
• MLS: metode yang meminimumkan jumlah kuadrat error,
sehingga
𝑛
fungsi dapat dituliskan
𝑆𝑆𝐸 = ෍ 𝑒𝑖2 SSE= sum of squares for error
𝑖
𝑛 𝑛 𝑛
2
𝑆𝑆𝐸 = ෍ 𝑒𝑖2 = ෍ 𝑌𝑖 − 𝑌෠𝑖 = ෍ 𝑌𝑖 − (𝑏0 + 𝑏1 𝑋𝑖 ) 2

𝑖=1 𝑖=1 𝑖=1

Maka, SSE adalah fungsi dari koefisien fungsi Y; yaitu

SSE = S(b0,b1). 5
Agar nilai SSE minimum, haruslah ditetapkan koefisien b0 dan b1
sehingga turunan parsial SSE terhadap b0 dan b1 sama dengan
Nol,

𝜕𝑆𝑆𝐸 𝜕𝑆𝑆𝐸
=0 dan =0
𝜕𝑏0 𝜕𝑏1

turunan pertama fungsi SSE terhadap b0 atau b1 yang sama

dengan nol adalah minimumnya.

6
Turunan persamaan SSE terhadap b0 sama dengan nol;
menghasilkan

𝑛
𝜕𝑆𝑆𝐸
= −2 ෍ 𝑌𝑖 − 𝑏0 − 𝑏1 𝑋𝑖 = 0
𝜕𝑏0
𝑖=1

𝑛 𝑛

𝑛𝑏0 + 𝑏1 ෍ 𝑋𝑖 = ෍ 𝑌𝑖 ............................................................. Persamaan 1

𝑖=1 𝑖=1

7
Turunan persamaan SSE terhadap b1 sama dengan nol;
menghasilkan 𝑛 𝑛
2
𝑛

𝑆𝑆𝐸 = ෍ 𝑒𝑖2 = ෍ 𝑌𝑖 − 𝑌෠𝑖 = ෍ 𝑌𝑖 − (𝑏0 + 𝑏1 𝑋𝑖 ) 2

𝑖=1 𝑖=1 𝑖=1

𝑛
𝜕𝑆𝑆𝐸
= −2 ෍ 𝑌𝑖 − 𝑏0 − 𝑏1 𝑋𝑖 . 𝑋𝑖 = 0
𝜕𝑏1
𝑖=1
𝑛 𝑛 𝑛

𝑏𝑜 ෍ 𝑋𝑖 + 𝑏1 ෍ 𝑋𝑖2 = ෍ 𝑋𝑖 𝑌𝑖 ............................................. Persamaan 2

𝑖=1 𝑖=1 𝑖=1

8
Dengan menggunakan teknik subsitusi dan eliminasi pada kedua
persamaan 1 dan 2, dapat diperoleh hasil sebagai berikut:
Gradien garis lurus terbaik adalah b1,
𝑛 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖 − σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑌𝑖
𝑏1 =
𝑛 σ𝑛𝑖=1 𝑋𝑖2 − (σ𝑛𝑖=1 𝑋𝑖 )2
dapat juga ditulis

𝑛 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖 − σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑌𝑖

𝑏1 𝑡𝑒𝑟𝑏𝑎𝑖𝑘 =
𝑛 σ𝑛𝑖=1 𝑋𝑖2 − (σ𝑛𝑖=1 𝑋𝑖 )2

9
Dengan menggunakan teknik subsitusi dan eliminasi pada kedua
persamaan 1 dan 2, dapat diperoleh hasil sebagai berikut:
Titik potong pada sumbu y terbaiknya adalah b0,
σ𝑛𝑖=1 𝑌𝑖 σ𝑛𝑖=1 𝑋𝑖2 − σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖 dapat juga ditulis
𝑏0 =
𝑛 σ𝑛𝑖=1 𝑋𝑖2 − (σ𝑛𝑖=1 𝑋𝑖 )2
σ𝑛𝑖=1 𝑌𝑖 σ𝑛𝑖=1 𝑋𝑖2 − σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖
𝑏0 𝑡𝑒𝑟𝑏𝑎𝑖𝑘 =
𝑛 σ𝑛𝑖=1 𝑋𝑖2 − (σ𝑛𝑖=1 𝑋𝑖 )2
Karena sebelumnya sudah punya b1, maka b0 bisa ditulis
σ𝑛𝑖=1 𝑌𝑖 − 𝑏1 σ𝑛𝑖=1 𝑋𝑖
𝑏0 =
𝑛 10
Dengan menggunakan teknik matrik pada kedua persamaan 1 dan
2, maka:
Dalam bentuk matrik
𝑛 σ𝑛𝑖=1 𝑋𝑖 𝑏𝑜 σ𝑛𝑖=1 𝑌𝑖 𝑛 σ𝑛𝑖=1 𝑋𝑖
−1
σ𝑛𝑖=1 𝑌𝑖
𝑏𝑜
σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖 menjadi
= =
σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑋𝑖2 𝑏1 𝑏1 σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑋𝑖2 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖
Matrik invers 2 x 2

Kalikan maka hasilnya sama dengan sebelumnya

11
 σ𝑛𝑖=1 𝑌𝑖 σ𝑛𝑖=1 𝑋𝑖2 − σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖
𝑏0 =
𝑛 σ𝑛𝑖=1 𝑋𝑖2 − (σ𝑛𝑖=1 𝑋𝑖 )2

𝑛 σ𝑛𝑖=1 𝑋𝑖 𝑌𝑖 − σ𝑛𝑖=1 𝑋𝑖 σ𝑛𝑖=1 𝑌𝑖

𝑏1 =
𝑛 σ𝑛𝑖=1 𝑋𝑖2 − (σ𝑛𝑖=1 𝑋𝑖 )2
No Y X Keterangan: Y = konsumsi, X =
1 100 200 pendapatan, dengan persamaan regresi
2 200 275
liniernya sebagai berikut
3 300 350
4 360 360
5 400 425 𝑌𝑖 = 𝑏0 + 𝑏1 𝑋𝑖 + 𝑒𝑖
450 480
-- carilah nilai b0 dan b1
6
7 500 500
8 600 575 -- jika sudah diketahui b0 dan b1, berapa
9 630 720 nilai 𝑌෠𝑖 (predicted)
10 700 730
11 720 840 -- carilah nilai ei
12 800 825 -- berapa nilai 𝑆𝑆𝐸
13 810 960
14 900 955
15 900 1080
16 990 1200 13
TERIMA KASIH

25%