Regresi

Pendahuluan

 Regresi adalah teknik pencocokan kurva untuk data

yang berketelitian rendah.
 Contoh data yang berketelitian rendah data hasil
pengamatan, percobaan di laboratorium, atau data
statistik.
 Data seperti itu kita sebut data hasil pengukuran.
 Galat yang dikandung data berasal dari ketidaktelitian
alat ukur yang dipakai, kesalahan membaca alat ukur
(paralaks), atau karena kelakuan sistem yang diukur.
Pendahuluan

 Untuk data hasil pengukuran, pencocokan kurva berarti

membuat fungsi mengampiri (approximate) titik-titik data.
 Kurva fungsi hampiran tidak perlu melalui semua titik
data tetapi dekat dengannya tanpa perlu menggunakan
polinom berderajat tinggi.
 Sebagai contoh ilustrasi, diberikan data jarak tempuh (y)
sebuah kendaraaan-dalam mil setelah x bulan seperti
pada tabel di bawah ini.
Pendahuluan

 Data di dalam tabel dicocokkan dengan polinom

Lagrange (Gambar (a)), dan dengan fungsi hampiran
lanjar (Gambar (b)). Perbandingan keduanya
diperlihatkan pada Gambar (c).

a b c
Pendahuluan

 Dari kedua pencocokan tersebut, terlihat bahwa garis

lurus memberikan hampiran yang bagus, tetapi belum
tentu yang terbaik .
 Pengertian terbaik di sini bergantung pada cara kita
mengukur galat hampiran.
 Prinsip penting yang harus diketahui dalam
mencocokkan kurva untuk data hasil pengukuran
adalah:
 Fungsi mengandung sesedikit mungkin parameter bebas
 Deviasi fungsi dengan titik data dibuat minimum.
 Kedua prinsip di atas mendasari metode regresi kuadrat
terkecil
Perbedaan antara metode regresi kuadrat terkecil
dengan metode interpolasi polinom
No Regresi kuadrat terkecil Interpolasi polinom
1 Data berasal dari fungsi yang
Data berasal dari hasil ingin disederhanakan dengan
pengukuran polinom, dari tabel di literatur,
atau dari hasil pengukuran
2 Data berketelitian rendah
Data berketelitian tinggi
(mengandung galat)
3 Fungsi polinom interpolasi harus
Fungsi kuadrat terkecil tidak
melalui semua titik data.
perlu melalui setiap titik data.
Semakin banyak datanya,
Kurva fungsinya dirancang
semakin tinggi derajat polinom,
mengikuti pola titik titik sebagai
dan semakin besar galat
suatu kelompok
pembulatannya
4 Data tidak harus terurut Data harus terurut
Pendahuluan

 Manfaat pencocokan kurva untuk data hasil pengukuran:

 Bagi ahli sains/rekayasa: mengembangkan formula empirik
untuk sistem yang diteliti.
 Bagi ahli ekonomi: menentukan kurva kecenderungan ekonomi
untuk “meramalkan” kecenderungan masa depan.
 Teknik regresi yang dibahas di sini hanya regresi lanjar,
yaitu pencocokan kurva untuk data yang memiliki
hubungan lanjar antara peubah bebas dan peubah
terikatnya.
 Selain regresi lanjar, ada teknik regresi lain, yaitu regresi
polinom, regresi ganda, dan regresi nirlanjar.
Regresi Lanjar

 Misalkan (xi, yi) adalah data hasil pengukuran.

 Kita akan menghampiri titik-titik tersebut dengan sebuah
garis lurus.
 Garis lurus tersebut dibuat sedemikian sehingga
galatnya sekecil mungkin dengan titik-titik data.
 Karena data mengandung galat, maka nilai data
sebenarnya, g(xi), dapat ditulis sebagai
g ( xi )  yi  ei , i  1,2,..., n
yang dalam hal ini, ei adalah galat setiap data.
Diinginkan fungsi lanjar
f(x)=a+bx
Regresi Lanjar

 yang mencocokkan data sedemikian sehingga

deviasinya,
ri  yi  f ( xi )  yi  (a  bxi )

minimum
 Total kuadrat deviasi persamaan adalah
n n
R   ri   ( yi  a  bxi ) 2
2

i 1 i 1
Regresi Lanjar

 Agar R minimum, maka haruslah

R
 2 ( yi  a  bxi )  0
a
R
 2 xi ( yi  a  bxi )  0
b
 Penyelesaian:
Masing-masing ruas kedua persamaaan dibagi dengan -2
 ( y  a  bx )  0  y   a   bx  0
i i i i

 x ( y  a  bx )  0  x y   ax   bx
i i i i i i
2
i 0
Selanjutnya,
 a   bxi   yi na  b xi   yi
atau
 ax   bx   x y
i
2
i i i
a  xi  b xi2   xi yi
Regresi Lanjar

 Kedua persamaan terakhir ini dinamakan persamaan

normal, dan dapat dapat ditulis dalam bentuk persamaan
matriks:
 n

 x   a    y 
i i
b 
 xi      x y 
2
x i i i

 Solusinya, a dan b, dapat diselesaikan dengan metode

eliminasi Gauss atau aturan Cramer.
 Karena data mengandung galat, maka persamaan
normal sering berkondisi buruk (ill-conditioning).
 Nilai a dan b juga dapat dicari dengan mengutak-atik
kedua buah persamaan normal menjadi:
n xi yi   xi  yi
b , a  y  bx
n x  ( xi )
2
i
2
Regresi Lanjar

 yang dalam hal ini, y dan x masing-masing adalah nilai

rata-rata x dan y.
 Untuk menentukan seberapa bagus fungsi hampiran
mencocokkan data, kita dapat mengukurnya dengan
galat RMS(Root-mean-square error):
2
1 n
2
ERMS    f ( xi )  yi 
 n i1 
 Semakin kecil nilai ERMS semakin bagus fungsi hampiran
mencocokkan titik-titik data.
Contoh

 Tentukan persamaan garis lurus yang mencocokkan

data pada tabel di bawah ini. Kemudian, perkirakan nilai
y untuk x= 1.0.
i xi yi
1 0,1 0,61
2 0,4 0,92
3 0,5 0,99
4 0,7 1,52
5 0,7 1,47
6 0,9 2,03
Contoh

 Penyelesaian:
 Contoh
 Diperoleh sistem persamaan lanjar:
 6 3,3  a   7,54 
3,3 2,21 b   4,844 
    
 Solusi SPL di atas adalah:
a= 0.2862 dan b = 1.7645
 Persamaan garis regresinya adalah: f(x) = 0.2862 +
1.7645x.
 Contoh
 Perbandingan antara nilai yi dan f(xi):

 Taksiran nilai y untuk x = 1.0 adalah

Y = f(1,0) = 0,2862 + 1,7645 (1,0) = 2,0507
1/ 2
galat RMS adalah ERMS   0,08563 
  0,119464
 6 
Pelanjaran

 Regresi lanjar hanya tepat bila data memiliki hubungan lanjar

antara peubah bebas dan peubah terikatnya.
 Gambar di bawah memperlihatkan bahwa garis lurus tidak
tepat mewakili kecenderungan titik-titik data, dengan kata lain
pada kasus ini hubungan x dengan y tidak lanjar.
 Sebaliknya, fungsi kuadratik lebih tepat menghampiri titik-titik
tersebut.
 Langkah pertama dalam analisis regresi seharusnya berupa
penggambaran titik-titik data pada diagram kartesian dan
secara visual memeriksa data untuk memastikan apakah
berlaku suatu model lanjar atau model nirlanjar.
 Penggambaran titik-titik ini sekaligus juga sangat membantu
dalam mengetahui fungsi yang tepat untuk mencocokkan
data.
Pelanjaran

(a) Data yang tidak cocok untuk regresi lanjar;

(b) Petunjuk bahwa parabola lebih disenangi
 Meskipun fungsi hampiran berbentuk nirlanjar, namun
pencocokan kurva dengan fungsi nirlanjar tersebut dapat
juga diselesaikan dengan cara regresi lanjar.
Pelanjaran
Misalnya tiga macam fungsi nirlanjar di bawah ini:
 Persamaan pangkat sederhana
y  Cxb , C dan b konstanta
 Model eksponensial
y  Cebx , C dan b konstanta
Contoh: - model pertumbuhan populasi
- model peluruhan zat radioaktif
 Persamaan laju pertumbuhan jenuh (saturation growth-
rate) Cx
y
d  x , C dan d konstanta
Contoh: model pertumbuhan bakteri kondisi pembatas (misalnya
dibatasi oleh jumlah makanan)
Pelanjaran
 Sketsa kurva untuk ketiga macam fungsi nirlanjar di atas
diperlihatkan pada
Pelanjaran Persamaan Pangkat Sederhana

 Misalkan kita akan mencocokkan data dengan fungsi

y  Cxb
 Lakukan pelanjaran sebagai berikut:
y  Cxb  ln( y)  ln( C )  b ln( x)
 Definisikan
Y = ln(y)
a = ln(C)
X = ln(x)
 Persamaan regresi lanjarnya adalah:
y = a + bx
Pelanjaran Persamaan Pangkat Sederhana

 Lakukan pengubahan dari (xi,yi) menjadi (ln(xi), ln(yi)),

lalu hitung a dan b dengan cara regresi lanjar.
 Dari persamaan a = ln(C), kita dapat menghitung nilai
C  ea
 Sulihkan nilai b dan C ke dalam persamaan pangkat
y  Cxb
Contoh

 Cocokkan data berikut dengan fungsi y  Cxb

i xi yi
1 0,1500 4,4964
2 0,4000 5,1284
3 0,6000 5,6931
4 1,0100 6,2884
5 1,5000 7,0989
6 2,2000 7,5507
7 2,4000 7,5106
Contoh

 Penyelesaian:
Contoh

 Diperoleh sistem persamaan lanjar

 7  1,2447  a  12,7139 
 1,2447 6,2522  b    1,0659 
    
 Solusi SPL di atas: a= 1.8515 dan b= 0.1981
 Hitung C  ea  e1,8515  6,369366
 Jadi,titik-titik (x, y) pada tabel di atas dihampiri dengan
fungsi pangkat sederhana:
y  6,369366 x0,1981
Pelanjaran Model Eksponensial

 Misalkan kita akan mencocokkan data dengan fungsi

y  Cebx
 Lakukan pelanjaran sebagai berikut:
y  Cebx
 ln( y )  ln( C )  bx ln( e)
 ln( y )  ln( C )  bx, ln( e)  1
 Definisikan
Y = ln(y)
a = ln(C)
X=x
Pelanjaran Model Eksponensial

 Persamaan regresi lanjarnya:

Y = a + bX
 Lakukan pengubahan dari (xi, yi) menjadi (xi, ln(yi)), lalu
hitung a dan b dengan cara regresi lanjar.
 Dari persamaan a = ln(C), kita dapat menghitung nilai
C  ea
 Sulihkan nilai b dan C ke dalam persamaan
eksponensial.
y  Cebx
Pelanjaran Model Laju Pertumbuhan Jenuh

 Misalkan kita akan mencocokkan data dengan fungsi

Cx
y
dx
 Lakukan pelanjaran sebagai berikut:
𝐶𝑥
𝑦 = 𝑑+𝑥
1 𝑑1 1
𝑦
= 𝐶𝑥
+𝐶
 Definisikan
Y = 1/y
a = 1/C
b = d/C
X = 1/x
Pelanjaran Model Laju Pertumbuhan Jenuh

 Persamaan regresi lanjarnya:

Y= a+ bX
 Lakukan pengubahan dari (xi,yi) menjadi (1/xi,1/yi), lalu
hitung a dan b dengan cara regresi lanjar.
 Dari persamaan a = 1/C, kita dapat menghitung nilai C =
1/a.
 Dari persamaan b = d/C, kita dapat menghitung d= bC.
 Sulihkan d dan C ke dalam persamaan laju pertumbuhan
jenuh
Cx
y
dx
Tabel berikut merangkum beberapa fungsi
dan pelanjarannya