Regresi Non-Linier

1
Pengertian Regresi

 Regresi: perumusan/pemodelan asosiasi antara satu

variabel dependen dan satu/lebih variabel
independen, dalam bentuk persamaan yang
memungkinkan penaksiran nilai variabel dependen.

 Dalam Regresi Linier, model yang dipilih dalam

perumusan asosiasi adalah persamaan linier.
y = f(x) = ax + b

 Dalam Regresi Nonlinier, model yang dipilih dalam

perumusan asosiasi adalah persamaan nonlinier.
y = f(polinom, eksponensial, pangkat, dll.)

2
Regresi vs. pola sebaran data

 Jika diketahui n pasangan data: (x1,y1), (x2,y2),

(x3,y3),… , (xn,yn) dengan x variabel independen dan y
variabel dependen.

 Pada data akan dipaskan suatu fungsi y = f(x) yang

paling bisa mengikuti pola perubahan y vs. x.

• Jika pola sebaran data memperlihatkan

kecenderungan linier, maka diambil regresi
linier.
• Jika pola sebaran data memperlihatkan
kecenderungan nonlinier, maka diambil regresi
nonlinier.
3
Pola Sebaran Data Cenderung Linier

80

60

40
y

20

0
0 3 6 9 12 15
x

4
Pola Sebaran Data Cenderung Nonlinier

300

225
y

150

75

0
0 3 6 9 12 15
x

5
Pola Sebaran Data Cenderung Nonlinier

25

15

5
y

-5 0 2 4 6 8

-15

-25
x

6
Regresi Nonlinier

 Dalam regresi nonlinier, model regresi yang sering

dipilih adalah:

 Model exponensial f  x   ae bx

 Model pangkat f  x   ax b

 Model pertumbuhan jenuh f x  

ax
b x
 Model polinomial f x   a0  a1 x  ...  an x n

 Fungsi tersebut dipaskan pada n pasangan data:

(x1,y1), (x2,y2), (x3,y3),… , (xn,yn)
dengan mengatur nilai koefisiennya.
7
Regresi Nonlinier

 Pas (cocok) atau tidaknya model regresi dengan

data bisa dilihat dari seberapa jauh nilai data bisa
didekati oleh nilai taksiran regresi.

 Oleh karena itu didefinisikanlah error sebagai selisih

antara nilai data dan nilai taksiran fungsi regresi:
Error, i = yi – f(xi)
dengan i=1..n

8
Model Regresi Eksponensial

Uraian Rinci

9
Regresi Nonlinier: Model Eksponensial

 Pada himpunan data (xi,yi) dengan i=1..n

akan diregresikan model eksponensial,
f(x) = a.ebx.

 Error regresi
(selisih antara nilai data & taksiran fungsi regresi)
adalah:
Error, i = yi – f(xi) = yi – a.ebxi.

dengan i=1..n

10
Error dalam Regresi Non-Linier

1,6
Error ,  i  yi  f  xi 

1,2
y

0,8

0,4

0
0 1 2 3 4 5
x

11
Kriteria Error sbg Syarat Pengepasan

 Suatufungsi regresi bisa dipandang paling pas jika

errornya minimum.
 Kriteria error yang paling bisa dipakai untuk
menentukan koefisien persamaan regresi adalah jumlah
kuadrat error, S = (i)2

 
n n
S    i   yi  ae bxi 2
2

i 1 i 1

 Nilai jumlah kuadrat error, (i)2 diminimalkan

dengan menolkan turunannya terhadap
koefisien2 persamaan regresi.
12
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”

 Turunan S terhadap a dinolkan:

S  n
  
 
n

 i 
2 2
 y  ae bxi
yi  ae bxi
a a i 1 i 1 a

S
  
n
  2 yi  ae bxi  ebxi  0
a i 1

 Turunan S terhadap b dinolkan:

S r  n
  
 
n

 i 
2 2
 y  ae bxi
yi  ae bxi
b b i 1 i 1 b

S r
  
n
  2 yi  ae bxi  ae bxi xi  0
b i 1
13
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”

 Hasilnya:
n n
  yi e bxi
 a  e 2bxi  0
i 1 i 1
n n

 yi xi e
i 1
bxi
 a  xi e 2bxi  0
i 1
 Koefisien a dari persamaan 1 bisa disulihkan ke
persamaan 2 sehingga diperoleh persamaan
nonlinier dalam b:
n
bxi
n
 yi e n
i 1
 y i xi e
bxi
 n
 xi e
2bxi
0
i 1 2bxi i 1
e
i 1 14
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”

 Persamaan nonlinier dalam b ini:

n
bxi
n
 yi e n
i 1
 y i xi e
bxi
 n
 xi e
2bxi
0
i 1 2bxi i 1
e
i 1
bisa diselesaikan dengan metode bisection atau
secant.

15
Contoh:

16
Lembar Kerja Excel

copy copy

copy
Model Regresi Polinomial

Uraian Rinci

18
Regresi Nonlinier: Model Polinomial

 Pada himpunan data (xi,yi) dengan i=1..n akan

diregresikan model polinomial, f(x) = a0 + a1.x +
a2.x2 + … + am.xm, dengan m ≤ (n-1).

 Error regresi (selisih antara nilai data dan nilai

taksiran fungsi regresi):
Error, i =yi – f(xi)=yi–(a0+a1.xi+…+am.xim).
dengan i=1..n

 Jumlah kuadrat error:

  
n n
S    i   yi  a0  a1 xi  a x  ...  a x
2 2 m 2
2 i m i
i 1 i 1

19
Error dalam Regresi Non-Linier

1,6
Error ,  i  yi  f  xi 

1,2
y

0,8

0,4

0
0 1 2 3 4 5
x

20
Kriteria Error sbg Syarat Pengepasan

 Suatufungsi regresi bisa dipandang paling pas jika

errornya minimum.
 Kriteria error yang paling bisa dipakai untuk
menentukan koefisien persamaan regresi adalah jumlah
kuadrat error, S = (i)2

  
n n
S    i   yi  a0  a1 xi  a x  ...  a x
2 2 m 2
2 i m i
i 1 i 1

 Nilai jumlah kuadrat error, (i)2 diminimalkan

dengan menolkan turunannya terhadap
koefisien2 persamaan regresi.
21
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”

 Turunan S terhadap ai (i=0..m) dinolkan:

S
 
n
  2. yi  a0  a1 xi  . . .  am xim (1)  0
a0 i 1
S
 
n
  2. yi  a0  a1 xi  . . .  am xim ( xi )  0
a1 i 1
...
S
 
n
  2. yi  a0  a1 xi  . . .  am xim ( xim )  0
am i 1
22
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”
 atau:

n n n n

 0 1i
a 
i 1
a x  ...   m i   yi
a
i 1
x m

i 1 i 1
n n n n

 0i 1i
a x 
i 1
a x 2
 ...   m i   yi xi
i 1
a x m 1

i 1 i 1

...
n n n n

 0i 1i
a x
i 1
m
 a x m 1
 ... 
i 1
 mi  ii
a x 2m
 y x m

i 1 i 1

23
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”
 atau:

a0 n  a1  xi  ...  am  xim   yi
a0  xi  a1  xi2  ...  am  xim 1   yi xi
a0  xi2  a1  xi3  ...  am  xim  2   yi xi2
...
a0  xim  a1  xim 1  ...  am  xi2 m   yi xim

24
Meminimalkan Jumlah Kuadrat Error
Metode “Least Square”

 Dalam bentuk matriks:

 n

 xi ...  i   a0    yi 
x m

m 1  
  xi x 2
...  xi   1    xi yi 
a
i

 ... ... ... ...   ...   ... 
 2m     
 i
x m
 i
x m 1
...  xi  am   xi yi 
m

dengan penjumlahan () dilakukan untuk i=1..n.

Matriks lalu bisa diselesaikan untuk memperoleh ai.

25
Contoh:
Tabel data
 Data hubungan koefisien Suhu, Koef. Ekspansi,
ekspansi termal () dg o
T ( F)  (in/(in
o
F))
suhu (T) akan diregresi
dengan fungsi polinom 80 6,47E-06
orde-2:
40 6,24E-06
(T) = a0+ a1.T + a2.T2 -40 5,72E-06
karena sebarannya -120 5,09E-06
cenderung kuadratik. -200 4,30E-06

 Sarana: Microsoft
-280 3,33E-06
Excel -340 2,45E-06
26
Contoh:
Sebaran data

7,E-06
Koef. ekspansi termal, Alpha (in/in/F)

6,E-06

5,E-06

4,E-06

3,E-06

2,E-06

1,E-06

0,E+00
-400 -300 -200 -100 0 100
Suhu, T (F)

27
Contoh:
Koefisien model
 Dalam bentuk matriks:

 n

T T i i
 a0    yi 
2

3    
  Ti T Ti
2
i   a1     yiTi 
 Ti 2 T T  yiTi 
4  2
 i
3
 
i   a2 

dengan penjumlahan () dilakukan untuk i=1..n.

Matriks lalu bisa diselesaikan untuk memperoleh ai.

28
Contoh:
Koefisien model
 Dalam bentuk matriks:
 7 - 860 258000  a0   3,3600E - 05 
 - 860 258000 - 70472000   a   - 2,6978E - 03
  1   
258000 - 70472000 2136336000 0 a2   8,5013E - 01 

 Matriks ditata ulang (pivoting) lalu diselesaikan

untuk memperoleh ai dengan cara eliminasi.
258000 - 70472000 2136336000 0 a0   8,5013E - 01 
 - 860 258000 - 70472000   a   - 2,6978E - 03
  1   
 7 - 860 258000  a2   3,3600E - 05 
29
Contoh:
Koefisien model
 Hasil eliminasi:
7 - 860 258000  a0   3,3600E - 05 
0 23093,33333 739200   a    0,000135973 
  1   
0 0 - 355300,757  a2  4,34005E - 06

 Substitusi mundur memberikan nilai ai berikut:

a2  - 1,22152E - 11
 a    6,27899E - 09    T   a  a T  a T 2
 1   0 1 2

a0   6,02163E - 06 

30
Contoh:
Data vs. Kurva Regresi

7,E-06
Koef. ekspansi termal, Alpha (in/in/F)

6,E-06

5,E-06

4,E-06
Data
3,E-06
Regresi
2,E-06

1,E-06

0,E+00
-400 -300 -200 -100 0 100
Suhu, T (F)

31
Contoh:
% Error Regresi

1,2

1
% Error Regresi

0,8

0,6

0,4

0,2

0
-400 -300 -200 -100 0 100
Suhu, T (F)

32
Linearisasi
Model Nonlinier

Linearisasi data eksponensial dengan

transformasi logaritma + Regresi
Linier

33
Transformasi Data:
Linierisasi Data Nonlinier

 Ada kalanya himpunan data (xi,yi) yang

memperlihatkan kecenderungan nonlinier bisa
ditransformasi sehingga kecenderungannya menjadi
linier.

 Transformasi bisa dilakukan dengan menggunakan

fungsi kebalikan dari kecenderungan data aslinya:

 Data ekponensial dilinierkan dengan fungsi log.

 Data pangkat dilinierkan dengan fungsi log.
 Data kuadratik dilinierkan dengan akar kuadrat,
dlsb.

34
Transformasi Data:
Linierisasi Data Nonlinier (Eksponensial)
 Banyak proses fisik atau kimiawi bisa dimodelkan oleh
persamaan ekponensial:

y  ae bx
 Model nonlinier diubah menjadi linier
ini bisa
melalui transformasi dengan fungsi log:
ln
  y   ln
 a   b x
z a0 a 1

z  a0  a1 x
 a0 & a1 selanjutnya bisa ditentukan
Koefisien2 model
dengan regresi linier.

35
Koefisien Model Linier

 Koefisien a0
 zi  xi   zi xi  xi
2

a0 
n xi   xi 
2 2

 Koefisien a1
n zi xi   xi  zi
a1 
n xi   xi 
2 2

36
Koefisien Model Nonlinier
(Eksponensial)
 Setelah koefisien a0 dan a1 diperoleh, nilai
koefisien model nonlinier aslinya
y  ae bx
bisa ditentukan sebagai:
b  a1
a  e a0

37
Contoh:
Tabel data
 Untuk pemindaian batu t (jam) I (intensitas relatif)
ginjal biasa diinjeksikan
beberapa tetes isotop 0 1
Teknesium-99.
Separonya akan meluruh 1 0,89
tiap 6 jam. Perlu 24 jam
agar radiasinya kembali 3 0,71
ke tingkat alamiahnya.
5 0,56
 Sarana: Microsoft
Excel 7 0,45
9 0,36
38
Contoh:
Sebaran data

1
Intensitas Radiasi Relatif, I

0,8

0,6

0,4

0,2

0
0 2 4 6 8 10
Waktu, t (jam)

39
Contoh:
Transformasi data
 Proses peluruhan isotop dimodelkan oleh persamaan
ekponensial:
I  Ae t
 Model nonlinier diubah menjadi linier
ini bisa
melalui transformasi dengan fungsi log:
ln
 I   ln
 

A  
t
z a0 a1

z  a0  a1t
 a0 & a1 selanjutnya bisa ditentukan
Koefisien2 model
dengan regresi linier.

40
Contoh:
Koefisien Model Linier

 Koefisien a0
 zi  ti   zi ti  ti
2

a0 
n ti   ti 
2 2

 Koefisien a1
n  zi ti   ti  zi
a1 
n ti   ti 
2 2

41
Contoh: Lembar Kerja Excel
A B C D E
1 i ti zi (ti)^2 ti.zi
2 1 0 =LN(B16) =B2^2 =B2*C2
3 2 1
4 3 3
5 4 5
6 5 7
7 6 9 copy copy copy
8 = =SUM(B2:B7) copy
9 n= =A7
10 a0 = =(C8*D8-E8*B8)/(B9*D8-B8^2)
11 a1 = =(B9*E8-B8*C8)/(B9*D8-B8^2)
12 A= =EXP(B10)
13 Lambda = =B11
Contoh:
Data vs. Kurva Regresi

1
Intensitas Radiasi Relatif, I

0,8

0,6

0,4

I (data)
0,2
Regresi

0
0 2 4 6 8 10
Waktu, t (jam)

43
Contoh:
% Error Regresi

0,8

0,6
% Error

0,4

0,2

0
0 2 4 6 8 10
Waktu, t (jam)

44