Analisis Regresi
Dr. T. Sunaryo
PENDAHULUAN
KEGIATAN BELA&JAR 1
A. DISTRIBUSI NORMAL
1. Simpangan
Coba saudara perhatikan penjual gula pasir di pasar. Dari 1 karung gula
pasir seberat 50 kg dimasukkan ke dalam 50 kantong plastik. Gula pasir
ditimbang secara cepat masing-masing seberat 1 kg kemudian dimasukkan
kantong plastik. Apakah gula pasir dalam setiap kantong plastik tepat seberat
1kg? Tentu saja tidak, hila gula dalam setiap kantong plastik ditimbang ulang
dengan timbangan yang lebih teliti, misalkan timbangan elektronik maka
akan tampak kelebihan dan kekurangan beberapa gram, bahkan 1 ons.
Kelebihan dan kekurangan berat gula merupakan simpangan/deviasi. Jumlah
4.4 EKONOMI MANA..JERIAL e
kantong gula seberat 9 ons atau 11 ons sangat sedikit, yang terbanyak adalah
kantong yang beberapa gram mendekati 1 kg.
Misalnya, variabel x menyebar normal. Artinya, peluang nilai x muncul
digambarkan secara kontinu seperti pada Gambar 4.1.
• •
Gambar 4.1
Distribusi Normal
•
Jl=_
l _
N
e EKMA431 2/MODUL 4 4.5
Nilai peluang tersebut masih bergantung pada nilai simpangan baku. Hal
yang menarik adalah bahwa apabila semakin besar nilai simpangan baku,
semakin kecil peluang nilai variabel sama dengan rata-ratanya. Implikasinya,
semakin besar nilai simpangan baku sebaran normal, peluang nilai x yang
jauh dari rata-ratanya relatif besar atau buntutnya semakin tebal (fat tail).
Distribusi 2 pada Gambar 4.2 adalah distribusi dengan buntut tebal. Artinya,
peluang ekstrim relatif besar.
4.6 EKONOMI MANA..JERIAL e
Gambar 4.2
Distribusi Normal dengan Rata-rata Sarna, Namun dengan Varians Berbeda
X-f.l
z==--
CJ
Dalam hal ini, setiap nilai x mempunyai padanan satu nilai z. Apabila x sama
dengan rata-ratanya, maka nilai padanan z-nya sama dengan nol.
Catatan:
Simpangan baku sebuah variabel dikurangi konstanta sama dengan
simpangan baku variabel terse but, O"(x + 5) = O"(x) = O"x
Dengan mentransformasikan x menjadi variabel normal baku, artinya
nilai variabel x dibakukan tanpa mengubah nilai peluangnya. Transformasi
ini memudahkan untuk penghitungan peluang x. Penghitungan x secara
langsung tidak efisien. Dengan membuat tabel z yang memuat nilai-nilai
peluang z, penghitungan semua variabel dengan distribusi normal menjadi
mudah, yaitu dengan melakukan transformasi normal baku.
2 2
1 (z-0) 1 (z)
f(z) = ----;;==exp - - - = exp - - -
1 2tr 2x1 )2; 2
X-Jl
z=--
O"
Contoh:
Misalkan, x adalah keuntungan saham
x=10%
Jlx = 0
(}X = 20%
z= X- J1 = 0, 1- 0 = O 5
(} 0, 2 '
Peluang x sama dengan 0,1 sama dengan peluang z sama dengan 0,5. Ingat,
bahwa fungsi distribusi x dan z berbeda dalam rata-rata dan simpangan
bakunya.
4.8 EKONOMI MANA..JERIAL e
x- N(JL,a)
- - - -·
-1..S8
Gambar 4.3
Distribusi Normal Baku
Dari Gambar 4.2, beberapa nilai peluang untuk beberapa kisaran nilai z
bisa diketahui. Peluang nilai z dari negatif tak terhingga hingga positif tak
terhingga sama dengan satu. Peluang z kurang dari 0 adalah 0. Peluang z
kurang dari -1,96 adalah 2,5%. Peluang z jatuh di antara -1,96 dan +1,96
adalah 95o/o. Peluang z lebih dari -1,96 adalah 97,5%.
ke sebaran normal. Teori ini tidak bisa dilupakan dalam estimasi. Teori limit
pusat bisa ditampilkan sebagai berikut:
2
X- N(J.1, ()X)
n
(J2
dibaea rata-rata x menyebar normal dengan rata-rata f.1 dan varians x , di
n
mana a-; adalah varians x.
Nilai estimasi selalu berdasarkan pada nilai rata-rata (nilai harapan atau
expected value). Distribusi rata-rata konvergen pada sebaran normal. Dengan
demikian, nilai peluang dari rata-rata bisa diketahui dengan relatif mudah.
Apabila jumlah amatan eukup banyak, rata-rata akan semakin konvergen
pada distribusi normal. Untuk jumlah amatan relatif sedikit, ekor sebaran
rata-ratanya akan menebal. Dalam hal ini, distribusi baku yang
mengakomodasi sedikit pengamatan (buntut tebal) adalah distribusi t.
Distribusi t ini tentu saja konvergen pada distribusi z bila jumlah amatan (n)
semakin banyak. Sebagai panduan, bila jumlah amatan kurang dari sedikit
(30) transformasi rata-rata mengikuti distribusi t. Apabila jumlah amatan
banyak (lebih dari 30), transformasi rata-rata menyebar normal menyebar
normal baku. Namun, t konvergen pada jumlah amatan banyak. Oleh karena
itu, dalam pengujian biasanya hanya mengandalkan tabel t.
• •
normal adalah rata-rata dan deviasi standar yang nilainya mas1ng-mas1ng
adalah 160 em dan 10 em.
Untuk menghitung nilai parameter memerlukan amatan dari semua
anggota populasi. Tentu saja untuk mengetahui nilai parameter adalah amat
mahal. Ongkos untuk mengetahui nilai parameter tidak sebanding dengan
kegunaan informasi dari nilai parameter tersebut. Dalam kondisi ini, estimasi
(pendugaan) terhadap nilai parameter menjadi relevan.
Untuk melakukan pendugaan terhadap nilai parameter memerlukan
sampel (eontoh) yang mewakili (representatif) populasi. Tentu saja semakin
banyak pengamatan dalam sampel (ukuran sampel), sampel semakin
mewakili populasi. Namun, penjual soto tidak pernah meneieipi rasa kuah
sotonya sebanyak satu mangkok. Setelah diaduk -aduk, rasa kuah soto
menyebar seragam. Rasa kuah yang di dasar panei sama dengan rasa kuah
yang ada di permukaan. Sampel seperempat satu ee kuah soto sudah
mewakili populasi rasa so to yang berukuran 100 liter. Apabila populasi
relatif homogen atau deviasi standarnya keeil, sampel ukuran keeil sudah
mewakili populasi. Sebaliknya, untuk populasi yang relatif heterogen atau
deviasi standarnya besar, ukuran sampel keeil tidak mewakili populasi.
Misalkan, sampel dengan ukuran 1000 dianggap mewakili populasi
dengan ukuran 10 juta. Rata-rata sampel adalah 158. Deviasi standar sampel
adalah 12. Notasi rata-rata dan deviasi standar yang dihitung dari sampel
masing-masing adalah :X atau jt dan s atau a.Rata-rata dan deviasi
standar yang dihitung dari anggota sampel disebut statistik (statistic). Notasi
statistik berbeda dengan notasi parameter.
Rata-rata sampel menjadi penduga rata-rata populasi. Deviasi standar
sampel menjadi penduga deviasi standar populasi. Formula deviasi standar
adalah akar dari varians. Formula varians adalah:
n-1
D. KORELASI
Apabila nilai variabel x naik, nilai variabel y juga naik dikatakan bahwa
variabel x dan y berkorelasi positif. Sebaliknya, apabila nilai variabel x naik,
nilai variabel y turun dikatakan bahwa variabel x dan y berkorelasi negatif.
Korelasi variabel x dan y tidak menunjukkan hubungan sebab akibat atau
kausalitas. Hubungan kausalitas datangnya dari logika atau teori, bukan dari
penghitungan statistik korelasi. Apabila harga produk naik maka permintaan
produk tersebut turun adalah teori permintaan. Korelasi antara harga produk
dan permintaan produk adalah negatif. Teori membentuk hipotesis, statistik
membuat pembenaran berdasarkan data (realita).
Korelasi tanggal lahir dan tanggal meninggal positif hanya fakta empiris
sampel, tanpa teori (logika) yang mendukung fakta empiris tersebut. Fakta ini
hanya muncul secara kebetulan. Sampel yang menjadi dasar penghitungan
tidak mewakili populasi kedua variabel tersebut. Apabila ukuran sampel
4.12 EKDNOMI MANA.JERIAL e
N
L (x- !lx )(y- !ly )
a x,Y == Cov ( y, x ) == i=l
....;__;....____N
____
a tau
di mana
a xy : kovarians (covariance) variabel x dan variabel y
p xy : korelasi antara x dan y
ax : deviasi standar x
aY : deviasi standar y
Nilai kovarians distandarisasi menjadi korelasi dengan membagi dengan
deviasi standar kedua variabelnya sehingga nilainya berkisar dari -1 hingga
+1. Apabila nilai y sebanding dengan nilai x maka korelasi y dengan x adalah
satu. Misalnya, y == bx di mana b adalah sebuah bilangan positif maka y dan
x berkorelasi satu. Apabila y == x , korelasi y dengan x sama dengan satu.
Apabila y == - x , korelasi y dengan x adalah -1. Dalam realita, korelasi antara
dua variabel berkisar dari -1 hingga + 1. Apabila korelasi an tara y dan x sama
dengan nol, dikatakan bahwa y dan x saling independen.
E. ANALISIS REGRESI
y==xf xf 4
Fungsi pangkat biasanya disebut fungsi Cobb-Douglas. Bila fungsi pangkat
ini diaplikasikan dalam topik permintaan, fungsi ini namanya fungsi
permintaan Cobb-Douglas. Apabila fungsi pangkat ini diaplikasikan dalam
topik produksi, fungsi ini disebut fungsi produksi Cobb-Douglas. Lihat
kembali modul permintaan dan produksi.
Model eksplisit fungsi permintaan Cobb-Douglas adalah:
q = p~ p~ JY
1. Pembentukan Hipotesis
Fokus pengujian adalah hubungan kausalitas. Bentuk hubungan
kausalitas adalah sebuah variabel independen mempengaruhi variabel
dependen. Bentuk hubungan yang lebih informatif adalah apabila nilai
variabel independen berubah satu persen, variabel dependen berubah berapa
persen. Apabila variabel independen harga produk tidak mempengaruhi
permintaan produk, pengaruh harga terhadap permintaan produk adalah nol.
Dalam memilih variabel bebas tentu saja yang diharapkan adalah bahwa
variabel bebas mempengaruhi variabel dependen. Hal yang tidak diharapkan
adalah variabel independen tidak mempengaruhi variabel dependen.
Hipotesis variabel independen tidak mempengaruhi variabel dependen
disebut H 0 (hipotesis nol). Angka nol merujuk bahwa pengaruh independen
terhadap dependen variabel adalah nol (tidak berpengaruh), sedangkan
hipotesis variabel independen mempengaruhi dependen variabel disebut H 1
(hipotesis 1 atau hipotesis alternatif). Kata altematif merujuk pada hipotesis
bahwa pengaruh independen variabel berpengaruh pada dependen variabel.
Oleh karena itu, bentuk dari hipotesis adalah sebagai berikut.
2. Pengujian Hipotesis
Untuk menentukan penerimaan atau penolakan sebuah H 0 memerlukan
uji t. Uji t sering disebut sebagai uji sebuah koefisien karena menguji masing-
masing koefisien variabel independen dalam model regresi. Dalam uji t,
"
koefisien (misalnya f3) diasumsikan menyebar normal dengan rata-rata 0,
sesuai dengan H 0 . Kemudian, nilai estimasi beta tersebut ditransformasi
normal baku dan nilainya disebut t hitung.
"
/3-0
thitung ==
s"
fJ
Gambar 4.4
Daerah Penerimaan dan Penolakan H0
4.18 EKDNOMI MANA.JERIAL e
H. TINGKAT KEPERCAYAAN
Apabila nilai mutlak t hitung lebih besar lebih besar dari 1,96 (t tabel)
maka koefisien variabel independen signifikan (berbeda nyata dengan rata-
ratanya (0) pada tingkat kepercayaan 95%. Perbedaan ini akan semakin nyata
bila nilai mutlak t hi tung semakin besar. Apabila nilai mutlak t hitung lebih
besar dari 2,33 (t tabel) maka koefisien variabel independen signifikan
dengan tingkat kepercayaan 99%.
Tingkat kepercayaan uji t akan tinggi apabila nilai mutlak t-hitung tinggi.
Nilai mutlak t-hitung sebanding dengan nilai estimasi koefisien variabel
"
independen f3 dan berbanding terbalik dengan deviasi standar dari
LATIHAN
-- __ ........
RANGKUMAN
TES FORMATIF 1- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Lxi
.
t
A. J.l==-
N
B.
C.
D.
n-1
4.22 EKDNOMI MANA.JERIAL e
KEGIATAN BELA&JAR 2
llustrasi Regresi
s2 == a"2 == . .i=1
;,. . _;·_;....____ __
X X
n-l
Tabel 4.1
Penghitungan Varians dan Deviasi Standar
-X -
X y y (xi -x) (yi- y) (xi -x)2 (yi - y)2
1 3 2 4 -1 -1 1 1
3 5 2 4 1 1 1 1
Jumlah 0 0 2 2
2
sX
== 2
sx == J2
2
s y == 2
sy == J2
Perhatikan bahwa varians dan deviasi standar x dan y sama. Variabel y
sama dengan variabel x ditambah 2 (y = x + 2). Ilustrasi ini menunjukkan
bahwa sebuah variabel ditambah (dikurangi) sebuah konstanta tidak
4.24 EKDNOMI MANA.JERIAL e
n
L(Yi- y)(xi -x)
ov y' == s y == . . i=l
;. . . . ;._ _ _ _ __
C ( X ) , X
n-1
Tabel 4.2
Penghitungan Covarians x dan y
Nilai kovarians bisa negatif besar sekali hingga positif besar sekali
(secara teori tak terhingga). Kovarians variabel x dan y distandarisasi dengan
membagi dengan kedua varians x dan y menjadi korelasi sehingga nilainya
berkisar dari -1 hingga + 1.
A. ILUSTRASI REGRESI
Tabel 4.3
Data Fungsi Permintaan
Nomor Qx px py I
1 5000 500 250 100
2 5800 650 280 200
3 6000 660 310 300
4 6600 770 330 350
5 7000 790 450 550
6 7300 810 480 650
7 7500 880 500 750
8 8000 890 550 800
9 8800 950 590 850
10 9900 980 650 900
Catatan: Data ini adalah data hipotetis
q = p~ p~ JY
Tabel4.4
Data setelah Ditransformasikan dengan Transformasi Ln
Tabel 4.5
Koefisien variabel independen
Tabel 4.6
Formula Uji t
B. UJI t
HO: a== 0
H1: a :;t: 0
HO: f3 == 0
H1: f3 -:t= 0
HO: y == 0
H1: r * o
C. ANALYSISOFVARIANCE
Tabel 4. 7
Analysis of Variance
Source df ss MS F P-Value
Regression 3 0,365 0,122 107,474 0,000
Residual 6 0,007 0,001
Total 9 0,372
Tabel4.8
Analysis of Variance
Source df ss MS F P-Value
Regresi dtR JKR JKR KTR Lihat
KTR= F= tabel F
dfR KTE
Error dfE JKE JKE
KTE=
djE
Total dfT JKT
n
JKT == ~(Yi - y)
2
i=l
n
~(Yi - )\ )
2
IKE==
i=l
~(5\ - y)
2
JKR ==
i=l
Jumlah kuadrat regresi adalah jumlah kuadrat dari simpangan nilai estimasi
dependen variabel ( y) dari rata-rata variabel dependen ( y) .
D. DERAJAT BEBAS
Jumlah derajat bebas awal adalah 10, sama dengan ukuran sampel.
Setiap mengestimasi sebuah statistik derajat bebas berkurang satu. Dalam
model ada tiga koefisien yang diestimasi. Derajat bebas model adalah tiga.
Konstanta dalam model bisa dianggap rata-rata. Penghitungan rata-rata
memakan sebuah derajat bebas. Jadi, derajat bebas berkurang empat. Oleh
karena itu, derajat bebas yang tersisa adalah 6.
Derajat bebas ini mempengaruhi nilai t-tabel. Ingat bahwa H 0 akan
ditolak apabila t-hitung lebih besar dari t-tabel. Oleh karena dalam pengajuan
yang diharapkan adalah menolak H 0 maka yang diharapkan adalah nilai
t-tabel yang kecil. Nilai t-tabel akan semakin kecil hila derajat bebas error
besar.
4.32 EKDNOMI MANA.JERIAL e
Derajat bebas bisa besar bisa dicapai dengan membuat ukuran sampel
yang besar dan membuat jumlah variabel dalam model (variabel independen)
sedikit, lihat Tabel 4. 9 di bawah ini.
Tabel 4. 9
Nilai t-Tabel dan Tingkat Kepercayaan Uji t Dua Ekor
E. KOEFISIEN DETERMINASI
2
Koefisien determinasi R mengukur berapa persen variasi dependen
variabel yang bisa dijelaskan oleh model regresi. Ukurannya adalah jumlah
kuadrat regresi dibagi jumlah kuadrat total (variabel dependen).
R2 == JKR
JKT
F. UJI F
KTR -F
KTE
e EKMA431 2/MODUL 4 4.33
Ho : a==fJ==r==O
H1 : Setidaknya ada salah satu koefisien regresi yang tidak sama dengan nol.
~rofuat)tiiry-
Tae1ma
•• •. .. ~ t.l "
~~f.----------------------=~- 1' Jl~
-
Tqtatt Ft .
Gambar 4.5.
Daerah Penerimaan dan Penolakan Uji F
Untuk kasus di atas, nilai F-hitung adalah 107,474 jauh lebih tinggi dari
nilai F-tabelnya dengan tingkat kepercayaan 99%, yaitu 9,78. Angka 9,78 ada
dalam tabel F dengan derajat bebas 3 (df model regresi) dan 6 9 (df error).
Distribusi F mempunyai dua derajat bebas. Kesimpulannya, model regresi di
atas bisa menjelaskan variasi data dengan tingkat kepercayaan mendekati
100%. (Dalam pengujian tidak pernah menyebut tingkat kepercayaan 100%,
begitu juga pada kasus lainnya).
di mana
rl : return saham i
r1 : return instrumen finansial tanpa risiko (risk free rate), misalnya
rm- r1 : premi risiko pasar, tambahan return karena menerima risiko pasar
fJ : beta, sensitivitas return saham terhadap perubahan premi pasar
&i : error, return saham i yang tidak bisa dijelaskan oleh model
'i == rf + fJ(rm -rf)
P.-P.
Formula untuk menghitung return adalah r = t t-l , harga sekarang
~
dikurangi harga periode sebelumnya dibagi dengan
harga periode
sebelumnya.
Oleh karena risk free rate diasumsikan konstan, CAPM bisa ditampilkan
sebagai:
Hal yang menjadi fokus dalam estimasi CAPM adalah nilai estimasi beta
A
H. PREDIKSI RETURN
yang lebih tinggi dibanding instrumen tanpa risiko seperti SBI. Untuk saham
dengan nilai beta sama dengan 2, return saham tersebut adalah 16%
(8o/o + 2(4%)). Untuk saham dengan nilai beta 1, return saham sama dengan
10%. Perhatikan bahwa saham dengan nilai beta lebih besar mempunyai
return yang lebih besar.
di mana
X : perubahan nilai tukar (dalam persen).
dalam regresi bisa muncul dalam error. Varians error bank kecillebih besar
dibanding varians error bank besar. Fenomena varians error yang tidak sama
sesuai dengan observasi disebut heterosedatisitas (heteroscedasticity). OLS
mensyaratkan varians error yang sama homosedastisitas (homoscedasticity).
Untuk menjadikan error homoseastisitas, faktor yang menyebabkan
terjadinya heterosedatisitas perlu dimasukkan dalam model regresi,
misalnya ukuran perusahaan untuk kasus di atas.
LATIHAN
__ _
I 6 ~-
:._ ~
_
RANGKUMAN- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Model regresi linier yang terdiri dari satu atau lebih variabel
independen rnenjelaskan variasi sebuah variabel dependen. Kernarnpuan
model regresi dalam menjelaskan variasi variabel dependen tercermin
dalam beberapa bentuk. Pertama, nilai koefisien regresi yang relatif
e EKMA431 2 / MODUL 4 4.39
TES FORMATIF 2- - - - - - - - - - - - - - - -
4) Model return saham i adalah 'i = r1 + fJ(rm- r1 ) + &i. Dari basil regresi
diperoleh b = 0,5, artinya adalah ....
A. kenaikan return pasar sebesar 1 rupiah akan meningkatkan return
saham sebesar 0,5 rupiah
B. kenaikan return pasar sebesar 1% akan meningkatkan return saham
sebesar 0,5%
C. kenaikan premi risiko pasar sebesar 1% akan meningkatkan return
saham sebesar 0,5%
D. penurunan premi risiko pasar sebesar 0,5 % akan menurunkan return
saham sebesar 1%
Glosarium
An ova •
• analysis of variance, mendekomposisi
variasi variabel dependen menjadi variasi
yang dijelaskan oleh model regresi dan
error.
Autocorrelation •
• otokorelasi, korelasi antara error periode t
dengan error periode t-1.
Capital asset pricing model •
• (CAPM), model yang menjelaskan
(variasi) return dari sebuah saham
Central limit theorem •
• teori limit pusat, distribusi rata-rata
konvergen pada distribusi normal.
Cobb-Douglas •
• fungsi permintaan Cobb-Douglas adalah
fungsi permintaan pangkat.
Cross-section struktur data dengan pengamatan pada
satu titik periode waktu.
Devisi standar •
• (standard deviation), ukuran variasi
(volatilitas) data.
Distribusi normal baku •
• distribusi normal dengan rata-rata nol dan
simpangan baku satu
Hipotesis nol •
• (HO) hipotesis yang diharapkan akan
ditolak.
Hipotesis alternatif •
• (H 1) hipotesis yang diharapkan diterima.
Heterosedastisitas •
• (heteroscedasticity ), error dengan
volatilitas yang berbeda.
Homosedastisitas •
• (homoscedastisity ), error dengan
volatilitas yang sama.
Koefisien determinasi •
• (R-kuadrat) ukuran efektivitas model
• •
regresi menangkap var1as1 variabel
dependen.
Ln (logaritma natural) •
• logaritma dengan bilangan pokok e
Multikolinieritas •
• multicolinierity) fenomena variabel
•
independen dalam model regres1
berkorelasi tinggi.
e EKMA431 2/MODUL 4 4.43
Daftar Pustaka