QUALITATIVE RESPONSE MODEL

Laboratorium Ekonometrika
Departemen Ilmu Ekonomi
1
 Outline

Method to
Qualitative Variable
Developing
(Dummy Variable
A Probability Model

Linier Probability
The Logit Model The Probit Model The Tobit Molel
Model (LPM)

2
Qualitative Variable (Dummy Variable)

Types of
variable

Nominal Ordinal Interval

Ratio scale
Scale Scale Scale

• Model regresi yang sudah dipelajari sampai saat ini, semua variabel dependen maupun
independen bersifat kontinu
• Bagaimana jika ada variabel independen bersifat diskrey/ kualitatif/ katagorik?
• Variabel kualitatif pada variabel independen disebut denga variabel dummy (biner, dikodekan 1
atau 0)
• Syarat: jika suatu variabel independen memiliki katagori, maka dibentuk k-1 variabel dummy
• Model regresi yang digunakanmemiliki bentuk yang sama dan disetimasi dengan OLS.
Jenis Pemodelan dengan Dummy Variabel:

1. Regresi dengan dummy tanpa interaksi

 Di dalam model regresi terdapat variabel independen kualitatif yang berdiri sendiri
 Koefisisen variabel dummy ini dikumpulkan dengan konstanta, sehingga perbedaan koefisien
regresi antar kategori hanya terdapat pada intersep/ konstanta saja
𝑙𝑛𝑄𝑖 = 𝛽0 + 𝛽1 𝑙𝑛𝐾𝑖 + 𝛽2 𝐹𝑂𝑅𝑖 +𝑢𝑖
2. Regresi dengan dummy dan dengan interaksi
 Di dalam model regresi terdapar variabel bebas kualitatif serta ada interaksinya dengan
variabel independen yang bersifat coninue
 Di dalam model regresi terdapat variabel independen, sehingga perbedaan koefisien antar
kaegori terdapat pada intersep dan koefisiesn variabel independen

𝑙𝑛𝑄𝑖 = 𝛽0 + 𝛽1 𝑙𝑛𝐾𝑖 + 𝛽2 𝐹𝑂𝑅𝑖 +𝛽3 𝑙𝑛𝐾 ∗ 𝐹𝑂𝑅𝑖 +𝑢𝑖

Regresi dengan dummy tanpa interaksi (Gunakan data Latihan 1)

Dugaan persamaan regresi untuk observasi kepemilikan asing

𝒍𝒏𝑸𝒊 = 𝟒. 𝟗𝟏 + 𝟎. 𝟕𝟖𝒍𝒏𝒌𝒊 + 𝟏. 𝟎𝟎 𝟏
𝒍𝒏𝑸𝒊 = 𝟓. 𝟗𝟏 + 𝟎. 𝟕𝟖𝒍𝒏𝒌𝒊
Dugaan persamaan regresi untuk observasi kepemilikan domestik
𝒍𝒏𝑸𝒊 = 𝟒. 𝟗𝟏 + 𝟎. 𝟕𝟖𝒍𝒏𝒌𝒊 + 𝟏. 𝟎𝟎 𝟏
𝒍𝒏𝑸𝒊 = 𝟓. 𝟗𝟏 + 𝟎. 𝟕𝟖𝒍𝒏𝒌𝒊
Intepretasi koefisien variabel dummy
Rata-rata perbedaan output antara
kepemilikan asing dan domestik adalah
sebesar 1.001
5
Method to Developing A Probability Mode

• Sebelum mempelajari model dengan dummy, variabel kualitatif tersebut disisi kanan persamaan
(Sebagai variabel independen)
• Bagaimana jika variabel kualittaif tersebut berada di sisi kiri peramaan (Sebagai variabel dependen).
Contoh:
𝑦𝑖 = 𝛽0 + 𝛽1 𝑥𝑖 + 𝑢𝑖
𝑦𝑖 = 1, jika memilih membeli rumah
𝑦𝑖 = 0, jika memilih tiidak membeli rumah
𝑥𝑖 = pendapatan rumah tangga

• Pendugaan model kualitatif dengan OLS (seperti regresi biasa) tidak tepat digunakan, karena:
• Nilai 𝑦𝑖 bisa saja <0 atau >1 sehingga bertentangan dengan pronsip teori peluang
• Error term mengalami persoalan heteroskesdatisitas, Var(𝑢𝑖 )=𝑃𝑖 (1 − 𝑃𝑖 ) besar kecil Var(𝑢𝑖 )
bergantng pada nilai 𝑃𝑖
• Ada 2 pendekatan model yang dapat digunakan, yaitu model logit dan probit model

6
 Gunakan data Latihan 2

Output LPM  Faktor-faktor apa saja yang mempengaruhi penggunaan kartu debit?

. reg y x2 x3 x4

Source SS df MS Number of obs = 60

F( 3, 56) = 2.20
Model 1.55629241 3 .518764137 Prob > F = 0.0976
Residual 13.1770409 56 .235304302 R-squared = 0.1056
Adj R-squared = 0.0577
Total 14.7333333 59 .249717514 Root MSE = .48508

y Coef. Std. Err. t P>|t| [95% Conf. Interval]

x2 .0002856 .0001528 1.87 0.067 -.0000204 .0005917

x3 -.0269615 .0208988 -1.29 0.202 -.0688268 .0149038
x4 -.3019812 .1448249 -2.09 0.042 -.5921003 -.0118621
_cons .3631582 .1796183 2.02 0.048 .0033394 .7229769

Keterangan Variabel:
Y : Kepemilikan Kartu Debit
X2 : Saldo Rekening
Rata-rata probabilitas Y akibat perubahan satu unit X X3 : Jumlah Transaksi Lewat ATM
X4 : 1 jika Laki-laki
0 jika perempuan 7
INTERPRETASI LPM

• X2 (0.00028)  Perubahan Saldo rekening sebesar 1 unit akan meningkatkan

probabilitas seseorang memiliki kartu debit sebesar 0,02 persen, dengan asumsi
variabel lain tetap
• X3 (-0.026)  Perubahan jumlah transaksi di ATM sebesar 1 unit akan
menurunkan probabilitas seseorang untuk memiliki kartu debit sebesar 2,6
persen , dengan asumsi variabel lain tetap
• X4 (-0.301)  Probabilitas laki-laki memiliki kartu debit lebih rendah 30,1
persen daripada perempuan, dengan asumsi variabel lain tetap
Tes LPM untuk mengetahui adanya
Heteroskedastisitas
hettest . hettest

Breusch-Pagan / Cook-Weisberg test for heteroskedasticity

Ho: Constant variance
Variables: fitted values of y

chi2(1) = 2.13
Prob > chi2 = 0.1441

Tes LPM untuk mengetahui Normalitas

predict ycap, xb
predict e, resid
sktest e
 Model Probit dan Model Logit

Perbedaan model probit dan logit terletak pada asumsi distribusi errornya
• Jika diasumsikan error mengikuti sebaran nornal, menggunakan probit
• Jika diasumsikan error mengikuti sebaran logistik, menggunakan logit

PDF= probability distribution function

CDF= cummulative distribution function
 Model Probit dan Model Logit

Beberapa tipe model probit/Logit:

• Model probit/logit biner  variabel respon ada 2 katagori
• Model probit/logit multinomial variabel respon ada lenbih dari dua katagori

Perbedaan probit dan logit dapat dilihat pada pengunaan odd rasio sebagai nilai yang diintepretasikan
untuk model logit

Y=1 beli rumah

Y=0 tidak beli rumah
X=1 jenis kelamin laki-laki
X=0-> jenis kelaminperempuan
 Odd Ratio

P(1) : peluang laki-laki membeli rumah

1-P(1) : peluang laki-laki tidak membeli rumah
P(0) : peluang perempuan membeli rumah
1-P(0) : peluang perempuan tidak beli rumah

Odds rasio berapa kali kemungkinan (peluang) pilihan Y=1 dipilih oleh individu
berkarakteristik X=1 dibandingkan dengan individu berkarakteristik X=0

Dari contoh diatas peluang konsumen laki-laki membeli rumah adalah 𝑒 𝛽 peluang
konsumen perempuan membeli mobil
 Marginal Effect

 Saat mengestimasi model probit dan logit, biasanya menggunakan marginal effect
setelah melakukan regresi
 Efek marjinal mencerminkan perubahan probabilitas y=1 jika diberikan 1 unit
perubahan dalam variabel independen x.
Marginal effects for the regression model
 Pada regresi OLS, marginal effect ditentukan oleh coefficient bukan variabel x.
∂p⁄&xj = þ j
 The index j refers to the jth independent variable.
 [When we use the index i, it refers to the ith observation.]
Logistic Regression Model (Logit)
. logit y x2 x3 x4

Iteration 0: log likelihood = -41.053906

Iteration 1: log likelihood = -37.763236
Iteration 2: log likelihood = -37.750244
Iteration 3: log likelihood = -37.750243 F Probability

Logistic regression Number of obs = 60

LR chi2(3) = 6.61
Prob > chi2 = 0.0855
Log likelihood = -37.750243 Pseudo R2 = 0.0805
R- Square
y Coef. Std. Err. z P>|z| [95% Conf. Interval]

x2 .0012481 .0006973 1.79 0.073 -.0001186 .0026148

x3 -.1202251 .0939842 -1.28 0.201 -.3044307 .0639806
x4 -1.352086 .6809875 -1.99 0.047 -2.686797 -.0173746
_cons -.5749004 .7857868 -0.73 0.464 -2.115014 .9652134
Menentukan hubungan X
dan Y
 . logistic y x2 x3 x4

Logistic regression Number of obs = 60

LR chi2(3) = 6.61
Prob > chi2 = 0.0855
Log likelihood = -37.750243 Pseudo R2 = 0.0805

y Odds Ratio Std. Err. z P>|z| [95% Conf. Interval]

x2 1.001249 .0006982 1.79 0.073 .9998814 1.002618

x3 .8867208 .0833377 -1.28 0.201 .7375431 1.066072
x4 .2587002 .1761716 -1.99 0.047 .0680987 .9827755
_cons .5627609 .4422101 -0.73 0.464 .1206316 2.625348

Mengukur kecenderungan pemilihan Y karena adanya perubahan X

(membandingkan peluang “Ya” dan “Tidak”)
. mfx

Marginal effects after logit

y = Pr(y) (predict)
= .42512422

variable dy/dx Std. Err. z P>|z| [ 95% C.I. ] X

x2 .000305 .00017 1.79 0.073 -.000029 .000639 1499.87

x3 -.0293822 .02297 -1.28 0.201 -.074396 .015631 10.3
x4* -.2993972 .12919 -2.32 0.020 -.552595 -.046199 .266667

(*) dy/dx is for discrete change of dummy variable from 0 to 1

Mengukur perubahan probabilitas karena adanya perubahan pada

satu unit x
INTERPRETASI LOGIT-MARGINAL EFFECTS

• X2 (.000305 )  Perubahan Saldo rekening sebesar 1 unit akan meningkatkan probabilitas

seseorang memiliki kartu debit sebesar 0,3 persen, dengan asumsi variabel lain tetap
• X3 (-0.029)  Perubahan jumlah transaksi di ATM sebesar 1 unit akan menurunkan
probabilitas seseorang memiliki kartu debit sebesar 2,9 persen, dengan asumsi variabel lain
tetap
• X4 (-0.29)  Probabilitas seseorang memiliki kartu debit lebih rendah sebesar 29 persen jika
individu tersebut laki-laki, dengan asumsi variable lain tetap
 INTERPRETASI LOGIT-ODDS RATIO

• X2 (1.001)  Jika jumlah saldo rekening lebih tinggi/banyak, maka peluang seseorang memiliki kartu
debit lebih tinggi sebesar 1,01 kali daripada peluang untuk tidak memiliki kartu debit
• X3 (0.886)  Jika jumlah transaksi di ATM seseorang lebih tinggi maka peluang seseorang memiliki
kartu debit lebih tinggi sebesar 0.886 kali daripada peluang untuk tidak memiliki kartu debit
• X4 (0.25) Jika individu tersebut adalah laki-laki, probabilitas orang yang memiliki kartu debit lebih
tinggi sebesar 0,25 daripada probabilitas untuk tidak memiliki kartu debit atau sebesar 25 persen
orang akan memilih untuk memegang kartu debit jika individu tersebut adalah laki-laki.
Probit Regression Model (Logit)
Output Probit
. inspect y

y: Y Number of Observations

Total Integers Nonintegers

# Negative - - -
# Zero 34 34 -
# # Positive 26 26 -
# #
# # Total 60 60 -
# # Missing -

0 1 60
(2 unique values)
 Output Probit (2)
. probit y x2 x3 x4

Iteration 0: log likelihood = -41.053906

Iteration 1: log likelihood = -37.729768
Iteration 2: log likelihood = -37.712515
Iteration 3: log likelihood = -37.712512

Probit regression Number of obs = 60

LR chi2(3) = 6.68
Prob > chi2 = 0.0827
Log likelihood = -37.712512 Pseudo R2 = 0.0814

y Coef. Std. Err. z P>|z| [95% Conf. Interval]

x2 .0007776 .0004205 1.85 0.064 -.0000467 .0016018

x3 -.0752792 .0571513 -1.32 0.188 -.1872937 .0367353
x4 -.8349472 .4072485 -2.05 0.040 -1.63314 -.0367548
_cons -.3613552 .4931729 -0.73 0.464 -1.327956 .6052458

Z-scores
 Interpretasi Z-Scores

X2  1 persen kenaikan saldo rekening akan meningkatkan z-score dari P=1 (probabilitas untuk
memiliki kartu ATM) sebesar 0.07 kali
X3  1 persen kenaikan jumlah transaksi lewat ATM, akan menurunkan z-score dari P=1 (probabilitas
untuk memiliki kartu ATM) sebesar 7,5 kali
X4  Jika individu tersebut adalah laki-laki maka, z-score dari P=1 (probabilitas untuk memiliki kartu
ATM) lebih rendah sebesar 83,4 kali daripada jika individu tersebut adalah perempuan.
 Output Marginal Effects After Probit

. mfx

Marginal effects after probit

y = Pr(y) (predict)
= .42343817

variable dy/dx Std. Err. z P>|z| [ 95% C.I. ] X

x2 .0003045 .00016 1.85 0.064 -.000018 .000626 1499.87

x3 -.0294773 .02235 -1.32 0.187 -.073285 .014331 10.3
x4* -.3014915 .12913 -2.33 0.020 -.55458 -.048403 .266667

(*) dy/dx is for discrete change of dummy variable from 0 to 1

Marginal effects
 Interpretasi Marginal Effects

X2  Perubahan Saldo rekening sebesar 1 unit akan meningkatkan probabilitas seseorang

memiliki kartu debit sebesar 0,3 persen, dengan asumsi variabel lain tetap
X3  Perubahan jumlah transaksi di ATM sebesar 1 unit akan menurunkan probabilitas
seseorang memiliki kartu debit sebesar 2,9 persen, dengan asumsi variabel lain
tetap
X4  Probabilitas seseorang memiliki kartu debit lebih rendah sebesar 30 persen jika
bunga dimasukkan ke rekening, dengan asumsi variable lain tetap
Membandingkan hasil, LPM, Logit dan Probit Model

Marginal
LPM Logit Probit
Effects
X2 0,00028 0,000305 0,000304
X3 -0,0269 -0,029 -0,0294
X4 -0,302 -0,299 -0,301

Nilai marginal effects untuk ketiga model hampir

sama, dengan arah hubungan yang sama
Percent correctly predicted values

Around 62% both

Logit and Probit
predict the
probability correctly.

25