PEMBENTUKAN MODEL

REGRESI LINIER BERGANDA

Siskarossa Ika Oktora, SST, M.Stat

Model Building Process

A. Data Collection

B. Reduction of The Number of Independent Variables

C. Model Refinement and Selection

D. Model Validation
 Data Collection

Model Building Process

❑ Cari variabel yang terkait dengan penelitian (lakukan kajian teori)

❑ Hindari pemilihan variabel independen yang berkaitan erat satu dengan

lainnya

❑ Perhatikan jumlah observasi dan jumlah variabel yang digunakan. Semakin

banyak jumlah variabel independen yang digunakan, maka jumlah
observasi yang digunakan pun harus banyak. Antisipasi pula kemungkinan
banyaknya interaksi yang digunakan (hanya gunakan important interaction
saja).

❑ Plotkan data untuk mendeteksi adanya outlier dan pola hubungan antar
variabel.
 Reduction Number of Independent Variables

Model Building Process

❑ Select a few “good” subsets of X variables

❑ Pemilihan model terbaik tidak hanya melibatkan variabel independen yang

potensial dalam bentuk first-order saja, namun bentuk kuadratik atau bentuk
lainya, serta suku interaksi yang diperlukan di dalam model.

❑ Carilah model regresi yang memenuhi konsep parsimony (mudah dipahami

karena mengandung lebih sedikit variabel independen namun informasi
yang dicakup cukup banyak)

❑ Since the uses of regression models vary, no one subset of independent

variables is usually always best.
 Model Refinement and Selection

Model Building Process

❑ Setelah mengurangi banyaknya variabel yang digunakan, maka peneliti

akan mendapatkan sejumlah “potential good regression models”.

❑ Perlu dilakukan pengecekan mendalam terkait pola hubungan dan suku

interaksi yang diharapkan.

❑ Untuk menentukan model regresi yang akan dipilih, dapat digunakan

residual plots and partial regression plots.
 Model Validation

Model Building Process

❑ Merupakan bagian penting dalam pembentukan model regresi

❑ Model validity refers to :

• Stability and reasonableness of the regression coefficients

• Plausibility and usability of regression function

• Ability to generalize inferences drawn from the regression analysis

ALL POSSIBLE REGRESSION
All Possible Regression
All Possible Regression
All Possible Regression
All Possible Regression
All Possible Regression
All Possible Regression
All Possible Regression
All Possible Regression

Model dengan PRESS yang

kecil dapat dikatakan fit well
dalam artian memiliki prediksi
error yang kecil.
FORWARD STEPWISE
REGRESSION
Forward Stepwise Regression
Forward Stepwise Regression

Variabel X yang terpilih pada tahap 1 belum tentu terpilih

sampai tahap terakhir. Pada akhirnya nanti terpilih
kombinasi variabel yang memberikan SSE yang terkecil.