Analisis Regresi

Pengertian
Digunakan untuk mengukur besarnya pengaruh
variabel bebas (independent variable) terhadap
variabel tak bebas (dependent variable), dan
memprediksi variabel dependent dengan
menggunakan variabel independent Gujarati (2006)
Tujuan analisis regresi:
a. Membuat estimasi rata-rata & nilai variabel dependent
berdasarkan nilai variabel independent
b. Menguji hipotesis karakteristik dependensi
c. Meramalkan nilai rata-rata variabel bebas dengan
didasarkan pada nilai variabel bebas di luar jangkauan
sampel

Asumsi Apa Saja Yg Dapat Digunakan

Dlm Regresi Linear Sederhana ?
Model regresi harus linear dlm parameter
Variabel bebas tak berkorelasi dengan disturbance term
(error)
Nilai disturbance term sebesar 0 atau dinyatakan dgn
simbol (E (U/X) = 0)
Varian untuk masing-masing eror term (kesalahan) konstan
Tidak ada auto korelasi
Model regresi yang dispesifikasikan benar. Tidak terdapat
bias spesifikasi dlm model yang digunakan dlm analisis
empiris
Jika variabel bebas lebih dari satu, maka variabel bebas
tidak ada hubungan linear yang nyata

Syarat-Syarat Yang Harus Dipenuhi

Model regresi dinyatakan layak jika angka signifikansi pada ANOVA <
0,05
Prediktor yg digunakan sbg variabel bebas harus layak. Kelayakan ini
diketaahui jika angka standard error of estimate < standard deviasi
Koefisien regresi harus signifikan. Pengujian dilakukan dengan Uji-T,
yaitu jika t-Hitung > t-Tabel
Tidak boleh terjadi Multikolinearitas, artinya tidak boleh terjadi
korelasi yg sangat tinggi atau sangat rendah antar variabel bebas
(Kalau regresi berganda)
Tidak terjadi otokorelasi (Jika angka Durbin dan Watson (DB) sebesar
<1 atau >3)
Keselarasan model regresi dapat diterangkan dgn menggunakan nilai
r2 semakin besar, nilai tersebut, maka model smakin baik.
Terdapat hubungan linear antara variabel bebas dgn tak bebas
Data harus berdistribusi normal

Uji Hipotesis
Ada dua: tingkat signifikansi atau
probabilitas & tingkat kepercayaan
(confidence interval)
Kisaran tingkat signifikansi 0,01 sd 0,1.
Umumnya digunakan 0,05
Yg dimaksud tingkat signifikansi adalah PROBABILITAS
MELAKUKAN KESALAHAN TIPE-1, yaitu menolak
Hipotesis ketika hipotesis tsb adalah benar

Tingkat kepercayaan umumnya sebesar 95%

Maksudnya adalah Tingkat dimana sebesar 95% nilai
sampel akan mewakili populasi dimana sampel
berasal

Pengujian Hipotesis Distribusi t

Pada Model Regresi Berganda
Uji t pada dasarnya menunjukkan seberapa jauh
pengaruh satu variabel bebas secara individual
dalam menerangkan variasi variabel terikat.
Tujuan dari uji t adalah untuk menguji koefisien
regresi secara individual.
Hipotesa Nol = Ho
Ho adalah satu pernyataan mengenai nilai parameter
populasi. Ho merupakan hipotesis statistik yang akan diuji
hipotesis nihil.

Hipotesa alternatif = Ha
Ha adalah satu pernyataan yang diterima jika data sampel
memberikan cukup bukti bahwa hipotesa nol adalah salah.

Langkah-langkah/ urutan menguji

hipotesa dengan distribusi t

1. Merumuskan hipotesis
Ho : i = 0,
artinya variabel bebas bukan
merupakan penjelas yang signifikan
terhadap variabel terikat

Ha : i 0,
artinya variabel bebas merupakan
penjelas yang signifikan terhadap
variabel terikat.

2. Menentukan taraf nyata/ level

of significance =
Taraf nyata / derajad keyakinan yang
digunakan sebesar = 1%, 5%, 10%,
dengan:
df = n k
Dimana:
df = degree of freedom/ derajad kebebasan
n = Jumlah sampel
k = banyaknya koefisien regresi + konstanta

3. Menentukan daerah keputusan

Yaitu daerah dimana hipotesa nol diterima
atau tidak.
Untuk mengetahui kebenaran hipotesis
digunakan kriteria sebagai berikut.
Ho diterima apabila
t ( / 2; n k) t hitung t ( / 2; n k),
artinya tidak ada pengaruh antara variabel bebas
terhadap variabel terikat.

Ho ditolak apabila
t hitung > t ( / 2; n k) atau t hitung < -t ( / 2; n
k),
artinya ada pengaruh antara variabel bebas terhadap
variabel terikat.

4. Menentukan uji statistik

(Rule of the test)

5. Mengambil keputusan
Keputusan bisa menolak Ho atau menolak Ho
menerima Ha.
Nilai t tabel yang diperoleh dibandingkan nilai t
hitung, bila t hitung lebih besar dari t tabel,
maka Ho ditolak, sehingga dapat disimpulkan
bahwa variabel independent berpengaruh pada
variabel dependent.
Apabila t hitung lebih kecil dari t tabel, maka
Ho diterima sehingga dapat disimpulkan bahwa
variabel independen tidak berpengaruh
terhadap variabel dependen.

Contoh

Bulan

Biaya Produksi Tak

Langsung

Jumlah tenaga
Kerja

Januari

220

30

Februari

140

25

Maret

130

15

April

175

24

Mei

240

31

Juni

120

27

Juli

160

10

90

300

29

Oktober

89

12

November

70

16

Desember

60

14

Agustus
September

Praktek SPSS
Klik Analyze Klik Regression: Pilih Linear
Pindahkan variabel2
Biaya Langsung -> Dependent
Jumlah Tenaga Kerja Independent
Bulan Case Labels

Isi kolom Method: Enter

Klik Options:
Pada pilihan Stepping Method Criteria, masukan angka 0,05
Pada Kolom Entry > Cek Include constant in equation > Pada Pilihan
Missing Values cek Exclude cases listwise > tekan Continue

Pilih Statistics: Pada pilihan Regression Coefficient, pilih Estimate,

Model Fit dan Descriptive. Pada pilihan residual pilih case wise
Diagnostics dan cek All cases > Tekan Continue
Klik Plots (Membuat Grafik)
Isi Kolom Y dengan pilihan SDRESID & kolom X dengan ZPRED, tekan Next
Isi lagi Kolom Y dengan ZPRED & X dengan DEPENDENT
Pada pilihan Standardized Residual Plots, cek Normal Probability Plot

Tekan Continue > OK

Selesai

Output SPSS

 Bagian ini digunakan untuk menafsir

besarnya rata-rata biaya produksi tak
langsung & jml tenaga kerja
Rata-rata Biaya Produksi Tak Langsung
= 147,83 dengan simpangan baku
71,978
Rata-rata Jml Tenaga Kerja = 20,167
dengan simpangan baku 8,277

Korelasi Antara Jml Tng Kerja dgn Biaya Produksi Tak

Langsung

Untuk mengetahui ada/tidaknya hubungan antara variabel

BPTL dengan JTK. Jika ada, berapa besarnya ?
Besarnya adalah 0,716 (positif dan > 0,5)
Positif menunjukkan bahwa hubungannya searah
Apakah nilai r ini signifikan ? Bandingkan angka
signifikansinya dengan 0,05. Jika nilainya < 0,05 artinya ada
hubungan yang signifikan diantara kedua variabel tersebut

Metode Dalam Memasukan Variabel

Ringkasan Model (Koefisien Determinasi)

Menunjukkan koefisien determinasi (R square), yg berfungsi untuk

mengetahui besarnya persentase dari variabel dependen (BPTL)
dapat diprediksi dg variabel bebas (JTK)
Disini nilainya 0,513 atau 51,3%. Angka ini berarti bahwa sebesar
51,3% BPTL yg terjadi dapat dijelaskan dg menggunakan variabel JTK
Sedangkan sisanya (100-51,3) = 46,7% harus dijelaskan oleh
variabel2 penyebab yang lain.
Besarnya SEE (Standard Error of the Estimate) adalah 52,702
Jika nilai SEE ini dibandingkan dengan Simpangan Baku (Lihat bagian
deskriptif) yaitu 71,9783, maka nilai SEE ini lebih kecil. Artniya
variabel JTK baik untuk dijadikan prediktor bagi variabel BPTL

ANOVA

Untuk menunjukkan besarnya angka Probabilitas atau

Signifikansi, yaitu untuk menguji kelayakan model
regresi.
Layak bila angka probabilitas < 0,05
Uji ANOVA menghasilkan angka F=10,518 dgn tingkat
signifikansi (angka probabilitas) = 0,009
Karena 0,009 < 0,05, maka model regresi ini layak
untuk memprediksi BPTL dengan JTK

Koefisien Regresi

Bagian ini informasi tentang persamaan

regresi:
Y = a + bX, mencari nilai a dan b
Nilai a Constant = 22,276
Nilai b 6,226
Jadi Y = 22,276 + 6,226X

Arti Persamaan Regresi

Angka 22,276 artinya bahwa jika tida
ada tambahan JTK (X=0), maka nilai
BPTL akan bertambah sebesar
22,276
Angka 6,226, berarti bahwa setiap
penambahan 1 tenaga kerja baru,
maka nilai BPTL akan meningkat
sebesar 6,226

Uji-t
Untuk menguji signifikansi konstanta dan variabel Tenaga
Kerja yg digunakan sebagai prediktor untuk variabel BPTL
Hipotesis:
Ho = Koefisien regresi tidak signifikan
H1 = Koefisien regresi signifikan

Keputusan:
Jika t-hitung < t-tabel maka Ho DITERIMA
Jika t-hitung > t-tabel maka Ho DITOLAK

Dari hasil hitungan: t-hitung = 3,243

Bandingkan dengan t-tabel, dengan DF=12-2=10 dan
alpha =0,05 diperoleh nilai t-tabel = 2,228
Dengan demikian t-hitung > t-tabel, Ho ditolak

Diagnosa Per Kasus

Menjelaskan Biaya Minimum & Maksimum

Tentang Uji
Lalu apa yang dimaksud dengan probabilita satu arah dan dua arah ?
Dari sisi ini, pengujian hipotesis memiliki dua bentuk pengujian yaitu pengujian satu arah
dan pengujian dua arah.
Pengujian satu arah atau dua arah tergantung pada perumusan hipotesis yang akan kita
uji. Misalnya jika hipotesis kita berbunyi, pendidikan berpengaruh positif terhadap
pendapatan. Artinya semakin tinggi pendidikan semakin besar pendapatan. Maka
pengujiannya menggunakan uji satu arah. Atau, misalnya umur berpengaruh negatif
terhadap pendapatan. Artinya semakin tua umur semakin rendah pendapatan. Ini juga
menggunakan pengujian satu arah.
Tetapi jika hipotesisnya berbunyi, terdapat pengaruh umur terhadap pendapatan. Artinya
umur bisa berpengaruh positif , tetapi juga bisa berpengaruh negatif terhadap pendapatan.
Maka, pengujiannya menggunakan uji dua arah.
Kalau kita melakukan pengujian satu arah. Maka pada tabel t, lihat pada judul kolom
bagian paling atasnya (angka yang kecilnya). Sebaliknya kalau kita melakukan pengujian
dua arah, lihat pada judul kolom angka yang besarnya.
Selanjutnya bagaimana menentukan derajat bebas atau degree of freedom (df) tersebut ?
Dalam pengujian hipotesis untuk model regresi, derajat bebas ditentukan dengan rumus n
k. Dimana n = banyak observasi sedangkan k = banyaknya variabel (bebas dan terikat).
(Catatan: untuk pengujian lain misalnya uji hipotesis rata-rata dllnya rumus ini bisa
berbeda).