Anda di halaman 1dari 18

REGRESI LINIER SEDERHANA

Tugas Disusun Untuk Memenuhi Tugas Analisis Regresi Disusun Oleh : Zaki Hidayat (3115106662)

PROGRAM STUDI PENDIDIKAN MATEMATIKA NON REGULER 2010 JURUSAN MATEMATIKA FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS NEGERI JAKARTA JAKARTA 2013

A. PENDAHULUAN Dalam mengolah data si peneliti akan selalu berkepentingan menentukan hubungan antara dua atau lebih peubah. Hubungan tersebut mungkin renggang, seperti dalam asosiasi, atau mungkin pula erat. Pada satu pihak, dua peubah mungkin bebas satu sama lain. Dalam keadaan seperti itu, korelasinya nol. Pada pihak yang lain, kedua peubah bergantung sepenuhnya pada yang lain. Bila hubungan kedua peubah tersebut linier (keduanya disebut kolinier) maka harga mutlak korelasinya satu. Dalam asosiasi kita hanya memasangkan nilai x dengan nilai y tanpa mempersoalkan bentuk hubungan tersebut. Hubungan seperti ini merupakan yang terlemah. Dalam penelitian, orang biasa bekerja menggunakan model, suatu hubungan fungsional antara peubah. Dengan model itu kita berusaha memahami, menerangkan, mengendalikan dan kemudian memprediksikan kelakuan sistem yang kita teliti. Di sini digunakan istilah memprediksi dan bukan meramalkan. Prediksi mempunyai arti yang khusus, yaitu inter atau ekstrapolasi. Model juga menolong peneliti dalam menentukan hubungan kausal (sebab akibat) antara dua atau lebih peubah. Secara umum, model merupakan penyederhanaan dan abstraksi dari keadaan alam yang sesungguhnya. Keadaan alam yang ingin diteliti biasanya amat rumit dan kemampuan kita menelitinya secara keseluruhan amat sesuai terbatas, dengan karena itu kita akal perlu kita menyederhanakannya kemampuan

menghadapinya. Dari pengalaman di masa lalu atau dari dugaan mengenai hubungan antara peubah dalam sistem yang diteliti, dirumuskan perkiraan kelakuan sistem tersebut dalam berbagai situasi. Si peneliti mengharapkan bahwa model tersebut merupakan

teori tentang cara kerja sistem yang dia teliti. Rumusan hubungan tersebut yang selanjutnya dinyatakan dalam bentuk hipotesis, seterusnya di uji berdasarkan data statistik yang dikumpulkan kemudian. Pendekatan seperti ini sering disebut bersifat induksi, sebagai lawan dari yang bersifat aksioma (deduksi). Model yang dibicarakan di sini akan selalu berbentuk fungsi dan regresi merupakan alat yang ampuh dalam pembentukannya. Analisis regresi yang akan dibahas di sini, yaitu analisis regresi sederhana. Dimana, analisis regresi linier sederhana yaitu berfungsi untuk mengetahui hubungan linier antara dua variabel, satu variabel dependen dan satu variabel independen. Dalam regresi linier sederhana, metode yang biasa digunakan dalam mengestimasi parameter regresi adalah metode kuadrat terkecil atau Ordinary Least Squares (OLS). Konsep metode ini adalah untuk mengestimasi parameter dengan memilih garis regresi yang terdekat dengan garis dari semua data. Secara matematika Myers, 1986). B. TUJUAN Tujuan menggunakan analisis regresi linier sederhana ialah 1. Untuk mengetahui asumsi yang digunakan dalam regresi linier sederhana 2. Untuk memprediksikan nilai variabel regresi 3. Untuk mengetahui ditolak atau diterima H0 dengan uji hipotesis. C. PEMBAHASAN penentuan parameter regresi ini dengan cara meminimumkan jumlah kuadrat dari residualnya (Walpole dan

1. ASUMSI LINIER REGRESI SEDERHANA Regresi linear sederhana didasarkan pada asumsi uji, diantaranya sebagai berikut : a. Uji Normalitas. Uji normalitas adalah untuk melihat apakah nilai residual terdistribusi normal atau tidak. Model regresi yang baik adalah memiliki nilai residual yang terdistribusi normal. Jadi uji normalitas bukan dilakukan pada masing-masing variabel tetapi pada nilai residualnya. Sering terjadi kesalahan yang jamak yaitu bahwa uji normalitas dilakukan pada masing-masing variabel. Hal ini tidak dilarang tetapi model regresi memerlukan normalitas pada nilai residualnya bukan pada masing-masing variabel penelitian. Pengertian normal secara sederhana dapat dianalogikan dengan sebuah kelas. Dalam kelas siswa yang bodoh sekali dan pandai sekali jumlahnya hanya sedikit dan sebagian besar berada pada kategori sedang atau rata-rata. Jika kelas tersebut bodoh semua maka tidak normal, atau sekolah luar biasa. Dan sebaliknya jika suatu kelas banyak yang pandai maka kelas tersebut tidak normal atau merupakan kelas unggulan. Pengamatan data yang normal akan memberikan nilai ekstrim rendah dan ekstrim tinggi yang sedikit dan kebanyakan mengumpul di tengah. Demikian juga nilai rata-rata, modus dan median relatif dekat. Uji normalitas dapat dilakukan dengan uji histogram, uji normal P Plot, uji Chi Square, Skewness dan Kurtosis atau uji Kolmogorov Smirnov. Tidak ada metode yang paling baik atau paling tepat. Tipsnya adalah bahwa pengujian dengan metode grafik sering menimbulkan perbedaan persepsi di antara beberapa pengamat, sehingga penggunaan uji normalitas dengan uji statistik bebas dari

keragu-raguan, meskipun tidak ada jaminan bahwa pengujian dengan uji statistik lebih baik dari pada pengujian dengan metode grafik. Jika residual tidak normal tetapi dekat dengan nilai kritis (misalnya signifikansi Kolmogorov Smirnov sebesar 0,049) maka dapat dicoba dengan metode lain yang mungkin memberikan justifikasi normal. Tetapi jika jauh dari nilai normal, maka dapat dilakukan beberapa langkah yaitu: melakukan transformasi data, melakukan trimming data outliers atau menambah data observasi. Transformasi dapat dilakukan ke dalam bentuk Logaritma natural, akar kuadrat, inverse, atau bentuk yang lain tergantung dari bentuk kurva normalnya, apakah condong ke kiri, ke kanan, mengumpul di tengah atau menyebar ke samping kanan dan kiri.

b. Uji Multikolinearitas. Uji multikolinearitas adalah untuk melihat ada atau tidaknya korelasi yang tinggi antara variabel-variabel bebas dalam suatu model regresi linear berganda. Jika ada korelasi yang tinggi di antara variabel-variabel bebasnya, maka hubungan antara variabel bebas terhadap variabel terikatnya menjadi terganggu. Sebagai ilustrasi, adalah model regresi dengan variabel bebasnya motivasi, kepemimpinan dan kepuasan kerja dengan variabel terikatnya adalah kinerja. Logika sederhananya adalah bahwa model tersebut untuk mencari pengaruh antara motivasi, kepemimpinan dan kepuasan kerja terhadap kinerja. Jadi tidak boleh ada korelasi yang tinggi antara motivasi dengan kepemimpinan, motivasi dengan kepuasan kerja atau antara kepemimpinan dengan kepuasan kerja.

Alat statistik yang sering dipergunakan untuk menguji gangguan multikolinearitas adalah dengan variance inflation factor (VIF), korelasi pearson antara variabel-variabel bebas, atau dengan melihat eigenvalues dan condition index (CI). Beberapa alternatif cara untuk mengatasi masalah multikolinearitas adalah sebagai berikut: Mengganti atau mengeluarkan variabel yang mempunyai korelasi yang tinggi. Menambah jumlah observasi. Mentransformasikan data ke dalam bentuk lain, misalnya

logaritma natural, akar kuadrat atau bentuk first difference delta. Dalam tingkat lanjut dapat digunakan metode regresi bayessian yang masih jarang sekali digunakan.

c. Uji Heteroskeditas. Uji heteroskedastisitas adalah untuk melihat apakah terdapat ketidaksamaan varians dari residual satu ke pengamatan ke pengamatan yang lain. Model regresi yang memenuhi persyaratan adalah di mana terdapat kesamaan varians dari residual satu pengamatan ke pengamatan yang lain tetap atau disebut homoskedastisitas. Deteksi heteroskedastisitas dapat dilakukan dengan metode scatter plot dengan memplotkan nilai ZPRED (nilai prediksi) dengan SRESID (nilai residualnya). Model yang baik didapatkan jika tidak terdapat pola tertentu pada grafik, seperti mengumpul di tengah, menyempit kemudian melebar atau sebaliknya melebar kemudian

menyempit. Uji statistik yang dapat digunakan adalah uji Glejser, uji Park atau uji White. Beberapa alternatif solusi jika model menyalahi asumsi heteroskedastisitas adalah dengan mentransformasikan ke dalam bentuk logaritma, yang hanya dapat dilakukan jika semua data bernilai positif. Atau dapat juga dilakukan dengan membagi semua variabel dengan variabel yang mengalami gangguan heteroskedastisitas. d. Uji Autokorelasi. Uji autokorelasi adalah untuk melihat apakah terjadi korelasi antara suatu periode t dengan periode sebelumnya (t -1). Secara sederhana adalah bahwa analisis regresi adalah untuk melihat pengaruh antara variabel bebas terhadap variabel terikat, jadi tidak boleh ada korelasi antara observasi dengan data observasi sebelumnya. Sebagai contoh adalah pengaruh antara tingkat inflasi bulanan terhadap nilai tukar rupiah terhadap dollar. Data tingkat inflasi pada bulan tertentu, katakanlah bulan Februari, akan dipengaruhi oleh tingkat inflasi bulan Januari. Berarti terdapat gangguan autokorelasi pada model tersebut. Contoh lain, pengeluaran rutin dalam suatu rumah tangga. Ketika pada bulan Januari suatu keluarga mengeluarkan belanja bulanan yang relatif tinggi, maka tanpa ada pengaruh dari apapun, pengeluaran pada bulan Februari akan rendah. Uji autokorelasi hanya dilakukan pada data time series (runtut waktu) dan tidak perlu dilakukan pada data cross section seperti pada kuesioner di mana pengukuran semua variabel dilakukan secara serempak pada saat yang bersamaan. Model regresi pada

penelitian di Bursa Efek Indonesia di mana periodenya lebih dari satu tahun biasanya memerlukan uji autokorelasi. Beberapa uji statistik yang sering dipergunakan adalah uji Durbin-Watson, uji dengan Run Test dan jika data observasi di atas 100 data sebaiknya menggunakan uji Lagrange Multiplier. Beberapa cara untuk menanggulangi masalah autokorelasi adalah dengan mentransformasikan data atau bisa juga dengan mengubah model regresi ke dalam bentuk persamaan beda umum (generalized difference equation). Selain itu juga dapat dilakukan dengan memasukkan variabel lag dari variabel terikatnya menjadi salah satu variabel bebas, sehingga data observasi menjadi berkurang. e. Uji Linearitas. Uji linearitas dipergunakan untuk melihat apakah model yang dibangun mempunyai hubungan linear atau tidak. Uji ini jarang digunakan pada berbagai penelitian, karena biasanya model dibentuk berdasarkan telaah teoretis bahwa hubungan antara variabel bebas dengan variabel terikatnya adalah linear. Hubungan antar variabel yang secara teori bukan merupakan hubungan linear sebenarnya sudah tidak dapat dianalisis dengan regresi linear, misalnya masalah elastisitas. Jika ada hubungan antara dua variabel yang belum diketahui apakah linear atau tidak, uji linearitas tidak dapat digunakan untuk memberikan adjustment bahwa hubungan tersebut bersifat linear atau tidak. Uji linearitas digunakan untuk mengkonfirmasikan apakah sifat linear antara dua variabel yang diidentifikasikan secara teori sesuai atau tidak dengan hasil observasi yang ada. Uji

linearitas dapat menggunakan uji Durbin-Watson, Ramsey Test atau uji Lagrange Multiplier. 2. METODE KUADRAT TERKECIL Misalkan sedemikian sehingga untuk menentukan koefisien regresi

minimum.

dan

berubah bila garis regresinya berubah. Ini dan turunan

berarti kita haru mencari turunan J terhadap terhadap Terhadap . menjadi

Terhadap

menjadi

Kemudian

dan

diganti dengan taksirannya yaitu

dan .

Sehingga menjadi

Dan

Diketahui dapat ditulis

dan

sehingga persamaan diatas

dan bagian kedua menjadi

Sehingga dapat disederhanakan menjadi

Taksiran persamaan regresi dapat ditulis

Contoh soal : Data berikut adalah nilai rapor Zaki pada bidang studi Fisika (X) dan Kimia (Y), Selama 6 semester : Fisika (X) 70 88 73 80 75 85 Kimia (Y) 80 87 90 93 90 95

a. Tentukan persamaan garis regresi linear pada data tersebut b. Taksirlah nilai Kimia yang didapatkan oleh Zaki, bila ia mendapatkan nilai Fisika di rapor adalah 77 Jawaban : a. Buatlah tabel : X 70 88 73 80 75 85 X = 471 Y 80 87 90 93 90 95 Y = 535 X2 4900 7744 5329 6400 5625 7225 X2 = 37223 XY 5600 7656 6570 7440 6750 8075 XY = 42091

n n n n n n xi yi xi yi i =1 i =1 i =1 y b xi i b= dan 2 i =1 i =1 n n a= n xi 2 xi n i =1 i =1 ( 6 ) ( 42091) ( 471) ( 535 ) = 0,374 535 ( 0,374 ) ( 471) b= dan a = = 59,807 2 6 ( 37223) 471 6

Jadi Persamaan garis regresinya adalah : = 59,807 + 0,374 x y b. Nilai prediksi kimia zaki yang didapatkan adalah = 59,807 + ( 0,374 ) ( 77 ) = 88, 605 89 y 3. UJI HIPOTESIS PARAMETER REGRESI Uji ini digunakan untuk mengetahui apakah variabel independen (X) berpengaruh secara signifikan terhadap variabel dependen (Y). Signifikan berarti pengaruh yang terjadi dapat berlaku untuk populasi (dapat digeneralisasikan).

Untuk menguji hipotesis nol (H0) bahwa = 0 lawan suatu tandingan yang sesuai dengan persoalan, kembali digunakan distribusi-t dengan derajat kebebasan nilai thit = b s / J xx dimana : n-2 untuk mendapatkan suatu daerah kritis dan kemudian mendasarkan keputusan atas

s=

J yy bJ xy n2

s = jumlah tak bias b = gradien persamaan regresi linier n = jumlah populasi Jxx, Jxy, Jyy adalah simpangan kuadrat
J xx = S xx = ( xi x )
i =1 n 2 2

1 n = x i xi n i =1 i =1
n 2
2

n n 1 n J yy = S yy = ( y i y ) = y 2 yi i n i =1 i =1 i =1

J xy = S xy = ( xi x )( yi y ) = xi yi
i=1 i=1

1 n n xi y i n i=1 i=1

Jika harga mutlak t-hitung lebih besar dari t tabel, maka tolak H 0 Contoh soal : Dengan memperhatikan tabel pada contoh sebelumnya, ujilah hipotesis bahwa = 0 pada taraf keberartian 0,05 lawan tandingan bahwa 0. Jawab :
2

1 n J xx = xi xi n i =1 i =1
n 2

= 37223

4712 = 249,5 6

1 n J yy = yi yi n i =1 i =1
n 2

= 47843

5352 = 138,333 6

n 1 n n J xy = xi yi xi yi n i =1 i =1 i =1 ( 471) ( 535 ) = 93,5 = 42091 6

Simpangan bakunya J yy bJ xy s= n2 = 138,333 ( 0,374 ) ( 93,5 ) 62 = 5, 083

Proses Uji hipotesis : 1. 2. 3. 4. 5. thit = = H0 : = 0 H1 : 0 Taraf keberartian 0,05 T-tabel 2,776 Cari t-hitung : b s / J xx

0,374 = 1, 617 ( 5, 083) / 249,5 6. Karena harga mutlak t-hitung lebih kecil dari t-tabel, maka dapat disimpulkan terima H0

RANGKUMAN
1. Pengujian estimasi dan hipotesis membentuk dua cabang utama statistika klasik. 2. Terdapata lima asumsi dalam regresi linier sederhana yaitu dengan asumsi uji normalitas, heteroskeditas, linieritas, autokorelasi dan multikolinearitas 3. Yang mendasari pendekatan interval kepercayaan adalah konsep dari estimasi interval. Sebuah estimasi interval adalah sebuah interval atau jarak yang dibentuk dengan memilki probabilitas yang telah dibentuk, termasuk mencakup batasan dari nilai parameter yang tidak diketahui. 4. Dalam prosedur pengujian signifikansi, seseorang menyusun sebuah pengujian statistik dan memeriksa distribusi sampling dibawah hipotesis nol.

TES FORMATIF
1. Diketahui data di bawah ini, carilah persamaan regresinya 1 2 3 4 5 Jawab : 1 2 3 4 5 15 2 1 4 5 3 15 2 2 12 20 15 51 1 4 9 16 25 55 2 1 4 5 3

Jadi persamaan regresinya 2. Berdasarkan data diatas, tentukan apakah variabel x mempengaruhi variabel y ( H0 : = 0, taraf keberartian 0,05 lawan tandingannya 0 )

1 n J xx = xi xi n i =1 i =1
n 2

= 55
n

152 = 10 5
2 2

1 n J yy = yi yi n i =1 i =1 = 55 152 = 10 5

n 1 n n J xy = xi yi xi yi n i =1 i =1 i =1 ( 15 ) ( 15) = 6 = 51 5

Simpangan bakunya J yy bJ xy s= n2 = 10 ( 0, 6 ) ( 6 ) 52 = 1, 460

Proses Uji hipotesis : 1. 2. 3. 4. 5. thit = = H0 : = 0 H1 : 0 Taraf keberartian 0,05 T-tabel 3,182 Cari t-hitung : b s / J xx

0, 6 = 1, 299 ( 1, 460 ) 10 6. Karena harga mutlak t-hitung lebih kecil dari t-tabel, maka dapat disimpulkan terima H0 maka tidak ada pengaruh antara variabel x dengan variabel y.

3. Nilai 9 murid dari suatu kelas pada ujian tengah semester (x) dan pada ujian akhir (y) sebagai berikut.
X Y 77 50 71 72 82 66 78 34 Taksirlah garis regresi linear. Jawab : X 77 50 71 72 81 94 96 99 67 X = 707 Y 82 66 78 34 47 85 99 99 68 Y = 658 XY 6314 3300 5538 2448 3807 7990 9504 9801 4556 XY = 53258 X2 5929 2500 5041 5184 6561 8836 9216 9801 4489 2 X = 57557 81 47 94 85 96 99 99 99 67 68

n n n n n n xi yi xi yi i =1 i =1 i =1 y b xi i b= dan 2 i =1 i =1 n n a= n xi 2 xi n i =1 i =1 ( 9 ) ( 53258) ( 707 ) ( 568 ) = 0, 777 658 ( 0, 777 ) ( 707 ) b= dan a = = 12, 062 2 9 ( 57557 ) 707 6

Jadi Persamaan garis regresinya adalah : = 12, 062 + 0, 777 x y

DAFTAR PUSTAKA
Aunuddin. 2005. Rancangan dan Analisis Data. Bogor : IPB Press. (Hal. 108-110 , 171-202) Jonathan Sarwono. Regresi Linear Sederhana http://www.jonathansarwono.info/regresi/regresi.htm. (online) ( diakses 16 Februari 2013) Kismiantini. Handout Analisis Regresi. (online). http//staff.uny.ac.id/sites/default/files/Handout %20Analisis%20Regresi.pdf (diakses 25 September 2012) Sembiring, S.K. 1995. Analisis Regresi. Bandung : Penerbit ITB. (Hal. 35-90)
Uswatun Khasanah. Regresi Linear Sederhana. (online). http//elearning.uad.ac.id/file.php/kuliah1.ppt (diakses 16 Februari

2013) Walpole, Ronald E. Dan Myers, Raymond H. 1995 Ilmu Peluang dan Statistika untuk Insinyur dan Ilmuwan, Edisi 4, Bandung: Penerbit ITB ( hal. 421 423)