aini

Machine Learning: Polynomial Regression

June 30, 2018
MB Herlambang

Catatan penting : Jika Anda benar-benar awam tentang apa itu Python, silakan klik artikel
saya ini. Jika Anda awam tentang R, silakan klik artikel ini.

Pada pembelajaran sebelumnya kita telah membahas tentang regresi sederhana, dan regresi
multilinear. Kali ini kita akan membahas tentang regresi polinomial. Apa itu regresi
polinomial?

Regresi polinomial merupakan regresi di mana fungsinya adalah kuadratik. Perbedaan

persamaannya bisa kita lihat sebagai berikut:

Simple linear –>

Multilinear –>

Polinomial –>

Pada ketiga fungsi di atas, tampak bahwa fungsi polinomial adalah fungsi kuadratik, di mana
nilai variabel independen ada yang bernilai pangkat 1, pangkat 2, pangkat n dan seterusnya.

Secara visual, maka perbedaanya sebagai berikut:

Visualisasi simple linear dan

polinomial

Pertanyaannya, kapan kita memakai simple, multi, dan poli? Semua fungsi ini tergantung dari
pertanyaan yang ingin dijawab. Jika kita ingin mencari hubungan antara 1 variabel dependen
dengan 1 variabel independen, maka bisa menggunakan simple atau poli. Jika kita ingin
mencari hubungan antara 1 variabel dependen dengan banyak variabel independen, maka
yang kita gunakan adalah multilinear.
Lalu, jika kita hanya ingin mencari hubungan terhadap 1 variabel independen, kapan
menggunakan simple dan kapan menggunakan polinomial? Jawabannya adalah dilihat
seberapa fit model kita dengan data aslinya. Jika menggunakan simple linear sudah fit, maka
cukup menggunakan model ini saja, namun jika tidak dan fungsinya tampak seperti fungsi
polinomial (fungsi kuadratik) maka kita coba dekati dengan metode polinomial. Jika
menggunakan simple dan polinomial tidak juga fit, maka hubungan antara keduanya bukanlah
linear, sehingga harus menggunakan algoritma regresi non linear seperti SVR (support vector
regression) misalnya.

Mungkin Anda juga bertanya, apakah polinomial itu adalah termasuk family dari regresi
linear? Jawabannya adalah Ya. Polinomial dalam beberapa literatur lain disebut
dengan polynomial linear regression, jadi ia termasuk ke dalam fungsi Linear, dan bukan non
Linear.

Definisi linear adalah hubungan kombinasi linear (berantai) antara variabel dependen dengan
koefisien variabel independen dan seterusnya yang konsisten. Sementara non linear adalah
fungsi di mana koefisiennya tidak bisa berdiri sendiri, misal a1 memerlukan a2, dan
seterusnya. Lebih mudahnya, perbedaan fungsi linear dan non linear adalah sebagai berikut:

Fungsi linear –>

Fungsi non linear –>

Perlu dicatat bahwa secara visualisasi 2D (2 dimensi), regresi polinomial nampak tidak
seperti fungsi linear (simple linear) karena bentuknya melengkung dan tidak lurus seperti
linear sederhana, namun ia tetaplah bagian dari fungsi linear. Jika hanya dilihat secara visual,
maka ketika di plot ke dalam 3 dimensi (3D), ia akan nampak sebagai fungsi yang linear.

Tidak sedikit pula yang mengatakan regresi polinomial sebagai fungsi non linear. Hal ini
boleh-boleh saja jika dalam konteks visualisasi 2D. Namun dalam konteks fungsi linear, kita
tahu bahwa ia sebenarnya merupakan bagian dari kelompok fungsi linear.

Semoga sampai di sini, konsep regresi polinomial dapat dipahami.