HALAMAN JUDUL
SKRIPSI
CHYNTIA MEGAWATI
1106018316
FAKULTAS TEKNIK
PROGRAM STUDI TEKNIK INDUSTRI
DEPOK
JUNI 2015
UNIVERSITAS INDONESIA
SKRIPSI
Diajukan sebagai salah satu syarat untuk memperoleh gelar Sarjana Teknik
CHYNTIA MEGAWATI
1106018316
FAKULTAS TEKNIK
PROGRAM STUDI TEKNIK INDUSTRI
DEPOK
JUNI 2015
ii
KATA PENGANTAR
Puji syukur penulis ucapkan kepada Allah SWT atas rahmat, hidayah, dan
karunia-Nya sehingga penulis dapat menyelesaikan skripsi sebagai salah satu
syarat untuk mendapat gelar Sarjana Teknik Universitas Indonesia. Dalam
penyusunan skripsi ini banyak pihak yang telah membantu penulis baik secara
langsung maupun tidak langsung. Oleh karena itu, pada kesempatan kali ini
penulis ingin menyampaikan rasa terimakasih kepada:
1. Prof. Ir. Isti Surjandari, M.T., M.A., Ph.D. selaku pembimbing akademis,
pembimbing skripsi, dan Kepala Laboratorium SQE yang selalu
memberikan motivasi dan pelajaran hidup selama masa studi penulis
hingga dapat menyelesaikan penelitian ini.
2. Bapak Ferdy Alfarizka Putra dari pihak LAPOR! yang telah membantu
penulis dalam memperoleh data dan melakukan penelitian ini.
3. Willian Gozali selaku pengembang aplikasi pra proses yang tanpa beliau
penelitian ini akan sulit diselesaikan.
4. Seluruh dosen Teknik Industri UI yang telah memberikan banyak ilmu
yang bermanfaat kepada penulis selama masa perkuliahan.
5. Kedua orang tua penulis, yang telah memberikan, doa, kasih sayang,
serta dukungan finansial dan moral kepada penulis dalam penyelesaian
penelitian ini.
6. Esther Widya, Fakhrul Agustriwan, Rediani Pramudita, Nurman
Wibisana, Anitasari Titiani, Nina Jane, dan seluruh asisten laboratorium
SQE yang telah membantu dan selalu bersedia membagi ilmu dengan
penulis.
7. Fransiska, Maria, Anis, Bella, Gina, Fitri, Vina, Ica, Ratna, Dinta, Nora,
Indri, Bintang, Benita, dan Valida yang telah menjadi sahabat-sahabat
terbaik, serta tempat bertukar pikiran dan berbagi keluh kesah penulis
selama masa perkuliahan.
8. Teman-teman Teknik Industri angkatan 2011 yang telah menjadi teman
dan keluarga penulis selama perkuliahan.
v
ABSTRAK
Kata Kunci:
Text Mining, Klasifikasi, Pengelompokan, Support Vector Machine, Self
Organizing Maps, Pengaduan Masyarakat
viii
ABSTRACT
Keywords:
Text Mining, Classification, Clustering, Support Vector Machine, Self Organizing
Maps, Citizen’s Report
ix
DAFTAR ISI
x
3.2.3. Pembuatan TF, IDF, dan SVD .......................................................... 47
3.3. Klasifikasi ..................................................................................................48
3.4. Pengelompokan (Clustering) .....................................................................50
4. ANALISIS HASIL DAN PEMBAHASAN ...................................................53
4.1. Klasifikasi Dokumen .................................................................................53
4.2. Pengelompokan (Clustering) Dokumen ....................................................57
5. KESIMPULAN ................................................................................................65
5.1. Kesimpulan ................................................................................................65
5.2. Saran ..........................................................................................................66
DAFTAR PUSTAKA ...........................................................................................68
xi
DAFTAR TABEL
xii
DAFTAR GAMBAR
Gambar 1.1 Laporan dan tindak lanjut pada situs LAPOR! ................................... 2
Gambar 1.2 Peta sebaran laporan pengguna LAPOR! ............................................ 3
Gambar 1.3 Diagram Keterkaitan Masalah............................................................. 6
Gambar 1.4 Diagram Alir Penelitian ...................................................................... 8
Gambar 2.1 Hubungan antara EGDI (E-Government Development Index)
dengan GNI (Gross National Income) per capita dari negara
pendapatan menengah kebawah (lower-middle income countries) ...... 13
Gambar 2.2 Homepage LAPOR! .......................................................................... 14
Gambar 2.3 Alur Kerja LAPOR! .......................................................................... 16
Gambar 2.4 Data mining sebagai tahapan dari knowledge discovery................... 18
Gambar 2.5 Diagram venn 6 bidang terkait dan 7 area praktek text mining......... 22
Gambar 2.6 Kerangka proses analisis teks pada text mining ................................ 22
Gambar 2.7 Margin Hyperplane SVM ................................................................. 27
Gambar 2.8 Dua kelompok data Naïve Bayes....................................................... 28
Gambar 2.9 Penambahan objek baru pada Naïve Bayes ....................................... 29
Gambar 2.10 Confusion Matrix ............................................................................ 31
Gambar 2.11 Ilustrasi jaringan SOM 4x4 ............................................................. 33
Gambar 2.12 Radius Best Matching Unit (BMU)................................................. 34
Gambar 2.13 Ilustrasi proses clustering dengan k-means ..................................... 36
Gambar 3.1 Alur Pengumpulan dan Pengolahan Data ......................................... 37
Gambar 3.2 Spreadsheet Laporan yang Disetujui ................................................ 38
Gambar 3.3 Spreadsheet Laporan yang Diarsipkan ............................................. 39
Gambar 3.4 Interface Alikasi Pra-proses .............................................................. 40
Gambar 3.5 Cuplikan Naskah Aplikasi Pra-proses............................................... 40
Gambar 3.6 Tokenization...................................................................................... 42
Gambar 3.7 Case Folding ..................................................................................... 42
Gambar 3.8 Spelling Normalization ..................................................................... 44
Gambar 3.9 Filtering ............................................................................................. 44
Gambar 3.10 Stemming ........................................................................................ 46
Gambar 3.11 Matriks Term Frequency ................................................................. 47
Gambar 3.12 Matriks Inverse Document Frequency ............................................ 47
Gambar 3.13 Matriks Singular Value Decomposition .......................................... 48
Gambar 3.14 Model Kalsifikasi ............................................................................ 49
Gambar 3.15 Contoh model clustering SOM ....................................................... 52
xiii
BAB 1
PENDAHULUAN
1. PENDAHULUAN
1 Universitas Indonesia
2
LAPOR! telah menjadi suatu sarana efektif dan tepat guna bagi
masyarakat untuk menyampaikan segala bentuk aspirasi dan keluhan karena dapat
dibaca langsung oleh pembuat kebijakan yang bersangkutan. Jumlah laporan yang
diterima LAPOR! terus meningkat setiap tahunnya seiring dengan masyarakat
yang semakin mengetahui tentang LAPOR!, pada tahun 2012 tidak lebih dari 900
laporan diterima setiap bulannya dan hingga tahun 2015 rata-rata 10000-14000
laporan diterima setiap bulannya. Data laporan yang diterima juga tersebar di
seluruh wilayah Indonesia, seperti ditunjukkan pada Gambar 1.2. Besarnya
antusiasme masyarakat pada LAPOR! tersebut membuktikan bahwa LAPOR! saat
ini merupakan salah satu media atau fasilitas penyampaian aspirasi yang semakin
populer dan menjadi cikal bakal dari sistem aspirasi dan pengaduan masyarakat
yang terpadu secara nasional. Masyarakat dari berbagai lapisan dapat
menyampaikan opini, aspirasi, keluhan, pengaduan, hingga meminta informasi
pada pemerintah. Selain dapat menyelesaikan berbagai keluhan masyarakat,
pemerintah dapat menggunakan LAPOR! sebagai sarana untuk mendorong
keterbukaan instansi sebagai upaya untuk meningkatkan kualitas layanan publik.
Universitas Indonesia
3
Universitas Indonesia
4
laporan yang diproses dan diketahui perihalnya, sedangkan sekitar 86% laporan
tidak diketahui perihalnya.
Universitas Indonesia
5
analisis data laporan dengan lebih cepat dan efisien, sehingga pemerintah dapat
mengetahui peta atau pola isu dan permasalahan yang terjadi di masyarakat secara
real time. Pemahaman mengenai segala informasi yang berasal dari masyarakat
dapat menjadi masukan bagi pemerintah dalam membuat kebijakan yang lebih
efektif dan tepat guna.
Universitas Indonesia
6
Dibutuhkan pengetahuan
tentang pokok permasalahan
yang terjadi di masyarakat
Tingginya angka
permasalahan masyarakat
Universitas Indonesia
7
Universitas Indonesia
8
Mulai
Tahap Pendahuluan
Merumuskan masalah
Menentukan tujuan
penelitian
Text Mining
Tahap Studi Literatur
Literatur Terkait
Support Vector
Machine Melakukan tinjauan
literatur
Self Organizing Map Data LAPOR!
Tahap Pengumpulan dan Pengolahan
Tokenization
Mengumpulkan data
Filtering
Melakukan praproses text Penyusunan Vektor
Data
Stemming
Melakukan klasifikasi
Spelling
Normalization
Melakukan klasterisasi
Case Folding pada setiap kelompok
klasifikasi
Analisis
Tahap
Menganalisis hasil
pengolahan data
Kesimpulan dan
mendatang
Selesai
Universitas Indonesia
9
Universitas Indonesia
10
BAB 2
LANDASAN TEORI
2. STUDI PUSTAKA
Dewasa ini pemerintah semakin serius dalam meningkatkan mutu
pembangunan dan pelayanan publik. Salah satu langkah mewujudkannya adalah
dengan mengembangkan e-Governement di Indonesia dengan maksud untuk
menciptakan interaksi dengan masyarakat melalui LAPOR!. Berbagai masukan
yang berasal dari masyarakat memegang peranan penting bagi peningkatan dan
kemajuan dalam berbagai aspek. Pada penelitian ini, data tekstual yang berupa
masukan atau komentar dari masyarakat akan dijadikan sebagai topik analisis.
Dengan menggunakan teknik analisis text mining, data tekstual tersebut akan
memberikan pengetahuan mengenai berbagai isu dan masalah yang mendapat
banyak perhatian atau sorotan dari masyarakat.
10 Universitas Indonesia
11
Universitas Indonesia
12
web yang jarang membaca koran atau menonton televisi, politisi harus
bergantung pada Internet untuk merekrut pemilih.
Universitas Indonesia
13
Universitas Indonesia
14
Universitas Indonesia
15
Universitas Indonesia
16
Tracking ID LAPOR!, yaitu sebuah kode unik yang akan secara otomatis
melengkapi setiap laporan yang dipublikasikan pada situs LAPOR!.
Tracking ID dapat digunakan pengguna untuk melakukan penelusuran atas
suatu laporan.
Anonim dan Rahasia, anonim merupakan fitur yang diperuntukkan bagi
pelapor yang ingin merahasiakan identitasnya, sedangkan fitur rahasia
digunakan untuk membatasi akses atas laporan hanya bagi pelapor dan
instansi terlapor. Biasanya kedua fitur ini diperuntukkan bagi pelaporan
isu-isu sensitif dan sangat privat.
Unggah data pendukung, fitur ini merupakan fitur yang bisa digunakan
bagi pelapor untuk melengkapi laporannya. Data pendukung biasanya
berupa foto, dokumen, atau berbagai bukti kejadian.
Peta dan Kategorisasi, fitur ini dapat digunakan untuk melabeli setiap
laporan dengan dengan lokasi geografis, topik, status ketuntasan laporan,
dan institusi terkait sehingga pemerintah maupun masyarakat dapat
Universitas Indonesia
17
memonitor isu dalam berbagai skala dan sudut pandang. Salah satu
contohnya peta LAPOR! dipergunakan sebagai pusat informasi banjir pada
saat bencana banjir besar Jakarta di tahun 2012 dan 2014 sebagai rujukan
dalam rangka penyaluran bantuan kepada para korban. Pada fitur
kategorisasi, beberapa kategori topik yang digunakan oleh LAPOR! pada
situsnya yaitu mengenai:
1. Reformasi Birokrasi dan Tata Kelola
2. Pendidikan
3. Kesehatan
4. Kemaritiman
5. Pertanian
6. Energi dan Sumber Daya Alam
7. Infrastruktur
8. Lingkungan Hidup dan Penanggulangan Bencana
9. Bidang Politik, Hukum, dan Keamanan
10. Bidang Perekonomian
11. Bidang Kesejahteraan Masyarakat
Opini kebijakan, fitur ini merupakan fitur yang dapat digunakan oleh
instansi pemerintah yang terhubung sebagai sarana jajak pendapat
masyarakat. Salah satu contoh jajak pendapat yang telah dilakukan melalui
fitur ini diantaranya tentang Badan Penyelenggara Jaminan Sosial
Kesehatan dan Rencana Implementasi Kurikulum Baru Pendidikan 2013.
Universitas Indonesia
18
Universitas Indonesia
19
Pentingnya data mining saat ini terutama didorong oleh banyaknya data
yang dikumpulkan dan disimpan dengan berbagai aplikasi terkemuka terkini,
seperti data web, data e-commerce, data pembelian, transaksi bank, dan
sebagainya. Data yang dihasilkan oleh aplikasi-aplikasi tersebut umumnya
merupakan jenis Big Data dimana data tersebut sulit diolah atau dimengerti secara
sederhana. Big Data merupakan data yang mempunyai tiga karakteristik yaitu
jumlah (volume) dan variasi (variety) besar, serta bergerak cepat (velocity),
sehingga melampaui kapasitas pengolahan database konvensional (Dumbill,
2014). Hingga saat ini, data mining telah banyak diakui sebagai suatu alat analisis
data serbaguna yang bisa diaplikasikan untuk menganalisis big data dalam
berbagai bidang, tidak hanya dalam bidang teknologi informasi tetapi juga dalam
dunia pengobatan klinis, sosiologi, fisika, dan banyak lainnya.
Penggunaan data mining dibedakan menjadi dua jenis fungsi yaitu
prediktif dan deskriptif (Gullo, 2015). Penggalian prediktif mengacu pada
pembangunan model yang berguna untuk memprediksi perilaku atau nilai-nilai di
masa depan. Tugas deskriptif meliputi klasifikasi dan prediksi, tugas yang
dilakukan seperti membangun beberapa model (atau fungsi) yang
Universitas Indonesia
20
menggambarkan kelas atau konsep data oleh satu set objek data yang label
kelasnya diketahui (training set), sehingga dapat memprediksi kelas yang labelnya
tidak diketahui; deteksi penyimpangan, yaitu berurusan dengan penyimpangan
data, yang didefinisikan sebagai perbedaan antara nilai yang terukur dan nilai
referensi; analisis evolusi, yaitu, mendeteksi dan menggambarkan pola yang
teratur dalam data yang perilakunya berubah dari waktu ke waktu. Sedangkan
tujuan penggalian deskriptif yaitu membangun model untuk mendeskripsikan data
menjadi bentuk yang mudah dimengerti, efektif, dan efisien. Contoh dari tugas
deskriptif diantaranya karakterisasi data, yang tujuan utamanya adalah untuk
meringkas karakteristik umum atau fitur dari kelas target data; association rule,
yaitu, menemukan aturan yang menunjukkan kondisi atribut-nilai yang sering
muncul bersama-sama dalam himpunan data; dan clustering, yang bertujuan untuk
membentuk kelompok yang memiliki kohesif tinggi dan terpisahkan dengan baik
dari satu set objek data.
Universitas Indonesia
21
Universitas Indonesia
22
Gambar 2.5 Diagram venn 6 bidang terkait dan 7 area praktek text mining
(Sumber: Miner et al, 2012)
Universitas Indonesia
23
Universitas Indonesia
24
(Zhai & Aggarwal, 2012). Dalam rangka membangun model vektor, perlu
dilakukan proses pembobotan. Skema pembobotan yang paling banyak digunakan
adalah skema term frequency-inverse document frequency (TF-IDF). Term
frequency (TF) didefinisikan sebagai jumlah kemunculan suatu kata/istilah dalam
suatu dokumen. Misalnya TF pada dokumen pertama untuk kata/istilah “jalan”
adalah 2, karena kata/istilah tersebut muncul 2 kali dalam dokumen pertama. Pada
asusmsi pembobotan dibalik TF-IDF, kata-kata dengan nilai TF yang tinggi akan
mendapat bobot yang tinggi kecuali jika jumlah dokumen yang mengandung kata
tersebut juga tinggi (inverse document frequency (IDF)). Misalnya kata “yang”
memiliki jumlah kemunculan yang tinggi tetapi jumlah dokumen yang
mengandung kata “yang” juga tinggi, sehingga kata tersebut akan memiliki bobot
yang rendah. Skema persamaan TF-IDF ditunjukkan oleh persamaan berikut (Zhai
& Aggarwal, 2012).
𝑵
𝒕𝒇𝒊𝒅𝒇 𝒘 = 𝒕𝒇 × 𝐥𝐨𝐠 (2.1)
𝒅𝒇(𝒘)
Keterangan:
tf (w) = Term frequency (jumlah kemunculan suatu kata dalam suatu dokumen)
df (w) = Document frequency (jumlah dokumen yang mengandung suatu kata)
N = Jumlah dokumen
Universitas Indonesia
25
panjang A dapat diuraikan menjadi tiga jenis matriks, yaitu matriks ortoghonal U,
matriks diagonal S, dan transpose matriks diagonal V ( (Baker, 2013). Persamaan
tersebut dapat ditulis sebagai berikut.
Keterangan :
U = Vektor eigen ortonormal dari 𝐴𝐴𝑇
V = Vektor eigen ortonormal dari 𝐴𝑇 𝐴
S = Matriks diagonal dimana nilai diagonalnya merupakan akar dari nilai U
dan V yang disusun dengan urutan menurun bedasarkan besarnya nilai
(nilai singular dari A)
𝐴𝑚𝑛 = Matriks yang mewakili m jumlah dokumen dan n jumlah kata pada
dokumen
Klasifikasi/prediksi,
Klasifikasi adalah bentuk analisis data yang mengekstrak model untuk
menggambarkan kelas data (Jiawei, Kamber, & Pei, 2012). Model yang dibangun
meliputi pengklasifikasian dan prediksi kategori label kelas. Klasifikasi data
mempunyai dua tahapan proses, yaitu tahap pembelajaran (learning step) dimana
model klasifikasi dibangun berdasarkan label yang sudah diketahui sebelumnya
dan tahapan klasifikasi (classification step) dimana model digunakan untuk
memprediksi label kelas dari data yang diberikan (Miner et al, 2012). Klasifikasi
memiliki berbagai aplikasi, termasuk deteksi penipuan, penargetan marketing,
prediksi kinerja, manufaktur, diagnosis medis, dan banyak lainnya. Sebagai
contoh, kita dapat membangun sebuah model klasifikasi untuk mengkategorikan
apakah suatu aplikan pinjaman bank termasuk aman atau berisiko. Karena pada
Universitas Indonesia
26
awal pembangunan model label kelas dari data telah diketahui, klasifikasi juga
disebut sebagai metode supervised learning.
Pengelompokan (clustering)
Tidak seperti klasifikasi, kelompok label kelas pada model clustering tidak
diketahui sebelumnya dan tugas clustering adalah untuk mengelompokkannya
(Linoff & Berry, 2011). Menurut Linof & Berry (2011), clustering adalah proses
pengelompokan satu set data objek menjadi beberapa kelompok atau klaster
sehingga objek dalam sebuah klaster memiliki kemiripan yang tinggi satu sama
lain, tetapi sangat berbeda dengan objek dalam kelompok lainnya.
Asosiasi
Asosiasi merupakan proses pencarian hubungan antar elemen data. Dalam
dunia industri retail, analisis asosiasi biasanya disebut Market Basket Analysis
(Miner et al, 2012). Asosiasi tersebut dihitung berdasarkan ukuran support
(presentase dokumen yang memuat seluruh konsep suatu produk A dan B) dan
confidence (presentase dokumen yang memuat seluruh konsep produk B yang
berada dalam subset yang sama dengan dokumen yang memuat seluruh konsep
produk A).
Analisis Tren
Tujuan dari analisis tren yaitu untuk mencari perubahan suatu objek atau
kejadian oleh waktu (Miner, et al). Salah satu aplikasi analisis tren yaitu kegiatan
identifikasi evolusi topik penelitian pada artikel akademis..
Universitas Indonesia
27
Universitas Indonesia
28
terjadinya suatu peristiwa sama dengan probabilitas intrinsik (dihitung dari data
yang tersedia sekarang) dikalikan probabilitas bahwa hal serupa akan terjadi lagi
di masa depan (berdasarkan pengetahuan yang terjadinya di masa lalu) (Miner et
al, 2012). Pengkalsifikasian naïve bayes memilik asumsi bahwa efek dari suatu
nilai atribut tertentu tidak bergantung (independent) terhadat nilai atribut lainnya
(Zhai & Aggarwal, 2012). Asumsi tersebut disebut class conditional indepence.
Hal tersebut dilakukan untuk menyederhanakan perhitungan dan karenanya
asumsi tersebut dianggap “naif”. Meskipun dengan desain sederhana dan asumsi
naif (yang hampir tidak pernah terjadi di dunia nyata), pengklasifikasi ini
dapat sangat efisien dan akurat, terutama ketika jumlah variabel yang tinggi.
Contoh sederhana dalam perhitungan naïve bayes misalnya terlihat pada
Gambar 2.8 terdapat dua kumpulan data yaitu hijau dan merah (Statsoft, 2015).
Data baru akan ditambahkan dan akan ditentukan data baru tersebut merupakan
bagian dari kelas yang mana. Karena jumlah data hijau dua kali lebih banyak
daripada merah, maka diasumsikan bahwa data yang baru memiliki probabilitas
menjadi anggota hijau dua kali lebih besar dari merah. Dalam analisis Bayesian,
keyakinan ini dikenal sebagai probabilitas prior. Probabilitas prior didasarkan
pada pengalaman sebelumnya, dalam hal ini persentase data hijau dan merah.
Universitas Indonesia
29
40
𝑃𝑟𝑜𝑏𝑎𝑏𝑖𝑙𝑖𝑡𝑎𝑠 𝑝𝑟𝑖𝑜𝑟 𝑢𝑛𝑡𝑢𝑘 ℎ𝑖𝑗𝑎𝑢 =
60
20
𝑃𝑟𝑜𝑏𝑎𝑏𝑖𝑙𝑖𝑡𝑎𝑠 𝑝𝑟𝑖𝑜𝑟 𝑢𝑛𝑡𝑢𝑘 ℎ𝑖𝑗𝑎𝑢 =
60
Setelah menentukan probabilitas prior, objek baru (lingkaran putih) akan
ditentukan keanggotaanya seperti terlihat pada Gambar 2.9. Diasumsikan bahwa
semakin banyak suatu kelompok data tertentu (hijau atau merah) di sekitar objek
baru tersebut, maka kemungkinan objek baru mempunyai keanggotaan sesuai
kelompok data tersebut semakin besar.
Universitas Indonesia
30
Universitas Indonesia
31
𝒕𝒑
𝑷𝒓𝒆𝒄𝒊𝒔𝒊𝒐𝒏 = (2.4)
𝒕𝒑+𝒇𝒑
𝒕𝒑
𝑹𝒆𝒄𝒂𝒍𝒍 = (2.5)
𝒕𝒑+𝒇𝒏
𝟐×𝒑𝒓𝒆𝒄𝒊𝒔𝒊𝒐𝒏×𝒓𝒆𝒄𝒂𝒍𝒍
𝑭𝟏 = (2.6)
𝒑𝒓𝒆𝒄𝒊𝒔𝒊𝒐𝒏+𝒓𝒆𝒄𝒂𝒍𝒍
Universitas Indonesia
32
Universitas Indonesia
33
Universitas Indonesia
34
2. Sebuah vektor input dipilih secara acak dari data latihan dan
dimasukkan ke dalam jaringan.
3. Setiap node dalam jaringan akan diperiksa bobotnya, node yang
memiliki bobot paling sesuai dengan vektor input akan dipilih sebagai
best maching unit (BMU).
4. Radius lingkup BMU akan dihitung dan biasanya dimulai dengan
lingkup radius yang besar (sebesar jaringan) dan akan berkurang pada
setiap kali proses dilakukan kembali seperti ditunjukkan pada Gambar
2.12.
5. Setiap node yang berada dalam radius BMU akan menyesuaikan
dirinya menjadi seperti vektor input. Semakin dekat dengan BMU
maka bobot akan semakin berubah.
6. Mengulaingi langkah 2 hingga N iterasi
Universitas Indonesia
35
ini yaitu untuk meminimalisasikan objective function yang diset dalam proses
clustering, dimana objective function tersebut pada umumnya berusaha
meminimalisasikan variasi di dalam suatu klaster dan memaksimalisasikan variasi
antar klaster (Agusta, 2007). Dalam melakukan pengelompokan menggunakan k-
means, langkah-langkah yang harus dilakukan adalah sebagai berikut (Jiawei,
Kamber, & Pei, 2012):
𝒑 𝟐
𝑫 𝒙𝟐 , 𝒙𝟏 = 𝒋=𝟏 𝒙𝟐𝒋 − 𝒙𝟏𝒋 (2.8)
P : Dimensi data
Kemudian dalam pengalokasian data dirumuskan sebagai berikut:
𝟏 𝒅 = 𝒎𝒊𝒏 𝑫(𝒙𝒌 , 𝒗𝒊 )
𝒂𝒊𝒌 = (2.9)
𝟎 𝒍𝒂𝒊𝒏𝒏𝒚𝒂
a : Keanggotaan data ke-k ke klaster ke-i
Universitas Indonesia
36
𝑵 𝒄 𝟐
𝑭= 𝒌=𝟏 𝒊=𝟏 𝒂𝒊𝒌 𝑫(𝒙𝒌 , 𝒗𝒊 ) (2.10)
N : Jumlah data
c : Jumlah klaster
𝑎𝑖𝑘 : Keanggotaan data ke-k ke klaster ke-i
Universitas Indonesia
BAB 3
PENGUMPULAN DAN PENGOLAHAN DATA
37 Universitas Indonesia
38
Universitas Indonesia
39
Terdapat beberapa tahap proses yang dilakukan dalam pra-proses teks. Secara
umum, tahap pra-proses teks dibagi menjadi dua bagian utama yaitu proses
tokenization-case folding-spelling normalization-filtering dan proses stemming.
Pada interface aplikasi yang digunakan, kedua tahap tersebut dijalankan sesuai
Universitas Indonesia
41
Universitas Indonesia
42
Universitas Indonesia
43
Universitas Indonesia
44
Proses berikutnya yaitu filtering, dimana kata dan tanda baca yang tidak
memiliki arti yang signifikan atau termasuk noise (pengganggu) akan dieliminasi.
Kata atau frase yang tidak bermakna secara signifikan, misalnya hashtag (#), url,
tanda baca tertentu (emoticon), dan lainnya. Laporan banyak diterima lewat sms,
sehingga menyebabkan banyaknya tanda baca dan frase yang masuk pada
penarikan laporan pada sistem LAPOR! yang tidak bisa diproses atau mengurangi
performa pengolahan data pada tahap selanjutnya. Oleh karena itu, kata atau frase
tersebut perlu dieliminasi. Contoh eliminasi yang dilakukan ditunjukkan pada
Gambar 3.9.
Universitas Indonesia
45
Hasil akhir dari proses ini ditunjukkan pada Tabel 3.3 yang merupakan
transformasi dari Tabel 3.1. Setelah melewati keempat tahap pada bagian awal
pra-proses tersebut, data sudah bisa dikatakan bersih dan siap olah. Bagian pra-
proses selanjutnya (stemming) sebenarnya merupakan pilihan, akan tetapi pada
penelitian ini proses stemming dilakukan untuk melihat apakah proses stemming
mempunyai pengaruh yang berarti pada performa hasil penelitian.
Tabel 3.3 Kumpulan Data Laporan Setelah Melewati Bagian Awal Pra-proses
Isi Laporan
yth kementerian dalam negeri saya mau tanya kalau untuk membuat kartu
keluarga baru kartu tanda penduduk baru dan akte kelahiran biayanya berapa
ya mohon informasinya terima kasih
yth kepolisian ri mengapa polantas di setiap melakukan penilangan tidak pernah
menanyakan kepada pengendara apakah ingin mengikuti sidang karena tidak
mengakui kesalahan atau membayar langsung tilang ke bank karena mengakui
kesalahan selama tahun saya berkendara saya pernah ditilang x namun tidak
pernah diberi lembar biru untuk membayar langsung ke bank saya selalu di beri
lembar merah untuk ikut sidang padahal saya sudah mengaku bersalah sebagai
tambahan bukti materi coba lihat di youtube siaran polisi yang menilang
polantas selalu memberikan surat tilang merah mohon penjelasannya secara
lengkap bagaimana sebenarnya aturan penggunaan slip merah dan slip biru ini
ketika penilangan terima kasih
lapor saya penerima kks ingin bertanya kapan dana bantuan nya akan keluar
dan berapa jumlah dananya berapa kali pengambilannya dalam satu tahun
lampu pju dari jln margacinta sampai derwati perlu diganti selain banyak mati
juga kurang terang
rumah tangga saya tidak menerima bantuan sekolah untuk anak saya
3.2.2. Stemming
Pada bagian ini dilakukan proses untuk menemukan akar kata atau kata
dasar dari sebuah kata. Proses stemming dilakukan dengan menghilangkan semua
imbuhan (afiks) baik yang terdiri dari awalan (prefiks) sisipan (infiks) maupun
akhiran (sufiks) dan kombinasi dari awalan dan akhiran (konfiks). Stemming
digunakan untuk mengganti bentuk dari suatu kata menjadi kata dasar sesuai
dengan struktur morfologi bahasa indonesia yang baik dan benar. Pengambilan
akar kata dilakukan untuk mengurangi dimensi matriks yang dihasilkan oleh
kemunculan entitas berbeda yang sebenarnya mempunyai akar kata yang sama.
Universitas Indonesia
46
rumah tangga saya tidak erima bantu sekolah untuk anak saya
Universitas Indonesia
47
Universitas Indonesia
48
Data teks yang tidak terstruktur telah ditransformasi menjadi data numerik
yang terstruktur dengan dihasilkannya matriks-matriks tersebut. Proses TF, IDF,
dan SVD dilakukan pada setiap data set yang akan diolah lebih lanjut. Proses
klasifikasi akan mengolah dua jenis data set yaitu data set yang tidak melalui
stemming dan data set yang melalui stemming, sedangkan proses pengelompokan
(clustering) akan mengolah enam data set yang merupakan kategori kelas dari
data laporan.
3.3. Klasifikasi
Proses klasifikasi dilakukan untuk menggolongkan data laporan menjadi
beberapa kategori kelas yang ditentukan. Dalam penelitian ini, LAPOR! memiliki
enam prioritas kategori kelas untuk mengklasifikasikan dokumen. Tujuan dari
proses klasifikasi ini adalah untuk membangun model prediktif yang mampu
mengklasifikasikan dokumen secara otomatis sehingga diketahui kategori kelas
dari sejumlah besar data secara efektif dan efisien. Proses klasifikasi
menggunakan prinsip machine learning dimana pembuatan model klasifikasi
dilakukan dengan mempelajari sejumlah data latihan (data training) dan
mengujinya dengan sejumlah data uji (data test). Data latihan dan data uji telah
Universitas Indonesia
50
Universitas Indonesia
51
Tabel 3.5 Hasil error setiap initial map size pada data set pendidikan
Initial map size Jumlah cluster Nilai error
2x2 4 0.205707
2x3 6 0.190347
2x4 8 0.176853
3x3 9 0.168435
Tabel 3.6 Hasil error setiap initial map size pada data set energi, pangan, dan
maritim
Initial map size Jumlah cluster Nilai error
2x2 4 0.357660
2x3 6 0.326461
2x4 8 0.311581
3x3 9 0.297299
Tabel 3.7 Hasil error setiap initial map size pada data set kesehatan
Initial map size Jumlah cluster Nilai error
2x2 4 0.295529
2x3 6 0.251187
2x4 8 0.240036
3x3 9 0.214586
Tabel 3.8 Hasil error setiap initial map size pada data set infrastruktur
Initial map size Jumlah cluster Nilai error
2x2 4 0.240111
2x3 6 0.229734
2x4 8 0.196381
3x3 9 0.196249
Tabel 3.9 Hasil error setiap initial map size pada data set kemiskinan
Initial map size Jumlah cluster Nilai error
2x2 4 0.290953
2x3 6 0.273844
2x4 8 0.257320
3x3 9 0.248564
Universitas Indonesia
52
Tabel 3.10 Hasil error setiap initial map size pada data set birokrasi
Initial map size Jumlah cluster Nilai error
2x2 4 0.308628
2x3 6 0.278890
2x4 8 0.255541
3x3 9 0.239329
Pada proses trial and error di setiap data set didapatkan bahwa semua
kelas memiliki nilai error terkecil pada initial map size 3x3 atau maksimal jumlah
cluster 9. Setelah nilai initial map size ditetapkan, maka data diolah dan
selanjutnya akan diperoleh hasil pengelompokan (clustering). Gambar 3.15
menunjukkan contoh model clustering yang akan diperoleh dari teknik clustering
SOM..
Universitas Indonesia
53
BAB 4
ANALISIS HASIL DAN PEMBAHASAN
53 Universitas Indonesia
54
Tabel 4.1 Confusion matrix dan akurasi model kalsifikasi tanpa stemming
Predicted
Energi Jumlah
Pendidikan pangan Kesehatan Infrastruktur Kemiskinan Birokrasi
maritim
Universitas Indonesia
55
Tabel 4.2 Confusion matrix dan akurasi model kalsifikasi dengan stemming
Predicted
Energi Jumlah
Pendidikan pangan Kesehatan Infrastruktur Kemiskinan Birokrasi
maritim
970 0 11 3 2 14 1000
Pendidikan
Energi pangan 1 556 70 29 35 33 724
maritime
13 20 638 250 59 20 1000
Observed Kesehatan
10 16 41 808 111 14 1000
Infrastruktur
12 32 42 520 133 261 1000
Kemiskinan
15 34 261 14 12 664 1000
Birokrasi
1021 658 1063 1624 352 1006 5724
Jumlah
0.95
Precision
Pendidikan 0.97
Recall
0.96
F1
0.84
Energi Precision
pangan 0.77
Recall
maritim 0.80
F1
0.60
Precision
Kesehatan 0.64
Recall
0.62
F1
0.50
Precision
Infrastruktur 0.81
Recall
0.62
F1
0.38
Precision
Kemiskinan 0.13
Recall
0.20
F1
0.66
Precision
Birokrasi 0.66
Recall
0.66
F1
F1 Measure 0.64
Accuracy 0.66
Universitas Indonesia
56
fragmen teks yang diidentifikasi, jumlah data latihan yang digunakan, fitur
klasifikasi, algoritma yang digunakan, dan kemiripan kata (Botha & Barnard,
2012).
Nilai yang lebih rendah dari kategori lainnya disebabkan karena banyak
dokumen yang berasal dari kategori yang berbeda tetapi memiliki kemiripan satu
sama lain. Jumlah data latihan pada penelitian ini cukup terbatas yaitu tidak lebih
dari 1000 data setiap kelas dikarenakan jumlah salah satu kelas yang tidak
mencukupi. Menurut Botha & Barnard, 2012, dengan menambah jumlah data
latihan yang digunakan, umumnya tingkat akurasi yang dihasilkan akan semakin
meningkat pula.
Setelah didapatkan model klasifikasi, kemudian akan didapatkan juga
klasifikasi dari data lainnya yang belum mempunyai label kelas. Jumlah masing-
masing anggota kelas ditunjukkan pada Tabel 4.3.
Kelas Jumlah
Akses Pendidikan yang Berkeadilan 4195
Energi, Pangan, dan Maritim 2310
Kesehatan Publik 3795
Pembangunan Infrastruktur 5077
Pengentasan Kemiskinan 8347
Reformasi Birokrasi 3611
Universitas Indonesia
57
Universitas Indonesia
58
Tabel 4.4. menunjukkan hasil clustering pada data set kelas pendidikan.
Terdapat 9 cluster dengan jumlah yang bervariasi tiap cluster. Hasil yang
diperoleh menunjukkan bahwa mayoritas cluster pada kelas pendidikan
membahas mengenai bantuan pendidikan atau KIP (kartu Indonesia pintar),
dimana KIP (kartu indonesia pintar) merupakan kartu bantuan yang diterbitkan
oleh pemerintah untuk membantu biaya sekolah siswa kurang mampu. Hanya
cluster 5 yang berisi tentang permasalahan pendidikan di sekolah dari sisi siswa
atau guru, hingga permasalahan pembelajaran.
Cluster yang memiliki jumlah paling banyak yaitu cluster 6 yang berisi
berbagai laporan singkat mengenai masyarakat yang tidak mendapatkan KIP
tanpa detil lebih lanjut. Walaupun mayoritas cluster mempunyai anggota
dokumen yang membahas mengenai bantuan pendidikan dan KIP, dokumen
dipisahkan menjadi beberapa kelompok berdasarkan subjek atau objek yang
terdapat pada dokumen. Misalnya pada cluster 1, objek yang disebutkan adalah
wilayah DKI Jakarta dan pada cluster 2 lebih menyebutkan wilayah lain. Secara
Universitas Indonesia
59
umum, cluster 3, 6, dan 9 mempunyai karakteristik yang hampir sama yaitu tidak
mendapat KIP. Namun, subjek yang disebutkan berbeda, misalnya cluster 3
menyebutkan kata pemegang kartu KIS dan KKS, cluster 6 tidak menyebutkan
subjek apapun, dan cluster 9 menyebutkan subjek rumah tangga.
Tabel 4.5. menunjukkan hasil clustering pada data set kelas energi,
pangan, dan maritim. 9 cluster yang dihasilkan mempunyai jumlah yang
bervariasi tiap cluster. Setiap cluster memiliki karakteristik tersendiri yang
membedakannya dengan lainnya. Pada pengelompokan kelas ini, walaupun
beberapa kelas memiliki satu kata kunci yang sama, tetapi dokumen berhasil
dikelompokkan berdasarkan berbagai tujuan yang berbeda. Cluster 7 memiliki
jumlah anggota paling banyak, dimana mayoritas masyarakat melaporkan
permasalahan subsidi BBM. Masalah subsidi BBM yang dilaporkan diantaranya
mengenai keluhan atas adanya kebijakan baru mengenai subsidi BBM dan
dampaknya pada masyarakat. Cluster 6 memiliki jumlah terbanyak kedua, dimana
masyarakat banyak mengeluhkan tentang kinerja pelayanan PLN secara umum
selain permasalahan pemadaman listrik dan pemasangan listrik baru yang sudah
dipisahkan ke cluster 2.
Universitas Indonesia
60
Universitas Indonesia
61
dimana laporan yang ada mayoritas berisi laporan masyarakat miskin yang
memerlukan bantuan kesehatan. Cluster 1, 2, 3, dan 9 sebenarnya memiliki
kesamaan dengan cluster 6 yaitu terkait BPJS kesehatan, hanya saja permasalahan
yang dihadapi dan dilaporkan berbeda. Hal tersebut mengindikasikan bahwa topik
permasalahan mengenai BPJS kesehatan sedang mendapat banyak sorotan publik
daripada permasalahan pelayanan kesehatan lainnya.
Universitas Indonesia
62
Universitas Indonesia
63
mayoritas menyebutkan kata kunci lain berupa lokasi desa atau daerah tertentu.
Hasil dari pengelompokan kelas kemiskinan mengindikasikan bahwa topik yang
paling menjadi sorotan masyarakat di bidang pengentasan kemiskinan adalah
mengenai program bantuan KPS dan BLSM yang masih banyak bermasalah.
Universitas Indonesia
64
6 banyak membahas proses mengurus izin bangunan, honor atau gaji pegawai
DKI yang tidak tuntas, pelayanan administrasi kependudukan DKI, dan lainnya.
Secara umum, hasil dari pengelompokan kelas birokrasi menunjukkan bahwa
masyarakat masih banyak mengalami kesulitan dalam mengurus berbagai jenis
administrasi dikarenakan sulitnya aturan birokrasi oleh pemerintah.
Universitas Indonesia
BAB 5
KESIMPULAN
5. KESIMPULAN
5.1. Kesimpulan
Segala bentuk masukan dan aspirasi masyarakat sangat penting bagi
kemajuan dalam berbagai hal. Oleh karena itu, pemerintah membangun LAPOR!
sebagai sarana yang bisa digunakan masyarakat untuk menyampaikan segala
keluh kesah. Di sisi lain, pemerintah dituntut untuk memberikan respon yang
cepat dan mengambil keputusan secara tepat. Dengan banyaknya jumlah laporan
yang masuk di LAPOR!, proses analisis informasi secara manual akan
memerlukan waktu yang cukup lama dan tidak responsif. Teknik analisis data
seperti data mining dan text mining diperlukan untuk mengautomasi proses
analisis data secara manual yang memerlukan proses yang cukup lama menjadi
lebih singkat. Dengan memanfaatkan teknik analisis tersebut, pemerintah dapat
mengetahui prioritas permasalahan yang harus diselesaikan.
Hasil yang diperoleh dari penelitian ini merupakan hasil analisis data pada
periode Oktober 2014 hingga Maret 2015. Rentang periode tersebut dipilih karena
Oktober merupakan awal periode pemerintahan baru. Hasil pembangunan model
untuk mengklasifikasikan dokumen menunjukkan tingkat akurasi 66%, dimana
hasil tersebut bisa ditingkatkan seiring dengan bertambahnya jumlah data di masa
mendatang. Dari hasil proses klasifikasi ditunjukkan bahwa laporan terkait
permasalahan pengentasan kemiskinan dan pembangunan infrastruktur memiliki
jumlah terbanyak selama periode Oktober 2014 hingga Maret 2015. Hal ini
mengindikasikan bahwa masalah pengentasan kemiskinan dan pembangunan
infrstruktur merupakan jenis permasalahan yang seharusnya menjadi prioritas
utama saat ini. Terkait fokus topik permasalahan dalam kelas tersebut, pada
clustering didapatkan bahwa topik masalah mayoritas pada kelas kemiskinan
adalah mengenai BLSM (bantuan langsung sementara masyarakat) dan beberapa
jenis bantuan lainnya yang dirasa kurang tepat sasaran. Pada kelas infrastruktur,
hasil clustering menunjukkan jumlah anggota cluster paling banyak yaitu pada
65 Universitas Indonesia
66
keluhan mengenai infrastruktur dalam bidang transportasi seperti kereta dan bus,
serta sarana penunjangnya seperti stasiun, halte, dan beberapa sarana lalu lintas.
5.2. Saran
Penelitian mengenai text mining merupakan salah satu penelitian yang sedang
berkembang pesat saat ini seiring dengan berkembangnya teknologi digital yang
banyak menghasilkan informasi berupa data tekstual. Akan tetapi, penelitian
mengenai teks berbahasa Indonesia belum banyak dilakukan. Masih banyak celah
yang harus diperbaiki dalam melakukan penelitian text mining bahasa Indonesia.
Pada tahap pra-proses, hasil stemming yang didapatkan dari algoritma stemming
untuk bahasa Indonesia masih memiliki keakuratan yang rendah. Padahal proses
stemming tersebut dilakukan untuk mengurangi noise pada data sehingga matriks
yang dihasilkan bisa optimal. Penerapan stemming kebanyakan memang
dilakukan pada dokumen berbahasa Inggris dan penerapannya pada bahasa
Indonesia lebih sulit dilakukan karena bahasa Indonesia mempunyai banyak
bentuk kata imbuhan yang sangat bervariasi (Triawati, 2009). Penelitian lebih
lanjut pada bidang ini bisa dilakukan dengan menganalisis penggunaan beberapa
algoritma stemming bahasa Indonesia yang saat ini sudah dikembangkan dan
membandingkan mana yang memberikan akurasi terbaik.
Data awal yang dipakai pada penelitian ini masih bercampur dengan
berbagai dokumen spam, sehingga tahap pra-proses sedikit sulit dilakukan dan
membutuhkan usaha lebih banyak untuk memisahkan dokumen yang berguna.
Penelitian selanjutnya dapat melakukan klasifikasi awal dengan memisahkan
Universitas Indonesia
67
Dikarenakan data laporan diterima dari berbagai media, seperti sms dan
website, data teks yang ada memiliki jumlah karakter dan penggunaan bahasa
yang sangat bervariasi. Penelitian ini hanya menganalisis data teks berdasarkan
kemunculan kata dan asosiasi kata yang sering muncul bersama, padahal bahasa
yang digunakan pada media tertentu biasanya memiliki jenis penggunaan kosa
kata yang berbeda walaupun sebenarnya memiliki arti yang sama. Penelitian di
masa depan dapat mempertimbangkan pemilihan fitur lain untuk
mengelompokkan kata misalnya dengan memperhatikan sinonim, akronim, dan
prinsip kedekatan kata sehingga hasil yang didapatkan akan lebih optimal.
Universitas Indonesia
68
DAFTAR PUSTAKA
Universitas Indonesia
69
Miner, G., Delen, D., Elder, J., Fast, A., Hill, T., & Nisbet, R. (2012). Practical
Text Mining and Statistical Analysis for Non-Structured Text Data
Applications. Oxford: Elsevier.
Palvia, S. C., & Sharma, S. S. (2007). E-Government and E-Governance:
Definitions/Domain Framework and Status around the World. Foundation
of e-Government (pp. 1-12). India: International Congress of e-
Government.
Lembaga administrasi negara. (2015). Pengelolaan Pengaduan Layanan Publik
(Permenpan No. 3 Tahun 2015). Retrieved April 16, 2015, from
Pemerintah.net: http://pemerintah.net/pengelolaan-pengaduan-pelayanan-
publik-download-permenpan-no-3-tahun-2015/
Sokolova, M., & Lapalme, G. (2009). A systematic analysis of performance
measures for classification tasks. Information Processing and
Management 45 , 427-437.
Statsoft. (2015). Naive Bayes Clasifier Introductory Overview. Retrieved April
22, 2015, from Statsoft Web Site: http://www.statsoft.com/textbook/naive-
bayes-classifier
Statsoft. (2015). Text Mining Introductory Overview. Retrieved April 19, 2015,
from Statsoft: http://www.statsoft.com/textbook/text-mining
Suh, J. H., Park, C. H., & Jeon, S. H. (2010). Applying text and data mining
techniques to forecasting the trend of petitions filed to e-people. Expert
Systems with Applications 37, 7255-7268.
Triawati, C. (2009). Text Mining. Retrieved May 19, 2015, from Digital Library
Telkom Institute of Technology:
http://digilib.tes.telkomuniversity.ac.id/index.php?option=com_content&v
iew=article&id=590:text-mining&catid=20:informatika&Itemid=14
United Nation. (2014). UNITED NATIONS E-GOVERNMENT SURVEY 2014.
New York: United Nations.
Xiang, Z., Schwartz, Z., Gerdes Jr, J. H., & Uysal, M. (2015). What can big data
and text analytics tell us about hotel guestexperience and satisfaction?
International Journal of Hospitality Management 44, 120-130.
Zhai, C., & Aggarwal, C. C. (2012). Mining Text Data. New York: Springer.
Universitas Indonesia