PERTEMUAN 6

ANALISA ASOSIASI & ANALISA

CLUSTER
 ANALISA ASOSIASI
Coba analisa tabel pembelian berikut:
Id_Trans Id_Cust Tanggal Item Jumlah
111 201 5/1/2016 Pena 2
111 201 5/1/2016 Tinta 1
111 201 5/1/2016 Susu 3
111 201 5/1/2016 Jus 6
112 105 6/3/2016 Pena 1
112 105 6/3/2016 Tinta 1
112 105 6/3/2016 Susu 1
113 106 5/10/2016 Pena 1
113 106 5/10/2016 Susu 2
114 201 6/1/2016 Pena 2
114 201 6/1/2016 Tinta 2
114 201 6/1/2016 Jus 4
114 201 6/1/2016 Air 1
Frequent Itemset
Dari tabel relasi pada slide sebelumnya yang disusun terurut dalam
kelompok-kelompok berdasarkan transaksi. Semua record dalam satu
kelompok mempunyai id_trans yang sama. Jika diamati ada
redundancy pada tabel pembelian tersebut, yaitu dapat dipecah
dengan menyimpan triple (id_trans, id_cust, tanggal) dalam sebuah
tabel yang terpisah dan menghapus id_cust, dan tanggal dari tabel
pembelian. Meskipun demikian, akan lebih mudah menggunakan tabel
pembelian sebelumnya untuk menghitung frequent itemset.
Pembuatan tabel ‘denormalized’ untuk mempermudah data mining
biasanya dilakukan pada tahap data cleaning dari proses KDD.
Untuk mempermudah analisa asosiasi antar item dalam sebuah
transaksi, data pada tabel pembelian tersebut dapat dinyatakan dalam
sebuah tabel representasi biner sebagai berikut:
 Frequent Itemset (Lanjutan)
Representasi biner dari tabel transaksi
Id_Trans Pena Tinta Susu Jus Air
111 1 1 1 1 0
112 1 1 1 0 0
113 1 0 1 0 0
114 1 1 0 1 1

Misalkan I={i1,i2,i3,...,id} adalah himpunan dari semua item dalam keranjang

belanja dan T={t1,t2,...,tN} merupakan himpunan dari semua transaksi. Tiap
transaksi ti, berisi sebuah subhimpunan item-item yang dipilih dari I. Dalam
analisa asosiasi, suatu himpunan satu atau lebih item disebut satu itemset.
Jika sebuah itemset berisi k-items maka disebut dengan ‘k-itemset’. Sebagai
contoh, {pena,tinta} merupakan sebuah 2-itemset.
Frequent Itemset (Lanjutan)
Lebartransaksididefinisikansebagaijumlah item yang
terdapatdalamsebuahtransaksi.
Suatutransaksitjdikatakanberisisebuahitemset X jika X merupakan subset
daritj. Contohnya, transaksipertamapadatabelsebelumnyaberisiitemset
{Pena,Tinta} danbukan {Pena,Air}

Support count 𝜎 merupakanjumlahtransaksi yang

berisisuatuitemsettertentuataudengan kata lain
merupakanfrekuensikejadiandarisuatuitemset. Support
darisuatuitemsetadalahperbandingandaritransaksidalam basis data yang
berisisemua item dalamitemset. Dalamcontohsebelumnya, itemset
{pena,tinta} memilikisupport 75% dalamtabelpembelian. Kita
dapatmenyimpulkanbahwapenadantintaseringmunculbersamaan.
Jikakitaperhatikanitemset {susu,jus}, support-nyahanya 25%, susudan jus
tidakseringdibelibersamaan.
 Association Rule
Association rule merupakan sebuah ekspresi implikasi yang berbentuk
X  Y, dimana X dan Y merupakan disjoint itemset 𝑋 ∩ 𝑌 = ∅.
Contoh: {Pena, Tinta} {Jus}. Dalam association rule, dapat dihitung
support dan confidence.
Confidence menyatakan seberapa sering item-item dalam Y muncul
dalam transaksi yang berisi X. Secara formal dapat dinyatakan dengan
persamaan:
𝜎(𝑋 ∪ 𝑌) 𝜎(𝑋 ∪ 𝑌)
𝑠 𝑋→𝑌 = 𝑐 𝑋→𝑌 =
𝑁 𝜎(𝑋)

Dimana s adalah support dan c adalah confidence

 Association Rule (Lanjutan)
Contoh: untuk association rule {Pena, Tinta}{Jus}, maka:

𝜎( 𝑃𝑒𝑛𝑎, 𝑇𝑖𝑛𝑡𝑎, 𝐽𝑢𝑠 ) 2

𝑠 𝑋→𝑌 = = = 0.5
4 4

𝜎( 𝑃𝑒𝑛𝑎, 𝑇𝑖𝑛𝑡𝑎, 𝐽𝑢𝑠 ) 2

𝑐 𝑋→𝑌 = = = 0.67
𝜎( 𝑃𝑒𝑛𝑎, 𝑇𝑖𝑛𝑡𝑎 ) 3
Association Rule Mining
Jika terdapat sebuah himpunan transaksi T, maka tujuan dari
association rule mining adalah untuk menemukan semua aturan yang
mempunyai support >=minsup dan confidence >=minconf.
Pendekatan brute-force untuk association rule mining menggunakan
pendekatan dengan menghitung support dan confidence dari semua
kemungkinan rule. Pendekatan Brute-force terdiri dari langkah-langkah
berikut:
 Daftar semua kemungkinan association rules
 Hitung support dan confidence untuk setiap rule
 Pangkas rule yang tidak memenuhi minsup dan minconf thresholds
Association Rule Mining (Lanjutan)
Secara umum, pendekatan ini sangat mahal dalam waktu
komputasinya. Jumlah kemungkinan rule dari sebuah tabel transaksi
yang terdiri dari d item adalah sebesar:

𝑅 = 3𝑑 − 2𝑑+1 + 1
Misalkan digunakan data pada tabel pembelan sebelumnya dengan
jumlah item d=5, maka jumlah kemungkinan rule adalah sebesar:

𝑅 = 35 − 26 + 1 = 243 − 64 + 1 = 180
 Association Rule Mining (Lanjutan)
Id_trans Items
1 Bread, Milk
2 Bread, Diaper, Beer, Eggs
3 Milk, Diaper, Beer, Coke
4 Bread, Milk, Diaper, Beer
5 Bread, Milk, Diaper, Coke
Contoh: jika diketahui sebuah transaksi
sbb:
Maka support dan confidence dari
association rule sebagai berikut:
{Milk,Diaper}{Beer} (s=0.4,c=0.67)
{Milk,Beer} {Diaper} (s=0.4,c=1.0)
{Diaper,Beer} {Milk} (s=0.4,c=0.67)
{Beer} {Milk,Diaper} (s=0.4,c=0.67)
{Diaper} {Milk,Beer} (s=0.4,c=0.5)
{Milk} {Diaper,Beer} (s=0.4,c=0.5)
Association Rule Mining (Lanjutan)
Semua rule tersebut merupakan partisi biner dari itemset yang sama:
{Milk, Diaper, Beer}. Rules yang berasal dari itemset yang sama
mempunyai support yang identik tetapi mempunyai confidence yang
berbeda, sehingga dapat dipasangkan ulang untuk keperluan support
dan confidence.
Analisa Cluster
Analisa cluster yaitu menemukan kumpulan objek hingga objek-objek
dalam satu kelompok sama (atau punya hubungan) dengan yang lain dan
berbeda (atau tidak berhubungan) dengan objek-objek dalam kelompok
lain. Tujuan dari analisa cluster adalah meminimalkan jarak didalam
cluster dan memaksimalkan jarak antar cluster.
Aplikasi dari analisa cluster dibedakan menjadi dua, yaitu:
 Understanding, antara lain kelompok dokumen-dokumen yang saling
berhubungan untuk proses browsing, pengelompokan gen dan protein
yang mempunyai fungsi sama atau pengelompokan stok dengan harga
yang fluktuatif
 Summerization, untuk menurunkan ukuran dari dataset yang besar
Analisa Cluster (Lanjutan)
Yang bukan termasuk cluster analisis adalah:
 Supervised classification, yang mempunyai informasi label kelas
 Simple segmentation, misalkan membagi siswa kedalam kelompok
berdasarkan urutan nama
 Hasil dari sebuah query yang pengelompokannya merupakan hasil dari
spesifikasi eksternal
 Graph partitioning, dimana dalam graph beberapa mempunyai
hubungan relevansi dan sinergi tetapi areanya tidak identik
Tipe Clustering
Clustering merupakan suatu kumpulan dari keseluruhan cluster.
Beberapa tipe penting dari clustering adalah:
 Partitional vs Hierarchical
Partitional clustering adalah pembagian objek data kedalam
subhimpunan (cluster) yang tidak overlap sedemikian hingga tiap objek
data berada dalam tepat satu sub himpunan.
Tipe Clustering (Lanjutan)
Hierarchical clustering merupakan sebuah himpunan cluster bersarang
yang diatur sebagai suatu pohon hirarki. Tiap simpul (cluster) dalam
pohon (kecuali simpul daun) merupakan gabungan dari anaknya
(subcluster) dan simpul akar berisi semua objek
Tipe Clustering (Lanjutan)
 Exclusive vs non-exclusive
Exclusive cluster jika setiap objek berada tepat disatu cluster, sebaliknya
dalam overlapping atau non-exclusive clustering sebuah objek dapat berada
dilebih dari satu cluster secara bersamaan
 Fuzzy vs non-fuzzy
Dalam fuzzyclustering, sebuah titik termasuk dalam setiap cluster dengan
suatu nilai bobot antara 0 dan 1. Jumlah dari bobot-bobot tersebut sama
dengan 1. Clustering probabilitas mempunyai karakteristik yang sama
 Partial vs complete
Dalam completeclustering, setiap objek ditempatkan dalam sebuah cluster.
Tetapi dalam partial clustering, tidak semua objek ditempatkan dalam
sebuah cluster. Kemungkinan ada objek yang tidak tepat untuk ditempatkan
disalah satu cluster, misalkan berupa outlier atau noise.
 Tipe-tipe cluster
Clustering bertujuan menemukan kelompok (cluster) objek yang
berguna, dimana penggunaannya tergantung dari tujuan analisa data.
Secara visual ada beberapa tipe dari cluster, diantaranya:
• Well-separated clusters: sebuah cluster merupakan himpunan titik
sedemikian rupa hingga tidak ada titik dalam sebuah cluster yang
mendekati (atau lebih mirip) ke setiap titik lain dalam cluster yang
tidak ditempati titik tersebut.
Tipe-tipe cluster (Lanjutan)
• Center-based: sebuah cluster adalah himpunan dari objek-objek
sedemikian rupa hingga sebuah objek dalam sebuah cluster
mendekati (lebih mirip) dengan ‘pusat’ dari sebuah cluster
dibandingkan dengan pusat cluster lain. Pusat dari sebuah cluster
dapat berupa centroid, yaitu rata-rata dari semua titik dalam cluster
tersebut, atau medoid, merupakan representasi titik dari sebuah
cluster.
Tipe-tipe cluster (Lanjutan)
• Contiguous cluster (Nearest neighbor atau transitive), dimana sebuah cluster
merupakan himpunan titik sedemikian hingga sebuah titik dalam cluster
mendekati (atau lebih serupa) dengan satu atau lebih titik lain dalam cluster
tersebut dibandingkan dengan titik yang tidak berada pada cluster tersebut.

• Density-based, dimana sebuah cluster merupakan suatu daerah titik yang padat,
yang dipisahkan oleh daerah kepadatan rendah (low-density), dari daerah
kepadatan tinggi (high-density) yang lain. Digunakan ketika cluster-cluster tidak
beraturan atau terjalin dan ketika terdapat noise dan outlier
Tipe-tipe cluster (Lanjutan)
• Shared Property atau conceptualclusters, menemukan cluster-cluster yang membagi beberapa
sifat umumnya atau menyatakan konsep tertentu.

Menghitung semua kemungkinan cara untuk membagi titik-titik kedalam cluster dan men-evaluasi
mempunyai tujuan global dan local
 Algoritma clustering hierarchical mempunyai local objectives
 Algoritma partitional mempunyai global obectives
Variasi dari pendekatan fungsi objektif global adalah menyusun data menjadi sebuah model yang
terukur (parameterized)
 Parameter-parameter untuk model tersebut ditentukan dari data
 Model campuran (mixture model) mengasumsikan bahwa data merupakan suatu campuran
bilangan yang terdistribusi secara statistik
 Algoritma clustering
 K-Means clustering
Menggunakan pendekatan partitional clustering. Tiap cluster
dihubungkan sebuah centroid (titik pusat). Tiap titik ditempatkan
kedalam cluster dengan centroid terdekat. Jumlah cluster, K, harus
ditentukan. Algoritma dasarnya sangat sangat sederhana, yaitu:
1. Pilih K titik sebagai centroid awal
2. Ulangi
3. Bentuk K cluster dengan menempatkan semua titik yang terdekat
4. Ulangi perhitungan centroid dari tiap cluster
5. Sampai centroid tidak berubah
 Contoh soal K-Means clustering
Misalkan data X={2,3,4,10,11,12,20,25,35} akan dibagi dalam dua
cluster (k=2), dipilih dua initial centroid yaitu 1=2 dan 2=4 dan
menggunakan ukuran city-block distance. Hitung distance setiap xX
dengan city-block
1. Iterasi 1:
X 2 3 4 10 11 12 20 25 35
(x,1) 0 1 2 8 9 10 18 23 33
(x,2) 2 1 0 6 7 8 16 21 31
Min((x,1), (x,2) C1 C1 C2 C2 C2 C2 C2 C2 C2

Diperoleh: cluster1 (C1)={2,3}

cluster2 (C2)={4,10,11,12,20,25,35}
 Contoh soal K-Means clustering (Lanjutan)
Perhitungan centroid baru:
2+3 5
𝜇1′ = 2
= 2=2.5

4 + 10 + 11 + 12 + 20 + 25 + 35 112
𝜇2′ = = = 16
7 7
2. Iterasi 2
X 2 3 4 10 11 12 20 25 35
(x,1)=(x,2.5) 0.5 0.5 1.5 7.5 8.5 9.5 17.5 22.5 32.5
(x,2)=(x,16) 14 13 12 6 5 4 4 9 19
Min((x,1), (x,2) C1 C1 C1 C2 C2 C2 C2 C2 C2

Diperoleh: cluster1 (C1)={2,3,4}

cluster2 (C2)={10,11,12,20,25,35}
 Contoh soal K-Means clustering (Lanjutan)
Perhitungan centroid baru:
2+3+4 9
𝜇1′ = = =3
3 3

10 + 11 + 12 + 20 + 25 + 35 108
𝜇2′ = = = 18
6 6
3. Iterasi 3
X 2 3 4 10 11 12 20 25 35
(x,1)=(x,3) 1 0 1 7 8 9 17 22 32
(x,2)=(x,18) 16 15 14 8 7 6 2 7 17
Min((x,1), (x,2) C1 C1 C1 C1 C2 C2 C2 C2 C2

Diperoleh: cluster1 (C1)={2,3,4,10}

cluster2 (C2)={11,12,20,25,35}
Contoh soal K-Means clustering (Lanjutan)
Perhitungan centroid baru:
2+3+4+10 19
𝜇1′ = = =4.75
4 4

11 + 12 + 20 + 25 + 35 98
𝜇2′ = = = 19.6
5 5

Proses iterasi berhenti jika  baru =  lama atau dengan kata lain elemen dalam
sebuah cluster tidak berubah