1, April 2019
Abstrak
Penelitian ini dilakukan untuk mengevaluasi aplikasi POTWIS dengan menyoroti
tiga konsep usability yaitu efektivitas, efisiensi, dan kepuasan pengguna dalam
menggunakan aplikasi POTWIS diukur menggunakan metode Usability Testing teknik
Performance Measurement, RTA, UEQ, dan SUS. Tujuannya ialah untuk mengetahui hasil
usability testing dan rekomendasi perbaikan pada aplikasi POTWIS berdasarkan hasil
usability testing.
Hasil penelitian ini berdasarkan analisis dari perhitungan statistik Mann Whitney U
Test, UEQ dan SUS menunjukkan bahwa (1) aplikasi POTWIS belum efektif dilihat dari
adanya kesalahan yang dilakukan oleh responden saat pengerjaan tugas, (2) aplikasi
POTWIS sudah efisien dilihat dari waktu pengerjaan tugas karena tidak ada perbedaan
yang signifikan waktu pengerjaan tugas responden kelompok mahir dan kelompok pemula,
(3) aplikasi POTWIS belum memenuhi skala efisiensi diukur menggunakan UEQ dengan
skor sebesar 0.625 dinyatakan masih dibawah rata-rata, dan (4) aplikasi POTWIS belum
memenuhi kepuasan pengguna dilihat dari skor SUS sebesar 53.00 yang dinyatakan masih
dibawah skor rata-rata yaitu > 68.
Abstract
This research was conducted to evaluate POTWIS application by highlighting three
usability concepts that effectiveness, efficiency, and the satisfaction of the user in using
POTWIS application measured by usability testing methode, Performance Measurement,
RTA, UEQ, and SUS technique. The purpose is to know the result of usability testing and
improvement recommendation on POTWIS application based of the result of usability
testing.
The result of this research is based on analysis of statical calculation Mann
Whitney U Test, UEQ dan SUS which showed (1) POTWIS application is not effective seen
from the existance of the mistake made by respondent during the task, (2) POTWIS
application is efficient seen from the time of task execution because the execution time
between proficient group and beginner group was not significantly different, (3) POTWIS
application has not met the scale of efficiency measured by UEQ with score 0.625 which
showed below the average and (4) POTWIS application has not fulfilled user satisfaction
measured by SUS with score 53.00 which is stated still below the average score is > 68.
objek wisata tersebut. Aplikasi POTWIS beberapa teknik evaluasi yang berbeda yaitu
dirancang dengan mengadopsi konsep teknik Think Aloud dibagi menjadi dua CTA
Crowdsourcing dimana konten, tanggapan (Concurent Think Aloud) dan RTA
dan penilaian diberikan oleh masyarakat (Restrospective Think Aloud) , Shadowing
(Arthana Resika et al., 2016). Method, Coaching Method, Question-Asking
Adapun halaman-halaman yang Protocol, Teaching Method, Performance
terdapat pada aplikasi POTWIS adalah Measurement, Remote Testing, dan Eye
halaman login, halaman daftar objek wisata, Tracker. Dalam penelitian ini, peneliti
informasi detail objek wisata, rute menuju menggunakan teknik Performance
lokasi objek wisata, komentar dan rating Measurement dan teknik RTA.
pada objek wisata, menambah dan melihat
foto objek wisata, menambah atau mengedit B.1 Performance Measurement
konten objek wisata, melaporkan konten Teknik ini digunakan untuk
objek wisata, menambah, objek wisata baru, memperoleh data kuantitatif terkait kinerja
peta seluruh tempat objek wisata. peserta tes ketika melakukan tugas selama
pengujian usability. Teknik ini umumnya
B. Usability melarang interaksi antara peserta dan
Istilah usability sering digunakan dalam evaluator selama uji yang akan
bidang Human Computer Interaction (HCI) mempengaruhi data kinerja kuantitatif. Data
(Gatsou, Politis, & Zevgolis, 2013). Human kuantitatif sangat berguna dalam melakukan
Computer Interaction yaitu sebagai interaksi pengujian perbandingan waktu pengerjaan
komputer manusia, adalah multi disiplin ilmu untuk melihat efisiensi dan membandingkan
yang fokus pada desain, evaluasi dan jumlah error untuk melihat efektifitas.
implementasi dari interaksi sistem yang
digunakan oleh manusia dan hal lain yang B.2 Retrospective Think Aloud (RTA)
berada di sekitar (Saifulloh & Asnawi, 2015). Teknik evaluasi RTA dilakukan ketika
Usability berasal dari Bahasa Inggris yaitu responden selesai melakukan interaksi
usable yang secara umum berarti dapat dengan sistem. Responden akan diminta
digunakan dengan baik. Sesuatu dapat memverbalisasi pikiran, perasaan, dan
dikatakan berguna dengan baik apabila pendapatnya dengan bantuan melihat media
kegagalan dalam penggunaannya dapat video yang memutar kembali aktifitas yang
dihilangkan atau diminimalkan serta dilakukan responden saat berinteraksi
memberi manfaat dan kepuasan kepada dengan sistem.
pengguna (Rubin, J., & Chisnell, 2008).
Suatu aplikasi disebut usable jika fungsi- C. UEQ (User Experience Questionnaires)
fungsinya dapat dijalankan secara efektif, Tujuan utama dari penggunaan
efisien, dan memuaskan (Nielsen, 1993). kuesioner UX adalah untuk memungkinkan
Usability didefinisikan oleh 5 komponen pengukuran cepat dan segera pengalaman
berkualiatas yaitu learnability, efficiency, pengguna produk interaktif (Laugwitz, Held,
memorability, error, satisfaction (Nielsen, & Schrepp, 2008). UEQ telah diterapkan
2012). ISO 9241-11 mengatakan usability dalam berbagai konteks penelitian, misalnya
memiliki 3 dimensi yaitu efektivitas, efisiensi untuk evaluasi perangkat lunak bisnis
dan kepuasan (ISO 9241-11, 1998). (Rauschenberger, Hinderks, &
Menurut Zaphiris & Kurniawan, metode Thomaschewski, 2011), alat-alat
evaluasi usability dapat dikategorikan pengembangan (Wieschnowsky & Paulheim,
menjadi model/metrics based, inspection, 2011), situs web dan layanan web
inquiry, dan testing (Utama, 2011). Dalam (Hartmann, 2011), atau jaringan sosial
penelitian ini menggunakan metode Testing. (Hartmann, 2011).
Usability testing adalah teknik yang Item penilaian UEQ diwujudkan
digunakan untuk mengevaluasi produk sebagai diferensial semantik, yaitu masing-
dengan mengujinya langsung pada masing item penilaian diwakili oleh sepasang
pengguna (Nalurita, Yogasara, & Hariandja, istilah dengan arti yang berlawanan. Urutan
2015). Usability testing mempunyai istilah diacak per item, yaitu setengah dari
item dari skala awal dengan istilah positif dan adalah acak, (2) sampel bersifat independen,
setengah lainnya dari item dimulai dengan dan (3) skala pengukuran yang digunakan
istilah negatif. UEQ menggunakan skala adalah ordinal (Utama, 2011). Dalam
tujuh tahap untuk mengurangi terkenanya penelitian ini menggunakan nilai α (alpha)
bias tendensi sentral untuk jenis seperti 0.05.
barang.
UEQ mengandung 6 pertimbangan F. Responden
dengan total 26 item penilaian. Struktur skala Literatur tidak memberikan jumlah
UEQ adalah sebagai berikut. responden optimal yang jelas dalam
melakukan usability testing. Nielsen
(Nielsen, 2000) berpendapat bahwa 5
responden atau partisipasi akan menemukan
80% dari masalah suatu sistem. Faulkner
(Faulkner, 2003) berpendapat bahwa 5
orang hanya akan menemukan sebanyak
55% permasalahan usability, untuk
mendapatkan 90% permasalahan dalam
usability maka diperlukan sebanyak minimal
15 orang, dan untuk mendapatkan 95%
permasalahan dalam usability maka
diperlukan sebanyak minimal 20 orang
pengguna.
Dalam penelitian Gatsou et al. (2013)
dengan judul penelitian “Exploring
Inexperienced User Performance of a Mobile
Tablet Application Through Usability Testing”
menggunakan 12 peserta partisipasi.
Sedangkan penelitian yang dilakukan oleh
Gambar 1 Struktur Skala UEQ Az-zahra et al. (2015) dengan judul
Sumber : (Schrepp, 2015) penelitian “Usability Evaluation of Mobile
Application in Culinary Recommendation
D. SUS (System Usability Scale) System” menggunakan 5 peserta partisipasi.
SUS merupakan sebuah kuesioner Oleh sebab itu, peneliti menggunakan 20
yang mengacu pada Standard Usability responden yang dijadikan sampel untuk
Questionnaires. SUS dikenal sebagai melakukan usability testing pada aplikasi
pengukur kepuasan pengguna yang “quick POTWIS, dimana responden tersebut
and dirty” artinya penggunaan kuesioner dikelompokkan menjadi kelompok pemula
SUS sangat cepat dan data yang dihasilkan dan kelompok mahir.
dapat dipercaya. Kuesioner SUS paling
sering digunakan untuk mengukur persepsi G. Wireframe
usability (Sauro, 2011). SUS juga merupakan Wireframes dapat dibuat secara
paket usability testing (pengujian manual dengan tangan atau dengan
kebergunaan) yang efektif dan handal untuk menggunakan perangkat lunak, seperti
digunakan pada berbagai produk dan Balsamiq (Junus, Santoso, Isal, & Utomo,
aplikasi (Bangor, Kortum, & Miller, 2009). 2015). Wireframes yang dibuat dalam
penelitian ini adalah gambar rangka
E. Uji Statistik Mann Whitney U Test sederhana yang menyediakan gambar
Mann Whitney U test adalah sebuah uji mengenai tata letak dan memberikan
statistik non parametrik yang digunakan informasi atau fungsi yang lebih rinci
untuk membandingkan dua kelompok mengenai perbaikan rekomendasi halaman
independen (berbeda partisipan dalam antarmuka sistem aplikasi POTWIS dengan
setiap kelompoknya) (Utama, 2011). Asumsi menggunakan perangkat lunak Balsamiq
yang berlaku dalam Mann Whitney U test Mockups 3.
yaitu (1) sampel yang berasal dari populasi
Jurnal Sains dan Teknologi | 15
P-ISSN : 2303-3142 E-ISSN : 2548-8570 Vol. 8, No.1, April 2019
Tugas p-value
2,50
Task 1 0.029 Excellent
Task 2 0.140 2,00
Task 3 0.068 1,50
Task 4 0.130 Good
Task 5 0.494 1,00
Task 6 0.472 0,50 Above
Task 7 0.404 Average
0,00
Task 8 0.317
Task 9 0.677 -0,50 Below
Task 10 0.596 Average
-1,00
Task 11 0.031
Efisiensi
Stimulasi
Kebaruan
Daya tarik
Kejelasan
Ketepatan
Task 12 0.281 Gambar 2 Tingkat Pencapaian Berdasarkan
Task 13 0.146 Hasil Uji Lapangan
Task 14 0.412 c. Kepuasan Pengguna
Perolehan nilai skor responden
Secara statistik dari 14 tugas dapat kuesioner SUS sebesar 53.00. Hal ini berarti
dinyatakan tidak ada perbedaan yang nilai skor tesrsebut lebih kecil dari skor
signifikan, naum tugas 1 dan 11 standar SUS yaitu 68. Sehingga dapat
menunjukkan perbedaan yang signifikan, dikatakan bahwa responden kurang puas
meskipun waktu pengerjaan tugas menggunakan aplikasi POTWIS. Dilihat dari
responden kelompok mahir sedikit lebih data kuesioner yang diperoleh pernyataan
cepat dari kelompok pemula. Maka dapat yang memiliki nilai terendah adalah
diputuskan bahwa halaman aplikasi pengguna merasa memerlukan bantuan
POTWIS sudah efisien dilihat dari waktu orang lain ketika menggunakan aplikasi
pengerjaan tugas. POTWIS, dan responden menemukan fitur
Sedangkan dilihat dari skala Efisiensi yang sangat rumit digunakan pada aplikasi
yang diukur menggunakan kuesioner UEQ POTWIS.
perolehan nilai rata responden sebesar Dari hasil yang didapatkan maka
0.625. Hal ini berarti nilai skor tersebut rekomendasi perbaikan dilakukan dengan
dibawah rata-rata, sehingga dapat dikatakan membuat wireframe, dimana dasar yang
bahwa aplikasi POTWIS belum memenuhi digunakan untuk mengembangkan
faktor efisiensi UEQ. Serta terdapatnya rekomendasi adalah panduan HCI dan hasil
hasil pengukuran skala UEQ lainnya (Daya data usability testing yaitu performance
Tarik, Kejelasan, Ketepatan, Stimulasi, dan measurement dan RTA. Berdasarkan hasil
Kebaruan aplikasi POTWIS). performance measurement, rekomendasi
perbaikan dalam penelitian ini akan
Tabel 4 Rekapitulasi Nilai Skala UEQ difokuskan pada tata letak (layout) halaman
dan menu navigasi sesuai hasil data
penyebab kesalahan (error) pengguna
sesuai dengan data penyebab kesalahan
(error) pengguna, serta saran pengguna
melalui hasil RTA yaitu menyederhanakan
menu, konsistensi kejelasan button,
konsistensi penggunaan bahasa dan istilah
untuk setiap button, serta rekomendasi
perbaikan fungsionalitas. Berikut adalah
halaman aplikasi POTWIS hasil
rekomendasi perbaikan.
1. Rekomendasi perbaikan Halaman
Utama Aplikasi POTWIS
Gambar 3 Halaman Utama dan Wireframe Gambar 5 Halaman Lihat Detail Objek
Rekomendasi Wisata dan Wireframe Rekomendasi
Gambar 11 Halaman Menu POTWIS dan Hasil yang didapat dari proses usability
Wireframe Rekomendasi testing diketahui bahwa halaman aplikasi
POTWIS tidak memenuhi kriteria sebuah
produk dengan usability yang baik. Hal ini
dapat dilihat pada penilaian tingkat
efektivitas, efesiensi, dan kepuasan
pengguna, halaman aplikasi POTWIS tidak
mampu memenuhi kriteria yang baik untuk
ketiga aspek tersebut.
Rekomendasi perbaikan dalam
penelitian ini difokuskan untuk mengubah
tata letak (layout) halaman dan memenuhi
menu navigasi sesuai hasil data penyebab
Perbaikan yang dilakukan adalah kesalahan (error) pengguna,
perubahan bahasa yang digunakan pada menyederhanakan menu, kejelasan button,
tombol Home menjadi Beranda, tombol konsistensi penggunaan bahasa dan istilah
Logout menjadi Keluar. Konsistensi untuk setiap button, serta rekomendasi
penggunaan bahasa ini dibataskan pada perbaikan fungsionalitas aplikasi POTWIS
tombol aplikasi POTWIS saja. Perbaikan sesuai dengan data penyebab kesalahan
lainnya adalah terkait fungsionalitas tombol (error) pengguna. Perbaikan dilakukan
Logout agar diperjelas, apakah berfungsi dengan membuat wireframe rekomendasi
keluar dari akun yang digunakan untuk halaman utama POTWIS, halaman home,
masuk ke aplikasi POTWIS, atau menutup halaman lihat detail objek wisata, halaman
aplikasi POTWIS. Hal ini dilakukan lihat foto sampul objek wisata, halaman
berdasarkan kritik dari responden untuk komentar, halaman lihat galeri foto objek
kejelasan menu/tombol Logout. wisata, halaman lihat detail foto objek
wisata, halaman share objek wisata,
SIMPULAN halaman menambah alamat objek wisata
Berdasarkan hasil penelitian yang baru, halaman seluruh peta objek wisata,
dilakukan terkait usability testing pada halaman menu aplikasi POTWIS,
aplikasi POTWIS dapat disimpulkan bahwa fungsionalitas logout, serta fungsionalitas
(1) halaman aplikasi POTWIS secara umum keterpercayaan data objek wisata.
belum efektif karena terjadi error dalam
pengerjaan tugas oleh responden (2) dilihat SARAN
dari hasil data yang didapat dengan teknik Sebaiknya dilakukan penyesuaian
performance measurement diketahui bahwa design aplikasi POTWIS agar terlihat
secara statistik waktu pengerjaan tugas menarik, dan untuk penelitian selanjutnya
responden pemula secara signifikan hampir perlu ditambahkan metode untuk mengukur
sama dengan responden mahir, walaupun aspek usability lainnya, yaitu learnability dan
mean rank untuk kelompok mahir lebih memorability, sehingga hasil penelitian lebih
cepat, sehingga halaman aplikasi POTWIS detail mengenai variabel apa saja yang perlu
sudah efisien, (3) dari data skala efisiensi mendapat perhatian.
kuesioner UEQ diperoleh hasil sebesar
0.625 dikatakan masih dibawah rata-rata, DAFTAR PUSTAKA
sehingga aplikasi POTWIS belum efisiensi Arthana Resika, I. K., Setemen, K.,
dari segi kuesioner UEQ, dan (4) dari data Purnamawan, I. K., & Andiani, N. D.
kepuasan responden yang didapat dari hasil (2016). Penggalian dan Penyebaran
kuesioner SUS diketahui bahwa skor yang Potensi Wisata melalui Aplikasi Mobile
diperoleh kurang dari 68 yaitu sebesar dengan Konsep Crowdsourcing. JPTK,
53.00, sehingga responden dikatakan 13(1), 111–126.
merasa kurang puas menggunakan aplikasi Bangor, A., Kortum, P., & Miller, J. (2009).
POTWIS. Determining What Individual SUS
Scores Mean: Adding an Adjective