ANALISIS DAN PENCEGAHAN

METODE SERANGAN FLOODING PADA JARINGAN KOMPUTER

Herry Alfianto
M. Vincent S Bria
Yudis Saputra
Jurusan Teknik Informatika
STMIK PalComTech Palembang

Abstrak

Flooding adalah sejenis serangan Denial of Service (DOS) dimana flooding melakukan
serangan terhadap sebuah komputer atau server di dalam jaringan lokal maupun
internet dengan cara menghabiskan sumber (resource) yang dimiliki oleh komputer tersebut
sampai komputer tersebut tidak dapat menjalankan fungsinya dengan benar sehingga secara
tidak langsung mencegah pengguna lain untuk memperoleh akses layanan dari komputer
yang diserang tersebut.Penelitian ini untuk menganalisis indikasi serangan flooding dan
menjaga keamanan sebuah sistem. Untuk itu diperlukan sebuah alat deteksi yang dapat
mengenali adanya serangan flooding dengan cara menyadap paket data kemudian
membandingkannya dengan database rule IDS (berisi signature - signature paket serangan).
IDS engine akan membaca alert dari IDS (antara lain berupa jenis serangan dan IP address
penyusup) agar dapat meminimalisasi serangan flooding terhadap jaringan LAN (Local Area
Network) dan server. Metode pengujian serangan flooding dengan menggunakan metode
penetration testing. Adapun tiga buah sampel pengujian yaitu serangan flooding terhadap
protocol ICMP, UDP dan TCP dengan menggunakan aplikasi flooding. Hasil yang diperoleh
saat melakukan pengujian serangan flooding dimana sensor alat deteksi dapat mendeteksi
seluruh serangan dan seluruh sampel serangan dapat dicegah atau di filtering dengan
menggunakan sistem keamanan jaringan berbasis firewall.

Kata kunci: Intrusion Detection System, Denial of Service , Flooding, Firewall, action
research

PENDAHULUAN

Perkembangan pesat teknologi internet dan implementasinya dalam sebuah Local

Area Network (LAN) telah menyebabkan arus informasi dari dalam atau ke luar perusahaan
semakin padat. Akses internet tanpa batas telah menghadirkan banyak keuntungan bagi
semua pihak, tidak hanya mempermudah pencarian informasi yang diinginkan tanpa batas
waktu dan lokasi, akan tetapi dunia luar dapat berinteraksi dengan LAN (Local Area network)
yang ada. Hal inilah yang memungkinkan meningkatnya tindak kejahatan dalam dunia maya.
Salah satu permasalahan yang sering terjadi pada sistem keamanan jaringan komputer
adalah sering terjadi serangan flooding. Flooding adalah sejenis serangan Denial of Service
(DOS) , dimana flooding melakukan serangan terhadap sebuah komputer atau server di dalam
jaringan lokal maupun internet dengan cara menghabiskan sumber (resource) yang dimiliki
oleh komputer tersebut sampai komputer tersebut tidak dapat menjalankan fungsinya dengan
benar sehingga secara tidak langsung mencegah pengguna lain untuk memperoleh akses
layanan dari komputer yang diserang tersebut.
Salah satu solusi dari permasalahan tersebut adalah diperlukan cara untuk
menganalisis indikasi serangan flooding dan menjaga kemanan sebuah sistem yang dapat
meminimalisasi serangan flooding terhadap jaringan LAN (Local Area Network) dan server.
Alat deteksi sangat diperlukan dalam kondisi ini, yang dapat mendeteksi terjadinya serangan
flooding pada sistem server jaringan. Alat deteksi yang dimaksud adalah Intrusion Detection

1
System (IDS). IDS dapat mengenali adanya serangan flooding dengan cara menyadap paket
data kemudian membandingkannya dengan database rule IDS (berisi signature - signature
paket serangan) . Jika paket data mempunyai pola yang sama dengan (setidaknya) salah satu
pola di database rule IDS, maka paket tersebut dianggap sebagai serangan, dan demikian
juga sebaliknya, jika paket data tersebut sama sekali tidak mempunyai pola yang sama
dengan pola di database rule IDS, maka paket data tersebut dianggap bukan serangan.
Kemudian IDS engine akan membaca alert dari IDS (antara lain berupa jenis serangan dan
IP address penyusup) untuk kemudian memerintahkan firewall untuk mencegah serangan
tersebut.

LANDASAN TEORI

Analisis
Menurut Jogiyanto (2009:129), Analisis dapat didefinisikan sebagai penguraian dari
suatu sistem informasi yang utuh ke dalam bagian-bagian komponennya dengan maksud
untuk mengidentifikasikan dan mengevaluasi permasalahan-permasalahan, kesempatan-
kesempatan, hambatan-hambatan yang terjadi dan kebutuhan-kebutuhan yang diharapkan
sehingga dapat diusulkan perbaikan-perbaikannya.

Jaringan Komputer
Menurut Pratama (2014:12), jaringan komputer adalah hubungan dari sejumlah
perangkat yang dapat saling berkomunikasi satu sama lain. Perangkat yang dimaksud pada
definisi ini mencakup semua jenis perangkat komputer ( komputer desktop, komputer jinjing,
smartphone , tablet) dan perangkat penghubung (router, switch,modem dan hub)

Menurut Syafrizal (2005:2), jaringan komputer adalah himpunan “interkoneksi”

antara 2 komputer autonomous atau lebih yang terhubung dengan media transmisi kabel atau
tanpa kabel (wireless ). Dua unit komputer dikatakan terkoneksi apabila keduanya bisa saling
bertukar data atau informasi, berbagi resource yang dimiliki seperti file, printer, media
penyimpanan.

Menurut Herlambang (2008:2), jaringan komputer dapat dikelompokkan berdasarkan

luas area yang dapat dijangkau atau dilayani. Secara umum jaringan komputer terbagi
menjadi 4 (empat) jenis, yaitu LAN (Local Area Network), MAN (Metropolitan Area
Network), WAN (Wide Area Network) dan Internet.

Keamanan Komputer
Menurut Ariyus (2006:2) keamanan komputer terdiri dari empat bagian yaitu Aspek-
aspek Keamanan Komputer, Aspek-aspek Ancaman Keamanan, Jenis-jenis Serangan dan
Pendeteksian Serangan.

Aspek-aspek Keamanan Komputer

Menurut Ariyus (2006:2) keamanan komputer meliputi berbagai aspek diantaranya
adalah Authentication, Integrity, Nonrepudiation, Authority, Confidentiality, Privacy,
Availability, Access Control.

Aspek-aspek Ancaman Kemanan

Menurut Ariyus (2006:3) ancaman terhadap komputer meliputi aspek-aspek
diantaranya Interruption, Interception, Modification, Fabrication.

2
Jenis-jenis Serangan
Menurut Ariyus (2006:12) jenis dan teknik serangan yang mengganggu komputer
beraneka macam. Serangan-serangan umum yang terjadi pada sistem komputer diantaranya
adalah Port Scanning, Denial Of Service (DOS), IP Spoofing, Land Attack, Smurf Attack,
Man In The Middle, UDP Flood, Packet Sniffing, ICMP Flood.

Pendeteksian Serangan
Menurut Ariyus (2007:57) untuk mengenali sebuah serangan yang dilakukan oleh
para hacker atau cracker, digunakan data diperoleh. Pendekatan yang sering digunakan untuk
mengenali serangan antara lain Misuse Detection, Anomali Detection.

Intrusion Detection System (IDS)

Menurut Ariyus (2007:28), Intrusion Detection System (IDS) dapat didefinisikan
sebagai tool, metode, sumber daya yang memberikan bantuan untuk melakukan identifikasi,
memberikan laporan terhadap aktivitas jaringan komputer Intrusion Detection System
sebenarnya tidak cocok diberi pengertian tersebut karena IDS tidak mendeteksi penyusup
tetapi hanya mendeteksi aktivitas pada lalu lintas jaringan yang tidak layak terjadi.

Basic Analysis and Security Engine (BASE)

Menurut Kohlenberg (2007:432), BASE (Basic Analysis and Security Engine)
merupakan analisis dasar sebagai keamanan suatu mesin yang berfungsi untuk mencari dan
mengolah database dari alert network security yang dibangkitkan oleh perangkat lunak
pendeteksi serangan yaitu Intrusion Detection System (IDS).

Teknik Pengembangan Sistem

Menurut Kock (2007:45), Metode Action Research merupakan penelitian tindakan.
Metode action research penelitian yang bersifat partisipatif dan kolaboratif. Maksudnya
penelitiannya dilakukan sendiri oleh peneliti, dengan penelitian tindakan.

Teknik Pengujian
Teknik pengujian yang dilakukan menggunakan teknik penetrasi yaitu tindakan yang
membahayakan data (Whitaker, 2005) karena pelaku pengujian bersifat aktif dalam
melakukan berbagai serangan untuk mencari kelemahan sistem.

Penelitian Terdahulu
Sugiantoro dan Istianto (2010), melakukan penelitian “Analisa sistem keamanan
Intrusion Detection System (IDS), Firewall System, Database System dan Monitoring System
menggunakan Agent bergerak” dengan hasil penelitian sistem keamanan yang terintegrasi
antara Intrusion Detection System (IDS) , Firewall System, Database System dan Monitoring
System dikaitkan dengan tinjauan agent bergerak.

Elleithy , Blagovic dan Sideleau (2010) , melakukan penelitian dengan judul “ Denial
of Service Attack Techniques: Analysis, Implementation and Comparison”, dengan hasil
penelitian yaitu sebuah serangan penolakan layanan ( DOS ) adalah jenis serangan terhadap
sebuah jaringan struktur untuk menonaktifkan server dari pelayanan yang klien.

3
 HASIL DAN PEMBAHASAN

Analisis Kebutuhan
Kebutuhan alat deteksi sangat diperlukan dalam kondisi untuk menganalisis indikasi
serangan flooding dan menjaga kemanan sebuah sistem yang dapat meminimalisasi serangan
flooding terhadap jaringan LAN (Local Area Network) dan server yang dapat mendeteksi
terjadinya serangan flooding pada sistem server jaringan. Alat deteksi yang dimaksud adalah
Intrusion Detection System (IDS). IDS dapat mengenali adanya serangan flooding dengan
cara menyadap paket data kemudian membandingkannya dengan database rule IDS (berisi
signature - signature paket serangan)

Analisis Permasalahan
Perkembangan pesat teknologi internet dan implementasinya dalam sebuah LAN
(Local Area Network) telah menyebabkan arus informasi dari dalam atau ke luar perusahaan
semakin padat. Akses internet tanpa batas telah menghadirkan banyak keuntungan bagi
semua pihak, tidak hanya mempermudah pencarian informasi yang diinginkan tanpa batas
waktu dan lokasi, akan tetapi dunia luar dapat berinteraksi dengan LAN (Local Area network)
yang ada. Hal inilah yang memungkinkan meningkatnya tindak kejahatan dalam dunia maya.

Topologi Jaringan
Desain topologi yang digunakan menggunakan topologi star.

Gambar 1. Topologi Jaringan

Teknologi Jaringan
Adapun kebutuhan alat dan bahan yang digunakan dalam penelitian ini adalah sebagai
berikut:

1. Perangkat Keras (Hardware)

- Satu Unit Komputer Server (IDS)
- Satu Unit Laptop sebagai Flooding Attacker
- Satu Unit Laptop sebagai Monitoring
- Switch Hub
- Kabel UTP

2. Perangkat Lunak (Software)

- Linux Ubuntu Server 12.04 LTS
- Software Snort

4
 - Software Apache Web Server
- Web BASE (Basic Analysis and Security Engine)
- Database MySQL Server
- Tools Nettols
- Tools Digiblast
- Tools Synattack

Implementasi Alat Deteksi IDS

Proses installasi linux Ubuntu Server 12.04 LTS dilakukan sebagai tahap awal proses
implementasi, setelah selesai proses installasi sistem dilanjutkan installasi komponen
tambahan atau pendukung sensor alat deteksi snort . Adapun paket software pendukung IDS
atau aplikasi yang diinstall adalah mysql-server, libpcap0.8-dev, libmysqlclient15-dev, bison,
flex, apache2, php5, libapache2-mod-php5, php5-gd, php5-mysql, libtool, libpcre3-dev dan
php-pear dengan menggunakan perintah apt-get install, Kemudian membuat folder snort,
kemudian download file base.tar.gz dan adodb.tar.gz dengan menggunakan perintah wget
Intallasi dan konfigurasi BASE dari client dengan cara buka browser di client,
kemudian ketik http://192.168.150/base untuk konfigurasi snort, mysql dan BASE.

Gambar 3 Konfigurasi database base

Skema Pengujian dan Hasil Pengujian

Dalam pengujian serangan flooding penulis menggunakan BASE (Basic Analysis and
Security Engine) sebagai hasil dari pantauan atau catatan serangan yang bisa diamati melalui
web browser. Dibawah ini adalah merupakan display atau tampilan utama BASE (Basic
Analysis and Security Engine) yang menampilkan sampel hasil serangan flooding pada
protocol TCP , UDP dan ICMP.

5
 Gambar 4. Traffik Serangan Flooding

Dari Gambar 5, penyerangan dilakukan oleh penyusup dengan mengirimkan paket

data dengan kapasitas 64 byte dan melakukan proses ping sebanyak 1000x pada ip server
yaitu 192.168.1.50, hal yang dinamakan ping attack dengan tujuan membuat sistem menjadi
crash atau hang, ping attack merupakan jenis serangan DOS atau flooding yang dilancarkan
melalui pengiriman paket-paket tertentu , biasanya paket-paket sederhana dengan jumlah
yang sangat banyak dengan maksud mengacaukan keadaan jaringan target.

Gambar 5. Flooding Ping Attack

Dari gambar 6, penyerangan dilakukan oleh penyusup dengan melakukan serangan

flooding terhadap port 80 pada ip address server atau alat deteksi 192.168.1.50 yang
berfungsi menbanjiri paket jaringan dengan menggunakan aplikasi Digiblast dan Syn Attack
yang membuat sistem server menjadi hang.

6
 Gambar 6. Serangan flooding Protocol TCP dan UDP

Synattack merupakan jenis serangan flooding yang berfungsi untuk membanjiri

sistem oleh penyusup dengan menyerang lubang keamanan dari implementasi protocol tcp/ip
dengan tujuan membuat sistem menjadi crash atau hang. Adapun cara menjalankan aplikasi
Synattack dengan memasukkan ip address target yaitu 192.168.1.50, setelah itu masukan port
yang terbuka 80, alamat port yang terbuka didapat dari proses port scanning.

Gambar 7. Serangan Flooding Synattack

Untuk pencegahan terhadap serangan atau attacker keamanan jaringan diperlukan

sebuah aplikasi firewall untuk mengatasi permasalahan tersebut salah satunya adalah dengan
mengaktifkan iptables dengan memblok protokol icmp yang masuk ke interface eth0.

7
 Gambar 8. Perintah Untuk Membatasi PING Attack

Gambar 9. Hasil Reject PING Attack

Pada gambar 10 dimana jika ada paket serangan SYN yang dikirim hanya akan di
ACCEPT oleh firewall ( iptables) dengan 3 paket permenit dengan sisa paket serangan akan
di DROP.

Gambar 10. Mengatasi Serangan Flooding dengan Iptables

8
 Pada Gambar 11 menunjukkan bahwa hasil serangan flooding ke port http 80 dengan
flooding mode protocol tcp dan udpsetelah di filter dengan firewall dimana serangan
memgalami kegagalan akan tampil “error completing flood”.

Gambar 11. Flooding Attack DOS Failed

Sedangkan pada Gambar 12 menunjukkan bahwa hasil serangan floodingsyn attackke

port http 80 setelah di filter dengan firewall dimana serangan memgalami kegagalan akan
tampil “can’t find server on specified port”.

Gambar 12. Flooding Synattack Failed

PENUTUP
Dari penelitian ini diperoleh kesimpulan bahwa berdasarkan pengujian serangan
flooding dengan menggunakan tiga buah sampel pengujian menghasilkan sensor alat deteksi
dapat mendeteksi seluruh serangan, seluruh sampel serangan dapat dicegah dengan
menggunakan sistem keamanan jaringan berbasis firewall dan mempermudah administrator
untuk memperoleh data-data guna meningkatkan keamanan jaringan komputer dari serangan
DOS (flooding) sehingga administrator dapat mengambil kebijakan-kebijakan untuk
memperbaikinya berdasarkan alert / log yang dihasilkan oleh sensor IDS (Instrusion
Detection System) melalui web BASE.

DAFTAR PUSTAKA

Ariyus Dony. 2006. Computer security. Yogyakarta: Andi Offset

Ariyus, Dony. 2007. Intrusion Detection System. Yogyakarta: Andi Offset.

9
Elleithy, Khaled. 2010. Denial of Service Attack Techniques: Analysis, Implementation and
Comparison. Computer Science Departement. University of Bridgeport. USA.
Systematic, Cybernetics and Informatics. Vol 3 No 1 Hal 66-71
Herlambang Linto, Catur Azis. 2008. Panduan Lengkap Menguasai Router Masa Depan
Menggunakan Mikrotik RouterOS. Yogyakarta: Andi Offset.
Jogiyanto. 2009. Analisis dan Desain Sistem Informasi. Yogyakarta: Andi Offset.
Kohlenberg, Toby. 2007. Snort Intrusion and Prevention Toolkit. Syngress Publishing Inc.
Burlington
Kock, Ned. 2007. Information systems Action Research An Applied View Of emerging
Concepts and Methods. Texas A & M International University. USA
Pratama, Eka Agus I Putu. 2014. Handbook Jaringan Komputer ( Teori dan Praktek
Berbasiskan Open Source. Bandung: Informatika.
Sugiantoro, Bambang & Istianto, Jazi .2010. Analisa sistem keamanan Intrusion Detection
System (IDS), Firewall System, Database System dan Monitoring System
menggunakan Agent bergerak. UPN Veteran.Makalah Ilmiah. Hal 21-29
Syarizal, Melwin. 2005. Pengantar Jaringan Komputer. Yogyakarta: Andi Offset.
Whitaker, A., Newman, D.P. 2005. Penetration Testing and Network Defense. Indianapolis:
Cisco Press.

10