PENINGKATAN DETEKSI SERANGAN SIBER  PADA DATA BESAR MENGGUNAKAN ALGORITMA DEEP REINFORCEMENT LEARNING

Sulaeman .; Rudi Kurniawan; Bani Nurhakim; Edi Tohidi

Authors

Sulaeman . STMIK IKMI Cirebon, Indonesia
Rudi Kurniawan STMIK IKMI Cirebon, Indonesia
Bani Nurhakim STMIK IKMI Cirebon, Indonesia
Edi Tohidi STMIK IKMI Cirebon, Indonesia

Keywords:

Deep Reinforcement Learning, Cyber Attack, Big Data

Abstract

Peningkatan volume trafik jaringan pada era Big Data menghadirkan tantangan signifikan bagi sistem keamanan siber konvensional dalam mendeteksi serangan yang semakin kompleks. Penelitian ini bertujuan untuk mengimplementasikan algoritma Deep Reinforcement Learning (DRL) berbasis Deep Q-Network (DQN) untuk meningkatkan efektivitas deteksi serangan siber pada dataset skala besar. Masalah utama yang diangkat adalah bagaimana mengoptimalkan kecepatan pemrosesan data masif tanpa mengurangi akurasi deteksi anomali. Metode penelitian dilakukan dengan memanfaatkan dataset CICIDS2017 yang terdiri dari 2.520.751 baris data. Tahap prapemrosesan melibatkan normalisasi hybrid dan seleksi 15 fitur utama menggunakan Random Forest Classifier untuk mereduksi dimensi data. Model DQN dibangun menggunakan arsitektur saraf tiruan berlapis dengan aktivasi ReLU dan dilatih dalam lingkungan komputasi terdistribusi Apache Spark. Pendekatan ini memungkinkan pemrosesan data dilakukan secara paralel untuk meningkatkan efisiensi throughput. Hasil penelitian menunjukkan bahwa implementasi DRL terdistribusi berhasil mencapai performa yang sangat impresif dengan tingkat akurasi sebesar 98,67%. Evaluasi model menghasilkan nilai Precision 0.9870, Recall 0.9867, dan F1-Score 0.9863. Selain itu, penggunaan Apache Spark terbukti efektif menekan angka kesalahan deteksi dengan False Positive Rate (FPR) yang sangat rendah sebesar 0,0062. Selama fase pelatihan, model menunjukkan konvergensi yang stabil dengan penurunan nilai loss dari 0,1179 menjadi 0,0311 pada episode akhir. Diskusi hasil menyimpulkan bahwa penggabungan algoritma DRL dengan komputasi terdistribusi memberikan keunggulan pada aspek skalabilitas dan responsivitas dibandingkan model konvensional. Meskipun terdapat tantangan dalam mengklasifikasikan jenis serangan minor tertentu, dominasi hasil pada confusion matrix membuktikan ketangguhan model dalam mengenali serangan bervolume tinggi seperti DoS dan DDoS. Penelitian ini menegaskan bahwa infrastruktur Apache Spark dan algoritma DQN merupakan solusi yang efektif untuk mitigasi ancaman siber pada lingkungan data besar secara akurat dan efisien.

References

Abdalla, H. B. (2022). A brief survey on big data: technologies, terminologies and data-intensive applications. In Journal of Big Data (Vol. 9, Issue 1). Springer Science and Business Media Deutschland GmbH. https://doi.org/10.1186/s40537-022-00659-3

Atefinia, R., & Ahmadi, M. (2022). Performance Evaluation of Apache Spark MLlib Algorithms on an Intrusion Detection Dataset. https://doi.org/10.22108/jcs.2022.131400.1085

Azeroual, O., & Nikiforova, A. (2022). Apache Spark and MLlib-Based Intrusion Detection System or How the Big Data Technologies Can Secure the Data. Information (Switzerland), 13(2). https://doi.org/10.3390/info13020058

Chowdhury, N., & Kashem, M. A. (2008). A comparative analysis of Feed-forward Neural network & Recurrent Neural network to detect intrusion. Proceedings of ICECE 2008 - 5th International Conference on Electrical and Computer Engineering, 488–492. https://doi.org/10.1109/ICECE.2008.4769258

Dias, L. F., & Correia, M. (2019). Big Data Analytics for Intrusion Detection (pp. 292–316). https://doi.org/10.4018/978-1-5225-9611-0.ch014

Fitria, E. Y., & Mutijarsa, K. (2023). Survei Penelitian Metode Kecerdasan Buatan untuk Mendeteksi Ancaman Teknologi Serangan Siber. Jurnal Teknologi Informasi Dan Ilmu Komputer, 10(6), 1185–1196. https://doi.org/10.25126/jtiik.2023107341

Manzano Sanchez, R. A., Zaman, M., Goel, N., Naik, K., & Joshi, R. (2022). Towards Developing a Robust Intrusion Detection Model Using Hadoop–Spark and Data Augmentation for IoT Networks †. Sensors, 22(20). https://doi.org/10.3390/s22207726

Mccallum, A., & Nigam, K. (1998). A Comparison of Event Models for Deep Reinforcement Learning Text Classification. www.aaai.org

Muhati, E., & Rawat, D. (2024). Data-Driven Network Anomaly Detection with Cyber Attack and Defense Visualization. Journal of Cybersecurity and Privacy, 4(2), 241–263. https://doi.org/10.3390/jcp4020012

Oussous, A., Benjelloun, F. Z., Ait Lahcen, A., & Belfkih, S. (2018). Big Data technologies: A survey. In Journal of King Saud University - Computer and Information Sciences (Vol. 30, Issue 4, pp. 431–448). King Saud bin Abdulaziz University. https://doi.org/10.1016/j.jksuci.2017.06.001

Rabih, R., Vahdat-Nejad, H., Mansoor, W., & Joloudari, J. H. (2025). Highly accurate anomaly based intrusion detection through integration of the local outlier factor and convolutional neural network. Scientific Reports, 15(1). https://doi.org/10.1038/s41598-025-08175-z

Radford, A., Metz, L., & Chintala, S. (2016). Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks. http://arxiv.org/abs/1511.06434

Saputri, I., Arsi, P., & Isnaini, K. N. (2025). EFFECTIVENESS HYPERPARAMETER TUNING ON RANDOM FOREST, LINEAR DISCRIMINANT ANALYSIS, LOGISTIC REGRESSION AND NAÏVE BAYES ALGORITHMS FOR DETECTING DOS NETWORK ATTACKS. Jurnal Teknik Informatika (Jutif), 6(1), 87–104. https://doi.org/10.52436/1.jutif.2025.6.1.4175

Sharafaldin, I., Lashkari, A. H., & Ghorbani, A. A. (2018). Toward generating a new intrusion detection dataset and intrusion traffic characterization. ICISSP 2018 - Proceedings of the 4th International Conference on Information Systems Security and Privacy, 2018-January, 108–116. https://doi.org/10.5220/0006639801080116

Sokolova, M., & Lapalme, G. (2009). A systematic analysis of performance measures for classification tasks. Information Processing and Management, 45(4), 427–437. https://doi.org/10.1016/j.ipm.2009.03.002

Songma, S., Sathuphan, T., & Pamutha, T. (2023). Optimizing Intrusion Detection Systems: Exploring the Impact of Feature Selection, Normalization and Three-Phase Precision on the Cse-Cic-Ids-2018 Dataset. https://doi.org/10.20944/preprints202311.0302.v1

Xing, Y., Shu, H., Zhao, H., Li, D., & Guo, L. (2021). Survey on Botnet Detection Techniques: Classification, Methods, and Evaluation. In Mathematical Problems in Engineering (Vol. 2021). Hindawi Limited. https://doi.org/10.1155/2021/6640499

Xu, Y., & Goodacre, R. (2018). On Splitting Training and Validation Set: A Comparative Study of Cross-Validation, Bootstrap and Systematic Sampling for Estimating the Generalization Performance of Supervised Learning. Journal of Analysis and Testing, 2(3), 249–262. https://doi.org/10.1007/s41664-018-0068-2

Xu, Z., & Liu, Y. (2025). Robust Anomaly Detection in Network Traffic: Evaluating Machine Learning Models on CICIDS2017. http://arxiv.org/abs/2506.19877