SKRIPSI IF
Explainable AI untuk Cyber Threat Intelligence Scoring Berbasis Aplikasi Web dalam Klasifikasi Malicious domain
ABSTRAK
Domain memainkan peran penting dalam sebagian besar serangan siber, dan Security Operations Center (SOC) sering mengalami kesulitan dalam memproses data ancaman dalam jumlah besar yang melibatkan banyak domain. Untuk mengatasi permasalahan tersebut, dikembangkan sistem Cyber Threat Intelligence (CTI) Scoring berbasis web yang terintegrasi dengan machine learning untuk mengklasifikasikan domain berbahaya dan menghasilkan risk score. Namun, model machine learning umumnya bersifat black-box sehingga keputusannya sulit dipahami. Oleh karena itu, diperlukan Explainable Artificial Intelligence (XAI) untuk meningkatkan interpretabilitas model. Model klasifikasi dibangun menggunakan Extreme Gradient Boosting (XGBoost) dengan interpretabilitas melalui perbandingan dua metode XAI, yaitu SHapley Additive exPlanations (SHAP) dan Local Interpretable Model-agnostic Explanations (LIME), untuk menentukan metode yang paling sesuai. Model yang dihasilkan memperoleh accuracy sebesar 0,9316 dan ROC-AUC sebesar 0,9794 pada data pengujian. Untuk kelas malicious, model memperoleh precision sebesar 0,9030, recall sebesar 0,9252, dan F1-score sebesar 0,9140, yang menunjukkan keseimbangan antara kemampuan mendeteksi ancaman dan meminimalkan ancaman yang terlewat meskipun distribusi data tidak seimbang, dengan waktu komputasi 0,0560 detik. SHAP menunjukkan kinerja yang lebih baik dibandingkan LIME dari aspek efisiensi waktu, faithfulness, dan stability, sedangkan pengujian consistency menunjukkan korelasi yang signifikan meskipun tingkat kesepakatan menurun pada kasus False Positive. Model dan metode XAI diimplementasikan ke dalam sistem CTI Scoring berbasis web yang mampu memproses dan menjelaskan hasil klasifikasi domain secara cepat (real-time) berdasarkan input yang diberikan pengguna. Hasil penelitian menunjukkan bahwa model mampu mengklasifikasikan domain berbahaya secara efektif dengan interpretabilitas yang baik, serta mengidentifikasi SHAP sebagai metode XAI dengan performa terbaik.
Kata Kunci: machine learning; explainable artificial intelligence; klasifikasi malicious domain; XGBoost; risk scoring.
ABSTRACT
Domains play a critical role in most cyberattacks, and Security Operations Centers (SOC) often struggle to process large volumes of threat data involving numerous domains. To address this, a web-based Cyber Threat Intelligence (CTI) Scoring system integrated with machine learning was developed to classify malicious domains and generate risk scores. However, machine learning models often remain black-box, making their decisions difficult to understand; thus, Explainable Artificial Intelligence (XAI) is required to improve model interpretability. The classification model was built using Extreme Gradient Boosting (XGBoost), with interpretability provided through a comparison of two XAI methods, SHapley Additive exPlanations (SHAP) and Local Interpretable Model-agnostic Explanations (LIME), to determine the most suitable method for this task. The resulting model achieved an accuracy of 0.9316 and a ROC-AUC of 0.9794 on the test data. For the malicious class, the model obtained a precision of 0.9030, a recall of 0.9252, and an F1-score of 0.9140, indicating a balance between detection accuracy and missed threats despite an imbalanced data distribution, with a computation time of 0.0560 seconds. SHAP outperformed LIME in time efficiency, faithfulness, and stability, with a consistency test showing significant correlation between the two methods, although agreement decreased for False Positive cases. The model and XAI method were implemented into a web-based CTI Scoring system capable of processing and explaining domain classification results in real time. These results show that the model effectively classifies malicious domains while offering improved interpretability, with SHAP identified as the best-performing XAI method for this task.
Keywords—machine learning; explainable artificial intelligence; malicious domain classification; XGBoost; risk scoring
| S260908014 | 607.2 SAP e | Perpustakaan STMIK AMIKBANDUNG | Tersedia |
Tidak tersedia versi lain