XAI-Based Network Intrusion Detection System

설명 가능한 인공지능(XAI)을 활용한 네트워크 침입 탐지 시스템의 개발

개요

기획 배경

기존의 머신러닝 기반 침입 탐지 시스템(IDS)은 높은 성능에도 불구하고 판단 근거를 알 수 없는 '블랙박스' 구조로 인해 실제 보안 현장에서의 신뢰성이 낮다는 한계가 있었습니다. 이를 해결하기 위해 단순 탐지를 넘어 '왜 해당 트래픽이 공격으로 판단되었는지'에 대한 객관적 근거를 제시할 수 있는 XAI(Explainable AI) 기술을 통합한 차세대 IDS 프로토타입을 개발하게 되었습니다.

내가 기여한 것

하이브리드 탐지 모델 설계 및 성능 최적화

• Decision Tree, MLP, XGBoost 세 가지 모델에 대한 비교 실험을 수행하여 최종적으로 F1-Score 0.95, 정확도 97%를 달성한 XGBoost 기반의 최적 탐지 모델을 구축했습니다.
• UNSW-NB15 데이터셋을 활용하여 다양한 공격 유형별 패턴을 학습시키고, 모델의 예측 성능을 극대화하기 위한 하이퍼파라미터 튜닝을 전담했습니다.

블랙박스 해소를 위한 XAI 파이프라인 통합

• LIME을 적용하여 MLP 모델의 개별 예측 결과를 시각화함으로써 특정 네트워크 연결이 악성으로 분류된 즉각적인 원인을 분석 가능하도록 구현했습니다[cite: 8, 9].
• SHAP 분석을 통해 모델의 전체적인 의사결정 구조를 파악하고, 패킷 지속 시간(Duration)이나 소스 바이트(Source Bytes) 등 핵심 예측 변수의 기여도를 도출하여 보안 전문가의 사고 분석을 지원하는 인터페이스를 마련했습니다.

도메인 지식 기반의 수작업 특성(Handcrafted Feature) 결합

• 단순한 원시 데이터 학습의 한계를 극복하기 위해 엔트로피(Entropy), IP 정보 등 보안 도메인 지식이 반영된 수작업 특성을 모델에 결합하여 탐지 정밀도를 높였습니다.
• 이러한 경험은 데이터의 통계적 패턴뿐만 아니라 실제 물리적 현상의 특징을 추출하는 역량으로 이어져, 추후 반도체 센서 데이터 분석 시 공정 지식을 반영하여 이상 징후를 식별하는 업무에 직접적으로 기여할 수 있는 기반이 되었습니다.