PHÁT TRIỂN MÔ HÌNH HỌC SÂU CÓ KHẢ NĂNG THÍCH NGHI VỚI SỰ TRÔI DẠT DỮ LIỆU TRONG PHÁT HIỆN MÃ ĐỘC ANDROID

Abstract

Sự tiến hóa liên tục của mã độc trên hệ điều hành Android dẫn đến hiện tượng Trôi dạt khái niệm (Concept Drift), làm suy thoái nghiêm trọng hiệu suất của các mô hình học sâu phòng thủ tĩnh. Thực nghiệm trên bộ dữ liệu chuỗi thời gian dài hạn LAMDA cho thấy, tỷ lệ bỏ lọt mã độc (FNR) của mô hình phân loại Multi-Layer Perceptron (MLP) cơ sở tăng vọt lên đến 71.68% khi đối mặt với dữ liệu tương lai xa. Để giải quyết vấn đề này, luận văn đề xuất một hệ thống phát hiện mã độc thích ứng, kết hợp giữa mạng phát hiện trôi dạt và cơ chế học liên tục. Cụ thể, nghiên cứu thiết kế một mạng Implicit Concept Autoencoder nhằm tự chủ tính toán điểm trôi dạt dựa trên độ bất định của mô hình và độ lệch khái niệm, mà không cần phụ thuộc vào các nhãn hành vi tường minh. Dựa trên điểm số này, một cơ chế Huấn luyện thích ứng (Adaptive Retraining) với 4 chiến lược (HEAVY, LIGHT, PERIODIC, SKIP) được kích hoạt để tự động cập nhật trọng số mô hình. Nhằm khắc phục hiện tượng quên lãng thảm khốc (Catastrophic Forgetting) khi liên tục tiếp thu kiến thức mới, hệ thống tích hợp bộ đệm dữ liệu (Replay Buffer), kỹ thuật Chưng cất tri thức (Knowledge Distillation) và thuật toán Củng cố Trọng số Đàn hồi cải tiến với Nhãn giả (PEWC). Kết quả thực nghiệm trên 105 chu kỳ tháng (từ 2016 đến 2025) cho thấy hệ thống thích ứng đạt hiệu quả vượt trội, phát hiện thành công 79.6% lượng mã độc và tăng 90.97% số mẫu mã độc bị bắt giữ so với mô hình tĩnh. Khi kết hợp cùng chiến lược AE Gating, tỷ lệ phát hiện mã độc tổng thể nâng lên mức 84.5%. Đồng thời, hệ thống bảo lưu xuất sắc tri thức cũ, với mức suy giảm F1-Score trên tập dữ liệu gốc chỉ ở mức 1.12%. Bên cạnh đó, luận văn cũng đóng góp quan trọng trong việc định danh hiện tượng "Né tránh kép" (Dual Evasion), làm rõ giới hạn của các hệ thống phát hiện trước những biến thể mã độc sao chép hoàn hảo đặc trưng của ứng dụng lành tính. The continuous evolution of Android malware leads to Concept Drift, severely degrading the performance of static deep learning defense models. Experiments on the longitudinal LAMDA dataset demonstrate that the False Negative Rate (FNR) of a baseline Multi-Layer Perceptron (MLP) classifier surges to 71.68% when facing farfuture data. To address this challenge, this thesis proposes an adaptive malware detection system that integrates a drift detection network with continual learning mechanisms. Specifically, the research designs an Implicit Concept Autoencoder to autonomously calculate a drift score based on model uncertainty and concept deviation, without relying on explicit behavioral labels. Driven by this score, an Adaptive Retraining mechanism featuring four strategies (HEAVY, LIGHT, PERIODIC, SKIP) is triggered to dynamically update model weights. To mitigate Catastrophic Forgetting during the continuous acquisition of new knowledge, the system incorporates a Replay Buffer, Knowledge Distillation, and Pseudo-Label Elastic Weight Consolidation (PEWC). Evaluation over 105 monthly cycles (from 2016 to 2025) reveals that the adaptive system achieves outstanding efficacy, successfully detecting 79.6% of malware and yielding a 90.97% increase in intercepted malware samples compared to the static baseline. When combined with the AE Gating strategy, the overall detection rate improves to 84.5%. Furthermore, the system excellently preserves prior knowledge, with the F1-Score drop on the original dataset contained at merely 1.12%. Additionally, this thesis makes a significant contribution by identifying the "Dual Evasion" phenomenon, highlighting the fundamental limitations of detection systems against malware variants that perfectly clone benign application features.