XÂY DỰNG HỆ THỐNG AI CÓ THỂ GIẢI THÍCH VÀ KIỂM CHỨNG TÍNH NHẤT QUÁN CHO MÔ HÌNH CNN NHẰM NÂNG CAO ĐỘ TIN CẬY TRONG NHẬN DẠNG ẢNH

Abstract

Bối cảnh: Trong những năm gần đây, các mô hình mạng nơ-ron tích chập (CNN), đã đạt được nhiều thành tựu vượt trội trong lĩnh vực thị giác máy tính. Tuy nhiên, các mô hình này vẫn là những “hộp đen”, khiến quá trình ra quyết định khó được diễn giải rõ ràng. Mặc dù Trí tuệ nhân tạo có khả năng giải thích (XAI) đã được phát triển nhằm khắc phục hạn chế này, nhưng các phương pháp hiện tại chủ yếu tập trung vào việc cung cấp lời giải thích mà chưa đánh giá đầy đủ tính đúng đắn và độ tin cậy của các giải thích đó. Điều này đặt ra nhu cầu cấp thiết về việc xây dựng các phương pháp không chỉ giải thích mà còn kiểm chứng tính nhất quán của mô hình. Mục tiêu: Đề tài xây dựng một hệ thống trí tuệ nhân tạo có khả năng vừa giải thích quyết định của mô hình, vừa đánh giá tính nhất quán và độ tin cậy của các lời giải thích trên nhiều khía cạnh khác nhau. Cụ thể, đề tài hướng đến việc tích hợp các phương pháp giải thích và đánh giá nhằm đảm bảo tính hợp lý về mặt logic, tính ổn định trong không gian đặc trưng và mức độ phù hợp trên không gian ảnh. Phương pháp: Đề tài đề xuất một cách tiếp cận kết hợp dựa trên mô hình Concept Bottleneck Model (CBM) để biểu diễn các khái niệm trung gian có khả năng diễn giải. Trên cơ sở đó, ba phương pháp được triển khai gồm: (1) kiểm tra tính nhất quán logic (Logical Consistency Checking – LCC) nhằm đánh giá sự phù hợp giữa các khái niệm dự đoán và các luật tri thức chuyên gia; (2) giải thích dựa trên ví dụ (Example-based Explanation – EBE) nhằm kiểm tra tính nhất quán trong không gian đặc trưng thông qua tìm kiếm các mẫu lân cận; và (3) đánh giá dựa trên vùng quan tâm (ROI Attribution Evaluation – RAE) sử dụng Grad-CAM để phân tích mức độ tập trung của mô hình vào các vùng ảnh quan trọng và so sánh với vùng kỳ vọng. Kết quả: Kết quả thực nghiệm cho thấy hệ thống đề xuất không chỉ duy trì hiệu năng phân loại tốt mà còn cung cấp khả năng giải thích rõ ràng và đa chiều. Các phương pháp đánh giá giúp phát hiện các trường hợp mô hình đưa ra dự đoán không phù hợp với tập tri thức, thiếu nhất quán trong không gian đặc trưng hoặc tập trung sai vùng ảnh quan trọng. Đồng thời, việc kết hợp ba phương pháp cho phép đánh giá mô hình một cách toàn diện và đáng tin cậy hơn so với việc sử dụng riêng lẻ từng phương pháp. Kết luận: Đề tài đã giải quyết đồng thời hai vấn đề quan trọng trong học sâu: khả năng giải thích và đánh giá tính nhất quán của mô hình. Ý tưởng này có tiềm năng ứng dụng trong các lĩnh vực đòi hỏi độ chính xác cao và có thể mở rộng trong các nghiên cứu tiếp theo. iv Background: In recent years, Convolutional Neural Networks (CNNs) have achieved remarkable success in the field of computer vision. However, these models are still considered “black boxes,” making their decision-making processes difficult to interpret. Although Explainable Artificial Intelligence (XAI) has been developed to address this limitation, existing approaches mainly focus on providing explanations without thoroughly evaluating their correctness and reliability. This creates an urgent need for methods that not only explain model decisions but also verify their consistency. Objective: This study aims to develop an artificial intelligence system that can both explain model decisions and evaluate the consistency and reliability of these explanations from multiple perspectives. Specifically, the work focuses on integrating explanation and evaluation methods to ensure logical validity, stability in feature space, and relevance in the image domain. Methodology: The proposed approach is based on the Concept Bottleneck Model (CBM), which represents interpretable intermediate concepts. Building upon this, three methods are employed: (1) Logical Consistency Checking (LCC) to evaluate the alignment between predicted concepts and expert-defined rules; (2) Example-based Explanation (EBE) to assess consistency in the feature space through nearest-neighbor search; and (3) ROI Attribution Evaluation (RAE), which utilizes Grad-CAM to analyze the model’s focus on important image regions and compare them with expected regions of interest. Results: Experimental results demonstrate that the proposed system not only maintains strong classification performance but also provides clear and multiperspective explanations. The evaluation methods effectively identify cases where model predictions are inconsistent with domain knowledge, unstable in the feature space, or focused on irrelevant image regions. Furthermore, combining the three methods enables a more comprehensive and reliable assessment compared to using each method independently. Conclusion: This study addresses two critical challenges in deep learning: interpretability and consistency evaluation. The proposed approach shows strong potential for applications in domains requiring high reliability and transparency, and it can be further extended in future research.