PHÂN TÍCH HÌNH ẢNH UNG THƯ TUYẾN TIỀN LIỆT BẰNG CÁC PHƯƠNG PHÁP HỌC SÂU

Abstract

Ung thư tuyến tiền liệt là bệnh lý phổ biến ở nam giới, trong đó điểm Gleason và nhóm độ ISUP có vai trò quan trọng trong đánh giá mức độ ác tính. Việc đánh giá trên ảnh mô bệnh học H&E phụ thuộc nhiều vào kinh nghiệm của bác sĩ và có thể gặp khó khăn khi số lượng mẫu lớn. Vì vậy, đề tài nghiên cứu và xây dựng ứng dụng web tích hợp trí tuệ nhân tạo nhằm hỗ trợ phân tích ảnh sinh thiết tuyến tiền liệt và chấm điểm Gleason. Nghiên cứu sử dụng dữ liệu PANDA từ Radboud University Medical Center, tập trung vào các chú thích phục vụ phân đoạn. Quy trình gồm ba giai đoạn: phân đoạn mô, phân loại Gleason Pattern và tổng hợp kết quả ở cấp độ ca bệnh. Mô hình U-Net với DenseNet121 làm bộ mã hóa đạt Pixel Accuracy 88,98%, mean IoU 65,28% và mean Dice 78,86%. Mô hình MLP trên tập đặc trưng kết hợp đạt QWK 0,9646, Accuracy 86,12% đối với ISUP và 80,76% đối với Gleason. Kết quả cho thấy mô hình có khả năng nhận diện các nhóm mô, nhưng khả năng phân biệt giữa các Gleason Pattern chưa đồng đều, đặc biệt ở Pattern 5. Bên cạnh các mô hình trí tuệ nhân tạo, hệ thống web được xây dựng để quản lý ca bệnh, tiếp nhận và lưu trữ ảnh, thực hiện suy diễn trí tuệ nhân tạo, hiển thị kết quả và hỗ trợ tương tác với ảnh như thu phóng, đánh dấu vùng quan tâm và đo khoảng cách theo tỷ lệ vật lý. Hệ thống chứng minh tính khả thi của quy trình hỗ trợ phân tích từ ảnh thu nhận bằng camera gắn trên kính hiển vi đến kết quả ở cấp độ ca bệnh. Kết quả cho thấy việc kết hợp học sâu và học máy có tiềm năng hỗ trợ phân tích ảnh mô bệnh học và tổng hợp kết quả Gleason. Tuy nhiên, hệ thống mới được đánh giá trên dữ liệu PANDA nên khả năng tổng quát hóa chưa được kiểm chứng. Do đó, hệ thống được định hướng là công cụ hỗ trợ nghiên cứu và bác sĩ, không thay thế quyết định chẩn đoán chuyên môn. Trong tương lai, nghiên cứu sẽ mở rộng dữ liệu từ các cơ sở y tế Việt Nam, cải thiện khả năng phân biệt các Pattern khó và đánh giá hệ thống trong điều kiện thực tế. Từ khóa: ung thư tuyến tiền liệt, điểm Gleason, nhóm độ ác tính ISUP, phân đoạn, phân loại, học sâu, máy học, hỗ trợ chẩn đoán, giải phẫu bệnh số. Prostate cancer is a common malignancy in men, in which the Gleason score and ISUP grade group play an important role in assessing tumor aggressiveness. However, evaluation of H&E histopathological images depends heavily on the experience of pathologists and can be challenging when dealing with a large number of samples. Therefore, this study focuses on developing a web-based application integrated with artificial intelligence to support the analysis of prostate biopsy images and Gleason grading. The study uses data from the PANDA dataset, specifically data from Radboud University Medical Center with annotations for tissue segmentation. The analysis pipeline consists of three main stages: tissue segmentation, Gleason Pattern classification, and caselevel result aggregation. For segmentation, a U-Net model with DenseNet121 as the encoder achieved a Pixel Accuracy of 88.98%, mean IoU of 65.28%, and mean Dice of 78.86%. An MLP model using combined features achieved a QWK of 0.9646, with an Accuracy of 86.12% for ISUP grading and 80.76% for Gleason scoring. The classification results indicate that the model can recognize different tissue groups, but its ability to distinguish between Gleason Patterns remains inconsistent, particularly for Pattern 5. In addition to the AI models, a web application was developed to support case management, image storage, AI inference, result visualization, and image interaction functions such as zooming, region-of-interest marking, and distance measurement based on physical scale. The system demonstrates the technical feasibility of an analysis workflow from images captured using a microscope-mounted camera to case-level results. The results indicate that combining deep learning and machine learning has potential for supporting histopathological image analysis and Gleason score aggregation. However, the system was evaluated only on the PANDA dataset, and its generalizability to other data sources has not yet been validated. Therefore, the system is currently intended as a research and clinical decision-support tool rather than a replacement for professional diagnosis. Future work will focus on expanding data from Vietnamese medical institutions, improving the discrimination of challenging Gleason Patterns, and evaluating the system under real-world hospital conditions. Keywords: prostate cancer, Gleason score, ISUP grade group, segmentation, classification, deep learning, machine learning, diagnostic support, digital pathology.