A HYBRID CASCADE FRAMEWORK INTEGRATING PROTEIN LANGUAGE MODELS AND MULTI-SCALE CNNS FOR PEPTIDE SCREENING AND TOXICITY PREDICTION

Abstract

Motivation: Antimicrobial peptides (AMPs) represent a highly promising alternative to conventional antibiotics in the global fight against multidrug-resistant pathogens. However, their clinical translation is severely hindered by hemolytic toxicity—the unintended destruction of human red blood cells. Traditional wet-lab screening for safety and efficacy is both cost-prohibitive and time-consuming, highlighting the urgent need for advanced computational prediction models. Methods: In this study, we propose a novel Hybrid Cascade Framework integrating Protein Language Models (ESM-2) with multi-scale Convolutional Neural Networks (mCNNs). The architecture operates in two sequential stages: an AMP Gatekeeper to rapidly identify true antimicrobial sequences, and a Toxicity Assessor to evaluate their hemolytic potential, effectively addressing data imbalance and spurious correlations. Results & Conclusion: Through ROI analysis and data-centric intervention, the study found that the ESM-2 35M configuration provided the best performance– efficiency trade-off among the evaluated architectures after length-matched negative sampling. The results also showed that the larger ESM-2 650M configuration did not consistently improve predictive performance on the evaluated short-peptide tasks. Động cơ nghiên cứu: Các peptide kháng khuẩn (AMP) đại diện cho một giải pháp thay thế đầy hứa hẹn cho các loại kháng sinh truyền thống trong cuộc chiến toàn cầu chống lại các mầm bệnh đa kháng thuốc. Tuy nhiên, việc ứng dụng lâm sàng của chúng bị cản trở nghiêm trọng bởi độc tính tán huyết – sự phá hủy ngoài ý muốn đối với hồng cầu ở người. Việc sàng lọc an toàn và hiệu quả theo phương pháp phòng thí nghiệm truyền thống (wet-lab) vừa tốn kém vừa mất thời gian, nhấn mạnh nhu cầu cấp thiết đối với các mô hình dự đoán tính toán tiên tiến.Phương pháp: Trong nghiên cứu này, chúng tôi đề xuất một Kiến trúc Cascade Lai mới tích hợp Mô hình Ngôn ngữ Protein (ESM-2) với Mạng nơ-ron Tích chập đa tỷ lệ (mCNN). Kiến trúc này hoạt động theo hai giai đoạn tuần tự: một Cổng kiểm duyệt AMP (AMP Gatekeeper) để nhanh chóng xác định các trình tự kháng khuẩn thực sự, và một Bộ đánh giá Độc tính (Toxicity Assessor) để đánh giá tiềm năng tán huyết của chúng, giải quyết hiệu quả vấn đề mất cân bằng dữ liệu và các tương quan giả. Kết quả & Kết luận: Thông qua phân tích ROI và can thiệp tập trung vào dữ liệu, nghiên cứu phát hiện ra rằng cấu hình ESM-2 35M mang lại sự cân bằng hiệu quả tốt nhất trong số các kiến trúc được đánh giá sau khi áp dụng phương pháp lấy mẫu âm tính khớp độ dài. Kết quả cũng cho thấy cấu hình ESM-2 650M lớn hơn không cải thiện nhất quán hiệu suất dự đoán đối với các tác vụ phân loại peptide ngắn.