TỰ ĐỘNG CO GIÃN TÀI NGUYÊN CHO KIẾN TRÚC MICROSERVICES DỰA TRÊN PHẢN ỨNG ĐA CHIỀU

Abstract

Trong bối cảnh điện toán đám mây, việc duy trì tính khả dụng của kiến trúc Microservices trước các biến động lưu lượng truy cập là một thách thức lớn [5]. Cơ chế tự động co giãn mặc định của Kubernetes (Horizontal Pod Autoscaler - HPA) thường gặp độ trễ do phụ thuộc vào các chỉ số phần cứng mang tính hệ quả (CPU, Memory) và đòi hỏi cấu hình phức tạp để giám sát các chỉ số cấp ứng dụng [1], [2]. Nhằm giải quyết vấn đề này, đề tài "Tự động co giãn tài nguyên cho kiến trúc Microservices dựa trên phản ứng đa chiều" được đề xuất và thực hiện. Nghiên cứu tiến hành triển khai KEDA (Kubernetes Event-driven Autoscaling) trên ứng dụng mẫu Online Boutique, tích hợp Istio Service Mesh để trích xuất các chỉ số tầng mạng (L7 Metrics), đồng thời sử dụng Prometheus và Grafana để giám sát theo thời gian thực. Đóng góp chính của đề tài là việc khắc phục hạn chế của cơ chế co giãn đơn chiều thông qua chiến lược phản ứng đa chiều, tích hợp đồng thời bốn chỉ số kích hoạt (trigger) bao gồm: RPS (Requests Per Second), CPU, Memory và tỷ lệ lỗi trên hai dịch vụ Frontend và Product Catalog. Sự kết hợp này, cùng thuật toán cân bằng tải Least Request của Istio, giúp hệ thống phân bổ lưu lượng tối ưu, đưa ra quyết định cấp phát tài nguyên chính xác và thích ứng an toàn trước các biến động tải. Quá trình đánh giá hiệu năng thông qua công cụ sinh tải Locust cho thấy mô hình phản ứng đa chiều giúp hệ thống tối ưu hóa thông lượng xử lý và thời gian phản hồi một cách hiệu quả [7], [8]. So với HPA truyền thống, KEDA thể hiện khả năng phản ứng nhanh nhạy vượt trội. Nhờ độ nhạy của chỉ số RPS, hệ thống có thể giảm thiểu đáng kể ảnh hưởng từ độ trễ khởi động Pod thông qua việc cấp phát tài nguyên ngay từ giai đoạn đầu của biến động tải. Đặc biệt, việc xác định RPS là chỉ số mang trọng số đóng góp cao nhất đã tạo tiền đề quan trọng cho hướng nghiên cứu huấn luyện mô hình dự đoán (Predictive Scaling), tiến tới khả năng cấp phát tài nguyên chủ động hoàn toàn [4]. In the cloud computing landscape, maintaining the high availability of microservice architectures against volatile traffic variations remains a critical challenge [5]. The default Horizontal Pod Autoscaler (HPA) in Kubernetes often exhibits response delays due to its reliance on lagging hardware metrics (CPU, Memory) and demands intricate configurations to monitor application-level metrics [1], [2]. To address this limitation, this thesis proposes and implements a comprehensive framework titled "Automated Resource Scaling for Microservices Architecture Based on Multi-Dimensional Response". The research deploys KEDA (Kubernetes Event-driven Autoscaling) on the Online Boutique benchmark application, integrating Istio Service Mesh to extract Layer-7 (L7) network metrics and utilizing Prometheus and Grafana for real-time observability. The primary contribution of this study lies in resolving the constraints of single-dimensional scaling through a multi-dimensional reactive strategy, integrating four concurrent triggers: Requests Per Second (RPS), CPU, Memory, and Error Rate across the Frontend and Product Catalog services. This multi-metric synergy, combined with Istio's Least Request load balancing algorithm, optimizes traffic distribution, ensures precise resource provisioning decisions, and safeguards system stability during sudden traffic surges. Performance engineering evaluations utilizing the synthetic workload generator Locust demonstrate that the multi-dimensional framework effectively optimizes system throughput and minimizes request latency [7], [8]. Compared to the traditional HPA, KEDA exhibits superior responsiveness. Leveraging the high sensitivity of the RPS metric, the system substantially mitigates the impact of Pod cold-start latency by scaling resources at the earliest stage of workload fluctuations. Furthermore, identifying RPS as the primary contributing metric establishes a foundational baseline for future research into training predictive scaling models, paving the way toward fully proactive resource orchestration.