PHƯƠNG THỨC HUẤN LUYỆN MÔ HÌNH HỌC SÂU DỰA TRÊN LAN TRUYỀN XUÔI VÀ CƠ CHẾ HỌC HEBBIAN

Abstract

Đề tài đề xuất một phương pháp học biểu diễn không giám sát dựa trên cơ chế Hebbian, sử dụng quy tắc cập nhật cục bộ và không cần lan truyền ngược. Mô hình cập nhật trạng thái nơ-ron ở mỗi lớp qua nhiều bước lặp, kết hợp hàm 𝑡𝑎𝑛ℎ và mặt nạ hoạt động được sinh ra từ sự khác biệt về trạng thái hiện tại của các cặp nơ-ron giữa hai lớp. Trọng số liên kết và ngưỡng kích hoạt được cập nhật theo hướng cố định dựa trên độ lớn của năng lượng cục bộ, không yêu cầu đạo hàm hay lan truyền ngược. Đề tài thực hiện đánh giá thuật toán trên các tập dữ liệu MNIST, EMNIST[10] và FashionMNIST[11] , cho thấy biểu diễn dữ liệu có khả năng phân cụm theo nhãn, ổn định trước nhiễu, và đạt độ chính tương đồng với mô hình học sâu truyền thống. Tận dụng Nguyên lý bất biến LaSalle và Tính liên tục của Lipschitz để chứng minh rằng mô hình không tự trị vẫn hội tụ một cách ổn định. Kết quả từ Bảng 2 đến Bảng 5 cùng với sự gom nhóm khi thực hiện giảm chiều cùng với biểu diễn dữ liệu bằng UMAP (Uniform Manifold Approximation[5] ) và biểu diễn trọng số liên kết Hình 27, độ lệch Hình 28. Cho thấy thuật toán mà đề tài đưa ra có thể trở thành một lựa chọn khả thi, phù hợp với các hệ thống hạn chế tính toán và thỏa yêu cầu về đặc tính sinh học của nơ-ron ngoài thực tế.