XÂY DỰNG TRỢ LÝ ẢO CHO SINH VIÊN KHOA CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG, TRƯỜNG ĐẠI HỌC CẦN THƠ SỬ DỤNG MÔ HÌNH TRANSFORMER

Abstract

Luận văn này đề xuất phương pháp xây dựng trợ lý ảo cho sinh viên Khoa Công nghệ Thông tin và Truyền thông (CICT), trường Đại học Cần Thơ bằng mô hình Transformer. Trợ lý ảo giúp trả lời các câu hỏi giới thiệu về CICT, bao gồm chương trình đào tạo và giảng viên của Khoa, quy chế học vụ, và sổ tay sinh viên. Các mô hình Transformer không chỉ được sử dụng để huấn luyện chatbot mà còn dùng để sửa các từ sai chính tả và chuyển đổi các từ không có dấu thành từ có dấu. Để cải thiện phản hồi từ chatbot, CRF được sử dụng để trích xuất các thực thể. Hệ thống chatbot được huấn luyện bằng cách sử dụng bộ dữ liệu CTUNLPBot bao gồm hơn 33.000 cặp câu hỏi-câu trả lời được xây dựng thủ công. Kết quả đánh giá trên một tập dữ liệu nhỏ được xây dựng bởi các sinh viên của CICT cho thấy mô hình đạt điểm BLEU-1: 0,292; BLEU-2: 0,251; BLEU-3: 0,223; và BLEU-4: 0,198.