NGHIÊN CỨU MÔ HÌNH T5 VÀ BART CHO BÀI TOÁN TÓM TẮT VĂN BẢN

Abstract

Tóm tắt văn bản là một chủ đề hiện nay đang được rất nhiều nhà nghiên cứu quan tâm. Luận văn này sẽ nghiên cứu và so sánh hiệu suất của T5 và BART cho nhiệm vụ tóm tắt văn bản. Chúng tôi sử dụng tập dữ liệu tiếng anh để đánh giá mô hình. Kết quả thực nghiệm cho thấy rằng T5 vượt trội hơn BART trên tập dữ liệu CNN/DailyMail. Cụ thể điểm số ROUGE-1, ROUGE-2, ROUGE-LSum của mô hình T5 là 37.00, 16.84, 34.59. Đối với mô hình BART điểm ROUGE-1, ROUGE-2, ROUGE-Lsum lần lượt là 32.33, 14.07, 30.23. Đối với tập dữ liệu Inshort new thì BART lại vượt trội hơn T5. Cụ thể điểm số ROUGE-1, ROUGE-2, ROUGE-LSum của mô hình T5 là 48.66, 25.23, 45.53. Đối với mô hình BART điểm ROUGE-1, ROUGE-2, ROUGE-Lsum lần lượt là 52.09, 25.23, 45.53.