TÓM TẮT VĂN BẢN TIẾNG VIỆT SỬ DỤNG MÔ HÌNH BERT VÀ BOTTOM-UP

Abstract

Luận văn nghiên cứu các phương pháp xây dựng tóm tắt văn bản bằng mô hình Bottom-Up và mô hình BERT fine-tuning. Trong nghiên cứu của chúng tôi, các đặc trưng văn bản được trích xuất bằng cách sử dụng mô hình được đào tạo trước của HuggingFace. Các tài liệu được chuyển đổi thành vectơ, và sau đó được đưa vào các mô hình để đào tạo. Chúng tôi thực nghiệm trên tập dữ liệu CNN / Daily Mail và tập dữ liệu chứa các tài liệu được trích xuất từ tạp chí trực tuyến ở tiếng Việt. Chỉ số ROUGE được sử dụng để đánh giá các bản tóm tắt xây dựng. Chúng tôi sẽ nghiên cứu sự kết hợp của các mô hình khác và điều chỉnh các thông số để nâng cao kết quả