NHẬN DẠNG THỰC THỂ CÓ TÊN VỚI THÔNG TIN VỀ DỊCH BỆNH COVID-19 SỬ DỤNG MÔ HÌNH HỌC SÂU

Abstract

Nhận dạng thực thể có tên là một trong những tác vụ nền tảng trong xử lý ngôn ngữ tự nhiên, giúp xác định các thực thể có trong văn bản như con người, tổ chức, địa điểm, ngày tháng,... Trong luận án này: “Nhận dạng thực thể có tên với thông tin về dịch bệnh Covid-19 sử dụng mô hình học sâu”, chúng tôi khảo sát một số mô hình học sâu để xử lý tác vụ này ở ngôn ngữ tiếng Việt và thực nghiệm với 3 mô hình khác nhau, bao gồm: mô hình đơn ngữ ViT5, mô hình BERT và mô hình BERT bổ sung thông tin ngữ cảnh. Được đánh giá trên tập dữ liệu PhoNER_COVID-19 – tập dữ liệu về dịch bệnh Covid-19 tiếng Việt, kết quả cho thấy mô hình ViT5 vượt trội hơn 2 mô hình còn lại trong tác vụ này với điểm số F1 đạt 0.941. Với mô hình BERT được bổ sung thông tin ngữ cảnh, điểm số của mô hình BERT được cải thiện đáng kể với F1 tăng từ 0.908 lên 0.938.