|
Abstract:
|
Mạng neural hồi quy RNN được áp dụng rất rộng rãi trong các bài toán xử lý ngôn
ngữ tự nhiên NLP. Do mạng hồi quy RNN mô hình hóa được bản chất của dữ liệu trong
NLP như đặc tính chuỗi và sự phụ thuộc lẫn nhau giữa các thành phần theo thứ tự. Ngoài
ra, do năng lực tính toán của máy tính ngày càng mạnh mẽ nên đã thực hiện hóa được
việc huấn luyện mạng neural hồi quy nhiều tham số vốn yêu cầu nhiều bước tính toán
hơn so với mạng neural thông thường. Do đó, việc áp dụng mạng RNN có thể coi là một
bước đột phá trong xử lý ngôn ngữ.
Luận văn sẽ trình bày về lý thuyết mạng neural RNN và cải tiến của nó là LSTM
cùng với một số thuật toán học máy quan trọng trong quá trình xử lý dữ liệu ngôn ngữ.
Cuối cùng, luận văn sẽ mô tả việc áp dụng và kết quả khi sử dụng mô hình LSTM trong
bài toán trích xuất thông tin quan điểm. Thuật toán sẽ được đánh giá dựa trên hai tập dữ
liệu tiếng Anh và tiếng Việt. |