Câu hỏi: NLP301c - Phần 1: Ứng dụng và các cách tiếp cận xử lý ngôn ngữ tự nhiên

Đáp án đúng: "It performs extensive analysis of linguistic phenomena through explicit representation of facts about language and well-understood knowledge representation schemas and associated algorithms.". Cách tiếp cận ký hiệu (symbolic approach) là hướng dựa trên luật và tri thức: con người mã hoá tường minh các sự kiện về ngôn ngữ thành luật ngữ pháp, từ điển, lược đồ biểu diễn tri thức, rồi dùng thuật toán suy diễn hay phân tích trên đó, như các hệ phân tích cú pháp theo văn phạm phi ngữ cảnh viết tay. Phương án mở đầu "This component transfers linear sequences of words into structures" mô tả phân tích cú pháp kèm nghĩa đen, tức một thành phần xử lý trong hệ NLP chứ không phải một cách tiếp cận. Phương án nói "harnesses various mathematical techniques and often uses large text corpora" mô tả cách tiếp cận thống kê, học mô hình xấp xỉ từ dữ liệu thật thay vì luật viết tay. Phương án nói "based on the interconnection of networks having simple processing units" mô tả cách tiếp cận kết nối (connectionist), tức mạng nơ-ron lưu tri thức trong trọng số, ngược với biểu diễn tường minh của hướng ký hiệu.

Đáp án đúng: "Convolutional Neural Networks". Đa nghĩa (polysemy) là khi một từ như "bank" có nhiều nghĩa, và nghĩa đúng chỉ xác định được nhờ các từ xung quanh. Mạng tích chập trên văn bản trượt các bộ lọc qua cửa sổ vài từ liên tiếp, nên đặc trưng sinh ra cho một vị trí phụ thuộc vào cả từ đó lẫn láng giềng, ví dụ cụm "river bank" và "bank account" kích hoạt bộ lọc khác nhau; trong các lựa chọn, đây là mô hình duy nhất học được biểu diễn theo ngữ cảnh cục bộ. Cần nói rõ hướng giải quyết đa nghĩa triệt để nhất hiện nay là embedding ngữ cảnh như ELMo hay BERT, nhưng chúng không có trong danh sách. "Random Forest Classifier" làm việc trên vectơ đặc trưng cố định như túi từ, mỗi từ một cột duy nhất bất kể nghĩa nào. "Gradient Boosting" cũng là tổ hợp cây quyết định trên đặc trưng cố định, không mô hình hoá ngữ cảnh. "All of these" sai vì hai mô hình cây không phân biệt được các nghĩa của cùng một từ.

Đáp án đúng: "Symbolic, Statistical, Connectionist and Hybrid". Hướng tiếp cận (approach) là cách xây hệ thống NLP: hướng ký hiệu (symbolic) dùng luật và tri thức do chuyên gia viết; hướng thống kê (statistical) học xác suất từ kho ngữ liệu như n-gram, HMM; hướng kết nối (connectionist) dùng mạng nơ-ron học biểu diễn từ dữ liệu; hướng lai (hybrid) kết hợp các hướng trên. "Morphological and Lexical Analysis,Syntactic Analysis, Semantic Analysis,Discourse Integration, Pragmatic Analysis" là các mức hay giai đoạn phân tích ngôn ngữ, tức thành phần của bài toán, chứ không phải cách tiếp cận để giải nó; hướng tiếp cận nào cũng có thể áp ở từng mức. "Machine Learning, Deep Learning & AI" là các lĩnh vực: AI bao trùm NLP, còn học máy và học sâu tương ứng với hướng thống kê và kết nối, nhưng danh sách này bỏ qua hướng ký hiệu và hướng lai nên không phải phân loại chuẩn. "None of the others" sai vì đã có phân loại đúng.

Đáp án đúng: "All of the mentioned". NLP được ứng dụng ở mọi nơi máy cần hiểu hoặc sinh ngôn ngữ con người. "Automatic Text Summarization" (tóm tắt văn bản tự động) rút gọn tài liệu dài, theo kiểu trích chọn câu quan trọng hoặc sinh lại câu mới, là ứng dụng NLP điển hình. "Automatic Question-Answering Systems" (hệ hỏi đáp tự động) phải hiểu câu hỏi, tìm và trích câu trả lời từ tài liệu hay cơ sở tri thức. "Information Retrieval" (truy xuất thông tin) như máy tìm kiếm dùng token hoá, chuẩn hoá, TF-IDF hay embedding để xếp hạng tài liệu theo truy vấn. Cả ba ứng dụng đều đúng, nên chọn riêng một cái thì bỏ sót những ứng dụng đúng khác cũng thuộc NLP; chỉ phương án gộp mới bao trọn.