Câu hỏi: NLP301c - Phần 3: Cú pháp, ngữ nghĩa, diễn ngôn và nhập nhằng

Đáp án đúng: "Ambiguity of sentences". Ambiguity (tính nhập nhằng) nghĩa là một chuỗi ngôn ngữ có thể hiểu theo nhiều cách, và nó xuất hiện ở mọi tầng: một từ có nhiều nghĩa (nhập nhằng từ vựng), một câu có nhiều cây cú pháp như "I saw the man with the telescope" (nhập nhằng cấu trúc), một đại từ có thể chỉ nhiều đối tượng (nhập nhằng đồng sở chỉ). Vì thế gần như mọi bước xử lý đều phải chọn một cách hiểu giữa nhiều khả năng, đó là thách thức gốc của NLP. "Tokenization" (tách từ) là một bước tiền xử lý cụ thể, bản thân nó khó chính vì nhập nhằng ranh giới từ, nên nó là nơi thách thức biểu hiện chứ không phải thách thức xuyên suốt. "POS tagging" (gán nhãn từ loại) cũng là một tác vụ, khó vì một từ như "book" có thể là danh từ hoặc động từ, tức lại quy về nhập nhằng. "All of the mentioned" sai vì hai bước xử lý trên không phải là thách thức chung làm mọi tầng trở nên khó.

Đáp án đúng: "Discourse". Discourse integration (tích hợp diễn ngôn) là mức phân tích xét nghĩa của một câu trong mạch các câu đứng trước nó và cũng ảnh hưởng tới cách hiểu câu đứng sau, ví dụ đại từ "it" ở câu thứ hai chỉ hiểu được nhờ danh từ đã nêu ở câu thứ nhất; đó đúng là "sense of the context" theo chuỗi câu mà đề mô tả. "Semantic Analysis" (phân tích ngữ nghĩa) gán nghĩa đen cho từng câu, kiểm tra câu có nghĩa hay không, nhưng xét câu tương đối độc lập với các câu lân cận. "Lexical Analysis" (phân tích từ vựng) ở mức thấp nhất, tách văn bản thành đoạn, câu, từ và nhận diện hình vị, chưa đụng tới ngữ cảnh liên câu. "Pragmatic Analysis" (phân tích ngữ dụng) cũng dùng ngữ cảnh, nhưng là ngữ cảnh tình huống và ý định người nói, tri thức thế giới thực để diễn giải lại câu, chứ không phải sự phụ thuộc nghĩa giữa câu trước và câu sau trong cùng văn bản.

Đáp án đúng: "Measure the shortest path between two words on WordNet". WordNet là mạng từ vựng trong đó các synset (tập đồng nghĩa) nối với nhau bằng quan hệ hypernym/hyponym thành một phân cấp; độ liên quan ngữ nghĩa dựa trên đường đi đo khoảng cách ngắn nhất giữa hai synset trên phân cấp này, đường càng ngắn thì hai từ càng gần nghĩa, ví dụ path similarity trong NLTK bằng 1/(độ dài đường + 1), và Leacock-Chodorow cũng dựa trên độ dài đường ngắn nhất. "Count the number of shared parent nodes" không phải độ đo chuẩn: hầu như mọi danh từ đều chung các tổ tiên ở gần gốc như entity, nên chỉ đếm số cha chung không phân biệt được cặp gần và cặp xa. "Measure the difference between their depths in WordNet" sai vì hai từ ở cùng độ sâu nhưng thuộc hai nhánh xa nhau sẽ bị coi là giống hệt. "Measure the difference between the size of child nodes they have" chỉ cho biết từ nào khái quát hơn (nhiều hyponym hơn), không nói gì về việc hai từ có liên quan nhau hay không.

Đáp án đúng: "Word Sense Disambiguation". Semantic ambiguity (nhập nhằng ngữ nghĩa) xảy ra khi một từ có nhiều nghĩa, ví dụ bank là ngân hàng hay bờ sông; Word Sense Disambiguation (khử nhập nhằng nghĩa từ) là tác vụ chọn đúng nghĩa của từ trong ngữ cảnh, bằng thuật toán Lesk đối chiếu định nghĩa trong WordNet hoặc bằng bộ phân loại học từ ngữ liệu. "Fuzzy Logic" (logic mờ) là cách suy luận với giá trị chân lý từ 0 tới 1, dùng cho điều khiển và ra quyết định, không chọn nghĩa cho từ. "Shallow Semantic Analysis" (phân tích ngữ nghĩa nông) như gán vai nghĩa xác định ai làm gì với ai trong câu, nó nhận diện cấu trúc vị từ và tham tố chứ không phải kỹ thuật chuyên khử nghĩa từ. "Syntactic analysis" (phân tích cú pháp) giải quyết nhập nhằng cấu trúc, tức từ nào gắn vào cụm nào, chứ không quyết định từ đó mang nghĩa nào.

Đáp án đúng: "Lexical". WordNet là cơ sở dữ liệu từ vựng (lexical database) tiếng Anh do Đại học Princeton xây dựng, gom danh từ, động từ, tính từ, trạng từ thành các synset (tập từ đồng nghĩa biểu thị một khái niệm) và nối chúng bằng quan hệ ngữ nghĩa như hypernym (thượng vị), hyponym (hạ vị), meronym (bộ phận), antonym (trái nghĩa); trong NLTK nó được dùng cho lemmatization, đo độ tương đồng nghĩa và khử nhập nhằng nghĩa từ. "Symbol" không phải tên gọi loại cơ sở dữ liệu này, WordNet lưu nghĩa và quan hệ chứ không lưu ký hiệu. "Word" quá chung chung, chỉ gợi một danh sách từ mà không nói tới việc tổ chức theo nghĩa và quan hệ từ vựng vốn là đặc trưng của WordNet. "Annotation" là cơ sở dữ liệu chú giải, như kho ngữ liệu gán nhãn từ loại; WordNet là tài nguyên từ vựng, không phải tập văn bản được gán nhãn.

Đáp án đúng: "Analyzing & Strings". Phân tích cú pháp (syntactic analysis, parsing) được định nghĩa là quá trình phân tích (analyzing) các chuỗi (strings) ký hiệu của ngôn ngữ tự nhiên sao cho phù hợp với luật của văn phạm hình thức (formal grammar); bộ phân tích nhận chuỗi từ, kiểm tra nó có được sinh ra bởi văn phạm hay không và dựng cây cú pháp, nên câu "The school goes to boy" bị loại dù từng từ đều hợp lệ. "Defining & Groups" sai vì parsing không định nghĩa ký hiệu mà kiểm tra cấu trúc, và đầu vào là chuỗi có thứ tự chứ không phải nhóm không thứ tự. "Reducing & Arrays" dùng từ "reduce" vốn chỉ một thao tác bên trong bộ phân tích shift-reduce, không phải định nghĩa của cả quá trình, còn mảng là cấu trúc dữ liệu lập trình. "Reviewing & Letters" sai vì đơn vị phân tích cú pháp là từ và cụm từ trong chuỗi, không phải từng chữ cái.

Đáp án đúng: "Hyponymy, Homonymy, Polysemy". Phân tích ngữ nghĩa (semantic analysis) xét nghĩa của từ và quan hệ giữa các nghĩa, và ba quan hệ từ vựng cơ bản đều thuộc phần này: hyponymy (quan hệ hạ vị, như rose là một loại flower), homonymy (đồng âm khác nghĩa, các nghĩa không liên quan như bank bờ sông và bank ngân hàng) và polysemy (đa nghĩa, một từ có nhiều nghĩa liên quan như head của người và head của tổ chức). Vì cả ba đều là thành phần của phân tích ngữ nghĩa nên chỉ phương án liệt kê đủ cả ba mới đúng. "Hyponymy" đúng nhưng thiếu, nó chỉ là quan hệ bao hàm giữa khái niệm rộng và hẹp. "Homonymy" cũng đúng nhưng chỉ mô tả trường hợp trùng hình thức mà khác nghĩa. "Polysemy" cũng chỉ là một quan hệ trong số đó, nói về nhiều nghĩa có liên hệ của cùng một từ.

Đáp án đúng: "Declarations". Theo phân loại hành động ngôn từ (speech act) của Searle, declarations (tuyên bố) là những phát ngôn mà chỉ cần nói ra trong đúng thẩm quyền là làm thay đổi thực tế thể chế, như bổ nhiệm, tuyên án, tuyên bố kết hôn. Câu "I appoint you chairman of the committee" do người có quyền nói ra thì lập tức khiến người nghe trở thành chủ tịch ủy ban, nên là tuyên bố. "Commissives" (cam kết) ràng buộc chính người nói vào một hành động tương lai, như hứa hay thề, còn ở đây người nói không hứa làm gì. "Directives" (cầu khiến) cố khiến người nghe làm một việc, như ra lệnh hay yêu cầu, trong khi câu bổ nhiệm không đòi người nghe hành động mà tự nó tạo ra kết quả. "Representatives" (trình bày) mô tả trạng thái thế giới và có thể đúng hoặc sai, như khẳng định hay kể lại, còn câu bổ nhiệm không đúng không sai mà chỉ thành công hoặc không.

Đáp án đúng: "Dependency Parsing and Constituency Parsing". Hai kỹ thuật phân tích cú pháp dựa trên ngữ pháp này cho ra cấu trúc câu: constituency parsing (phân tích thành phần) dựng cây cụm từ theo văn phạm phi ngữ cảnh nên nhận ra NP, VP; dependency parsing (phân tích phụ thuộc) nối từng từ với từ chi phối nó bằng quan hệ như nsubj (chủ ngữ) và dobj (tân ngữ), nên chỉ ra được chủ ngữ và tân ngữ. "Part of speech tagging" chỉ gán nhãn từ loại cho từng từ riêng lẻ, biết một từ là danh từ hay động từ nhưng không cho biết các từ gom thành cụm nào hay từ nào làm chủ ngữ. "Skip Gram and N-Gram extraction" là trích xuất đặc trưng: n-gram là chuỗi n từ liền nhau, skip-gram cho phép bỏ qua từ ở giữa, không mang cấu trúc ngữ pháp. "Continuous Bag of Words" là kiến trúc word2vec học vector từ bằng cách đoán từ giữa từ ngữ cảnh, dùng cho biểu diễn từ chứ không phải phân tích cú pháp.

Đáp án đúng: "Lexical". Nhập nhằng từ vựng (lexical ambiguity) xảy ra khi một từ đơn lẻ có nhiều nghĩa hoặc nhiều từ loại: trong câu I saw bats, bats có thể là con dơi hoặc cây gậy đánh bóng, còn saw có thể là quá khứ của see (nhìn thấy) hoặc động từ cưa; câu chỉ có một cấu trúc chủ ngữ–động từ–tân ngữ, mọi cách hiểu khác nhau đều xuất phát từ nghĩa của từng từ. "Syntactic" sai vì nhập nhằng cú pháp cần một câu có nhiều cây phân tích, như I saw the man with the telescope, còn ở đây cây cú pháp là duy nhất. "Semantic" là nhập nhằng ở mức nghĩa của cả câu dù các từ đã rõ nghĩa, như phạm vi lượng từ trong every student read a book. "Anaphoric" cần một đại từ trỏ ngược về nhiều tiền ngữ khả dĩ, câu này không có đại từ hồi chỉ nào.

Đáp án đúng: "Syntax Analysis". Syntax analysis (phân tích cú pháp, còn gọi parsing) kiểm tra cách sắp xếp từ trong câu theo quy tắc ngữ pháp và dựng cấu trúc cho thấy từ nào quan hệ với từ nào; thứ tự từ quan trọng vì The dog bit the man và The man bit the dog dùng cùng các từ nhưng nghĩa khác hẳn, còn chuỗi bit dog the man the thì bị bác vì sai cú pháp. "Semantic Analysis" (phân tích ngữ nghĩa) lấy nghĩa của từ và câu, kiểm tra câu có hợp nghĩa hay không, như colorless green ideas đúng ngữ pháp nhưng vô nghĩa. "Lexical Analysis" (phân tích từ vựng) làm việc ở mức từ đơn lẻ: tách văn bản thành từ, đoạn, câu và nhận biết cấu trúc của từ, chưa xét thứ tự giữa các từ. "Pragmatic Analysis" (phân tích ngữ dụng) xét cách ngữ cảnh giao tiếp và ý định người nói chi phối cách hiểu câu.

Đáp án đúng: "Anaphoric ambiguity". Nhập nhằng hồi chỉ (anaphoric ambiguity) xuất hiện khi một đại từ trỏ ngược về phía trước mà người đọc không xác định chắc nó thay cho ai: trong câu đã cho, đại từ they không có tiền ngữ số nhiều nào, vì the school là số ít và I là người nói, nên không rõ they là giáo viên, nhân viên hay ban giám hiệu. "Syntactic ambiguity" đòi hỏi câu có hai cấu trúc ngữ pháp khả dĩ, ở đây cách chia mệnh đề là rõ ràng. "Semantic ambiguity" là khi nghĩa tổng thể của câu có nhiều cách hiểu dù từng từ đã rõ, câu này không rơi vào tình huống đó. "Lexical ambiguity" cần một từ đa nghĩa gây hiểu khác nhau, mà school, told, next day ở đây chỉ có một nghĩa phù hợp với ngữ cảnh.

Đáp án đúng: "Coreference resolution". Giải quyết đồng tham chiếu (coreference resolution) gom mọi biểu thức tham chiếu, gồm tên riêng, cụm danh từ và đại từ, cùng trỏ về một thực thể ngoài đời thành một chuỗi; ví dụ trong đoạn Barack Obama was born in Hawaii, the former president said he loved it, ba cụm Barack Obama, the former president và he thuộc cùng một chuỗi đồng tham chiếu. "Named entity recognition" chỉ phát hiện và gán loại cho các cụm tên riêng như người, tổ chức, địa điểm, không nối đại từ hay cụm danh từ chung với thực thể mà chúng thay thế. "Information extraction" là lĩnh vực rộng rút dữ kiện có cấu trúc từ văn bản, có thể dùng đồng tham chiếu như một bước con nhưng không phải tên của đúng nhiệm vụ được mô tả. "All of the others" sai vì chỉ đồng tham chiếu mới khớp định nghĩa xác định các biểu thức cùng trỏ một thực thể.

Đáp án đúng: "Sentences". Trong ngữ pháp thành phần (constituency grammar), cụm từ (phrase) là các đơn vị trung gian được xây quanh một từ trung tâm, rồi các cụm ghép lại thành câu theo luật như S → NP VP. "Noun phrase" (cụm danh từ, ví dụ "the old man") có trung tâm là danh từ, là một loại cụm. "Verb phrase" (cụm động từ, ví dụ "reads a book") có trung tâm là động từ, cũng là một loại cụm. "Prepositional phrase" (cụm giới từ, ví dụ "on the table") có trung tâm là giới từ, cũng thuộc nhóm cụm. Riêng "Sentences" là đơn vị ở mức cao hơn, là nút gốc S của cây cú pháp, được tạo thành từ các cụm chứ không phải một loại cụm, nên nó là phần tử khác loại.

Đáp án đúng: "Word Sense Disambiguation". WSD (khử nhập nhằng nghĩa từ) là bài toán chọn nghĩa đúng của một từ đa nghĩa trong ngữ cảnh cụ thể, ví dụ bass là cá vược hay âm trầm, bank là ngân hàng hay bờ sông. Các cách giải gồm thuật toán Lesk so độ trùng giữa ngữ cảnh và định nghĩa trong WordNet, bộ phân loại có giám sát dùng đặc trưng từ lân cận, hoặc embedding ngữ cảnh. "Fuzzy Logic" là logic mờ cho phép giá trị chân lý nằm giữa 0 và 1 để suy luận với khái niệm không rõ ranh giới như nóng, cao; nó không chọn nghĩa từ. "Shallow Semantic Analysis" như gán vai nghĩa (semantic role labeling) xác định ai làm gì với ai trong câu, có liên quan đến nghĩa nhưng không nhắm vào việc chọn nghĩa của từng từ đa nghĩa. "All of the others" sai vì chỉ WSD giải đúng vấn đề được mô tả.

Đáp án đúng: "VP → Verb NP". Trong văn phạm phi ngữ cảnh (context-free grammar), cụm eat a pizza là một cụm động từ VP gồm động từ eat và một cụm danh từ NP là a pizza (mạo từ cộng danh từ) làm tân ngữ, nên luật sinh tương ứng là động từ theo sau bởi cụm danh từ. "NP → Verb VP" sai vì vế trái là cụm danh từ, mà cụm danh từ không mở đầu bằng động từ rồi theo sau là một cụm động từ. "VP → Verb PP" mô tả động từ đi kèm cụm giới từ như go to school, nhưng a pizza không có giới từ nào. "VP → Verb NP PP" cần thêm một cụm giới từ sau tân ngữ như eat a pizza with a fork; cụm đang xét dừng ở a pizza nên luật này thừa một thành phần.

Đáp án đúng: "Text Realization". Trong sinh ngôn ngữ tự nhiên (Natural Language Generation), quy trình kinh điển gồm ba giai đoạn: lập kế hoạch văn bản, lập kế hoạch câu, rồi hiện thực hoá. Text realization (hiện thực hoá văn bản) nhận kế hoạch câu và ánh xạ nó thành cấu trúc câu thật đúng ngữ pháp, chọn trật tự từ, chia động từ, thêm mạo từ và dấu câu. "Text planning" (lập kế hoạch văn bản) đứng đầu quy trình, chọn nội dung cần nói và sắp xếp thứ tự các ý, chưa đụng tới câu chữ. "Sentence planning" (lập kế hoạch câu) chọn từ, gộp ý vào câu và quyết định cách gọi tên đối tượng, tức chính là bước tạo ra kế hoạch câu, chứ không chuyển kế hoạch đó thành câu hoàn chỉnh. "Text Summarization" (tóm tắt văn bản) là một bài toán ứng dụng riêng, rút gọn văn bản có sẵn, không phải một giai đoạn trong quy trình sinh câu.

Đáp án đúng: "Analyzing sentence structure". Parsing (phân tích cú pháp) xác định cấu trúc ngữ pháp của câu: cây thành phần (constituency) cho biết các từ gom thành cụm danh từ, cụm động từ ra sao theo một văn phạm, còn cây phụ thuộc (dependency) cho biết từ nào bổ nghĩa cho từ nào, như chủ ngữ, tân ngữ của động từ chính. Kết quả này phục vụ các bước sau như phân tích ngữ nghĩa hay trích xuất quan hệ. "Finding topics" là mô hình chủ đề (topic modeling) như LDA, làm việc trên tần suất từ ở mức tài liệu, không quan tâm cấu trúc câu. "Translating text" là dịch máy, một ứng dụng có thể dùng kết quả parsing nhưng không phải mục đích của parsing. "Extracting keywords" là trích từ khoá bằng TF-IDF hay TextRank, chọn từ quan trọng chứ không phân tích quan hệ cú pháp.

Đáp án đúng: "Synonym". Synonym (từ đồng nghĩa) là hai từ khác hình thức nhưng có nghĩa giống hoặc rất gần nhau và thay thế được cho nhau trong nhiều ngữ cảnh; conceal và cover đều có nghĩa che giấu, như conceal the truth gần với cover up the truth, nên là cặp đồng nghĩa. Trong WordNet, các từ đồng nghĩa được gom chung một synset. "Antonym" (từ trái nghĩa) là cặp có nghĩa đối lập; trái nghĩa của conceal là reveal, không phải cover. "Polysemy" (đa nghĩa) là hiện tượng một từ có nhiều nghĩa liên quan nhau, như head là cái đầu và người đứng đầu, tức nói về một từ chứ không về quan hệ giữa hai từ khác nhau. "Homonym" (từ đồng âm) là các từ trùng hình thức nhưng nghĩa không liên quan, như bank là ngân hàng và bank là bờ sông, ngược với cặp ở đây vốn khác hình thức mà cùng nghĩa.

Đáp án đúng: "Parser". Parser (bộ phân tích cú pháp) là phần mềm nhận dữ liệu đầu vào là văn bản hay chuỗi token, kiểm tra nó có tuân theo văn phạm hay không, và nếu đúng thì xuất ra biểu diễn cấu trúc như cây cú pháp hay cây phụ thuộc; câu sai ngữ pháp sẽ bị báo lỗi. Đó chính là mô tả trong câu hỏi. "Compiler" (trình biên dịch) dịch toàn bộ chương trình nguồn sang mã máy hoặc mã trung gian; bên trong nó có một parser làm một giai đoạn, nhưng mục đích của trình biên dịch là dịch và sinh mã, không dừng ở việc đưa ra biểu diễn cấu trúc của đầu vào. "Painter" là phần mềm vẽ và chỉnh sửa hình ảnh, không phân tích văn phạm. "Easydraw" cũng là công cụ vẽ hình, làm việc với đồ hoạ chứ không kiểm tra ngữ pháp của văn bản.