Given a corpus of N documents, a randomly selected document contains T terms, with "data" appearing K times. If "data" is present in N/3 documents, what is the TF-IDF value for "data" in the selected document?
4 phương ánCó giải thích
Các phương án trả lời
Chọn một phương ánLời giảiChọn phương án để mở
Đáp án đúng: "K * Log(3) / T". TF (term frequency, tần suất từ) chuẩn hoá theo độ dài văn bản bằng số lần từ xuất hiện chia tổng số từ của văn bản, nên TF = K/T. IDF (inverse document frequency, tần suất văn bản nghịch đảo) bằng log của tổng số văn bản chia số văn bản chứa từ: IDF = log(N/(N/3)) = log(3). Nhân hai thành phần được TF-IDF = (K/T) × log(3), đúng dạng K nhân log(3) rồi chia T. "KT * Log(3)" nhân K với T thay vì chia, tức coi văn bản càng dài thì từ càng quan trọng, ngược với ý nghĩa chuẩn hoá theo độ dài. "T * Log(3) / K" đảo tỉ số TF thành T/K, khiến từ xuất hiện càng nhiều lại có trọng số càng thấp. "Log(3) / KT" đặt cả K vào mẫu số nên trọng số cũng giảm khi từ lặp lại nhiều, trái với vai trò của TF là tăng trọng số cho từ xuất hiện thường xuyên trong văn bản.
Cùng phần 5
Which of the following are valid ways to represent words in natural language processing tasks?Có lời giảiCâu hỏiGiven a document-term matrix where each tweet is a document, which of the following statements about the matrix's dimensionality is correct?
(1) Stopword removal affects dimensionality.
(2) Word normalization reduces dimensionality.
(3) Lowercasing words has no effect on dimensionality.Có lời giảiCâu hỏiCosine similarity measures theCó lời giảiCâu hỏiCả 13 câu của chủ đề13 câu