In text mining, converting text into tokens and then converting them into an integer or floating-point vectors can be done using

4 phương ánCó giải thích

Các phương án trả lời

Chọn một phương án
Lời giảiChọn phương án để mở
Đáp án đúng: "CountVectorizer". CountVectorizer là lớp trong scikit-learn làm trọn hai việc: tách văn bản thành token theo mẫu tách từ và xây từ vựng, rồi biến mỗi văn bản thành vector số đếm từng token; kiểu dữ liệu đầu ra có thể đặt là số nguyên hay số thực qua tham số dtype. "TF-IDF" là cách tính trọng số từ theo tần suất trong văn bản và độ hiếm trong kho, tức một công thức gán giá trị; muốn có nó trên văn bản thô vẫn phải token hoá và đếm trước, và trong scikit-learn TfidfVectorizer chính là CountVectorizer nối với TfidfTransformer. "Bag of Words" là mô hình biểu diễn mang tính khái niệm, bỏ qua thứ tự từ, chứ không phải công cụ cụ thể thực hiện việc chuyển đổi. "NERs" là các bộ nhận dạng thực thể có tên, gán nhãn người, địa điểm cho token, không tạo vector số cho văn bản.

Cùng phần 5

Xuất hiện trong 1 bộ đề