In NLP, Tokens are converted into numbers before giving to any Neural Network
2 phương ánCó giải thích
Các phương án trả lời
Chọn một phương ánLời giảiChọn phương án để mở
Đáp án đúng: "True". Mạng nơ-ron chỉ thực hiện phép nhân ma trận, phép cộng và hàm kích hoạt trên số, nên mọi token (đơn vị văn bản sau khi tách, có thể là từ, từ con hay ký tự) phải được đổi thành số trước khi đưa vào. Quy trình thường là xây từ vựng, gán mỗi token một chỉ số nguyên (ID), rồi lớp embedding tra chỉ số đó để lấy vector số thực; hoặc dùng one-hot, TF-IDF làm đầu vào. Ngay cả mô hình lớn như BERT cũng nhận input_ids là dãy số nguyên do tokenizer sinh ra. Vì vậy "False" sai: không có mạng nơ-ron nào nhận trực tiếp chuỗi chữ; những mô hình trông như đọc thẳng ký tự thực chất vẫn mã hoá từng ký tự hay byte thành số trước khi tính toán.
Cùng phần 9
Xuất hiện trong 1 bộ đề
Đi tiếp từ đây