BERT stands for:

4 phương ánCó giải thích

Các phương án trả lời

Chọn một phương án
Lời giảiChọn phương án để mở
Đáp án đúng: "Bidirectional Encoder Representations from Transformers". BERT là mô hình ngôn ngữ do Google công bố năm 2018, chỉ dùng phần encoder của Transformer và học biểu diễn hai chiều: mỗi từ được mã hoá dựa vào cả ngữ cảnh bên trái lẫn bên phải. Mô hình được huấn luyện trước bằng masked language modeling (che ngẫu nhiên một số token rồi đoán lại) và next sentence prediction, sau đó tinh chỉnh cho phân loại, NER, hỏi đáp. "Binary Encoder for Recursive Trees" sai vì BERT không mã hoá nhị phân và không làm việc trên cây đệ quy mà trên chuỗi token. "Bayesian Embedding Representation Transformer" sai vì BERT không phải mô hình Bayes, chữ B là Bidirectional. "Best Encoder Representation Tokenizer" sai vì BERT là mô hình biểu diễn chứ không phải bộ tách từ; nó có dùng tokenizer WordPiece nhưng đó chỉ là bước tiền xử lý.

Cùng phần 12

Xuất hiện trong 1 bộ đề