Câu hỏi: AIE301m - Phần 3: Mạng nơ-ron, học sâu và khả năng khái quát

Đáp án đúng: "Softmax". Với bài toán phân loại nhiều lớp (multiclass classification), tầng đầu ra cần trả về một phân phối xác suất trên K lớp; Softmax biến vector điểm thô z thành exp(z_i) chia cho tổng exp(z_j), nên mọi đầu ra nằm trong khoảng 0 đến 1 và cộng lại bằng 1, rồi kết hợp với hàm mất mát categorical cross-entropy. "Sigmoid" cho mỗi nơ-ron một xác suất độc lập trong khoảng 0 đến 1, hợp với phân loại nhị phân hoặc đa nhãn (multi-label), nhưng các đầu ra không bị ràng buộc tổng bằng 1 nên không phải lựa chọn chuẩn cho nhiều lớp loại trừ nhau. "ReLU (Rectified Linear Unit)" trả về max(0, x), không bị chặn trên và không chuẩn hoá thành xác suất, nên dùng ở tầng ẩn chứ không dùng ở đầu ra phân loại. "Tanh" cho giá trị trong khoảng -1 đến 1, chủ yếu dùng ở tầng ẩn hoặc trong cổng của LSTM, không diễn giải được thành xác suất lớp.

Đáp án đúng gồm ba ý: "Early stopping", "Regularization" và "Dropout". Quá khớp (overfitting) xảy ra khi mô hình học thuộc cả nhiễu của tập huấn luyện nên kém trên dữ liệu mới; cách chống là giới hạn năng lực hoặc thời gian học của mô hình. "Early stopping" (dừng sớm) theo dõi sai số trên tập kiểm định và dừng huấn luyện khi sai số này bắt đầu tăng. "Regularization" (chính quy hoá) như L1, L2 cộng thêm phạt độ lớn trọng số vào hàm mất mát, buộc mô hình đơn giản hơn. "Dropout" tắt ngẫu nhiên một phần nơ-ron ở mỗi bước huấn luyện, khiến mạng không dựa dẫm vào vài nơ-ron và hoạt động như trung bình của nhiều mạng con. "Increase model complexity" làm ngược lại: thêm tầng, thêm tham số giúp mô hình ghi nhớ nhiễu dễ hơn, đó là cách chữa thiếu khớp (underfitting). "Increase the duration of training the data" cũng làm quá khớp nặng thêm, vì huấn luyện càng lâu sau điểm tối ưu thì sai số kiểm định càng tăng, đúng điều mà dừng sớm muốn tránh.

Đáp án đúng: "1940s". Nói cho chính xác, perceptron do Frank Rosenblatt công bố năm 1957–1958, nên không phương án nào trùng năm ra đời của nó vì không có lựa chọn thập niên 1950. Tuy vậy perceptron được xây trực tiếp trên mô hình nơ-ron nhân tạo của Warren McCulloch và Walter Pitts năm 1943, mô hình đầu tiên coi nơ-ron là một đơn vị ngưỡng nhận tổng có trọng số của các đầu vào, và tài liệu nhập môn học máy cho tài chính thường đặt khởi nguồn của mạng nơ-ron và perceptron ở thập niên 1940; đó là lý do chọn mốc này. "1800s" quá sớm, khi chưa có máy tính lẫn lý thuyết nơ-ron tính toán. "1960s" là thời perceptron được phân tích và phê phán, cuốn Perceptrons của Minsky và Papert năm 1969 chỉ ra nó không giải được bài toán XOR, chứ không phải lúc nó xuất hiện. "1980s" là giai đoạn lan truyền ngược (backpropagation) làm sống lại mạng nhiều lớp, muộn hơn nhiều so với gốc của perceptron.

Đáp án đúng: "The model performs well on training data but poorly on validation data.". Quá khớp (overfitting) là khi mô hình học thuộc cả nhiễu và chi tiết riêng của tập huấn luyện, nên sai số huấn luyện rất thấp nhưng sai số trên tập kiểm định (validation) cao; khoảng cách lớn giữa hai sai số là dấu hiệu nhận biết, ví dụ chiến lược giao dịch đẹp trên dữ liệu quá khứ nhưng thua lỗ trên dữ liệu mới. "The model performs poorly on training data and on validation data." là dấu hiệu thiếu khớp (underfitting): mô hình quá đơn giản, chưa nắm được quy luật ngay cả trên dữ liệu đã thấy. "The model performs well on training data and on validation data." là trạng thái mong muốn, mô hình khái quát hoá tốt. "The model performs poorly on training data and well on validation data." là tình huống bất thường, thường do tập kiểm định quá nhỏ, quá dễ, hoặc do dropout và chính quy hoá chỉ bật khi huấn luyện, chứ không phải quá khớp.

Đáp án đúng: "All of the above". Lan truyền ngược (backpropagation) là thuật toán dùng quy tắc chuỗi để tính đạo hàm của hàm mất mát theo từng trọng số, đi lùi từ lớp đầu ra về lớp đầu vào; cả ba mô tả đều đúng cùng lúc nên phải chọn phương án gộp. "To calculate the gradients for updating the network's parameters" đúng vì sản phẩm của lan truyền ngược chính là gradient để bộ tối ưu như SGD hay Adam cập nhật tham số. "To propagate errors from the output layer to the input layer" đúng vì tín hiệu sai số ở đầu ra được truyền ngược qua từng lớp, mỗi lớp nhận phần sai số thuộc về các trọng số của mình. "To train a neural network" đúng vì lan truyền ngược kết hợp với giảm gradient là cơ chế huấn luyện chuẩn của mạng nơ-ron. Chọn riêng một ý thì bỏ sót hai mặt kia của cùng một quá trình, nên không ý đơn lẻ nào đủ bằng phương án gộp.

Đáp án đúng: "All of the above". Mục đích cốt lõi của hàm kích hoạt là "It introduces non-linearity to the network": nếu không có nó, xếp chồng bao nhiêu tầng tuyến tính cũng chỉ tương đương một phép biến đổi tuyến tính, mạng không học được quan hệ phức tạp. Nhưng hai ý kia cũng đúng nên tổng hợp là lựa chọn đầy đủ nhất. "It determines the output of a neuron" đúng vì nơ-ron tính tổng có trọng số cộng bias rồi đưa qua hàm kích hoạt, kết quả chính là đầu ra của nơ-ron truyền sang tầng sau. "It helps in backpropagation" đúng vì khi lan truyền ngược, quy tắc dây chuyền nhân gradient với đạo hàm của hàm kích hoạt ở từng tầng; chọn hàm có đạo hàm thuận lợi như ReLU giúp giảm hiện tượng gradient biến mất so với sigmoid. Vì vậy chọn riêng một ý là chưa đủ, dù ý về tính phi tuyến là quan trọng nhất.

Đáp án đúng gồm hai ý: "To scale the input data to a fixed range" và "To improve the convergence of the optimization algorithm". Chuẩn hoá dữ liệu (data normalization) đưa các đặc trưng về cùng thang đo, ví dụ min-max về khoảng 0 đến 1 hoặc chuẩn hoá z-score về trung bình 0, độ lệch chuẩn 1. Khi một đặc trưng là giá cổ phiếu hàng trăm đô la còn đặc trưng khác là lợi suất cỡ phần trăm, mặt hàm mất mát bị kéo dài lệch, gradient theo các hướng chênh nhau rất nhiều nên giảm gradient dao động và hội tụ chậm; đưa về cùng thang đo làm bước cập nhật cân đối và hội tụ nhanh, ổn định hơn. "To make the input data more interpretable" không đúng vì sau chuẩn hoá dữ liệu mất đơn vị gốc, con số 0,37 khó đọc hơn giá thật, nên diễn giải không phải mục đích. "To preprocess the data for visualization" không đúng vì vẽ biểu đồ đôi khi dùng thang chuẩn hoá nhưng đó là việc mô tả dữ liệu, không phải lý do chuẩn hoá trong huấn luyện học sâu.

Đáp án đúng: "True". Khi dữ liệu ít, tách riêng một tập kiểm tra (hold-out) sẽ làm tập huấn luyện càng nhỏ và kết quả đánh giá phụ thuộc mạnh vào cách chia ngẫu nhiên. Kiểm định chéo (cross-validation), ví dụ k-fold, chia dữ liệu thành k phần, lần lượt dùng mỗi phần làm tập kiểm tra và k − 1 phần còn lại để huấn luyện, rồi lấy trung bình điểm số; mọi điểm dữ liệu đều được dùng cho cả huấn luyện lẫn đánh giá, nên ước lượng hiệu năng ổn định hơn. Chọn "False" bỏ qua đúng lợi thế này; với dữ liệu lớn thì một tập kiểm tra cố định đã đủ, nhưng phát biểu nói về trường hợp ít dữ liệu.

Đáp án đúng: "To prevent overfitting". Dừng sớm (early stopping) theo dõi sai số trên tập kiểm định trong khi huấn luyện và dừng lại khi sai số này ngừng giảm hoặc bắt đầu tăng, tức thời điểm mô hình bắt đầu học thuộc nhiễu của tập huấn luyện; mục đích chính của nó là chống quá khớp (overfitting). "To save training time" chỉ là lợi ích phụ do dừng trước số epoch dự kiến, không phải lý do kỹ thuật tồn tại. "To improve the model's generalization ability" là hệ quả của việc chống quá khớp chứ không phải mục đích được nêu trực tiếp, nên câu hỏi chọn nguyên nhân gốc. "To avoid local optima in the loss function" sai vì dừng sớm không giúp thoát cực tiểu cục bộ; việc đó thuộc về tốc độ học, động lượng hay khởi tạo.

Đáp án đúng: "A situation where a model predicts training data very well but fares much worse in additional (validation, testing) data". Quá khớp (overfitting) là khi mô hình học thuộc cả nhiễu và đặc điểm ngẫu nhiên của tập huấn luyện, nên sai số huấn luyện rất thấp nhưng sai số trên tập kiểm định hay kiểm tra cao hơn hẳn; đó là định nghĩa dựa trên khoảng cách giữa hai loại sai số. "A model with too many predictors" chỉ là một nguyên nhân thường gặp gây quá khớp, không phải bản thân hiện tượng, và mô hình nhiều biến vẫn có thể khái quát tốt nếu được chính quy hoá. "Predictions that very highly accurate" sai vì độ chính xác cao trên dữ liệu mới là điều tốt; quá khớp chỉ cho độ chính xác cao trên dữ liệu đã học. "A model with too many outcome categories" mô tả số lớp đầu ra của bài toán phân loại, không liên quan đến quá khớp.

Đáp án đúng: "All of the above". Học sâu (deep learning) cùng lúc thoả ba mô tả: nó là một loại thuật toán học máy vì học quy luật từ dữ liệu thay vì lập trình luật cứng, vì vậy "A type of machine learning algorithm" đúng; nó thuộc ngành trí tuệ nhân tạo vì học máy là một nhánh của AI, nên "A branch of artificial intelligence" đúng; và nó là kỹ thuật huấn luyện mạng nơ-ron nhiều lớp ẩn bằng lan truyền ngược và hạ gradient, nên "A technique for training neural networks" cũng đúng. Mỗi phương án đơn lẻ chỉ nói một mặt của khái niệm, vì thế chọn riêng một phương án là chưa đầy đủ.

Đáp án đúng gồm ba ý: "The model uses too few hyperparameters.", "The model is not fully trained." và "The model is too simplistic for the data it's trying to represent.". Thiếu khớp (underfitting) là khi mô hình không nắm được quy luật của dữ liệu, sai số cao trên cả tập huấn luyện lẫn kiểm tra. Ý cốt lõi là mô hình quá đơn giản so với dữ liệu, như dùng đường thẳng cho quan hệ phi tuyến; nhiều tài liệu chỉ nêu đúng ý này, nhưng câu hỏi yêu cầu chọn ba ý. Huấn luyện chưa đủ số vòng là nguyên nhân trực tiếp: mô hình dừng trước khi kịp học quy luật. Ý quá ít siêu tham số là chỗ tranh cãi, vì số lượng siêu tham số tự nó không gây thiếu khớp và siêu tham số khác với tham số học được; ý này chỉ đứng được theo nghĩa lỏng là cấu hình siêu tham số khiến mô hình quá yếu, như quá ít tầng hay nơ-ron, hoặc chính quy hoá quá mạnh. "When the model memorizes the training data its given." là quá khớp (overfitting), hiện tượng ngược lại: sai số huấn luyện rất thấp nhưng tổng quát hoá kém.

Đáp án đúng: "False". Kiểm định chéo (cross-validation) chia dữ liệu thành k phần, lần lượt huấn luyện trên k-1 phần và kiểm tra trên phần còn lại; giá trị lớn nhất của nó là khi dữ liệu ít, vì mỗi điểm dữ liệu được dùng cả để huấn luyện lẫn kiểm tra, cho ước lượng ổn định hơn. Khi có nhiều dữ liệu, một tập kiểm tra (test set) giữ riêng đã đủ lớn để cho ước lượng tin cậy, còn kiểm định chéo vừa tốn k lần chi phí huấn luyện vừa không thêm bao nhiêu độ chính xác; mô hình cuối nên được đánh giá một lần trên tập kiểm tra chưa từng chạm tới. Với chuỗi thời gian tài chính, k-fold xáo trộn còn gây rò rỉ thông tin tương lai. "True" vì thế không đúng: nó đảo ngược khuyến nghị thông thường, vốn là dùng kiểm định chéo khi dữ liệu khan hiếm và dùng tách tập huấn luyện, kiểm định, kiểm tra khi dữ liệu dồi dào.

Đáp án đúng: "SoftMax". Hàm SoftMax biến vector điểm số thô (logits) thành phân phối xác suất bằng cách lấy mũ từng phần tử rồi chia cho tổng các mũ, nên mỗi đầu ra nằm trong khoảng 0 tới 1 và tổng đúng bằng 1; vì vậy nó là lựa chọn chuẩn cho lớp cuối của bài toán phân loại nhiều lớp. "Tanh" cho giá trị từ −1 tới 1, có thể âm nên không phải xác suất. "ReLU" cho giá trị từ 0 tới vô cùng, không bị chặn trên và không chuẩn hoá tổng. "Binary step function" chỉ cho ra 0 hoặc 1 cứng, không biểu diễn được mức độ chắc chắn và không có đạo hàm hữu ích để huấn luyện.

Đáp án đúng: "A model's ability to correctly make predictions on data it hasn't been trained on.". Khả năng khái quát hoá (generalization) đo việc mô hình học được quy luật thật chứ không học thuộc mẫu, thể hiện qua sai số trên dữ liệu chưa từng thấy như tập kiểm định, tập kiểm tra hay dữ liệu thị trường tương lai; khoảng cách lớn giữa sai số huấn luyện và sai số trên dữ liệu mới chính là dấu hiệu khái quát kém, tức quá khớp. "How well a model can make predictions on a wide variety of applications." nói về tính linh hoạt dùng cho nhiều bài toán khác nhau, giống học chuyển giao, chứ không phải khái quát trong cùng một bài toán. "on the same data it's trained on" chỉ là độ khớp trong mẫu (training accuracy), thứ có thể rất cao ngay cả khi mô hình khái quát tệ.

Đáp án đúng gồm ba ý: "Large amounts of data", "Available computational resources" và "Available infrastructure". Mạng nơ-ron sâu có rất nhiều tham số nên chỉ phát huy khi được huấn luyện trên lượng dữ liệu lớn; với dữ liệu ít, các phương pháp đơn giản thường ngang hoặc tốt hơn. Huấn luyện mô hình lớn cần sức tính toán mạnh, và chính GPU, TPU cùng điện toán đám mây đã làm việc đó khả thi. Hạ tầng sẵn có như thư viện TensorFlow, PyTorch, nền tảng đám mây, kho lưu trữ và đường ống dữ liệu giúp xây, huấn luyện và triển khai mô hình nhanh, rẻ hơn hẳn trước kia. "Advanced mathematics" không phải lý do vì nền tảng toán của mạng nơ-ron, gồm đại số tuyến tính, giải tích và lan truyền ngược, đã có từ nhiều thập kỷ trước; thứ thay đổi gần đây là dữ liệu, sức tính và hạ tầng, chứ không phải một bước nhảy toán học khiến mạng nơ-ron vượt các phương pháp khác.

Đáp án đúng: "All of the above". Dropout là kỹ thuật chính quy hoá: trong mỗi bước huấn luyện, mỗi nơ-ron bị đặt đầu ra bằng 0 với xác suất p, khi suy luận thì dùng toàn mạng với trọng số đã được bù tỉ lệ. Mục đích chính là "To regularize the network and prevent overfitting", buộc mạng không dựa dẫm vào vài nơ-ron cụ thể mà học các đặc trưng bền vững. "To randomly disable neurons during training" đúng vì đó chính là cơ chế hoạt động của dropout. "To reduce the model's capacity" cũng đúng vì mỗi bước chỉ một mạng con được huấn luyện, làm giảm dung lượng hiệu dụng, và đó là hệ quả dẫn tới chống quá khớp. Ba ý lần lượt là cơ chế, hệ quả và mục đích của cùng một kỹ thuật, nên chọn riêng lẻ một ý là chưa đủ, phương án tổng hợp mới mô tả trọn dropout.

Đáp án đúng: "ReLU (Rectified Linear Unit)". ReLU tính max(0, x), đạo hàm bằng 1 với đầu vào dương nên gradient không bị co nhỏ dần khi lan truyền ngược qua nhiều lớp, lại rẻ để tính, vì vậy là mặc định cho lớp ẩn của mạng sâu. "Sigmoid" nén đầu ra vào 0 tới 1 và bão hoà ở hai đầu, gây triệt tiêu gradient (vanishing gradient) khi mạng sâu, nay chủ yếu dùng ở lớp ra nhị phân hoặc trong cổng LSTM. "Tanh" đối xứng quanh 0 tốt hơn sigmoid nhưng vẫn bão hoà, thường thấy trong RNN hơn là mạng sâu truyền thẳng. "Softmax" chuyển điểm số thành phân phối xác suất, dành cho lớp ra phân loại nhiều lớp chứ không cho lớp ẩn.

Đáp án đúng: "Sigmoid". Phân loại nhị phân cần đầu ra là xác suất thuộc lớp dương; hàm sigmoid nén mọi số thực về khoảng 0 đến 1, nên một nơ-ron đầu ra sigmoid kết hợp hàm mất mát binary cross-entropy là cấu hình chuẩn, và lấy ngưỡng 0,5 để ra nhãn. "ReLU (Rectified Linear Unit)" cho giá trị từ 0 tới vô cùng, không phải xác suất, nên dùng ở lớp ẩn chứ không ở đầu ra phân loại. "Tanh" cho giá trị từ −1 đến 1, cũng không diễn giải trực tiếp thành xác suất, thường dùng ở lớp ẩn hoặc lớp hồi quy. "Softmax" dùng cho phân loại nhiều lớp, chia xác suất trên nhiều nơ-ron đầu ra có tổng bằng 1; với hai lớp nó tương đương sigmoid nhưng cần hai nơ-ron, nên lựa chọn thông dụng cho bài nhị phân vẫn là một nơ-ron sigmoid.

Đáp án đúng: "Intermediate transformations of financial features during learning". Tầng ẩn (hidden layer) nằm giữa tầng đầu vào và tầng đầu ra, mỗi nơ-ron tính tổng có trọng số của đầu vào rồi qua hàm kích hoạt phi tuyến, nên tầng ẩn biến đổi các đặc trưng tài chính thô như lợi suất trễ, chỉ báo kỹ thuật thành biểu diễn trung gian mà mạng tự học được trong huấn luyện, trước khi tầng đầu ra đưa ra dự báo. "Historical stock market datasets" là dữ liệu đầu vào dùng để huấn luyện, không phải một thành phần bên trong mạng. "Portfolio optimization constraints" là ràng buộc của bài toán tối ưu danh mục như hạn mức tỉ trọng, nằm ngoài kiến trúc mạng. "Trading execution strategies" là cách đặt lệnh và khớp lệnh trên thị trường, một tầng xử lý sau khi đã có tín hiệu, không phải tầng ẩn.