Câu hỏi: DAT301m Phát triển UDTTNT với TensorFlow – Bộ ôn tập cuối kỳ số 2

Đáp án đúng: "Utilizing the train_test_split function from scikit-learn". Hàm train_test_split xáo trộn dữ liệu (shuffle=True mặc định) rồi tách theo tỉ lệ test_size, có random_state để lặp lại kết quả; muốn có ba tập, ta gọi hai lần, lần đầu tách tập test, lần hai chia phần còn lại thành train và validation, sau đó đưa vào model.fit hoặc tf.data.Dataset.from_tensor_slices. Keras cũng có tf.keras.utils.split_dataset nhưng nó không nằm trong các lựa chọn. "Using the tf.split_dataset() function" sai vì TensorFlow không có hàm nào ở đúng đường dẫn này. "Using the tf.data.split() method" sai vì tf.data không có phương thức split; với Dataset người ta thường kết hợp shuffle, take và skip. "By manually selecting samples in Python code" làm được về nguyên tắc nhưng không bảo đảm ngẫu nhiên, dễ sai và trùng mẫu giữa các tập, nên không phải cách được hỏi.

Đáp án đúng: "Exponential Smoothing (ETS)". Exponential Smoothing (làm mượt hàm mũ) dự báo giá trị tương lai bằng trung bình có trọng số của các quan sát quá khứ, với trọng số giảm dần theo cấp số nhân khi lùi xa về quá khứ; mô hình ETS (Error, Trend, Seasonality) mở rộng thêm thành phần xu hướng và mùa vụ, là phương pháp dự báo chuỗi thời gian kinh điển. "Principal Component Analysis (PCA)" sai vì PCA là kỹ thuật giảm chiều dữ liệu bằng cách chiếu lên các hướng có phương sai lớn nhất, không sinh dự báo theo thời gian. "Singular Value Decomposition (SVD)" sai vì SVD là phép phân rã ma trận, dùng cho giảm chiều hay hệ khuyến nghị, không phải mô hình dự báo. "K-Means Clustering" sai vì K-Means là thuật toán phân cụm không giám sát, gom điểm giống nhau thành nhóm chứ không dự đoán giá trị tương lai.

Đáp án đúng: "Ability to capture temporal dependencies and patterns". RNN xử lý chuỗi từng bước theo thứ tự thời gian và mang theo trạng thái ẩn tổng hợp những gì đã thấy, nên giá trị dự báo phụ thuộc vào cả diễn biến trước đó chứ không chỉ một điểm riêng lẻ; trong Keras có thể dùng SimpleRNN hoặc LSTM với đầu vào dạng batch, số bước thời gian, số đặc trưng. "Superior performance on image classification tasks" thuộc thế mạnh của CNN, không phải lý do dùng RNN cho chuỗi thời gian. "Faster training compared to traditional machine learning models" sai vì RNN xử lý tuần tự nên thường huấn luyện chậm hơn các mô hình truyền thống. "Robustness to noise in the input data" không phải ưu điểm riêng của RNN; nhiễu vẫn ảnh hưởng mô hình, thường phải làm mượt dữ liệu hoặc dùng hàm mất mát như Huber để giảm tác động.

Đáp án đúng: "Sequential dependence of observations". Dữ liệu chuỗi thời gian được ghi theo thứ tự thời gian và giá trị ở bước t phụ thuộc vào các bước trước nó, nên thứ tự mang thông tin: xáo trộn các quan sát sẽ phá huỷ xu hướng, mùa vụ và tự tương quan; đó là lý do ta tạo cửa sổ trượt từ các bước quá khứ để dự báo bước tiếp theo. "Unstructured format" sai vì chuỗi thời gian thường là các con số có cấu trúc rõ ràng theo mốc thời gian, khác với văn bản hay ảnh. "Lack of temporal ordering" sai vì nó ngược với bản chất, thứ tự thời gian chính là đặc điểm cốt lõi của loại dữ liệu này. "Constant feature values" sai vì giá trị không đổi thì không có gì để phân tích hay dự báo; chuỗi thời gian biến động theo thời gian, kể cả khi các đặc trưng thống kê của nó ổn định.

Đáp án đúng: "Prediction Interval Coverage (PIC)". Độ phủ khoảng dự báo đo tỉ lệ giá trị thực tế rơi vào khoảng dự báo mà mô hình đưa ra ở một mức tin cậy định trước; ví dụ với khoảng 95%, độ phủ thực tế gần 95% nghĩa là khoảng được hiệu chỉnh tốt, còn thấp hơn nhiều thì mô hình tự tin quá mức. "Mean Absolute Error (MAE)" sai vì MAE là trung bình trị tuyệt đối sai số của dự báo điểm, không xét khoảng tin cậy nào. "Confidence Interval Width (CIW)" chỉ đo độ rộng khoảng; khoảng hẹp trông chính xác nhưng có thể bỏ sót giá trị thực, nên độ rộng một mình không cho biết dự báo có nằm đúng trong khoảng hay không. "R-squared (R2)" sai vì R2 đo tỉ lệ phương sai của dữ liệu được mô hình giải thích, cũng là thước đo cho dự báo điểm chứ không cho khoảng.

Đáp án đúng: "To predict future values based on historical data". LSTM (Long Short-Term Memory) là biến thể RNN có cổng quên, cổng vào và cổng ra để giữ thông tin qua nhiều bước, nên ứng dụng chính trong chuỗi thời gian là dự báo: đưa vào một cửa sổ các giá trị quá khứ và để lớp Dense đầu ra dự đoán giá trị kế tiếp. "To perform clustering on time series data" là bài toán không giám sát gom nhóm các chuỗi giống nhau, thường dùng thuật toán phân cụm chứ không phải ứng dụng tiêu biểu của LSTM dự báo. "To identify seasonality patterns in the data" là bước phân tích, thường làm bằng vẽ biểu đồ hay xem tự tương quan; LSTM có thể học ngầm mùa vụ nhưng mục đích dùng nó là dự báo. "To calculate the mean squared error of a model" là phép tính thước đo sai số đơn giản, làm trực tiếp bằng hàm mất mát chứ không cần mạng nơ-ron.

Đáp án đúng: "It involves providing the correct output from the training data as input during training.". Với teacher forcing, ở mỗi bước huấn luyện mạng hồi quy nhận giá trị thật của bước trước lấy từ dữ liệu làm đầu vào thay cho giá trị chính nó vừa dự đoán, nhờ vậy lỗi không bị cộng dồn dọc chuỗi; khi dự báo thật thì không còn giá trị thật nên mô hình phải dùng đầu ra của mình. "It is a way to speed up the convergence of RNNs." chỉ là hệ quả: huấn luyện thường hội tụ nhanh và ổn định hơn, nhưng đó không phải định nghĩa của kỹ thuật. "It is a technique for avoiding overfitting during training." sai vì teacher forcing không chống quá khớp, nó còn có thể gây lệch giữa lúc huấn luyện và lúc dự báo (exposure bias). "It is a regularization technique applied to the hidden states." sai vì điều chuẩn trên trạng thái ẩn là các kỹ thuật như recurrent_dropout của lớp LSTM, không liên quan tới việc chọn đầu vào.

Đáp án đúng: "They can capture information from both past and future contexts.". Lớp Bidirectional trong Keras bọc một RNN như LSTM và chạy hai bản song song, một đọc chuỗi từ đầu tới cuối, một đọc ngược từ cuối về đầu, rồi ghép trạng thái của hai chiều; vì vậy tại mỗi bước, biểu diễn chứa cả thông tin phía trước lẫn phía sau trong cửa sổ đầu vào, giúp nắm mẫu hình tốt hơn. "Bidirectional RNNs are more computationally efficient." sai vì chạy hai chiều làm số tham số và thời gian tính gần gấp đôi. "They are less prone to overfitting." sai vì nhiều tham số hơn nếu có thì còn làm tăng nguy cơ quá khớp; chống quá khớp phải nhờ dropout hay chính quy hoá. "Bidirectional RNNs have a simpler architecture." sai vì kiến trúc hai chiều phức tạp hơn RNN một chiều, gồm hai tầng hồi quy và bước ghép đầu ra.

Đáp án đúng: "All of the above". tf.data.Dataset.from_tensor_slices nhận nhiều dạng đầu vào và cắt theo chiều đầu tiên thành từng cặp đặc trưng và nhãn, sau đó mọi phần tử trong dataset đều được chuyển thành tensor. "Using NumPy arrays" đúng vì có thể truyền thẳng cặp mảng NumPy đặc trưng và nhãn vào hàm này, đây là cách hay gặp nhất; nhưng chỉ chọn nó là chưa đủ. "As pandas DataFrames" cũng đúng, vì có thể truyền dict(df) cùng cột nhãn để mỗi cột thành một đặc trưng có tên; chọn riêng nó lại bỏ sót hai cách kia. "As tensors" đúng vì dataset có thể được tạo trực tiếp từ tensor như tf.constant và mọi phần tử bên trong rốt cuộc đều là tensor; chọn riêng nó cũng chưa trọn. Do cả ba cách đều dùng được nên lựa chọn bao gồm tất cả là câu trả lời đầy đủ.

Đáp án đúng: "It determines the output of the LSTM cell.". Trong LSTM, cổng ra tính o_t = σ(W·[h_(t−1), x_t] + b) với giá trị trong khoảng 0 tới 1, rồi trạng thái ẩn h_t bằng o_t nhân từng phần tử với tanh(c_t); nghĩa là cổng ra chọn phần nào của trạng thái ô nhớ được đưa ra làm đầu ra ở bước hiện tại và truyền sang bước sau, còn với dự báo chuỗi thời gian h_t này đi vào lớp Dense để ra giá trị dự báo. "It controls the flow of information into the memory cell." sai vì kiểm soát luồng thông tin đi vào ô nhớ là việc của cổng vào. "It decides which information to store in the memory cell." sai vì quyết định lưu gì là cổng vào cùng giá trị ứng viên, còn quyết định quên gì là cổng quên. "It regulates the input to the memory cell." sai vì đó cũng là mô tả của cổng vào; cổng ra chỉ tác động ở phía đọc ô nhớ, không làm thay đổi nội dung được ghi vào.