DAT301M - Phần 4: Chuỗi thời gian và dự báo

Đáp án đúng: "By incorporating dummy variables for each season". Seasonality (tính mùa vụ) là mẫu lặp lại theo chu kỳ cố định như theo tháng, quý hay ngày trong tuần; khi thêm dummy variables (biến giả), mỗi mùa được mã hoá thành một cột 0/1 kiểu one-hot, nhờ đó mô hình học được mức tăng giảm riêng của từng mùa và dùng nó khi dự báo. "By removing all time-dependent features" đi ngược mục tiêu, vì bỏ hết đặc trưng phụ thuộc thời gian thì mất luôn thông tin cần để nhận ra chu kỳ. "By using a rolling mean to smooth the data" có ích khi muốn làm mượt nhiễu hoặc ước lượng xu hướng trong bước phân rã chuỗi, nhưng làm mượt chỉ che bớt dao động chứ không cho mô hình biểu diễn hiệu ứng của từng mùa. "By applying dimensionality reduction techniques" như PCA chỉ nén nhiều đặc trưng thành ít chiều hơn, không nhắm vào mẫu lặp theo thời gian nên không xử lý được mùa vụ.

Đáp án đúng: "The window after the input window". Khi dựng windowed dataset (tập dữ liệu chia cửa sổ) cho dự báo chuỗi thời gian, ta lấy một đoạn liên tiếp các giá trị quá khứ làm đặc trưng đầu vào và giá trị hoặc đoạn giá trị ngay sau nó làm nhãn, vì mô hình phải học cách đoán tương lai từ quá khứ; trong tf.data thường dùng window với kích thước window_size + 1 rồi map để tách phần đầu làm đầu vào và phần tử cuối làm nhãn. "The window before the input window" đảo ngược chiều thời gian, khiến mô hình học suy ngược quá khứ thay vì dự báo. "The window at the same time as the input window" làm nhãn trùng với chính đầu vào, mô hình chỉ cần chép lại nên không học được gì về dự báo. "The entire time series without windowing" không tạo ra được cặp đầu vào và nhãn nào, nên không có mục tiêu để huấn luyện có giám sát.

Đáp án đúng: "The constancy of statistical properties over time". Một chuỗi thời gian dừng (stationary) có các đặc trưng thống kê như trung bình, phương sai và tự tương quan không đổi theo thời gian; chuỗi có xu hướng tăng dần hay mùa vụ là không dừng, và người ta thường lấy sai phân hoặc khử xu hướng để đưa về dạng dừng trước khi mô hình hoá. "The absence of temporal patterns" sai vì chuỗi dừng vẫn có thể có phụ thuộc theo thời gian, chẳng hạn tự tương quan ở các độ trễ ngắn, chỉ là cấu trúc ấy không đổi theo thời điểm. "The presence of seasonality in the data" sai vì mùa vụ làm trung bình thay đổi theo chu kỳ, tức là một dạng không dừng. "The rapid changes in the time series" sai vì tốc độ biến động không quyết định tính dừng; chuỗi dao động nhanh vẫn dừng nếu phân phối của nó giữ nguyên theo thời gian, còn chuỗi đổi chậm nhưng có xu hướng thì không dừng.

Đáp án đúng: "Line charts". Chuỗi thời gian là các giá trị được sắp theo thứ tự thời gian, nên biểu đồ đường với trục hoành là thời gian và trục tung là giá trị nối các điểm liên tiếp lại, giúp nhìn rõ trend (xu hướng), seasonality (tính mùa vụ) và noise (nhiễu); trong khoá học TensorFlow, hàm vẽ chuỗi thường dùng plt.plot cho đúng mục đích này. "Scatter plots" chỉ đặt các điểm rời rạc mà không nối chúng, hợp để xem quan hệ giữa hai biến, nhưng làm khó theo dõi diễn biến liên tục theo thời gian. "Bar charts" hợp để so sánh một số ít nhóm hoặc giai đoạn, còn với hàng nghìn bước thời gian thì các cột dày đặc che mất hình dạng chuỗi. "Pie charts" thể hiện tỉ trọng các phần trong một tổng tại một thời điểm, hoàn toàn không thể hiện thứ tự thời gian.

Đáp án đúng: "Moving Average (MA)". Phân rã cổ điển một chuỗi thời gian dùng trung bình trượt có tâm với cửa sổ bằng độ dài chu kỳ mùa để làm trơn và ước lượng thành phần xu hướng; lấy chuỗi gốc trừ (hoặc chia) xu hướng rồi lấy trung bình theo từng vị trí trong chu kỳ sẽ ra thành phần mùa vụ, phần còn lại là residual (phần dư). "Mean Absolute Deviation (MAD)" sai vì đây là thước đo độ phân tán, trung bình khoảng cách tuyệt đối tới giá trị trung tâm, không tách được thành phần nào. "Mean Squared Error (MSE)" sai vì đó là chỉ số đánh giá sai số dự báo hoặc làm hàm mất mát khi huấn luyện, không dùng để phân rã. "Autocorrelation Function (ACF)" hữu ích để phát hiện mùa vụ và chọn độ dài chu kỳ qua các đỉnh ở những độ trễ nhất định, nhưng nó chỉ chẩn đoán cấu trúc chứ không trực tiếp tách chuỗi thành xu hướng, mùa vụ và phần dư.

Đáp án đúng: "Accounting for temporal dependencies". Trong chuỗi thời gian, mỗi quan sát phụ thuộc vào các giá trị trước nó, nên không thể coi các mẫu là độc lập như dữ liệu bảng thông thường; phải giữ đúng thứ tự khi chia tập huấn luyện và kiểm tra, tạo cửa sổ trượt các bước quá khứ làm đặc trưng, và dùng mô hình nhớ được ngữ cảnh như RNN, LSTM hay Conv1D nhân quả. "Dealing with spatial variations" sai vì biến thiên theo không gian là thách thức chính của dữ liệu ảnh, nơi mạng tích chập khai thác quan hệ giữa các điểm ảnh lân cận. "Managing high-dimensional features" là khó khăn chung của nhiều loại dữ liệu như văn bản hay gen, không phải điều đặc trưng của chuỗi thời gian, vốn thường chỉ có một hoặc vài biến. "Handling categorical variables" sai vì biến phân loại xử lý bằng one-hot hay Embedding ở mọi loại dữ liệu bảng, không phải thách thức cốt lõi của phân tích theo thời gian.

Đáp án đúng: "It helps identify patterns within a single time series at different lags.". Autocorrelation (tự tương quan) là hệ số tương quan giữa một chuỗi với chính nó khi bị dịch đi k bước; vẽ hàm ACF theo các độ trễ cho thấy chuỗi có xu hướng (tự tương quan giảm chậm), có mùa vụ (đỉnh lặp lại ở độ trễ bằng chu kỳ, ví dụ 12 với dữ liệu tháng) hay gần như nhiễu trắng, từ đó chọn kích thước cửa sổ và mô hình dự báo. "It measures the correlation between different time series." sai vì quan hệ giữa hai chuỗi khác nhau là cross-correlation (tương quan chéo), không phải tự tương quan. "It calculates the average correlation across multiple time series." sai vì tự tương quan tính trên đúng một chuỗi, không lấy trung bình qua nhiều chuỗi. "It assesses the correlation between time series and external factors." sai vì đánh giá ảnh hưởng của yếu tố bên ngoài là việc phân tích biến ngoại sinh hoặc tương quan chéo với biến đó, nằm ngoài định nghĩa tự tương quan.

Đáp án đúng: "The balance between precision and recall". F1 Score là trung bình điều hoà của precision (độ chính xác dự đoán dương) và recall (độ phủ): F1 = 2 × precision × recall / (precision + recall), nên chỉ cao khi cả hai cùng cao; nó dùng khi kết quả dự báo được quy thành nhãn lớp, như dự báo có tăng hay không, còn dự báo giá trị liên tục thì dùng MAE hoặc MSE. "The ratio of true positive predictions to total predicted positives" sai vì đó là định nghĩa của riêng precision, chỉ một thành phần của F1. "The overall accuracy of the model" sai vì accuracy là tỉ lệ dự đoán đúng trên tổng số mẫu, dễ gây hiểu nhầm khi lớp mất cân bằng, và F1 ra đời chính để khắc phục điều đó. "The correlation between predicted and actual values" sai vì hệ số tương quan đo mức cùng biến thiên của hai dãy số liên tục, không dựa trên precision hay recall.

Đáp án đúng: "By using the ReduceLROnPlateau callback". Callback ReduceLROnPlateau theo dõi một chỉ số như val_loss và khi nó không cải thiện sau số epoch bằng patience thì nhân learning rate với factor, ví dụ 0.1, cho tới mức min_lr; đây là cách điều chỉnh tốc độ học trong lúc huấn luyện thông qua callback truyền vào model.fit. Keras còn có callback LearningRateScheduler đặt learning rate theo một hàm của epoch, nhưng nó không nằm trong các lựa chọn. "By using the ModelCheckpoint callback" sai vì callback này lưu mô hình hoặc trọng số, thường kèm save_best_only, không đụng tới learning rate. "By using the EarlyStopping callback" sai vì nó dừng hẳn huấn luyện khi chỉ số ngừng cải thiện chứ không giảm tốc độ học. "Learning rate schedules cannot be implemented with callbacks" sai vì chính các callback vừa nêu cho phép thay đổi learning rate theo lịch hoặc theo tiến độ huấn luyện.

Đáp án đúng: "To optimize the learning rate of the model". Hyperparameter tuning (tinh chỉnh siêu tham số) là tìm các giá trị không được học qua gradient mà phải đặt trước khi huấn luyện, và learning rate (tốc độ học) là siêu tham số tiêu biểu nhất: quá lớn thì loss dao động, quá nhỏ thì hội tụ chậm; khi dự báo chuỗi thời gian bằng mạng nơ-ron, ta hay dùng callback LearningRateScheduler tăng dần learning rate qua các epoch, vẽ loss theo learning rate rồi chọn giá trị mà loss thấp và còn ổn định. "To select the appropriate lag values" liên quan đến kích thước cửa sổ đầu vào, thường được quyết định khi chuẩn bị dữ liệu dạng cửa sổ chứ không phải trọng tâm của bước tối ưu khi huấn luyện mà câu hỏi nhắm tới. "To find the best model architecture" là bài toán thiết kế mô hình, rộng hơn việc chỉnh tham số huấn luyện. "To identify the optimal time period for analysis" là lựa chọn phạm vi dữ liệu theo yêu cầu nghiệp vụ, không phải siêu tham số của mô hình.

Đáp án đúng: "Exponential Smoothing (ETS)". Exponential Smoothing (làm mượt hàm mũ) dự báo giá trị tương lai bằng trung bình có trọng số của các quan sát quá khứ, với trọng số giảm dần theo cấp số nhân khi lùi xa về quá khứ; mô hình ETS (Error, Trend, Seasonality) mở rộng thêm thành phần xu hướng và mùa vụ, là phương pháp dự báo chuỗi thời gian kinh điển. "Principal Component Analysis (PCA)" sai vì PCA là kỹ thuật giảm chiều dữ liệu bằng cách chiếu lên các hướng có phương sai lớn nhất, không sinh dự báo theo thời gian. "Singular Value Decomposition (SVD)" sai vì SVD là phép phân rã ma trận, dùng cho giảm chiều hay hệ khuyến nghị, không phải mô hình dự báo. "K-Means Clustering" sai vì K-Means là thuật toán phân cụm không giám sát, gom điểm giống nhau thành nhóm chứ không dự đoán giá trị tương lai.

Đáp án đúng: "Ability to capture temporal dependencies and patterns". RNN xử lý chuỗi từng bước theo thứ tự thời gian và mang theo trạng thái ẩn tổng hợp những gì đã thấy, nên giá trị dự báo phụ thuộc vào cả diễn biến trước đó chứ không chỉ một điểm riêng lẻ; trong Keras có thể dùng SimpleRNN hoặc LSTM với đầu vào dạng batch, số bước thời gian, số đặc trưng. "Superior performance on image classification tasks" thuộc thế mạnh của CNN, không phải lý do dùng RNN cho chuỗi thời gian. "Faster training compared to traditional machine learning models" sai vì RNN xử lý tuần tự nên thường huấn luyện chậm hơn các mô hình truyền thống. "Robustness to noise in the input data" không phải ưu điểm riêng của RNN; nhiễu vẫn ảnh hưởng mô hình, thường phải làm mượt dữ liệu hoặc dùng hàm mất mát như Huber để giảm tác động.

Đáp án đúng: "Sequential dependence of observations". Dữ liệu chuỗi thời gian được ghi theo thứ tự thời gian và giá trị ở bước t phụ thuộc vào các bước trước nó, nên thứ tự mang thông tin: xáo trộn các quan sát sẽ phá huỷ xu hướng, mùa vụ và tự tương quan; đó là lý do ta tạo cửa sổ trượt từ các bước quá khứ để dự báo bước tiếp theo. "Unstructured format" sai vì chuỗi thời gian thường là các con số có cấu trúc rõ ràng theo mốc thời gian, khác với văn bản hay ảnh. "Lack of temporal ordering" sai vì nó ngược với bản chất, thứ tự thời gian chính là đặc điểm cốt lõi của loại dữ liệu này. "Constant feature values" sai vì giá trị không đổi thì không có gì để phân tích hay dự báo; chuỗi thời gian biến động theo thời gian, kể cả khi các đặc trưng thống kê của nó ổn định.

Đáp án đúng: "Prediction Interval Coverage (PIC)". Độ phủ khoảng dự báo đo tỉ lệ giá trị thực tế rơi vào khoảng dự báo mà mô hình đưa ra ở một mức tin cậy định trước; ví dụ với khoảng 95%, độ phủ thực tế gần 95% nghĩa là khoảng được hiệu chỉnh tốt, còn thấp hơn nhiều thì mô hình tự tin quá mức. "Mean Absolute Error (MAE)" sai vì MAE là trung bình trị tuyệt đối sai số của dự báo điểm, không xét khoảng tin cậy nào. "Confidence Interval Width (CIW)" chỉ đo độ rộng khoảng; khoảng hẹp trông chính xác nhưng có thể bỏ sót giá trị thực, nên độ rộng một mình không cho biết dự báo có nằm đúng trong khoảng hay không. "R-squared (R2)" sai vì R2 đo tỉ lệ phương sai của dữ liệu được mô hình giải thích, cũng là thước đo cho dự báo điểm chứ không cho khoảng.

Đáp án đúng: "To predict future values based on historical data". LSTM (Long Short-Term Memory) là biến thể RNN có cổng quên, cổng vào và cổng ra để giữ thông tin qua nhiều bước, nên ứng dụng chính trong chuỗi thời gian là dự báo: đưa vào một cửa sổ các giá trị quá khứ và để lớp Dense đầu ra dự đoán giá trị kế tiếp. "To perform clustering on time series data" là bài toán không giám sát gom nhóm các chuỗi giống nhau, thường dùng thuật toán phân cụm chứ không phải ứng dụng tiêu biểu của LSTM dự báo. "To identify seasonality patterns in the data" là bước phân tích, thường làm bằng vẽ biểu đồ hay xem tự tương quan; LSTM có thể học ngầm mùa vụ nhưng mục đích dùng nó là dự báo. "To calculate the mean squared error of a model" là phép tính thước đo sai số đơn giản, làm trực tiếp bằng hàm mất mát chứ không cần mạng nơ-ron.

Đáp án đúng: "It involves providing the correct output from the training data as input during training.". Với teacher forcing, ở mỗi bước huấn luyện mạng hồi quy nhận giá trị thật của bước trước lấy từ dữ liệu làm đầu vào thay cho giá trị chính nó vừa dự đoán, nhờ vậy lỗi không bị cộng dồn dọc chuỗi; khi dự báo thật thì không còn giá trị thật nên mô hình phải dùng đầu ra của mình. "It is a way to speed up the convergence of RNNs." chỉ là hệ quả: huấn luyện thường hội tụ nhanh và ổn định hơn, nhưng đó không phải định nghĩa của kỹ thuật. "It is a technique for avoiding overfitting during training." sai vì teacher forcing không chống quá khớp, nó còn có thể gây lệch giữa lúc huấn luyện và lúc dự báo (exposure bias). "It is a regularization technique applied to the hidden states." sai vì điều chuẩn trên trạng thái ẩn là các kỹ thuật như recurrent_dropout của lớp LSTM, không liên quan tới việc chọn đầu vào.

Đáp án đúng: "They can capture information from both past and future contexts.". Lớp Bidirectional trong Keras bọc một RNN như LSTM và chạy hai bản song song, một đọc chuỗi từ đầu tới cuối, một đọc ngược từ cuối về đầu, rồi ghép trạng thái của hai chiều; vì vậy tại mỗi bước, biểu diễn chứa cả thông tin phía trước lẫn phía sau trong cửa sổ đầu vào, giúp nắm mẫu hình tốt hơn. "Bidirectional RNNs are more computationally efficient." sai vì chạy hai chiều làm số tham số và thời gian tính gần gấp đôi. "They are less prone to overfitting." sai vì nhiều tham số hơn nếu có thì còn làm tăng nguy cơ quá khớp; chống quá khớp phải nhờ dropout hay chính quy hoá. "Bidirectional RNNs have a simpler architecture." sai vì kiến trúc hai chiều phức tạp hơn RNN một chiều, gồm hai tầng hồi quy và bước ghép đầu ra.

Đáp án đúng: "It determines the output of the LSTM cell.". Trong LSTM, cổng ra tính o_t = σ(W·[h_(t−1), x_t] + b) với giá trị trong khoảng 0 tới 1, rồi trạng thái ẩn h_t bằng o_t nhân từng phần tử với tanh(c_t); nghĩa là cổng ra chọn phần nào của trạng thái ô nhớ được đưa ra làm đầu ra ở bước hiện tại và truyền sang bước sau, còn với dự báo chuỗi thời gian h_t này đi vào lớp Dense để ra giá trị dự báo. "It controls the flow of information into the memory cell." sai vì kiểm soát luồng thông tin đi vào ô nhớ là việc của cổng vào. "It decides which information to store in the memory cell." sai vì quyết định lưu gì là cổng vào cùng giá trị ứng viên, còn quyết định quên gì là cổng quên. "It regulates the input to the memory cell." sai vì đó cũng là mô tả của cổng vào; cổng ra chỉ tác động ở phía đọc ô nhớ, không làm thay đổi nội dung được ghi vào.