DAT301MChưa đo Cập nhật 2 ngày trước

DAT301m - Phát triển UDTTNT với TensorFlow

DAT301m - Phát triển UDTTNT với TensorFlow là môn 3 tín chỉ bậc cử nhân của Đại học FPT, học sau CPV301 và DPL302m. Môn đưa người học từ chỗ hiểu học sâu trên lý thuyết tới chỗ tự dựng, huấn luyện và kiểm tra được mô hình chạy thật bằng TensorFlow và Keras. Văn bản là ví dụ rõ nhất cho việc dữ liệu phải được chuẩn bị trước khi mạng nơ-ron đọc được: câu chữ được tách thành từ, đánh số theo một bộ từ vựng, đệm hoặc cắt cho cùng độ dài, rồi ánh xạ sang vector nhúng, nơi các từ gần nghĩa nằm gần nhau. Khi thứ tự từ quyết định nghĩa của câu, mô hình cần lớp hồi quy như LSTM để nhớ ngữ cảnh xa, và cũng chính cơ chế đó cho phép sinh văn bản bằng cách dự đoán từ kế tiếp. Nền móng của mọi bài toán vẫn là vòng học cơ bản: khai báo các lớp, chọn hàm mất mát và bộ tối ưu, huấn luyện rồi đo trên dữ liệu mô hình chưa từng thấy, với bài toán nhận diện ảnh làm ví dụ mở đầu. Chuỗi thời gian là loại dữ liệu thứ ba: một chuỗi được tách thành xu hướng, tính mùa vụ và nhiễu, được chia theo mốc thời gian thay vì xáo ngẫu nhiên, và được đo bằng sai số tuyệt đối hoặc bình phương trung bình trước khi giao cho mạng sâu hay mạng hồi quy dự báo. Với ảnh thật, kích thước lớn và đa dạng, mô hình rất dễ học thuộc dữ liệu huấn luyện; tăng cường ảnh, dropout và học chuyển giao từ một mạng đã huấn luyện sẵn là ba cách chống lại hiện tượng quá khớp đó. Cốt lõi của thị giác máy tính là phép tích chập và gộp, giúp mạng tự rút ra đường nét và hình dạng thay vì nhìn từng điểm ảnh rời rạc. Các thuật ngữ người học dùng thường xuyên gồm tensor, lớp Dense, Conv2D, MaxPooling2D, Tokenizer, Embedding, LSTM và cửa sổ trượt. Môn cũng rèn quy trình của một ứng dụng trí tuệ nhân tạo hoàn chỉnh: thu thập, làm sạch và khám phá dữ liệu, xây dựng và đánh giá mô hình, rồi báo cáo kết quả. Học xong, người học đọc được kiến trúc một mô hình Keras và tính được kích thước đầu ra của từng lớp, chọn được cách biểu diễn phù hợp cho ảnh, văn bản và chuỗi thời gian, nhận ra dấu hiệu quá khớp và biết cách xử lý, đồng thời đủ nền để tự triển khai một bài toán học sâu nhỏ từ dữ liệu thô tới kết quả có thể giải thích.

100Câu hỏi
2Bộ đề
4Chủ đề

Câu hỏi của môn

44/100 câuCòn 56
AThe absence of temporal patterns
BThe presence of seasonality in the data
CThe constancy of statistical properties over time
DThe rapid changes in the time series
Lời giải
Đáp án đúng: "The constancy of statistical properties over time". Một chuỗi thời gian dừng (stationary) có các đặc trưng thống kê như trung bình, phương sai và tự tương quan không đổi theo thời gian; chuỗi có xu hướng tăng dần hay mùa vụ là không dừng, và người ta thường lấy sai phân hoặc khử xu hướng để đưa về dạng dừng trước khi mô hình hoá. "The absence of temporal patterns" sai vì chuỗi dừng vẫn có thể có phụ thuộc theo thời gian, chẳng hạn tự tương quan ở các độ trễ ngắn, chỉ là cấu trúc ấy không đổi theo thời điểm. "The presence of seasonality in the data" sai vì mùa vụ làm trung bình thay đổi theo chu kỳ, tức là một dạng không dừng. "The rapid changes in the time series" sai vì tốc độ biến động không quyết định tính dừng; chuỗi dao động nhanh vẫn dừng nếu phân phối của nó giữ nguyên theo thời gian, còn chuỗi đổi chậm nhưng có xu hướng thì không dừng.
Mở trang câu hỏi này →
AA technique to remove unnecessary zeros from a dataset
BAdding extra data to the input to ensure consistent dimensions
CThe process of smoothing out noisy data
DResizing images to a fixed size during preprocessing
Lời giải
Đáp án đúng: "Adding extra data to the input to ensure consistent dimensions". Padding (đệm) là thêm giá trị phụ, thường là 0, vào dữ liệu để các mẫu có kích thước đồng nhất: với văn bản, pad_sequences chèn 0 để mọi chuỗi có cùng maxlen trước khi đưa vào Embedding; với ảnh, padding='same' trong Conv2D đệm viền để đầu ra giữ nguyên kích thước. "A technique to remove unnecessary zeros from a dataset" sai vì padding thêm vào chứ không bỏ đi số 0; thao tác ngược lại giống truncating hay loại phần đệm. "The process of smoothing out noisy data" sai vì làm mượt dữ liệu nhiễu là lọc hoặc trung bình trượt, không thay đổi kích thước. "Resizing images to a fixed size during preprocessing" sai vì resize co giãn nội dung ảnh bằng nội suy (ví dụ target_size trong flow_from_directory), còn padding giữ nguyên nội dung và chỉ đắp thêm giá trị ở rìa.
Mở trang câu hỏi này →
AScatter plots
BBar charts
CLine charts
DPie charts
Lời giải
Đáp án đúng: "Line charts". Chuỗi thời gian là các giá trị được sắp theo thứ tự thời gian, nên biểu đồ đường với trục hoành là thời gian và trục tung là giá trị nối các điểm liên tiếp lại, giúp nhìn rõ trend (xu hướng), seasonality (tính mùa vụ) và noise (nhiễu); trong khoá học TensorFlow, hàm vẽ chuỗi thường dùng plt.plot cho đúng mục đích này. "Scatter plots" chỉ đặt các điểm rời rạc mà không nối chúng, hợp để xem quan hệ giữa hai biến, nhưng làm khó theo dõi diễn biến liên tục theo thời gian. "Bar charts" hợp để so sánh một số ít nhóm hoặc giai đoạn, còn với hàng nghìn bước thời gian thì các cột dày đặc che mất hình dạng chuỗi. "Pie charts" thể hiện tỉ trọng các phần trong một tổng tại một thời điểm, hoàn toàn không thể hiện thứ tự thời gian.
Mở trang câu hỏi này →
Atf.keras.Sequential.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
Btf.keras.compile(model, optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
Ctf.keras.Sequential().compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
Dtf.keras.model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
Lời giải
Đáp án đúng: "tf.keras.Sequential().compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])". Phương thức compile phải được gọi trên một đối tượng mô hình; tf.keras.Sequential() tạo ra đối tượng đó, và trong thực tế ta gán nó vào biến model, thêm các lớp LSTM cùng lớp Dense softmax rồi gọi model.compile với optimizer adam, loss categorical_crossentropy cho nhãn one-hot và metrics accuracy. "tf.keras.Sequential.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])" sai vì gọi compile trên chính lớp Sequential mà không tạo đối tượng, Python báo thiếu tham số self. "tf.keras.compile(model, optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])" sai vì Keras không có hàm compile cấp mô-đun nhận mô hình làm đối số. "tf.keras.model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])" sai vì không tồn tại mô-đun tf.keras.model viết thường; lớp thật là tf.keras.Model và compile vẫn phải gọi trên một thể hiện của nó.
Mở trang câu hỏi này →
ANumPy
BMatplotlib
CScikit-learn
DTensorFlow
Lời giải
Đáp án đúng: "Matplotlib". Sau khi gọi model.fit, đối tượng History trả về chứa history.history['accuracy'] và history.history['val_accuracy'] theo từng epoch; thư viện Matplotlib, qua matplotlib.pyplot với plt.plot, plt.legend, plt.show, là công cụ vẽ phổ biến nhất để biểu diễn hai đường này và nhận ra overfitting (quá khớp) khi chúng tách xa nhau. "NumPy" sai vì NumPy là thư viện tính toán mảng số, giữ và xử lý dữ liệu nhưng không có chức năng vẽ đồ thị. "Scikit-learn" sai vì Scikit-learn cung cấp thuật toán học máy và hàm đánh giá như accuracy_score, không phải công cụ chính để vẽ đường học. "TensorFlow" sai vì TensorFlow sinh ra số liệu huấn luyện; việc trực quan hoá trong TensorFlow đi qua TensorBoard, còn vẽ đồ thị trong notebook thì vẫn dùng Matplotlib.
Mở trang câu hỏi này →
ABy making the training process slower
BBy introducing more noise into the model
CBy improving the model's generalization to new data
DIncreasing data size has no effect on overfitting
Lời giải
Đáp án đúng: "By improving the model's generalization to new data". Overfitting (quá khớp) xảy ra khi mô hình ghi nhớ các chi tiết và nhiễu riêng của tập huấn luyện nhỏ; khi có nhiều dữ liệu hơn, mô hình gặp nhiều biến thể của cùng một khái niệm nên khó học thuộc từng mẫu và buộc phải học các quy luật chung, nhờ đó generalization (khả năng tổng quát hoá) trên dữ liệu mới tốt hơn, và data augmentation là cách tạo thêm dữ liệu khi không thu thập được. "By making the training process slower" chỉ là hệ quả phụ về chi phí tính toán, tốc độ huấn luyện không phải cơ chế chống quá khớp. "By introducing more noise into the model" không phải mục đích của việc thêm dữ liệu; dữ liệu tốt hơn giúp làm loãng nhiễu chứ không phải đưa thêm nhiễu vào. "Increasing data size has no effect on overfitting" sai vì thêm dữ liệu đại diện là một trong những cách giảm quá khớp hiệu quả nhất.
Mở trang câu hỏi này →
AMean Absolute Deviation (MAD)
BMean Squared Error (MSE)
CAutocorrelation Function (ACF)
DMoving Average (MA)
Lời giải
Đáp án đúng: "Moving Average (MA)". Phân rã cổ điển một chuỗi thời gian dùng trung bình trượt có tâm với cửa sổ bằng độ dài chu kỳ mùa để làm trơn và ước lượng thành phần xu hướng; lấy chuỗi gốc trừ (hoặc chia) xu hướng rồi lấy trung bình theo từng vị trí trong chu kỳ sẽ ra thành phần mùa vụ, phần còn lại là residual (phần dư). "Mean Absolute Deviation (MAD)" sai vì đây là thước đo độ phân tán, trung bình khoảng cách tuyệt đối tới giá trị trung tâm, không tách được thành phần nào. "Mean Squared Error (MSE)" sai vì đó là chỉ số đánh giá sai số dự báo hoặc làm hàm mất mát khi huấn luyện, không dùng để phân rã. "Autocorrelation Function (ACF)" hữu ích để phát hiện mùa vụ và chọn độ dài chu kỳ qua các đỉnh ở những độ trễ nhất định, nhưng nó chỉ chẩn đoán cấu trúc chứ không trực tiếp tách chuỗi thành xu hướng, mùa vụ và phần dư.
Mở trang câu hỏi này →
ATo increase model complexity
BTo speed up training
CTo represent categorical labels as numerical vectors
DOne-hot encoding is not applicable for multi-class classification
Lời giải
Đáp án đúng: "To represent categorical labels as numerical vectors". Mạng nơ-ron chỉ làm việc với số, nên nhãn lớp dạng phân loại được mã hoá one-hot thành vectơ dài bằng số lớp, có 1 ở vị trí lớp đúng và 0 ở chỗ khác; vectơ này khớp trực tiếp với đầu ra softmax và hàm mất mát categorical_crossentropy, đồng thời không áp đặt thứ tự giả giữa các lớp như khi đánh số 0, 1, 2. "To increase model complexity" sai vì mã hoá nhãn không thêm lớp hay tham số nào vào mô hình. "To speed up training" sai vì mục đích của one-hot là biểu diễn đúng nhãn, không phải tăng tốc; thậm chí dùng nhãn số nguyên với sparse_categorical_crossentropy còn tiết kiệm bộ nhớ hơn. "One-hot encoding is not applicable for multi-class classification" sai vì phân loại nhiều lớp chính là trường hợp điển hình dùng one-hot.
Mở trang câu hỏi này →
ADealing with spatial variations
BManaging high-dimensional features
CAccounting for temporal dependencies
DHandling categorical variables
Lời giải
Đáp án đúng: "Accounting for temporal dependencies". Trong chuỗi thời gian, mỗi quan sát phụ thuộc vào các giá trị trước nó, nên không thể coi các mẫu là độc lập như dữ liệu bảng thông thường; phải giữ đúng thứ tự khi chia tập huấn luyện và kiểm tra, tạo cửa sổ trượt các bước quá khứ làm đặc trưng, và dùng mô hình nhớ được ngữ cảnh như RNN, LSTM hay Conv1D nhân quả. "Dealing with spatial variations" sai vì biến thiên theo không gian là thách thức chính của dữ liệu ảnh, nơi mạng tích chập khai thác quan hệ giữa các điểm ảnh lân cận. "Managing high-dimensional features" là khó khăn chung của nhiều loại dữ liệu như văn bản hay gen, không phải điều đặc trưng của chuỗi thời gian, vốn thường chỉ có một hoặc vài biến. "Handling categorical variables" sai vì biến phân loại xử lý bằng one-hot hay Embedding ở mọi loại dữ liệu bảng, không phải thách thức cốt lõi của phân tích theo thời gian.
Mở trang câu hỏi này →
AThe process of getting very close to the correct answer.
BA dramatic increase in loss.
CA programming API for AI.
DAn analysis that corresponds too closely or exactly to a particular set of data.
Lời giải
Đáp án đúng: "The process of getting very close to the correct answer.". Convergence (hội tụ) mô tả quá trình huấn luyện mà sau nhiều lần cập nhật trọng số bằng gradient descent, giá trị loss giảm dần và ổn định quanh mức nhỏ nhất, tức dự đoán của mô hình tiến rất gần tới đáp án đúng; nhìn trên đồ thị, đường loss đi xuống rồi đi ngang. "A dramatic increase in loss." sai vì loss tăng vọt là dấu hiệu phân kỳ (divergence), thường do learning rate quá lớn, ngược với hội tụ. "A programming API for AI." sai vì hội tụ là một khái niệm của quá trình tối ưu, không phải một thư viện hay giao diện lập trình như Keras. "An analysis that corresponds too closely or exactly to a particular set of data." sai vì đó là định nghĩa của overfitting (quá khớp), khi mô hình bám quá sát dữ liệu huấn luyện và kém tổng quát.
Mở trang câu hỏi này →
ARandom rotation
BImage compression
CGrayscale conversion
DPixel normalization
Lời giải
Đáp án đúng: "Random rotation". Data augmentation (tăng cường dữ liệu) tạo các biến thể ngẫu nhiên của ảnh huấn luyện ngay trong lúc huấn luyện để mô hình thấy vật thể ở nhiều góc nhìn và ít quá khớp hơn; xoay ngẫu nhiên là phép phổ biến nhất, được đặt bằng rotation_range trong ImageDataGenerator hoặc lớp RandomRotation trong Keras. "Image compression" làm giảm dung lượng tệp và có thể làm mất chi tiết, không phải phép tạo biến thể hình học dùng để tăng cường. "Grayscale conversion" là bước tiền xử lý cố định đổi ảnh màu sang một kênh, áp như nhau cho mọi ảnh nên không tạo thêm sự đa dạng. "Pixel normalization" như chia cho 255 là chuẩn hoá thang giá trị để huấn luyện ổn định, cũng áp giống nhau cho mọi ảnh chứ không sinh ảnh mới.
Mở trang câu hỏi này →
AIt defines the out-of-vocabulary token.
BIt determines the sequence length.
CIt controls the learning rate during training.
DIt limits the vocabulary size to a specified number of words.
Lời giải

Đáp án đúng: "It limits the vocabulary size to a specified number of words.". Khi tạo Tokenizer(num_words=N), lớp này vẫn đếm mọi từ trong fit_on_texts nhưng lúc gọi texts_to_sequences chỉ giữ lại các từ có tần suất cao nhất, cụ thể là những từ có chỉ số nhỏ hơn N, còn từ hiếm bị bỏ đi hoặc thay bằng oov_token nếu có khai báo; nhờ vậy từ vựng gọn hơn và lớp Embedding có input_dim nhỏ hơn. "It defines the out-of-vocabulary token." sai vì token cho từ ngoài từ vựng được đặt bằng tham số riêng là oov_token, ví dụ oov_token='<OOV> '. "It determines the sequence length." sai vì độ dài chuỗi được thống nhất bằng tham số maxlen của pad_sequences, không phải ở Tokenizer. "It controls the learning rate during training." sai vì learning rate (tốc độ học) là tham số của optimizer, Tokenizer chỉ là bước tiền xử lý văn bản và không tham gia huấn luyện.

Mở trang câu hỏi này →
AA scalar value
BA matrix
CAnother vector
DA higher-dimensional tensor
Lời giải
Đáp án đúng: "Another vector". Phép cộng hai vectơ cùng số chiều trong TensorFlow (tf.add hoặc toán tử +) là phép toán theo từng phần tử (element-wise): phần tử thứ i của kết quả bằng tổng hai phần tử thứ i, nên đầu ra có cùng shape với đầu vào, ví dụ [1, 2, 3] + [4, 5, 6] = [5, 7, 9], vẫn là một tensor hạng 1. "A scalar value" sai vì ra một số vô hướng là kết quả của tích vô hướng (tf.tensordot hoặc tf.reduce_sum của tích), không phải phép cộng. "A matrix" sai vì muốn ra ma trận phải dùng tích ngoài (outer product) hoặc broadcasting giữa vectơ hàng và vectơ cột có shape khác nhau, còn ở đây hai vectơ cùng shape. "A higher-dimensional tensor" sai vì phép cộng phần tử không làm tăng hạng tensor; hạng đầu ra bằng hạng đầu vào.
Mở trang câu hỏi này →
AIt serves as the output layer of the new model
BIt replaces the need for custom layers in the new model
CIt initializes the weights of the entire new model
DIt acts as a feature extractor for the new model
Lời giải
Đáp án đúng: "It acts as a feature extractor for the new model". Trong transfer learning (học chuyển giao), ta nạp một mạng đã huấn luyện trên tập lớn như ImageNet, thường với include_top=False để bỏ phần phân loại cũ, đặt trainable=False để giữ nguyên trọng số, rồi để các lớp tích chập của nó biến ảnh thành bản đồ đặc trưng; các lớp mới thêm phía sau như GlobalAveragePooling2D và Dense sẽ học phân loại cho bài toán mới từ các đặc trưng đó. "It serves as the output layer of the new model" sai vì mô hình nền nằm ở phần đầu, còn lớp đầu ra là lớp Dense mới thêm vào. "It replaces the need for custom layers in the new model" sai vì vẫn phải thêm lớp tuỳ biến để khớp số lớp của bài toán mới. "It initializes the weights of the entire new model" sai vì mô hình nền chỉ cung cấp trọng số cho phần của nó, các lớp mới vẫn được khởi tạo ngẫu nhiên và học từ đầu.
Mở trang câu hỏi này →
AIt measures the correlation between different time series.
BIt helps identify patterns within a single time series at different lags.
CIt calculates the average correlation across multiple time series.
DIt assesses the correlation between time series and external factors.
Lời giải
Đáp án đúng: "It helps identify patterns within a single time series at different lags.". Autocorrelation (tự tương quan) là hệ số tương quan giữa một chuỗi với chính nó khi bị dịch đi k bước; vẽ hàm ACF theo các độ trễ cho thấy chuỗi có xu hướng (tự tương quan giảm chậm), có mùa vụ (đỉnh lặp lại ở độ trễ bằng chu kỳ, ví dụ 12 với dữ liệu tháng) hay gần như nhiễu trắng, từ đó chọn kích thước cửa sổ và mô hình dự báo. "It measures the correlation between different time series." sai vì quan hệ giữa hai chuỗi khác nhau là cross-correlation (tương quan chéo), không phải tự tương quan. "It calculates the average correlation across multiple time series." sai vì tự tương quan tính trên đúng một chuỗi, không lấy trung bình qua nhiều chuỗi. "It assesses the correlation between time series and external factors." sai vì đánh giá ảnh hưởng của yếu tố bên ngoài là việc phân tích biến ngoại sinh hoặc tương quan chéo với biến đó, nằm ngoài định nghĩa tự tương quan.
Mở trang câu hỏi này →
AGenerating synthetic images for training
BResizing images to a fixed dimension
CPreprocessing and augmenting image data for model training
DLoading images from external URLs
Lời giải
Đáp án đúng: "Preprocessing and augmenting image data for model training". ImageDataGenerator của Keras vừa tiền xử lý (như rescale=1./255 để chuẩn hoá điểm ảnh) vừa tăng cường dữ liệu theo thời gian thực bằng các phép biến đổi ngẫu nhiên như rotation_range, zoom_range, horizontal_flip, rồi đưa ảnh theo batch vào model.fit qua flow_from_directory. "Generating synthetic images for training" sai vì công cụ này chỉ biến đổi ảnh có sẵn, không sinh ảnh mới từ đầu như mô hình sinh (GAN). "Resizing images to a fixed dimension" chỉ là một phần nhỏ: flow_from_directory có tham số target_size để đổi kích thước, nhưng đó không phải mục đích chính của cả công cụ. "Loading images from external URLs" sai vì ImageDataGenerator đọc ảnh từ mảng hoặc thư mục trên đĩa; tải tệp từ địa chỉ web là việc của tf.keras.utils.get_file.
Mở trang câu hỏi này →
AConvolutional Neural Network (CNN)
BRecurrent Neural Network (RNN)
CSupport Vector Machine (SVM)
DDecision Tree
Lời giải
Đáp án đúng: "Recurrent Neural Network (RNN)". Dự đoán từ tiếp theo đòi hỏi mô hình đọc một chuỗi từ theo thứ tự và giữ lại ngữ cảnh đã đọc; RNN làm việc đó nhờ trạng thái ẩn được truyền từ bước này sang bước sau, và các biến thể LSTM, GRU giữ ngữ cảnh xa tốt hơn, nên trong Keras mô hình sinh văn bản thường gồm Embedding, Bidirectional LSTM rồi Dense softmax trên toàn bộ từ vựng. "Convolutional Neural Network (CNN)" mạnh ở việc trích mẫu cục bộ trong ảnh và có thể dùng Conv1D cho văn bản, nhưng không có trạng thái nhớ tuần tự nên không phải lựa chọn phổ biến cho bài toán này. "Support Vector Machine (SVM)" là mô hình học máy truyền thống cho phân loại, không xử lý chuỗi có độ dài thay đổi theo thứ tự. "Decision Tree" cũng là mô hình truyền thống, chia dữ liệu theo ngưỡng đặc trưng, không phải kiến trúc học sâu và không mô hình hoá thứ tự từ.
Mở trang câu hỏi này →
AIt resizes images to a specified shape.
BIt normalizes pixel values to a specified range.
CIt rotates images randomly during training.
DIt converts images to grayscale.
Lời giải
Đáp án đúng: "It normalizes pixel values to a specified range.". Tham số rescale là hệ số được nhân vào mọi giá trị điểm ảnh trước các biến đổi khác; cách dùng điển hình là rescale=1./255 để đưa điểm ảnh từ khoảng 0 tới 255 về khoảng 0 tới 1, giúp đầu vào có thang nhỏ và ổn định để gradient descent hội tụ tốt hơn. "It resizes images to a specified shape." sai vì việc đổi kích thước ảnh do tham số target_size của flow_from_directory đảm nhận, rescale không đổi số điểm ảnh. "It rotates images randomly during training." sai vì xoay ngẫu nhiên được điều khiển bằng rotation_range, một tham số tăng cường dữ liệu khác. "It converts images to grayscale." sai vì chuyển sang ảnh xám được chọn bằng color_mode='grayscale' khi đọc ảnh; nhân với hệ số không làm giảm số kênh màu.
Mở trang câu hỏi này →
ARegularization has no impact on overfitting.
BLack of regularization allows the model to fit the training data too closely.
CRegularization leads to underfitting rather than overfitting.
DLack of regularization increases the learning rate.
Lời giải
Đáp án đúng: "Lack of regularization allows the model to fit the training data too closely.". Regularization (chính quy hoá) như L1/L2 (kernel_regularizer) hay Dropout thêm ràng buộc hoặc phạt vào hàm mất mát để trọng số không phình to, giữ mô hình đơn giản; thiếu nó, một mô hình nhiều tham số tự do uốn theo cả nhiễu của tập huấn luyện, dẫn tới overfitting (quá khớp). "Regularization has no impact on overfitting." sai vì chống quá khớp chính là mục đích của chính quy hoá. "Regularization leads to underfitting rather than overfitting." chỉ đúng khi hệ số phạt đặt quá lớn làm mô hình quá đơn giản; câu hỏi nói về việc thiếu chính quy hoá, nên phát biểu này không trả lời cơ chế được hỏi. "Lack of regularization increases the learning rate." sai vì learning rate (tốc độ học) là siêu tham số của bộ tối ưu, độc lập với việc có chính quy hoá hay không.
Mở trang câu hỏi này →
AIf the training accuracy is high but the validation accuracy is low.
BIf both training and validation accuracies are high.
CIf the model has a low learning rate.
DIf the number of epochs is too small.
Lời giải
Đáp án đúng: "If the training accuracy is high but the validation accuracy is low.". Overfitting (quá khớp) nghĩa là mô hình học thuộc tập huấn luyện, kể cả nhiễu, nên làm rất tốt trên dữ liệu đã thấy nhưng kém trên dữ liệu mới; dấu hiệu trên số đo là khoảng cách lớn giữa độ chính xác huấn luyện cao và độ chính xác kiểm định thấp hơn hẳn. "If both training and validation accuracies are high." là trạng thái mong muốn, cho thấy mô hình tổng quát hoá tốt chứ không phải quá khớp. "If the model has a low learning rate." chỉ ảnh hưởng tốc độ và độ ổn định của hội tụ, bản thân nó không phải số đo hiệu năng cho biết có quá khớp hay không. "If the number of epochs is too small." thường dẫn đến underfitting (chưa khớp), tức mô hình chưa học đủ, ngược với quá khớp vốn hay xuất hiện khi huấn luyện quá nhiều epoch.
Mở trang câu hỏi này →