Which of the following is not an example of a variant/application of gradient decent that we have covered?

Đáp án đúng: "regularized gradient decent". Gradient descent (hạ gradient) cập nhật tham số ngược hướng gradient của hàm mất mát, và các biến thể được phân biệt theo lượng dữ liệu dùng cho mỗi lần cập nhật; regularization (chính quy hoá) là việc thêm số hạng phạt vào hàm mất mát, không phải một biến thể của thuật toán tối ưu, nên không nằm trong các biến thể đã học. "batch gradient descent" là biến thể đã học: tính gradient trên toàn bộ tập huấn luyện trước mỗi bước cập nhật. "mini-batch gradient descent" cũng đã học: mỗi bước dùng một lô nhỏ mẫu, cân bằng giữa tốc độ và độ ổn định. "stochastic gradient descent" đã học: cập nhật sau từng mẫu đơn lẻ, nhanh nhưng dao động. "gradient descent applied to regression" là ứng dụng đã học: dùng thuật toán để tìm hệ số hồi quy tối thiểu hoá sai số bình phương. Vì câu hỏi tìm cái không thuộc nhóm, đáp án là biến thể có chính quy hoá.