Which tool can be used to verify the robustness of machine learning models?

Đáp án đúng: "Adversarial Robustness Toolbox". Adversarial Robustness Toolbox (ART) là thư viện mã nguồn mở do IBM khởi xướng, chuyên đánh giá và tăng độ bền vững của mô hình học máy trước tấn công đối kháng (adversarial attack), tức các đầu vào bị chỉnh rất nhỏ để đánh lừa mô hình; nó cung cấp sẵn các phép tấn công, phòng thủ và thước đo độ bền. Phương án "TensorFlow" là framework để xây dựng và huấn luyện mô hình, không phải công cụ chuyên kiểm tra độ bền, dù ART có thể làm việc với mô hình TensorFlow. Phương án "Scikit-learn" là thư viện học máy cổ điển cho phân loại, hồi quy, phân cụm, không có chức năng đánh giá tấn công đối kháng. Phương án "Keras" là API bậc cao để định nghĩa mạng nơ-ron, mục đích là xây mô hình chứ không kiểm chứng độ bền của mô hình.