What tools do researchers have to evaluate the fairness of existing black box models?

Đáp án đúng: "Change inputs, evaluate outputs". Với mô hình hộp đen (black box) đã triển khai, nhà nghiên cứu bên ngoài thường không xem được mã nguồn hay dữ liệu huấn luyện; cách duy nhất là kiểm toán từ bên ngoài: đưa vào các đầu vào đã chỉnh có chủ đích, như giữ nguyên hồ sơ và chỉ đổi giới tính hay tên gợi chủng tộc, rồi so sánh đầu ra. Nếu kết quả thay đổi theo thuộc tính nhạy cảm, mô hình có dấu hiệu bất công. "Change training data, evaluate outputs" đòi hỏi quyền can thiệp vào dữ liệu huấn luyện và huấn luyện lại mô hình, điều người đánh giá một hộp đen có sẵn thường không làm được. "Change inputs, evaluate training data" sai vì đổi đầu vào không làm thay đổi dữ liệu huấn luyện, và dữ liệu đó thường không được tiếp cận. "Evaluate inputs, evaluate data" chỉ quan sát dữ liệu mà không thử nghiệm và không xem hành vi của mô hình, nên không đo được mô hình có đối xử công bằng hay không.