Which of the following defines the AI black box problem?

Đáp án đúng: "The challenge of understanding the inner workings of opaque systems". Vấn đề hộp đen (black box) của AI là việc ta thấy đầu vào và đầu ra nhưng không hiểu cơ chế bên trong biến cái này thành cái kia, thường gặp ở mạng nơ-ron sâu; nó cản trở trách nhiệm giải trình vì không giải thích được vì sao hệ thống từ chối một khoản vay hay đưa ra một chẩn đoán, và là động lực cho hướng explainable AI (XAI, AI giải thích được). "Not being able to know how something crashed or failed" sai vì đó gần với hộp đen máy bay, thứ ghi lại dữ liệu để điều tra sau tai nạn; vấn đề hộp đen của AI tồn tại cả khi hệ thống chạy bình thường. "Machine intelligence making something illusory, like pulling a rabbit from a hat" sai vì đó chỉ là ẩn dụ ảo thuật, không phải định nghĩa. "A dangerous machine intelligence put in a digital prison" sai vì đó là ý tưởng AI box, nhốt AI nguy hiểm để kiểm soát, thuộc tranh luận về an toàn siêu trí tuệ chứ không nói về tính mờ đục.