Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập cuối kỳ số 4

Đáp án đúng gồm hai ý: "Discovering new information via inference" và "Comparing multiple data points or sets". Cross-correlation of data (đối chiếu chéo dữ liệu) là việc đặt nhiều điểm dữ liệu hoặc nhiều tập dữ liệu cạnh nhau để tìm mối liên hệ, từ đó suy luận ra thông tin mới mà không tập nào riêng lẻ nói ra, ví dụ ghép lịch sử mua hàng với vị trí để đoán tình trạng sức khoẻ; chính khả năng suy luận này làm nó trở thành rủi ro quyền riêng tư lớn. "Analysing an individual's emotional stimulus and response patterns" là phân tích cảm xúc (affective computing), một kỹ thuật cụ thể trên dữ liệu hành vi của một người, không phải định nghĩa của đối chiếu chéo dữ liệu. "Comparing people of different demographic groups" là so sánh giữa các nhóm nhân khẩu học, việc thường làm khi kiểm tra công bằng; nó so người với người chứ không mô tả quá trình đối chiếu các tập dữ liệu để rút ra thông tin mới.

Đáp án đúng: "Concrete examples that show how the policies work in practice.". Để biến chính sách đạo đức nội bộ và bên ngoài thành quy trình chạy được (operationalize), người thực hiện cần thấy chính sách áp vào tình huống cụ thể ra sao: ví dụ thực tế giúp nhân viên nhận ra lúc nào phải kích hoạt quy trình, phải làm bước nào, và giúp đối tác bên ngoài hiểu cam kết của tổ chức. Phương án "solely responsible for the implementation of said procedures" sai vì dồn hết cho một người phụ trách làm mất trách nhiệm chung; người dẫn dắt về đạo đức rất hữu ích nhưng không thể là người duy nhất thực thi. Phương án "presents the various scenarios using technical jargon" sai vì thuật ngữ kỹ thuật khiến phần lớn người đọc không hiểu, đi ngược mục tiêu đưa chính sách vào thực hành. Phương án "in the annual report of the organization" sai vì báo cáo thường niên là kênh công bố định kỳ cho cổ đông, mô tả ở đó không hướng dẫn được hành động hằng ngày.

Đáp án đúng: "Biases are learned from our families, our social groups, and the media.". Thiên kiến (bias) là khuynh hướng nghiêng về hay chống lại một người, một nhóm hay một ý tưởng, thường không có cơ sở công bằng; nó được hình thành dần qua quá trình xã hội hoá, khi ta tiếp nhận thái độ của gia đình, chuẩn mực của nhóm xã hội mình thuộc về và hình ảnh khuôn mẫu lặp đi lặp lại trên truyền thông. Vì học được nên thiên kiến cũng có thể được nhận diện và giảm bớt, và chính thiên kiến của con người lại đi vào dữ liệu huấn luyện của hệ thống AI. "Bias is caused by the media." chỉ nêu một nguồn duy nhất, bỏ qua vai trò của gia đình và nhóm xã hội. "Bias is biological, we are born with it." sai vì tuy con người có khuynh hướng phân loại tự nhiên, nội dung thiên kiến cụ thể nhắm vào ai là do học từ môi trường. "Biases are caused by the opinions of our families." cũng chỉ nêu một nguồn, trong khi thiên kiến hình thành từ nhiều tác nhân xã hội cùng lúc.

Đáp án đúng: "early and often". Data minimization (tối thiểu hoá dữ liệu) là nguyên tắc chỉ thu thập và giữ lại dữ liệu thật sự cần cho mục đích đã nêu; xoá dữ liệu không dùng đến sớm và thường xuyên giúp thu nhỏ bề mặt tấn công, giảm hậu quả nếu bị rò rỉ và tôn trọng quyền riêng tư của chủ thể dữ liệu, như GDPR cũng yêu cầu giới hạn thời gian lưu trữ. "before threat modeling" sai vì threat modeling (mô hình hoá mối đe doạ) chỉ là một bước trong vòng đời, việc xoá không gắn với một mốc đơn lẻ mà phải lặp lại liên tục. "after fairness preparations" sai vì không có lý do chờ khâu chuẩn bị công bằng mới xoá, giữ dữ liệu thừa lâu hơn chỉ tăng rủi ro. "before modeling" cũng chỉ là một thời điểm duy nhất, trong khi dữ liệu thừa phát sinh suốt quá trình vận hành.

Đáp án đúng: "FAIR". FAIR là bộ nguyên tắc cho dữ liệu khoa học và dữ liệu mở: Findable (tìm thấy được), Accessible (truy cập được), Interoperable (liên thông được) và Reusable (tái sử dụng được); dữ liệu đạt bốn tiêu chí này có metadata rõ, định danh bền vững, định dạng chuẩn và giấy phép minh bạch nên người khác dễ khai thác lại, đúng mục tiêu dữ liệu mở được dùng rộng rãi. "ISO 27017" là bộ hướng dẫn kiểm soát an toàn thông tin cho dịch vụ điện toán đám mây, nhằm bảo vệ chứ không nhằm mở dữ liệu. "ISO 27001" là tiêu chuẩn hệ thống quản lý an toàn thông tin của tổ chức, cũng thuộc mảng bảo mật. "FATE" là viết tắt của Fairness, Accountability, Transparency và Ethics, các giá trị đạo đức cho hệ thống AI, không phải nguyên tắc để xuất bản dữ liệu mở.

Đáp án đúng: "There won't be enough data to reflect each subgroup". Khi kết hợp nhiều thuộc tính được bảo vệ như giới tính, chủng tộc, tuổi, vùng miền, số nhóm con tăng theo cấp số nhân, và mỗi nhóm giao thoa càng nhỏ thì càng ít mẫu; với vài chục bản ghi, ta không thể ước lượng tỉ lệ lỗi hay mức công bằng một cách tin cậy, nên không thể kiểm và bảo vệ cho mọi nhóm. "Accuracy will be lowered beyond a reasonable rate" không phải câu trả lời tốt nhất: thêm nhiều ràng buộc công bằng đúng là có thể làm giảm độ chính xác, nhưng gốc rễ khiến việc bảo vệ mọi nhóm bất khả thi là thiếu dữ liệu. "Fairness scores won't be high enough to be reasonable" sai vì vấn đề không nằm ở điểm công bằng thấp mà ở chỗ ta không đo nổi điểm đó cho những nhóm quá nhỏ. "Individuals do not need protection from predictive models" sai vì đi ngược nguyên tắc nền tảng của đạo đức AI: cá nhân vẫn có thể bị thiệt hại bởi quyết định tự động và cần được bảo vệ.

Đáp án đúng gồm hai ý: "Being honest and up front" và "Presenting a face of the organization". Khi phát ngôn trên mạng xã hội, thông tin lan nhanh và bị soi kỹ, nên tổ chức cần trung thực và nói thẳng ngay từ đầu, thừa nhận vấn đề thay vì né tránh, vì mọi sự che giấu sớm muộn bị phát hiện và làm mất lòng tin. Có một gương mặt đại diện cho tổ chức, như người phát ngôn hay lãnh đạo đứng ra nói, giúp thông điệp mang tính con người, nhất quán và thể hiện trách nhiệm giải trình rõ ràng. "Communicating only as needed" là cách tiếp cận thụ động; trên mạng xã hội, im lặng dễ bị hiểu là che đậy, và khoảng trống thông tin nhanh chóng bị tin đồn lấp đầy. "Focusing on positive feedback" nghĩa là chỉ chú ý tới phản hồi tích cực, bỏ qua lời chỉ trích chính đáng; điều đó vừa thiếu minh bạch vừa khiến tổ chức bỏ lỡ cơ hội sửa sai và lắng nghe các bên liên quan.

Đáp án đúng: "To make operational improvements". Sau một khủng hoảng đạo đức, tổ chức thu thập phản hồi từ nhân viên, khách hàng và các bên liên quan để hiểu điều gì đã sai trong quy trình, chính sách hay sản phẩm, rồi sửa chính những chỗ đó để sự cố không lặp lại; đây là vòng học hỏi sau sự cố (lessons learned). "To demonstrate compliance" sai vì tuân thủ là chuẩn tối thiểu, lấy phản hồi chỉ để chứng minh tuân thủ biến nó thành thủ tục hình thức. "To appeases concerned stakeholders" chỉ nhắm xoa dịu cảm xúc, nếu không kèm thay đổi thật thì dễ thành ethics washing. "To motivate internal personnel" có thể là tác dụng phụ khi nhân viên thấy ý kiến được tiếp nhận, nhưng không phải mục đích chính của việc thu phản hồi về khủng hoảng.

Đáp án đúng gồm hai ý: "Consider bias a spectrum." và "Leverage customer input to reduce bias.". Inclusive design (thiết kế bao trùm) trong dự án AI coi thiên lệch không phải chuyện có hoặc không mà là một dải mức độ, nên đội ngũ phải liên tục đo và giảm dần thay vì tuyên bố hệ thống đã hết thiên lệch; đồng thời mời chính người dùng, nhất là nhóm dễ bị bỏ quên, góp ý để phát hiện những thiên lệch mà người thiết kế không tự thấy. "Solve for many, extend to one." đảo ngược nguyên tắc gốc của thiết kế bao trùm là giải cho một nhóm bị loại trừ rồi mở rộng cho nhiều người; giải cho số đông trước chính là cách bỏ sót người ở rìa. "Keep machines and humans separate." đi ngược thực hành human-in-the-loop (con người trong vòng lặp), vốn đòi con người giám sát, bổ sung cho máy để bắt lỗi và thiên lệch.

Đáp án đúng: "Children are more susceptible to manipulation and therefore need extra protective measures.". Đồ chơi thông minh có micro, camera, kết nối mạng và trò chuyện trực tiếp với trẻ, trong khi trẻ em chưa đủ khả năng nhận ra ý đồ thuyết phục, quảng cáo hay thu thập dữ liệu, dễ tin và dễ gắn bó cảm xúc với đồ chơi, nên dễ bị thao túng hơn người lớn; vì thế cần thêm biện pháp bảo vệ, như luật COPPA của Mỹ đòi hỏi sự đồng ý của cha mẹ trước khi thu thập dữ liệu của trẻ dưới 13 tuổi. Phương án "in the privacy of homes rather than in public settings" sai vì loa thông minh hay trợ lý ảo cũng hoạt động trong nhà, nên đó không phải điểm riêng của đồ chơi. Phương án "store personal data on the device, which can be stolen" sai vì nguy cơ bị đánh cắp dữ liệu có ở mọi thiết bị IoT, không làm đồ chơi khác biệt. Phương án "difficult to obtain informed consent" có phần đúng vì trẻ không tự đưa ra sự đồng ý có hiểu biết được, nhưng cha mẹ có thể đồng ý thay; lý do gốc khiến mối lo nặng hơn vẫn là sự dễ tổn thương của trẻ.

Đáp án đúng: "required to fulfill a specific purpose". Nguyên tắc tối thiểu hoá dữ liệu (data minimization) yêu cầu tổ chức chỉ thu thập và lưu giữ những dữ liệu cá nhân thật sự cần cho một mục đích cụ thể, đã xác định và thông báo trước; nó đi đôi với nguyên tắc giới hạn mục đích, giúp giảm rủi ro rò rỉ, lạm dụng và bảo vệ quyền riêng tư của người dùng. "necessary for differential privacy" sai vì quyền riêng tư vi sai (differential privacy) là kỹ thuật thêm nhiễu để bảo vệ cá nhân khi công bố thống kê, không phải thước đo quyết định nên thu gì. "optional for a chain of command" không liên quan: chuỗi chỉ huy là cấu trúc báo cáo trong tổ chức, và dữ liệu tuỳ chọn lại chính là thứ nguyên tắc này muốn hạn chế thu. "needed to have k-anonymity" sai vì k-ẩn danh (k-anonymity) là kỹ thuật làm mỗi bản ghi không phân biệt được với ít nhất k−1 bản ghi khác; nó là biện pháp ẩn danh hoá sau khi thu, không phải tiêu chí giới hạn việc thu thập.

Đáp án đúng: "When a model is deployed, but researchers are unable to figure out why it's making decisions". Black box problem (vấn đề hộp đen) chỉ tình trạng mô hình, nhất là mạng nơ-ron sâu, cho ra quyết định mà con người, kể cả chính người xây dựng, không lần ra được lý do bên trong; điều này đe doạ minh bạch và trách nhiệm giải trình, vì không thể kiểm tra mô hình có thiên kiến hay không, cũng không giải thích được cho người bị ảnh hưởng. "The problem created when researchers don't create accurate attributes for a model" mô tả lỗi chọn đặc trưng (feature), ảnh hưởng độ chính xác chứ không phải tính khó hiểu. "The issue of not having enough data to accurately train a model" là vấn đề thiếu dữ liệu huấn luyện. "When a model cannot accurately judge shape or color of objects due to missing data" là một lỗi nhận dạng cụ thể do dữ liệu thiếu, cũng không liên quan tới việc không giải thích được quyết định.

Đáp án đúng: "A description of a type of character based upon demographics, habits, and interests". Marketing persona (chân dung khách hàng) là một nhân vật đại diện, bán hư cấu, dựng từ dữ liệu về nhân khẩu học, thói quen và sở thích của một nhóm khách hàng mục tiêu, giúp đội ngũ hình dung họ đang phục vụ ai; trong đạo đức công nghệ, persona cũng là chỗ dễ cài định kiến nếu dữ liệu dựng nên nó lệch. "A character that encapsulates a brand’s personality" là brand persona hay linh vật thương hiệu, nói về tính cách thương hiệu chứ không phải khách hàng. "An individual who assists with the activity of marketing" là một nhân viên tiếp thị có thật, không phải mô hình đại diện. "The emotional impression that a customer has about a product or category of goods" là cảm nhận thương hiệu (brand perception) của khách hàng, một thái độ chứ không phải bản mô tả kiểu người.

Đáp án đúng: "The challenge of understanding the inner workings of opaque systems". Vấn đề hộp đen (black box) của AI là việc ta thấy đầu vào và đầu ra nhưng không hiểu cơ chế bên trong biến cái này thành cái kia, thường gặp ở mạng nơ-ron sâu; nó cản trở trách nhiệm giải trình vì không giải thích được vì sao hệ thống từ chối một khoản vay hay đưa ra một chẩn đoán, và là động lực cho hướng explainable AI (XAI, AI giải thích được). "Not being able to know how something crashed or failed" sai vì đó gần với hộp đen máy bay, thứ ghi lại dữ liệu để điều tra sau tai nạn; vấn đề hộp đen của AI tồn tại cả khi hệ thống chạy bình thường. "Machine intelligence making something illusory, like pulling a rabbit from a hat" sai vì đó chỉ là ẩn dụ ảo thuật, không phải định nghĩa. "A dangerous machine intelligence put in a digital prison" sai vì đó là ý tưởng AI box, nhốt AI nguy hiểm để kiểm soát, thuộc tranh luận về an toàn siêu trí tuệ chứ không nói về tính mờ đục.

Đáp án đúng gồm hai ý: "The organization’s AI product has a defect and needs to be recalled." và "The organization’s data-driven service will receive an update that enhances its accuracy.". Bên liên quan bên ngoài (external stakeholders) như khách hàng, người dùng, cơ quan quản lý cần được thông báo khi có điều trực tiếp ảnh hưởng tới họ: sản phẩm AI bị lỗi phải thu hồi đòi hỏi truyền thông kịp thời và minh bạch để người dùng ngừng sử dụng, tránh thiệt hại; một bản cập nhật làm thay đổi độ chính xác của dịch vụ cũng ảnh hưởng tới kết quả họ nhận được, nên cần thông báo để họ hiểu và tin tưởng. "The organization’s change management strategy has been modified." là việc nội bộ về cách tổ chức triển khai thay đổi, chủ yếu cần truyền đạt cho nhân viên. "The organization plans to adopt a new ethical framework to support the implementation of an AI system." trước hết là quyết định quản trị nội bộ; tổ chức có thể công bố về sau, nhưng nó không trực tiếp tác động tới quyền lợi người dùng như một vụ thu hồi hay thay đổi chất lượng dịch vụ, nên ít cần truyền thông ra ngoài nhất trong các tình huống được nêu.

Đáp án đúng: "They may have more institutional knowledge about a subject than managers.". Business impact assessment (BIA, đánh giá tác động kinh doanh) xác định quy trình nào quan trọng, phụ thuộc vào gì và gián đoạn sẽ gây hậu quả ra sao; người trực tiếp vận hành thường nắm institutional knowledge (tri thức tổ chức) về cách công việc thật sự diễn ra, các bước tắt, phụ thuộc ngầm mà quản lý không thấy, nên thiếu họ thì đánh giá sẽ lệch. "They are more likely to be candid and give forthright responses." là giả định không chắc chắn, nhân viên cấp dưới có khi còn dè dặt hơn vì sợ ảnh hưởng tới công việc. "They are more likely to find the time to complete an interview or survey." không phải tiêu chí chọn người phỏng vấn, và nhân viên tuyến đầu chưa chắc rảnh hơn. "They have a greater obligation to answer questions." sai vì không có nghĩa vụ trả lời nào nặng hơn theo cấp bậc, chọn họ là vì giá trị thông tin họ có.

Đáp án đúng: "A ruling or scoring made outside of a court.". Extrajudicial judgment (phán xét ngoài toà án) là việc một tổ chức đưa ra kết luận gây hậu quả cho một người mà không qua thủ tục tư pháp, không có quyền bào chữa hay kháng nghị; trong đạo đức công nghệ, ví dụ điển hình là hệ thống chấm điểm tín dụng hay chấm điểm công dân tự động quyết định ai được vay, được thuê nhà, giống như một bản án nhưng nằm ngoài toà. "Transferring defendants from one jurisdiction to another for trial." là dẫn độ hoặc chuyển nơi xét xử, vẫn diễn ra trong hệ thống tư pháp. "Applying law from one jurisdiction within another." là áp dụng luật ngoài lãnh thổ (extraterritorial application). "Unusual interpretation of law outside of its typical meaning." là cách giải thích luật mở rộng, vẫn là hoạt động của người áp dụng luật chứ không phải phán xét ngoài toà.

Đáp án đúng: "the predicted result was positive, and the actual result was positive". Trong ma trận nhầm lẫn (confusion matrix), chữ true hay false cho biết dự đoán có khớp thực tế không, còn positive hay negative là nhãn mà mô hình dự đoán; true positive (dương tính thật) là mô hình đoán dương và thực tế cũng dương. "the predicted result was negative, and the actual result was negative" là true negative (âm tính thật), cũng là dự đoán đúng nhưng ở lớp âm. "the predicted result was negative, and the actual result was positive" là false negative (âm tính giả), mô hình bỏ sót một ca dương thật. "the predicted result was positive, and the actual result was negative" là false positive (dương tính giả), tức báo động nhầm. Phân biệt bốn ô này là nền để tính các chỉ số công bằng, chẳng hạn so sánh tỉ lệ dương tính giả giữa các nhóm dân cư.

Đáp án đúng: "Having unambiguous procedures tied to the clauses of the policy.". Chính sách đạo đức thường nêu nguyên tắc ở mức khái quát; muốn nó được tuân thủ trên thực tế, mỗi điều khoản phải đi kèm quy trình rõ ràng, không mơ hồ, chỉ ra ai làm gì, khi nào, kiểm tra ra sao. Sự gắn kết giữa điều khoản và quy trình giúp nhân viên biết chính xác cách hành động, đồng thời giúp kiểm toán đối chiếu việc làm với cam kết. "Ensuring the policies have ample room for flexibility in implementation." đi ngược mục tiêu: quá nhiều khoảng linh hoạt khiến mỗi người diễn giải một kiểu, dễ bị lợi dụng để lách. "Developing procedures first and then creating policies that reflect those procedures." đảo ngược thứ tự hợp lý; chính sách thể hiện giá trị và mục tiêu, quy trình phải phục vụ chính sách chứ không phải hợp thức hoá thói quen sẵn có. "Including detailed legalese in the policy that mirrors regulatory requirements." làm chính sách khó hiểu với phần lớn nhân viên; ngôn ngữ pháp lý dày đặc có thể giúp tuân thủ luật nhưng cản trở việc thực hành hằng ngày.

Đáp án đúng: "trust". Phong trào explainable AI (AI giải thích được) lập luận rằng con người chỉ hợp tác hiệu quả với một tác nhân khác, dù là người hay thuật toán, khi họ tin nó; niềm tin đó cần dựa trên việc hiểu vì sao hệ thống đưa ra quyết định, biết khi nào nó đáng tin và khi nào nó có thể sai, nên giải thích là công cụ để xây niềm tin có căn cứ. "human rights" là giá trị mà AI phải tôn trọng, nhưng không phải điều kiện để người và thuật toán phối hợp với nhau. "competition" trái với tinh thần hợp tác mà câu hỏi nói tới. "privacy" là một nguyên tắc đạo đức quan trọng khác, thậm chí đôi khi căng thẳng với yêu cầu minh bạch, chứ không phải nền tảng của sự hợp tác mà XAI nhấn mạnh.