Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 4

Đáp án đúng: "Utilitarianism". Chủ nghĩa công lợi (utilitarianism) là khung đạo đức hệ quả, đánh giá hành động theo kết quả: lựa chọn đúng là lựa chọn mang lại lợi ích lớn nhất cho số người nhiều nhất. Khi áp vào công nghệ, nó giúp cân nhắc lợi ích và tác hại tổng thể của một hệ thống, nhưng có nhược điểm là có thể chấp nhận thiệt hại cho nhóm thiểu số nếu tổng lợi ích lớn. "Deontology" là đạo đức nghĩa vụ, cho rằng có những bổn phận và quy tắc phải tuân theo bất kể kết quả, ví dụ không được nói dối dù nói dối có lợi. "Virtue Ethics" là đạo đức đức hạnh, đặt câu hỏi một người có phẩm chất tốt sẽ làm gì, tập trung vào tính cách thay vì kết quả. "Ethical Relativism" là thuyết tương đối đạo đức, cho rằng đúng sai phụ thuộc vào văn hoá hay cá nhân, không đặt ra tiêu chí chung nào như tối đa hoá lợi ích cho số đông.

Đáp án đúng: "Use systematic ethical analysis and stakeholder engagement". Với tình huống lưỡng nan không có lời giải rõ ràng, tổ chức cần một quy trình có hệ thống: xác định các giá trị xung đột, cân nhắc hệ quả theo nhiều khung đạo đức, và mời các bên bị ảnh hưởng tham gia, để quyết định có lý lẽ, minh bạch và bảo vệ được khi bị chất vấn. "Avoid making decisions" sai vì không quyết định cũng là một quyết định, thường để hậu quả xảy ra mà không ai chịu trách nhiệm. "Choose randomly" bỏ qua hoàn toàn lập luận đạo đức, không thể giải trình với ai. "Follow majority opinion only" có thể chà đạp quyền của nhóm thiểu số; ý kiến số đông là một dữ kiện nên tham khảo, nhưng đúng sai về đạo đức không quyết định bằng biểu quyết.

Đáp án đúng: "ISO/IEC 42001". ISO/IEC 42001 là tiêu chuẩn quốc tế về AI management system (hệ thống quản lý trí tuệ nhân tạo), đặt yêu cầu để tổ chức thiết lập, vận hành và cải tiến việc quản trị AI: chính sách, đánh giá rủi ro và tác động, trách nhiệm, giám sát vòng đời hệ thống; tổ chức có thể được chứng nhận theo nó giống như với các tiêu chuẩn quản lý khác. "ISO 27001" là tiêu chuẩn hệ thống quản lý an toàn thông tin, tập trung vào bảo mật chứ không riêng cho AI. "IEEE Standards" là tên chung của cả một bộ tiêu chuẩn do IEEE ban hành, có một số tiêu chuẩn liên quan tới đạo đức thiết kế hệ thống, nhưng không phải một tiêu chuẩn quốc tế cụ thể về quản trị AI. "HIPAA" là luật của Hoa Kỳ về bảo vệ thông tin y tế, mang tính quốc gia và không phải hướng dẫn quản trị AI.

Đáp án đúng: "85%". Theo khảo sát năm 2019 trên 84 bộ nguyên tắc đạo đức AI, 73 bộ có nhắc tới minh bạch; 73 chia 84 xấp xỉ 0,87, tức khoảng 87%, cách 85% hai điểm, cách 95% tám điểm và cách 75% mười hai điểm, nên 85% là mức gần nhất, nhất quán với việc minh bạch là nguyên tắc được nêu nhiều nhất. Cần nói thẳng: con số phụ thuộc vào khảo sát; báo cáo Principled AI năm 2020 ghi khoảng 94% tài liệu có minh bạch và giải thích được, nên theo nguồn đó thì "95%" mới là mức gần nhất, còn ở đây chọn theo khảo sát 84 bộ nguyên tắc. "50%" sai vì quá thấp, trái với vị trí của minh bạch là nguyên tắc phổ biến nhất. "75%" sai vì vẫn thấp hơn rõ rệt so với tỉ lệ đo được ở cả hai khảo sát.

Đáp án đúng: "Change inputs, evaluate outputs". Với mô hình hộp đen (black box) đã triển khai, nhà nghiên cứu bên ngoài thường không xem được mã nguồn hay dữ liệu huấn luyện; cách duy nhất là kiểm toán từ bên ngoài: đưa vào các đầu vào đã chỉnh có chủ đích, như giữ nguyên hồ sơ và chỉ đổi giới tính hay tên gợi chủng tộc, rồi so sánh đầu ra. Nếu kết quả thay đổi theo thuộc tính nhạy cảm, mô hình có dấu hiệu bất công. "Change training data, evaluate outputs" đòi hỏi quyền can thiệp vào dữ liệu huấn luyện và huấn luyện lại mô hình, điều người đánh giá một hộp đen có sẵn thường không làm được. "Change inputs, evaluate training data" sai vì đổi đầu vào không làm thay đổi dữ liệu huấn luyện, và dữ liệu đó thường không được tiếp cận. "Evaluate inputs, evaluate data" chỉ quan sát dữ liệu mà không thử nghiệm và không xem hành vi của mô hình, nên không đo được mô hình có đối xử công bằng hay không.

Đáp án đúng: "Promotes trust and accountability". Khi tổ chức sử dụng dữ liệu có đạo đức, tức thu thập có đồng ý, dùng đúng mục đích, bảo vệ quyền riêng tư và minh bạch về cách xử lý, nhân viên và khách hàng tin tưởng tổ chức hơn, còn mỗi người hiểu rõ trách nhiệm của mình với dữ liệu, từ đó hình thành văn hoá tin cậy và trách nhiệm giải trình. "Encourages rapid data monetization" đi ngược lại, chạy theo kiếm tiền nhanh từ dữ liệu thường là nguồn gốc của vi phạm. "Focuses on competitive advantage only" sai ở chữ only; đạo đức có thể tạo lợi thế cạnh tranh nhưng đó không phải trọng tâm duy nhất. "Reduces compliance costs significantly" không chắc đúng, thực hành đạo đức thường cần thêm nguồn lực, và đây cũng không phải tác động lên văn hoá.

Đáp án đúng: "We need to remember that we don’t know the full extent of what AI systems might become capable of so that we can better plan.". Capability caution (thận trọng về năng lực) là một trong các Asilomar AI Principles: vì chưa có đồng thuận về giới hạn trên của năng lực AI trong tương lai, ta nên tránh các giả định chắc chắn về giới hạn đó, nhờ vậy lập kế hoạch và đầu tư an toàn cho cả những kịch bản AI mạnh hơn dự kiến. "We need to take steps to ensure that humans capabilities are not limited by AI growth." nói về việc bảo vệ năng lực con người, một mối quan tâm khác. "We need to freeze AI’s capabilities at the current state so that we can ensure AI systems won’t take over the world." là đòi đóng băng phát triển, không phải nội dung của nguyên tắc vốn chỉ kêu gọi thận trọng trong giả định. "We need to remember that we know the full extent of what AI systems might become capable of so that we can better plan." nói ngược lại: khẳng định ta đã biết hết giới hạn chính là kiểu giả định chắc chắn mà nguyên tắc cảnh báo.

Đáp án đúng: "Applying consistent ethical principles and stakeholder consideration". Khi tình huống bất định, không có quy tắc hay tiền lệ khớp sẵn, điểm tựa đáng tin nhất là áp dụng nhất quán các nguyên tắc đạo đức như không gây hại, công bằng, tôn trọng quyền tự quyết, cùng với việc cân nhắc lợi ích và rủi ro của mọi bên liên quan; tính nhất quán giúp quyết định giải thích và bảo vệ được, còn việc xét các bên giúp phát hiện những người có thể bị ảnh hưởng mà ta chưa nghĩ tới. "Following precedent exactly" sai vì tình huống bất định thường là tình huống mới, rập khuôn tiền lệ dễ áp sai bối cảnh; tiền lệ chỉ nên để tham khảo. "Choosing the fastest solution" sai vì tốc độ không bảo đảm đúng đắn, vội vàng dễ bỏ sót tác hại. "Minimizing costs above all else" sai vì đặt chi phí lên trên hết đồng nghĩa hy sinh giá trị đạo đức cho lợi ích tài chính.

Đáp án đúng: "collaborative filtering". Lọc cộng tác (collaborative filtering) là kỹ thuật gợi ý dựa trên hành vi của những người dùng tương tự: nếu nhiều người giống bạn thích hồ sơ X, hệ thống sẽ đề xuất X cho bạn. Trong ứng dụng hẹn hò, nếu đa số người dùng có thiên kiến về chủng tộc, ngoại hình hay tuổi tác khi bấm thích, thuật toán sẽ học và khuếch đại các mẫu đó, đẩy một số nhóm xuống cuối danh sách đề xuất của mọi người, kể cả người không mang thiên kiến ấy, tạo vòng phản hồi củng cố bất công. "access to separate data models" không phải cơ chế phổ biến gây thiên lệch trong ghép đôi và cũng không phải thứ ứng dụng đem lại cho người dùng. "different ways to match with users" là tính năng đa dạng cách kết nối, tự nó không học từ hành vi tập thể nên không phải nguồn thiên lệch chính. "unlimited matches per day" chỉ thay đổi số lượng ghép đôi, không quyết định ai được ưu tiên hiển thị cho ai.

Đáp án đúng: "Deontological Ethics". Đạo đức nghĩa vụ (deontological ethics), tiêu biểu là triết học của Immanuel Kant, cho rằng tính đúng sai của hành động nằm ở việc nó có tuân thủ bổn phận và quy tắc đạo đức hay không, chứ không ở kết quả; ví dụ tôn trọng quyền riêng tư là bổn phận dù vi phạm có thể đem lại lợi ích. Trong công nghệ, nó là nền tảng cho các quy tắc cứng như không thu thập dữ liệu khi chưa có đồng ý. "Ethical Relativism" cho rằng chuẩn mực đạo đức tuỳ thuộc văn hoá hay cá nhân, nên không đề cao những quy tắc bổn phận mang tính phổ quát. "Utilitarianism" là thuyết hệ quả, đánh giá hành động theo tổng lợi ích nó tạo ra, sẵn sàng phá quy tắc nếu kết quả tốt hơn. "Virtue Ethics" đặt trọng tâm vào phẩm chất và tính cách của người hành động, như trung thực, công tâm, chứ không vào bổn phận và quy tắc.

Đáp án đúng: "All of the others". Hội đồng đạo đức (ethics board) trong tổ chức công nghệ dựa trên dữ liệu đảm nhận cả ba nhiệm vụ được liệt kê, nên phương án gộp là đầy đủ nhất. "Response to rapid changes in the field, investigating the ethical implications." đúng vì công nghệ thay đổi rất nhanh, hội đồng phải theo dõi xu hướng mới và đánh giá hệ quả đạo đức của chúng trước khi tổ chức áp dụng. "Develop resources to be used in ethical decision-making processes." đúng vì hội đồng xây dựng bộ công cụ, khung đánh giá, danh mục câu hỏi giúp các nhóm tự đưa ra quyết định có đạo đức trong công việc hằng ngày. "Build a repository of institutional knowledge around ethical practices." cũng đúng vì hội đồng lưu giữ các tình huống, quyết định và bài học để tổ chức không lặp lại sai lầm và giữ được sự nhất quán. Mỗi ý trên chỉ là một phần nhiệm vụ, chọn riêng ý nào cũng bỏ sót những vai trò còn lại.

Đáp án đúng gồm hai ý: "Lack of clarity in the code of ethics" và "Lack of awareness of the code of ethics and where it is meant to be applied". Bộ quy tắc đạo đức chỉ được áp dụng khi nhân viên hiểu nó nói gì và biết nó tồn tại, áp vào tình huống nào; quy tắc mơ hồ khiến người ta không biết hành xử ra sao, còn nếu không ai biết đến quy tắc hay phạm vi của nó thì nó chỉ nằm trên giấy. "Comprehensive coverage of areas of concerns by the code of ethics" là điểm mạnh, bao quát đầy đủ giúp áp dụng chứ không cản trở. "Prescriptive language used in the code of ethics" tức ngôn ngữ quy định cụ thể nên làm gì, không nên làm gì; điều này làm quy tắc rõ ràng, dễ thực hiện hơn, nên không phải nguyên nhân khiến quy tắc ít được áp dụng.

Đáp án đúng: "Using IP as a defensive mechanism to eschew transparency requirements.". Intellectual property (sở hữu trí tuệ) được bảo hộ để khuyến khích sáng tạo, không phải để né trách nhiệm giải trình; khi tổ chức viện dẫn bí mật kinh doanh để từ chối cho kiểm toán viên, cơ quan quản lý hay người bị ảnh hưởng xem cách thuật toán ra quyết định, tức dùng IP làm lá chắn tránh yêu cầu minh bạch, đó là lạm dụng IP về mặt đạo đức. "Collecting returns on investments made in research and development." là mục đích chính đáng của bảo hộ IP: thu lại vốn đầu tư nghiên cứu. "Filing a patent for the IP that makes non-obvious information known to the public." cũng chính đáng, vì cơ chế bằng sáng chế đổi độc quyền có thời hạn lấy việc công bố sáng chế cho xã hội. "Enhancing the security posture of a product or service." là việc tăng cường an ninh, có lợi cho người dùng và không phải hành vi lạm dụng IP.

Đáp án đúng: "Incorporating ethical guidelines into data analytics processes". Đưa hướng dẫn đạo đức vào ngay quy trình phân tích dữ liệu, chẳng hạn kiểm tra thiên lệch khi chọn dữ liệu, đánh giá quyền riêng tư trước khi dùng thuộc tính nhạy cảm, ghi lại giả định của mô hình, biến đạo đức thành một phần công việc hằng ngày của người làm khoa học dữ liệu chứ không chỉ là khẩu hiệu, từ đó nuôi dưỡng văn hoá tổ chức có đạo đức. "Relying solely on automated systems for decision-making" sai vì phó mặc hoàn toàn cho máy làm mất sự giám sát và trách nhiệm giải trình của con người. "Centralizing decision-making to reduce ethical risks" sai vì dồn quyền quyết định vào ít người làm giảm sự tham gia và góc nhìn đa dạng, trong khi văn hoá đạo đức cần mọi người cùng có trách nhiệm. "Prioritizing cost reduction over ethical outcomes" sai vì đặt việc cắt giảm chi phí lên trên kết quả đạo đức chính là điều văn hoá đạo đức cần ngăn.

Đáp án đúng: "Data subjects of the data-driven technology system". Bộ quy tắc đạo đức (code of ethics) đặt ra chuẩn mực hành xử cho những người xây dựng, vận hành và chịu trách nhiệm về hệ thống, tức là những người có quyền quyết định và phải giải trình. Chủ thể dữ liệu (data subjects) là những cá nhân có dữ liệu được hệ thống thu thập và xử lý; họ là đối tượng được bộ quy tắc bảo vệ chứ không phải người phải tuân theo nó, vì họ không điều khiển cách hệ thống được thiết kế hay sử dụng. "Developers of the data-driven technology system" chịu sự điều chỉnh trực tiếp vì họ viết mã, chọn dữ liệu và thuật toán. "Designers of the data-driven technology system" cũng phải tuân thủ vì quyết định thiết kế ảnh hưởng tới quyền riêng tư, khả năng tiếp cận và công bằng. "Business managers of the data-driven technology system" quyết định mục tiêu, ngân sách và cách triển khai, nên càng phải chịu ràng buộc của bộ quy tắc và chịu trách nhiệm giải trình.

Đáp án đúng: "They allow for deeper engagement with the target demographic community.". Nhóm thảo luận tập trung (focus group) quy tụ một số ít người đại diện cho nhóm đối tượng, trò chuyện có người điều phối; nhờ tương tác trực tiếp, người tổ chức có thể hỏi sâu, nghe lý do đằng sau ý kiến và thấy cảm xúc, những điều bảng khảo sát khó nắm được. Trong đạo đức công nghệ, cách này hữu ích để hiểu tác động của sản phẩm tới cộng đồng bị ảnh hưởng. "They can provide more data through structured information gathering." sai vì chính khảo sát (survey) mới là cách thu thập có cấu trúc và cho lượng dữ liệu lớn; nhóm tập trung cho dữ liệu định tính, ít người. "They are a more scalable option for the collection of information." ngược thực tế, vì khảo sát mở rộng tới hàng nghìn người dễ dàng còn nhóm tập trung bị giới hạn số người tham gia. "They are an easier way to collect information from a target audience." cũng không đúng, vì nhóm tập trung đòi hỏi tuyển người, người điều phối và thời gian phân tích, tốn công hơn khảo sát.

Đáp án đúng: "Superficial efforts to appear ethical without real action". Ethics washing (tẩy trắng đạo đức) là khi tổ chức tung ra tuyên bố, nguyên tắc AI, hội đồng đạo đức hay chiến dịch truyền thông để trông có trách nhiệm, nhưng không thay đổi cách thu thập dữ liệu, thiết kế sản phẩm hay ra quyết định; nó làm xói mòn niềm tin khi công chúng phát hiện khoảng cách giữa lời nói và việc làm. "Performing data audits" là hoạt động thực chất giúp phát hiện vấn đề, ngược với tẩy trắng. "Encrypting company emails" là biện pháp bảo mật kỹ thuật, không liên quan tới hình ảnh đạo đức. "Applying for ethical certifications" chỉ trở thành tẩy trắng nếu chứng nhận là vỏ bọc không có hành động phía sau; tự thân việc xin chứng nhận không phải là định nghĩa của khái niệm này.

Đáp án đúng gồm hai ý: "It lets external stakeholders know that you are an ethical company." và "It creates consistency in the ethical practices across the organization, rather than patchy implementation of the practices.". Một bộ quy tắc đạo đức có hai giá trị chính: với bên ngoài, nó công khai cam kết của tổ chức với khách hàng, đối tác, nhà đầu tư, tạo cơ sở để họ tin và giám sát; với bên trong, nó đặt một chuẩn chung để mọi phòng ban áp dụng giống nhau, thay vì mỗi nơi làm một kiểu chắp vá. "It compels employees to operate in an ethical and integral manner." nói quá: bộ quy tắc định hướng và đặt kỳ vọng nhưng không tự ép được ai hành xử đạo đức; điều đó cần văn hoá, đào tạo và cơ chế thực thi. "It prevents regulatory scrutiny of the organization’s practices." sai vì có bộ quy tắc không miễn trừ tổ chức khỏi giám sát của cơ quan quản lý; tuân thủ pháp luật vẫn được kiểm tra độc lập.

Đáp án đúng: "They can help to bring the right internal and external stakeholders together to help draft these ethics policies.". Người sở hữu chính sách (policy owner) là đầu mối điều phối việc soạn, cập nhật và thực thi chính sách đạo đức; giá trị lớn nhất của họ là quy tụ đúng các bên liên quan nội bộ như pháp chế, kỹ thuật, nhân sự và bên ngoài như khách hàng, chuyên gia, cộng đồng để chính sách phản ánh đủ góc nhìn và được chấp nhận. Phương án "prevent changes from taking place in the policies" sai vì chính sách đạo đức phải được rà soát và cập nhật theo công nghệ và bối cảnh; người sở hữu thúc đẩy cập nhật chứ không ngăn thay đổi. Phương án "relying solely on their personal institutional knowledge" sai vì một người viết dựa trên hiểu biết riêng sẽ thiếu góc nhìn đa dạng và thiếu đồng thuận. Phương án "a single person that can be held accountable" không phải lý do quan trọng nhất: có đầu mối chịu trách nhiệm là điều có thật, nhưng coi người sở hữu là chỗ đổ lỗi khi có sự cố làm lệch vai trò điều phối và khiến trách nhiệm tập thể bị xem nhẹ.

Đáp án đúng: "It provides examples of possible ethical pitfalls that the organization should avoid.". Giai đoạn thu thập thông tin kỹ trước khi soạn chính sách đạo đức nội bộ và đối ngoại giúp tổ chức biết những sai lầm đạo đức đã xảy ra trong ngành, ở tổ chức khác hay ngay trong tổ chức mình, để chính sách viết ra chặn trước đúng các cạm bẫy đó. Cần nói thẳng: "It helps to unearth best practices from peers in the industry." cũng là một lý do hợp lệ, vì học thực hành tốt của các tổ chức cùng ngành rõ ràng giúp chính sách tốt hơn; cả hai đều là lợi ích có thật của giai đoạn này. Đáp án ở đây theo lựa chọn của bộ câu hỏi lưu hành phổ biến, vốn chọn vế cạm bẫy cần tránh, nên người học nên nhớ cả hai lợi ích nhưng chọn vế này khi gặp đúng câu hỏi. "It helps to collect reaffirming evidence for your own ethical beliefs." sai vì đó là confirmation bias (thiên kiến xác nhận): chỉ tìm thứ củng cố niềm tin sẵn có làm việc thu thập mất giá trị. "It saves you effort if you just copy the existing ethics policies from other organizations." sai vì chính sách sao chép không khớp bối cảnh, rủi ro và giá trị riêng của tổ chức.