Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 3

Đáp án đúng: "Self-learning models are black boxes whose decisions cannot be understood.". Explainability (khả năng giải thích) là việc con người hiểu được vì sao mô hình đưa ra một quyết định; mô hình tự học như mạng nơ-ron sâu tự điều chỉnh hàng triệu tham số nên logic bên trong gần như không đọc được, thành black box (hộp đen), khiến người bị ảnh hưởng khó chất vấn và tổ chức khó giải trình. "Self-learning models can corrupt data or otherwise make it unreadable." là rủi ro về toàn vẹn dữ liệu, không liên quan tới việc hiểu quyết định. "Self-learning models may introduce new data you're unaware of." nói về nguồn gốc và kiểm soát dữ liệu (data provenance), một rủi ro quản trị dữ liệu chứ không phải rủi ro giải thích. "Self-learning models are unable to generate decisions as output." là phát biểu sai sự thật, vì mô hình tự học vẫn sinh ra dự đoán và quyết định.

Đáp án đúng gồm hai ý: "Articulate when communicating important details" và "Patient when addressing tough questions or concerns". Người phát ngôn cho tổ chức, nhất là khi có khủng hoảng hay vấn đề đạo đức, phải diễn đạt mạch lạc để thông tin quan trọng được hiểu đúng, không gây hiểu lầm, và phải kiên nhẫn trước các câu chất vấn khó để công chúng thấy tổ chức lắng nghe và tôn trọng mối lo của họ, từ đó giữ được niềm tin. "Lighthearted when dealing with serious topics" sai vì thái độ đùa cợt trước chuyện nghiêm trọng như rò rỉ dữ liệu hay thiệt hại cho người dùng bị xem là coi thường người bị ảnh hưởng. "Defensive when challenged with difficult situations" sai vì phản ứng phòng thủ khiến tổ chức có vẻ né tránh trách nhiệm giải trình, càng làm khủng hoảng lan rộng.

Đáp án đúng: "collaborative filtering". Lọc cộng tác (collaborative filtering) là kỹ thuật gợi ý dựa trên hành vi của những người dùng tương tự: nếu nhiều người giống bạn thích hồ sơ X, hệ thống sẽ đề xuất X cho bạn. Trong ứng dụng hẹn hò, nếu đa số người dùng có thiên kiến về chủng tộc, ngoại hình hay tuổi tác khi bấm thích, thuật toán sẽ học và khuếch đại các mẫu đó, đẩy một số nhóm xuống cuối danh sách đề xuất của mọi người, kể cả người không mang thiên kiến ấy, tạo vòng phản hồi củng cố bất công. "access to separate data models" không phải cơ chế phổ biến gây thiên lệch trong ghép đôi và cũng không phải thứ ứng dụng đem lại cho người dùng. "different ways to match with users" là tính năng đa dạng cách kết nối, tự nó không học từ hành vi tập thể nên không phải nguồn thiên lệch chính. "unlimited matches per day" chỉ thay đổi số lượng ghép đôi, không quyết định ai được ưu tiên hiển thị cho ai.

Đáp án đúng gồm ba ý: "It will build customer trust.", "It will support the development of strategic partnerships." và "It will encourage applicants to apply for your company.". Strategic differentiator (yếu tố tạo khác biệt chiến lược) là thứ giúp công ty vượt đối thủ mà đối thủ không dễ sao chép: thực hành đạo đức tạo niềm tin của khách hàng, khiến đối tác yên tâm hợp tác vì giảm rủi ro uy tín cho chính họ, và thu hút ứng viên giỏi muốn làm ở nơi có giá trị rõ ràng. "It will ensure you comply with regulations." không tạo khác biệt, vì tuân thủ pháp luật là yêu cầu tối thiểu mà mọi công ty đều phải đạt; hơn nữa đạo đức thường vượt trên luật, và có đạo đức cũng không tự bảo đảm đã tuân thủ mọi quy định cụ thể.

Đáp án đúng: "Trust, once lost, is difficult to regain.". Niềm tin của công chúng được tích luỹ qua thời gian dài từ những hành vi nhất quán, minh bạch, nhưng có thể sụp đổ chỉ sau một vụ rò rỉ dữ liệu hay một quyết định thiếu đạo đức; xây lại tốn kém hơn nhiều so với giữ gìn, nên tổ chức cần chủ động bảo vệ nó. "Trust is required to avoid legal pitfalls." nhầm hai chuyện: tránh rủi ro pháp lý dựa vào tuân thủ quy định, còn niềm tin không thay được việc tuân thủ và cũng không được luật đòi hỏi. "Trust can be used against the organization." không phải lý do để giữ niềm tin; nếu có thì là lý do ngược lại và không đúng với vai trò của niềm tin. "Trust is the new trend of organization." coi niềm tin như một trào lưu nhất thời, trong khi đây là nền tảng lâu dài cho quan hệ giữa tổ chức và công chúng.

Đáp án đúng gồm ba ý: "Obtain feedback from stakeholder focus groups.", "Research similar organization’s ethical mistakes and concerns." và "Identify prior issues with your product or service.". Khi soạn bộ quy tắc đạo đức (code of ethics), cần phát hiện những vùng rủi ro riêng của chính tổ chức: nhóm tập trung với các bên liên quan (stakeholder focus groups) cho thấy điều người dùng, nhân viên và cộng đồng thực sự lo ngại; nghiên cứu sai lầm của tổ chức tương tự giúp học từ vấp ngã của người khác trước khi tự mắc phải; rà lại các sự cố cũ của sản phẩm hay dịch vụ chỉ ra điểm yếu đã lộ diện. "Rely on the requirements of government regulations." sai vì luật pháp chỉ đặt mức sàn tối thiểu và thường đi chậm hơn công nghệ; đạo đức đòi hỏi vượt lên trên tuân thủ, nên chỉ dựa vào luật sẽ bỏ sót nhiều rủi ro chưa được quy định.

Đáp án đúng: "To perform a strategic analysis of how external environments impact business operations.". STEEPV là khung phân tích môi trường bên ngoài, viết tắt của Social (xã hội), Technological (công nghệ), Economic (kinh tế), Environmental (môi trường), Political (chính trị) và Values (giá trị); tổ chức dùng nó để nhận diện các lực tác động từ bên ngoài tới hoạt động của mình và dự liệu xu hướng tương lai, trong đó yếu tố giá trị giúp đưa cân nhắc đạo đức vào hoạch định chiến lược. "To perform a strategic analysis of user needs and behaviors." là việc của nghiên cứu người dùng, tập trung vào khách hàng chứ không phải toàn cảnh môi trường. "To perform a strategic analysis of how internal office politics impact business operations." sai vì STEEPV nhìn ra bên ngoài, không phân tích quan hệ quyền lực nội bộ. "To perform a strategic analysis of how bias can manifest in AI products." quá hẹp; thiên lệch trong AI có thể được nhận ra qua yếu tố xã hội hay giá trị, nhưng đó không phải mục đích của cả khung phân tích.

Đáp án đúng gồm hai ý: "Privacy" và "Accountability". Ứng dụng truy vết tiếp xúc trong đại dịch thu thập vị trí, lịch sử gặp gỡ và tình trạng sức khoẻ của số đông dân cư dưới áp lực khẩn cấp, nên ưu tiên hàng đầu là bảo vệ quyền riêng tư (chỉ thu tối thiểu, ẩn danh, xoá khi hết dịch) và bảo đảm trách nhiệm giải trình, tức là rõ ai giữ dữ liệu, dùng vào việc gì, chịu trách nhiệm khi dữ liệu bị lạm dụng sau khủng hoảng. "Explainability" quan trọng với các mô hình ra quyết định phức tạp, nhưng truy vết tiếp xúc chủ yếu là ghi nhận tiếp xúc nên đây không phải mối lo cấp bách nhất. "Bias" vẫn cần lưu ý, chẳng hạn người không có điện thoại thông minh bị bỏ sót, nhưng rủi ro trọng tâm của tình huống khẩn cấp này là giám sát đại trà và thiếu người chịu trách nhiệm.

Đáp án đúng: "Humanity". Câu hỏi tìm yếu tố KHÔNG phải cân nhắc chung khi so các khung đạo đức lớn cho công nghệ và AI, như nguyên tắc của OECD hay hướng dẫn của Liên minh châu Âu; các khung này lặp lại một bộ trụ cân nhắc cụ thể như quyền riêng tư, an toàn bảo mật, minh bạch, công bằng và trách nhiệm giải trình. Cần thừa nhận chỗ dễ tranh cãi: OECD có nguyên tắc giá trị lấy con người làm trung tâm (human-centred values), EU có mục quyền tự quyết và giám sát của con người (human agency and oversight), nên người học dễ coi "Humanity" là cân nhắc chung; tuy vậy các giá trị ấy được diễn đạt thành nguyên tắc cụ thể như công bằng, tự quyết, giám sát, còn humanity không phải một trụ cân nhắc độc lập như privacy, security, transparency. "Privacy" là cân nhắc chung nên không được chọn: hầu như mọi khung đều có nguyên tắc bảo vệ dữ liệu cá nhân. "Security" cũng đúng vì các khung đều đòi hệ thống an toàn, chống tấn công và lạm dụng. "Transparency" cũng đúng vì minh bạch về cách hệ thống hoạt động là điều kiện để giải trình và để người dùng tin tưởng.

Đáp án đúng gồm hai ý: "Organizations must obtain consent from individuals regarding the collection and use of biometric data." và "Organizations must destroy biometric data in a timely fashion.". BIPA là luật của bang Illinois (Mỹ) về dữ liệu sinh trắc như vân tay, hình học khuôn mặt, mống mắt: tổ chức phải thông báo bằng văn bản và nhận được sự đồng ý trước khi thu thập, đồng thời phải công bố chính sách lưu giữ và huỷ dữ liệu khi mục đích thu thập đã hoàn thành hoặc chậm nhất ba năm sau lần tương tác cuối với người đó. Phương án "must not transmit biometric data across an unsecured network like the Internet" sai vì BIPA đòi hỏi bảo vệ dữ liệu với mức cẩn trọng hợp lý theo chuẩn ngành, chứ không cấm truyền dữ liệu qua Internet. Phương án "must store biometric data in local, on-premises databases" sai vì luật không quy định nơi lưu trữ; lưu trên đám mây vẫn hợp lệ miễn được bảo vệ đầy đủ.

Đáp án đúng: "Utilitarianism". Chủ nghĩa công lợi (utilitarianism), gắn với Jeremy Bentham và John Stuart Mill, là thuyết hệ quả: một hành động đúng khi nó tạo ra tổng lợi ích lớn nhất cho nhiều người nhất. Trong công nghệ, lối nghĩ này xuất hiện khi cân nhắc lợi ích chung của một hệ thống so với thiệt hại cho số ít, nhưng nó cũng bị phê phán vì có thể hy sinh quyền của nhóm thiểu số. "Kantian ethics" là đạo đức học của Immanuel Kant, đòi hỏi hành động theo nguyên tắc có thể phổ quát hoá và coi con người là mục đích chứ không phải phương tiện, nên phản đối việc đánh đổi cá nhân lấy lợi ích chung. "Deontology" là đạo đức nghĩa vụ, đánh giá hành động theo bổn phận và quy tắc chứ không theo hệ quả. "Virtue ethics" là đạo đức đức hạnh, đặt trọng tâm vào phẩm chất của người hành động như trung thực, can đảm, thay vì tính toán kết quả cho số đông.

Đáp án đúng: "divide the number of correct predictions by the total number of predictions". Accuracy (độ chính xác) = số dự đoán đúng / tổng số dự đoán; ví dụ mô hình dự đoán 200 trường hợp, đúng 170, thì accuracy = 170 / 200 = 0,85 tức 85%. Cần nhớ chỉ số này dễ đánh lừa khi dữ liệu mất cân bằng, nên đánh giá công bằng còn phải xem tỉ lệ lỗi theo từng nhóm. "divide the number of predictions by the total dataset" chỉ cho tỉ lệ dữ liệu đã được dự đoán, không nói gì về đúng hay sai. "measure the ratio of the model's error curve" không phải công thức định nghĩa accuracy, đường cong lỗi dùng để theo dõi quá trình huấn luyện. "multiply the number of total predictions by the percentage of correct predictions" cho ra số dự đoán đúng (200 × 85% = 170) chứ không phải độ chính xác, tức đi ngược phép tính.

Đáp án đúng: "It provides examples of possible ethical pitfalls that the organization should avoid.". Giai đoạn thu thập thông tin kỹ trước khi soạn chính sách đạo đức nội bộ và đối ngoại giúp tổ chức biết những sai lầm đạo đức đã xảy ra trong ngành, ở tổ chức khác hay ngay trong tổ chức mình, để chính sách viết ra chặn trước đúng các cạm bẫy đó. Cần nói thẳng: "It helps to unearth best practices from peers in the industry." cũng là một lý do hợp lệ, vì học thực hành tốt của các tổ chức cùng ngành rõ ràng giúp chính sách tốt hơn; cả hai đều là lợi ích có thật của giai đoạn này. Đáp án ở đây theo lựa chọn của bộ câu hỏi lưu hành phổ biến, vốn chọn vế cạm bẫy cần tránh, nên người học nên nhớ cả hai lợi ích nhưng chọn vế này khi gặp đúng câu hỏi. "It helps to collect reaffirming evidence for your own ethical beliefs." sai vì đó là confirmation bias (thiên kiến xác nhận): chỉ tìm thứ củng cố niềm tin sẵn có làm việc thu thập mất giá trị. "It saves you effort if you just copy the existing ethics policies from other organizations." sai vì chính sách sao chép không khớp bối cảnh, rủi ro và giá trị riêng của tổ chức.

Đáp án đúng gồm hai ý: "Providing prompt responses to customer questions about the decisions made by data-driven systems." và "Providing information about data-driven systems in simple, easy-to-understand terms.". Từ góc nhìn khách hàng, minh bạch và giải thích được nghĩa là người bị ảnh hưởng hiểu được hệ thống dựa trên dữ liệu đã quyết định gì về họ và vì sao: trả lời nhanh khi họ thắc mắc về một quyết định cho họ cơ hội hiểu và phản đối, còn diễn đạt bằng ngôn ngữ đơn giản giúp người không có nền tảng kỹ thuật thực sự tiếp cận được thông tin. Phương án "in-depth white papers on the algorithms" sai vì tài liệu kỹ thuật chuyên sâu hữu ích cho chuyên gia hay cơ quan kiểm định, nhưng phần lớn khách hàng không đọc hiểu được, nên không phục vụ minh bạch từ phía khách hàng. Phương án "how customers can keep their private data secure" sai vì hướng dẫn tự bảo mật dữ liệu thuộc về quyền riêng tư và an toàn thông tin, không giải thích cách hệ thống ra quyết định.

Đáp án đúng: "equality of false negatives". Một mô hình muốn giảm tác hại bằng cách cân bằng số lỗi giữa các nhóm con sẽ đòi tỉ lệ âm tính giả (false negative), tức trường hợp đáng được kết quả tích cực nhưng bị mô hình từ chối, ngang nhau giữa các nhóm; đây là tinh thần của tiêu chí cơ hội bình đẳng (equal opportunity), bảo đảm không nhóm nào chịu thiệt nhiều hơn vì lỗi bỏ sót của mô hình, như bị từ chối vay dù đủ điều kiện. "equality of true outcomes" nói về việc kết quả đúng ngang nhau, không phải cân bằng lỗi như câu hỏi mô tả. "equality of training data" là cân bằng lượng dữ liệu huấn luyện giữa các nhóm, một biện pháp ở khâu đầu vào chứ không phải tiêu chí quyết định về lỗi của mô hình. "equality of prediction bias" không phải tên một tiêu chí công bằng chuẩn, và thiên lệch dự đoán là thứ cần loại bỏ chứ không phải thứ cần làm cho ngang nhau.

Đáp án đúng: "Ensure your message is consistent". Khi trả lời báo chí, nhất là trong khủng hoảng, mọi người phát ngôn phải nói cùng một thông điệp đã thống nhất, vì thông tin mâu thuẫn giữa các lần trả lời hoặc giữa các kênh sẽ làm công chúng nghi ngờ tổ chức che giấu và làm mất uy tín. "Only agree to speak to media outlets that are favorable to your organization" né tránh giám sát, bị xem là thiếu minh bạch và khiến thông điệp không đến được toàn bộ công chúng. "Get your message out as quickly as possible" coi trọng tốc độ hơn độ chính xác; phản hồi kịp thời là cần, nhưng tung thông tin chưa kiểm chứng dễ phải đính chính. "Divulge only the information that you are required to by law" là tư duy tuân thủ tối thiểu, đi ngược tinh thần minh bạch mà truyền thông có đạo đức đòi hỏi.

Đáp án đúng: "Encryption protocols". SSL (Secure Sockets Layer) và người kế nhiệm TLS (Transport Layer Security) mã hoá dữ liệu truyền giữa hai bên, ví dụ trình duyệt và máy chủ trong HTTPS; SSH (Secure Shell) mã hoá phiên đăng nhập và điều khiển máy từ xa. Cả ba đều là giao thức mã hoá, dùng để bảo vệ tính bí mật và toàn vẹn của dữ liệu khi truyền đi. "Computer forensics tools" là công cụ điều tra số như phần mềm thu thập và phân tích ổ đĩa để tìm chứng cứ, không phải giao thức liên lạc. "Media codecs" là bộ mã hoá giải mã âm thanh, hình ảnh như MP3 hay H.264, nhằm nén dữ liệu chứ không nhằm bảo mật. "Version control systems" như Git hay SVN quản lý lịch sử thay đổi mã nguồn; Git có thể chạy qua SSH nhưng bản thân SSH không phải hệ quản lý phiên bản.

Đáp án đúng: "Regression". Nhãn cần dự đoán là doanh thu mà mỗi khách mang lại, một giá trị số liên tục, nên đây là bài toán hồi quy (regression) thuộc học có giám sát. "Classification" sai vì phân loại dự đoán nhãn rời rạc như khách sẽ mua hay không; nó chỉ phù hợp nếu ta chia doanh thu thành các hạng thấp, trung bình, cao, điều câu hỏi không nêu. "Clustering" sai vì phân cụm là học không giám sát, gom những khách giống nhau mà không có nhãn cần dự đoán. "Dimensionality reduction" sai vì giảm chiều, chẳng hạn PCA, là kỹ thuật nén số thuộc tính để tiền xử lý chứ không tự đưa ra dự đoán. Về mặt đạo đức, cần lưu ý rằng dùng giới tính và vị trí làm đầu vào có thể khiến mô hình đối xử khác biệt với khách hàng chỉ vì thuộc tính được bảo vệ, nên phải kiểm tra thiên lệch.

Đáp án đúng: "favoritism or discrimination". Định nghĩa từ điển phổ biến coi công bằng (fairness) là sự đối xử công minh, không thiên vị (favoritism) và không phân biệt đối xử (discrimination); hai vế này bao trọn hai chiều sai lệch: ưu ái quá mức cho một nhóm và gây bất lợi cho nhóm khác. Trong hệ thống dữ liệu, công bằng nghĩa là quyết định của thuật toán không nghiêng về ai và không làm hại ai chỉ vì họ thuộc một nhóm nhất định. "prejudice and favoritism" dùng định kiến (prejudice), vốn là thái độ trong đầu, chứ không phải hành vi đối xử; lại thiếu vế phân biệt đối xử. "discrimination and prejudice" thiếu vế thiên vị, nên chỉ nêu một chiều sai lệch. "bias and contempt" dùng sự khinh miệt (contempt), một cảm xúc tiêu cực không phải thành phần cốt lõi của định nghĩa công bằng; thiên lệch (bias) liên quan nhưng không thay được cặp thiên vị và phân biệt đối xử.

Đáp án đúng: "It helps maintain alignment with the emergent risks and changing ethical posture of the products and services of the organization.". Công nghệ, sản phẩm và môi trường pháp lý thay đổi liên tục nên rủi ro đạo đức mới luôn xuất hiện, ví dụ khi công ty bắt đầu dùng AI tạo sinh; chính sách đạo đức phải được làm mới để theo kịp những rủi ro đó, nếu không nó sẽ lỗi thời và không còn bảo vệ được ai. "It helps internal stakeholders justify the release of new product features" biến chính sách thành công cụ hợp thức hoá quyết định đã có, trái với vai trò kiểm soát rủi ro. "It helps maintain alignment of the policies with the cultural and contextual values of the organization’s employees." nghe hợp lý nhưng chính sách phải bám theo giá trị chung và rủi ro của sản phẩm, không chạy theo quan điểm thay đổi của từng nhóm nhân viên. "It helps demonstrate to senior management that work is being done" là làm để báo cáo, mang tính hình thức.