Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 5

Đáp án đúng: "Google Maps satellite view dataset". Vi phạm riêng tư bằng thuật toán (algorithmic privacy violation) xảy ra khi dữ liệu công khai, từng mẩu có vẻ vô hại, bị thuật toán gộp lại để suy ra thông tin nhạy cảm mà không ai đồng ý cung cấp. Ảnh vệ tinh công khai từng được các nhà nghiên cứu tại Stanford dùng cùng học sâu để ước lượng mức nghèo đói của từng vùng; còn nghiên cứu Stanford suy ra thu nhập và xu hướng bỏ phiếu của khu dân cư từ xe ô tô trong ảnh thì dùng ảnh Google Street View. Theo đúng chữ in, ảnh vệ tinh Google Maps là bộ dữ liệu công khai có thật duy nhất trong các phương án. "Google search view dataset" có thể là bản in lệch của Google Street View, và nếu vậy nó cũng là ví dụ rất mạnh; nhưng theo đúng chữ in thì không có bộ dữ liệu công khai nào tên như vậy. "Stanford hospital dataset" sai vì tên Stanford gắn với các nghiên cứu ảnh nói trên, còn dữ liệu bệnh viện là dữ liệu y tế được bảo vệ, không công khai. "Fidelity Bank lending dataset" là dữ liệu tín dụng nội bộ của ngân hàng, có rủi ro riêng tư nhưng không công khai như câu hỏi yêu cầu.

Đáp án đúng: "Validation test". Trong cross-validation (kiểm định chéo), dữ liệu được chia thành phần huấn luyện và phần kiểm định (validation); mô hình học trên phần huấn luyện, còn hiệu năng đo trên phần validation được dùng để chọn siêu tham số và tinh chỉnh mô hình, xoay vòng qua nhiều fold để ước lượng ổn định hơn. Tên gọi trong câu chính là tập validation đó. "Training set" sai vì đó là phần mô hình dùng để học tham số; đánh giá trên chính nó cho kết quả quá lạc quan và không phát hiện được overfitting (quá khớp). "Test set" sai vì tập kiểm tra phải giữ riêng, chỉ dùng một lần cuối để báo cáo hiệu năng khách quan; đem nó ra tinh chỉnh là rò rỉ thông tin và làm con số cuối bị thổi phồng. "Unit test" sai vì đó là kiểm thử đơn vị trong kỹ thuật phần mềm, kiểm từng hàm có chạy đúng không, hoàn toàn không phải một phần của dữ liệu.

Đáp án đúng gồm hai ý: "It minimizes the impact of any ethical issues which may emerge." và "It reveals any gaps in accountability or auditability.". Thử nghiệm thí điểm (pilot testing) đưa công nghệ mới ra một nhóm người dùng nhỏ, trong phạm vi kiểm soát được, trước khi phát hành rộng; nhờ quy mô hẹp, nếu xuất hiện vấn đề đạo đức như thiên lệch, xâm phạm riêng tư hay tác hại ngoài dự kiến thì số người bị ảnh hưởng ít và có thời gian khắc phục. Thí điểm cũng cho thấy hệ thống đã ghi nhật ký đủ chưa, ai chịu trách nhiệm khi có sự cố, có thể kiểm toán quyết định hay không, từ đó vá lỗ hổng về trách nhiệm giải trình. "It certifies that a product’s developers are legally accountable." sai vì thí điểm là hoạt động kỹ thuật và quản lý, không có giá trị xác nhận trách nhiệm pháp lý; điều đó do luật và hợp đồng quy định. "It demonstrates that the system is functional as early as possible in order to satisfy senior management and investor stakeholders." đặt mục tiêu làm hài lòng lãnh đạo và nhà đầu tư, đó là lợi ích kinh doanh chứ không phải lợi ích đạo đức, thậm chí có thể dẫn tới vội vàng bỏ qua rủi ro.

Đáp án đúng: "A model might optimize one metric at the expense of others.", vì Goodhart's law, mang tên nhà kinh tế học Charles Goodhart, nói rằng khi một thước đo bị biến thành mục tiêu thì nó không còn là thước đo tốt. Với mô hình học máy, nếu chỉ tối ưu một chỉ số như độ chính xác hay tỉ lệ nhấp chuột, mô hình sẽ tìm cách đẩy chỉ số đó lên kể cả khi làm hỏng các mục tiêu khác như công bằng, sức khoẻ người dùng hay chất lượng nội dung, nên cần theo dõi nhiều chỉ số cùng lúc. "A model might be ineffective in its application domain." là rủi ro chung về chất lượng mô hình, không phải nội dung của định luật. "A model might change its task from classification to regression, or vice versa." vô lý, vì loại bài toán do người thiết kế chọn, mô hình không tự đổi. "A model very famous and can be apply to all domain." không liên quan; Goodhart's law là cảnh báo về việc tối ưu chỉ số, không nói mô hình áp được cho mọi lĩnh vực.

Đáp án đúng gồm hai ý: "The intention behind a certain activity or request" và "A request for consent to perform an action". Thương lượng quyền truy cập dữ liệu một cách đạo đức dựa trên tôn trọng quyền tự quyết của người dùng: tổ chức phải nói rõ mục đích của hoạt động hay yêu cầu, để người dùng hiểu dữ liệu sẽ được dùng ra sao, rồi xin sự đồng ý trước khi hành động, đúng tinh thần đồng thuận có hiểu biết (informed consent). "The monetary value of that data" sai vì giá trị tiền của dữ liệu không giúp người dùng hiểu việc mình đang đồng ý, lại biến quyền riêng tư thành món hàng mặc cả. "An offer of money or other incentives to relinquish user's rights" sai vì dùng tiền hay ưu đãi để người dùng từ bỏ quyền làm méo tính tự nguyện của sự đồng ý, dễ thành ép buộc nhất là với người yếu thế.

Đáp án đúng: "Models may perform poorly when applied to different contexts". Mô hình học các mẫu hình từ dữ liệu của bối cảnh nó được huấn luyện và kiểm thử; khi đem sang bối cảnh khác, như bệnh viện khác, quốc gia khác, nhóm dân cư khác, phân phối dữ liệu thay đổi (distribution shift) nên độ chính xác có thể tụt mạnh và thiên kiến với nhóm chưa xuất hiện trong dữ liệu lộ ra. "Models require less computational power in limited contexts" không phải giới hạn mà còn nghe như lợi ích, và cũng không đúng theo nghĩa chung. "Models reduce training data requirements when context is specified" lại mô tả một ưu điểm giả định, không trả lời câu hỏi về giới hạn. "Models automatically improve when tested in the same context" sai vì kiểm thử chỉ đo hiệu năng chứ không tự làm mô hình tốt lên, và kiểm thử cùng bối cảnh còn che giấu chính giới hạn đang hỏi.

Đáp án đúng: "Responsible, Accountable, Consulted, Informed". RACI là ma trận phân công trách nhiệm: Responsible là người trực tiếp thực hiện công việc, Accountable là người chịu trách nhiệm cuối cùng và phê duyệt, Consulted là người được hỏi ý kiến trước khi quyết định, Informed là người được thông báo kết quả. Trong quản trị đạo đức dữ liệu, RACI giúp mỗi rủi ro có đúng một người chịu trách nhiệm cuối cùng, tránh tình trạng ai cũng nghĩ việc thuộc về người khác. "Relatable, Agreeable, Commendable, Irascible" là các tính từ mô tả tính cách, không liên quan tới phân công vai trò. "Responsible, Accessible, Consulted, Improvised" thay sai hai vai: Accessible và Improvised không phải vai trò trong ma trận. "Redesignable, Accessible, Collected, Informative?" chỉ trùng chữ cái đầu, các từ đều không mô tả vai trò của người tham gia công việc.

Đáp án đúng: "Define target audience, conduct research, build fictional personas based on insights, validate personas". Persona là nhân vật hư cấu đại diện cho một nhóm người dùng thật; quy trình đúng đi từ xác định đối tượng mục tiêu, nghiên cứu họ bằng dữ liệu và phỏng vấn, dựng persona dựa trên những hiểu biết rút ra, rồi kiểm chứng persona với người dùng thật để tránh khuôn mẫu sai lệch. "Identify privacy risks, analyze data, implement policies, conduct training" là quy trình quản trị quyền riêng tư trong tổ chức, không tạo ra hình mẫu người dùng. "Conduct surveys, run focus groups, implement findings, analyze results" có bước nghiên cứu nhưng đặt việc triển khai trước khi phân tích và không hề có bước dựng persona. "Develop marketing strategies, execute campaigns, evaluate outcomes, adjust tactics" là chu trình vận hành chiến dịch tiếp thị, diễn ra sau khi đã có persona chứ không phải các bước tạo ra chúng.

Đáp án đúng: "Enact a sound data governance structure". Bảo mật tập dữ liệu học máy bắt đầu từ quản trị dữ liệu (data governance): xác định ai sở hữu dữ liệu, ai được truy cập, dữ liệu được lưu, mã hoá, ghi nhật ký, giữ và xoá thế nào, nguồn gốc dữ liệu ra sao để phát hiện dữ liệu bị đầu độc hay rò rỉ. Thiếu cấu trúc này thì các biện pháp kỹ thuật rời rạc khó có hiệu lực. "Ensure your team is full of different perspectives" là thực hành tốt để giảm thiên lệch và tăng công bằng, nhưng không phải biện pháp bảo mật dữ liệu. "Perform threat modeling with beneficial algorithms" ghép mô hình hoá mối đe doạ, vốn là kỹ thuật bảo mật, với một khái niệm thuật toán có lợi không rõ nghĩa, nên không phải thực hành được khuyến nghị. "Create a chain of command" chỉ là cấu trúc báo cáo trong tổ chức, không trực tiếp bảo vệ dữ liệu.

Đáp án đúng: "Recall". Recall (độ nhạy) = TP / (TP + FN), tức trong số cây cầu thật sự sập, mô hình bắt được bao nhiêu; ở bài toán này sai lầm đắt nhất là false negative, mô hình bảo cầu an toàn trong khi nó sập, nên cần tối đa recall để bỏ sót ít nhất. "Accuracy" gây hiểu lầm với dữ liệu mất cân bằng: chỉ vài cây cầu sập nên một mô hình luôn đoán không sập vẫn đạt độ chính xác gần 100% mà không phát hiện được cây cầu nguy hiểm nào. "Confusion matrix" là bảng đếm TP, FP, TN, FN dùng để tính các chỉ số, hữu ích để xem lỗi nhưng không phải một chỉ số đơn để tối ưu theo mục tiêu đã nêu. "Precision" = TP / (TP + FP) đo trong số cầu bị cảnh báo có bao nhiêu sập thật, tức hạn chế báo động nhầm; báo nhầm chỉ tốn chi phí kiểm tra, nhẹ hơn nhiều so với bỏ sót một cây cầu sắp sập.

Đáp án đúng: "A ruling or scoring made outside of a court.". Extrajudicial judgment (phán xét ngoài toà án) là việc một tổ chức đưa ra kết luận gây hậu quả cho một người mà không qua thủ tục tư pháp, không có quyền bào chữa hay kháng nghị; trong đạo đức công nghệ, ví dụ điển hình là hệ thống chấm điểm tín dụng hay chấm điểm công dân tự động quyết định ai được vay, được thuê nhà, giống như một bản án nhưng nằm ngoài toà. "Transferring defendants from one jurisdiction to another for trial." là dẫn độ hoặc chuyển nơi xét xử, vẫn diễn ra trong hệ thống tư pháp. "Applying law from one jurisdiction within another." là áp dụng luật ngoài lãnh thổ (extraterritorial application). "Unusual interpretation of law outside of its typical meaning." là cách giải thích luật mở rộng, vẫn là hoạt động của người áp dụng luật chứ không phải phán xét ngoài toà.

Đáp án đúng: "noise". Quyền riêng tư vi phân (differential privacy) thêm nhiễu ngẫu nhiên được hiệu chỉnh vào dữ liệu hoặc vào kết quả truy vấn, sao cho kết quả gần như không đổi dù có hay không có dữ liệu của một cá nhân bất kỳ; nhờ đó vẫn rút ra thống kê tổng thể mà không suy ngược được thông tin của từng người, và mức nhiễu quyết định sự đánh đổi giữa riêng tư và độ chính xác. "filters" sai vì lọc chỉ loại bớt bản ghi hay trường, không tạo ra bảo đảm toán học nào. "fairness scoring" là công cụ đánh giá công bằng của mô hình, không liên quan tới bảo vệ riêng tư. "k-anonymity" là một kỹ thuật ẩn danh khác, làm mờ và gộp các thuộc tính để mỗi bản ghi lẫn với ít nhất k bản ghi khác; nó không phải thứ được thêm vào trong quyền riêng tư vi phân.

Đáp án đúng: "The data was stored insecurely.". Root cause (nguyên nhân gốc) là điểm yếu nằm sâu nhất trong chuỗi sự cố, sửa nó thì sự cố không lặp lại; với dữ liệu riêng tư, điểm yếu đó thường là cách lưu trữ thiếu bảo vệ như không mã hoá, phân quyền lỏng hay để kho dữ liệu mở công khai. "The data was leaked online." là hậu quả nhìn thấy được của lỗ hổng, không phải nguyên nhân; nếu chỉ gỡ dữ liệu khỏi mạng mà không sửa cách lưu thì lần sau vẫn rò. "The data was deleted from storage." là một sự cố về tính sẵn sàng của dữ liệu, cũng là kết quả của một nguyên nhân khác như thiếu sao lưu hay sai quyền xoá. "The data was broken." chỉ mô tả trạng thái hỏng của dữ liệu, mơ hồ và vẫn là triệu chứng, chưa chỉ ra vì sao dữ liệu bị hỏng.

Đáp án đúng: "It brings diverse expertise to ethical challenges". Vấn đề đạo đức công nghệ đan xen kỹ thuật, pháp luật, triết học, tâm lý và khoa học xã hội; hợp tác liên ngành (interdisciplinary collaboration) đưa các góc nhìn đó vào cùng bàn để phát hiện rủi ro mà một ngành riêng lẻ bỏ sót, chẳng hạn kỹ sư thấy giới hạn mô hình còn nhà xã hội học thấy tác động lên nhóm yếu thế. "It's unnecessary complexity" sai vì độ phức tạp đó phản ánh đúng bản chất nhiều chiều của vấn đề; đơn giản hoá quá mức mới là rủi ro. "It slows down development processes" có thể đúng ở ngắn hạn, nhưng đó là cái giá chứ không phải vai trò, và nó giúp tránh sai lầm tốn kém về sau. "It creates conflicting viewpoints only" sai vì chữ "only" bỏ qua giá trị của tranh luận: bất đồng giữa các ngành giúp lộ ra giả định ngầm và dẫn tới giải pháp cân bằng hơn.

Đáp án đúng: "A method of performing operations on encrypted data.". Mã hoá đồng cấu (homomorphic encryption) cho phép tính toán trực tiếp trên dữ liệu đã mã hoá; khi giải mã kết quả, ta nhận được đúng kết quả như khi tính trên dữ liệu gốc. Nhờ vậy một bên thứ ba như dịch vụ đám mây có thể xử lý dữ liệu nhạy cảm mà không bao giờ thấy nội dung thật, bảo vệ quyền riêng tư. "A method of swapping public and private keys between hosts." sai vì đó là chuyện trao đổi khoá; khoá bí mật thì không bao giờ được gửi cho bên khác. "A method of cryptography that hides data inside other data." là mô tả của kỹ thuật giấu tin (steganography), không phải mã hoá đồng cấu. "A method of mitigating biased algorithms through enhanced secrecy." sai vì mã hoá chỉ bảo vệ tính bí mật của dữ liệu, không làm giảm thiên lệch của thuật toán.

Đáp án đúng: "Building trust and ethical alignment". Lãnh đạo có đạo đức cần nói rõ giá trị, giải thích lý do của quyết định và lắng nghe phản hồi; truyền thông cởi mở như vậy tạo niềm tin để nhân viên dám nêu vấn đề, đồng thời giúp mọi người cùng hiểu và cùng hướng theo một chuẩn mực đạo đức chung. "Preventing conflict resolution" sai vì truyền thông tốt giúp giải quyết xung đột chứ không ngăn cản việc đó. "Encouraging silence during ethical issues" đi ngược hẳn vai trò của lãnh đạo đạo đức, vì im lặng khiến sai phạm bị che giấu và nhân viên ngại lên tiếng. "Reducing transparency in strategy" cũng trái nguyên tắc, vì giảm minh bạch làm mất niềm tin và khiến người khác không đánh giá được chiến lược có phù hợp đạo đức hay không.

Đáp án đúng: "Systems may not reflect public values". Người dùng và cộng đồng chịu tác động trực tiếp của AI; nếu họ bị gạt khỏi các cuộc thảo luận về tác động, nhà phát triển chỉ dựa trên giả định của chính mình, nên hệ thống dễ bỏ sót nhu cầu, mối lo và chuẩn mực của xã hội, dẫn tới thiếu công bằng và mất lòng tin. "They contribute less" chỉ mô tả lại việc họ bị loại ra, không phải hệ quả đáng lo; điều đáng lo là hệ thống tạo ra. "Faster deployment" có thể xảy ra ở ngắn hạn, nhưng đó là lợi ích tốc độ chứ không phải tác động đạo đức, và cái giá là rủi ro tăng lên. "Lower training costs" sai vì chi phí huấn luyện phụ thuộc dữ liệu và tài nguyên tính toán, không phụ thuộc việc có lấy ý kiến người dùng hay không.

Đáp án đúng: "Considering diverse cultural and accessibility needs". Giao tiếp hoà nhập (inclusive communication) là làm cho thông điệp đến được và được hiểu bởi mọi nhóm người, gồm người khác ngôn ngữ, văn hoá, trình độ và người khuyết tật, bằng cách điều chỉnh từ ngữ, định dạng và kênh. "Using a single communication channel" bỏ rơi những người không dùng hoặc không tiếp cận được kênh đó. "Focusing only on majority perspectives" trái hẳn với hoà nhập vì gạt nhóm thiểu số ra ngoài. "Standardizing all messages" giúp nhất quán nhưng trái với việc điều chỉnh theo nhu cầu khác nhau, ví dụ bản dễ đọc, phụ đề hay ngôn ngữ khác, nên cũng không phải cách thúc đẩy giao tiếp hoà nhập.

Đáp án đúng gồm hai ý: "It’s concise" và "It’s in a digital format". Thông cáo báo chí (press release) là văn bản chính thức tổ chức gửi tới báo giới và công chúng; nó phải ngắn gọn để phóng viên nắm ngay thông điệp chính, và phải ở dạng số để phát hành đồng thời qua email, website, mạng xã hội, kèm liên kết và tư liệu đa phương tiện, nhờ đó lan tới nhiều đối tượng một cách nhất quán và minh bạch. Nói thẳng chỗ dễ phân vân: thông cáo đúng là một kênh truyền thông một chiều, nên "It’s non-interactive" mô tả đúng bản chất của nó, nhưng đó chỉ là một đặc điểm chứ không phải phẩm chất cần nhắm tới khi soạn thông cáo, vì người viết không cố làm cho nó kém tương tác hơn mà vẫn mời báo giới liên hệ hỏi thêm. Còn "It’s delivered on a single platform" trái hẳn với cách phát hành thông cáo hiện nay, vốn đi đa kênh để tiếp cận càng nhiều bên liên quan càng tốt; bó vào một nền tảng chỉ làm thông điệp kém lan toả.

Đáp án đúng: "Black-box algorithms are hard to interpret". Khả năng giải thích (explainability) là việc làm cho con người hiểu vì sao mô hình đưa ra một kết quả; với mạng nơ-ron sâu hay mô hình tổ hợp có hàng triệu tham số, logic bên trong mờ đục như hộp đen (black box), nên rất khó giải thích từng quyết định cho người bị ảnh hưởng hay cơ quan quản lý. "It makes models faster" sai vì giải thích không làm mô hình chạy nhanh hơn, thậm chí các kỹ thuật giải thích còn tốn thêm tính toán. "Users don't care about explanations" sai vì người bị từ chối vay hay tuyển dụng cần biết lý do để khiếu nại, và luật như GDPR có quy định riêng về quyết định tự động. "It improves transparency instantly" sai vì minh bạch là mục tiêu cần nhiều công sức chứ không đến tức thì, và đó là lợi ích chứ không phải thách thức.