Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập cuối kỳ số 4

Đáp án đúng: "The data was stored insecurely.". Root cause (nguyên nhân gốc) là điểm yếu nằm sâu nhất trong chuỗi sự cố, sửa nó thì sự cố không lặp lại; với dữ liệu riêng tư, điểm yếu đó thường là cách lưu trữ thiếu bảo vệ như không mã hoá, phân quyền lỏng hay để kho dữ liệu mở công khai. "The data was leaked online." là hậu quả nhìn thấy được của lỗ hổng, không phải nguyên nhân; nếu chỉ gỡ dữ liệu khỏi mạng mà không sửa cách lưu thì lần sau vẫn rò. "The data was deleted from storage." là một sự cố về tính sẵn sàng của dữ liệu, cũng là kết quả của một nguyên nhân khác như thiếu sao lưu hay sai quyền xoá. "The data was broken." chỉ mô tả trạng thái hỏng của dữ liệu, mơ hồ và vẫn là triệu chứng, chưa chỉ ra vì sao dữ liệu bị hỏng.

Đáp án đúng: "Increasing AI performance sometimes leads to greater model complexity, making it more difficult to explain decision-making processes.". Đây là thế đánh đổi kinh điển giữa hiệu năng và khả năng giải thích (explainability): mô hình chính xác hơn thường là mạng nơ-ron sâu hay tổ hợp hàng trăm cây với rất nhiều tham số, nên con người không lần theo được vì sao đầu vào dẫn tới một quyết định, khác với hồi quy tuyến tính hay cây quyết định nông vốn đọc được trực tiếp. Phương án "reduces the transparency of input data used in training" sai vì minh bạch về dữ liệu huấn luyện là chuyện ghi chép nguồn gốc dữ liệu, không tự động giảm khi mô hình mạnh hơn. Phương án "certain evaluation metrics no longer being useful" sai vì các chỉ số như accuracy hay F1 vẫn dùng được; chúng đo chất lượng dự đoán chứ không quyết định ta giải thích được mô hình hay không. Phương án "removes human-in-the-loop (HITL) methods" sai vì con người trong vòng lặp (HITL) là lựa chọn quy trình vận hành, không phải hệ quả tất yếu của việc tăng hiệu năng, và bỏ HITL làm giảm giám sát chứ không làm cơ chế bên trong khó hiểu hơn.

Đáp án đúng gồm hai ý: "It’s concise" và "It’s in a digital format". Thông cáo báo chí (press release) là văn bản chính thức tổ chức gửi tới báo giới và công chúng; nó phải ngắn gọn để phóng viên nắm ngay thông điệp chính, và phải ở dạng số để phát hành đồng thời qua email, website, mạng xã hội, kèm liên kết và tư liệu đa phương tiện, nhờ đó lan tới nhiều đối tượng một cách nhất quán và minh bạch. Nói thẳng chỗ dễ phân vân: thông cáo đúng là một kênh truyền thông một chiều, nên "It’s non-interactive" mô tả đúng bản chất của nó, nhưng đó chỉ là một đặc điểm chứ không phải phẩm chất cần nhắm tới khi soạn thông cáo, vì người viết không cố làm cho nó kém tương tác hơn mà vẫn mời báo giới liên hệ hỏi thêm. Còn "It’s delivered on a single platform" trái hẳn với cách phát hành thông cáo hiện nay, vốn đi đa kênh để tiếp cận càng nhiều bên liên quan càng tốt; bó vào một nền tảng chỉ làm thông điệp kém lan toả.

Đáp án đúng: "No, because an open door policy does not ensure employees feel heard.". Open door policy (chính sách mở cửa) chỉ nói rằng nhân viên được phép gặp cấp trên để nêu ý kiến, còn employee voice (tiếng nói của nhân viên) đòi hỏi ý kiến đó thực sự được lắng nghe, phản hồi và dẫn tới thay đổi, đồng thời người nói không sợ bị trả đũa; một cánh cửa mở mà không ai hành động thì nhân viên vẫn im lặng. "No, because an open door policy is the opposite of employee voice." sai vì chính sách mở cửa không đối nghịch mà là một kênh có thể góp phần tạo tiếng nói, chỉ là chưa đủ. "Yes, because both allow employees to speak up." sai vì được phép lên tiếng chưa đồng nghĩa với được lắng nghe. "Yes, because an open door policy is essential for employee voice." sai vì kể cả nếu chính sách ấy hữu ích thì "cần thiết" vẫn không biến nó thành "tương đương", và tiếng nói nhân viên có thể được xây bằng nhiều kênh khác như khảo sát ẩn danh hay kênh báo cáo vi phạm.

Đáp án đúng: "statistical parity". Statistical parity (còn gọi demographic parity, bình đẳng thống kê) đòi hỏi tỉ lệ nhận kết quả tích cực ở đầu ra như nhau giữa các nhóm, ví dụ tỉ lệ được duyệt vay của nam và nữ bằng nhau, không xét nhãn thật của từng người; vì vậy nó là tiêu chí đặt sự bình đẳng lên chính đầu ra của mô hình. "error rate parity" so sánh tỉ lệ sai, chẳng hạn false positive rate hay false negative rate giữa các nhóm, nghĩa là bình đẳng về lỗi so với nhãn thật chứ không phải bình đẳng về đầu ra. "equality of prediction rate" không phải tên một tiêu chí công bằng chuẩn và dễ gây nhầm với predictive parity, vốn so độ chính xác của dự đoán dương giữa các nhóm. "equality of assignment rate" cũng không phải thuật ngữ công bằng được dùng trong học máy, nên không mô tả cách mô hình ưu tiên bình đẳng đầu ra.

Đáp án đúng: "Validation test". Trong cross-validation (kiểm định chéo), dữ liệu được chia thành phần huấn luyện và phần kiểm định (validation); mô hình học trên phần huấn luyện, còn hiệu năng đo trên phần validation được dùng để chọn siêu tham số và tinh chỉnh mô hình, xoay vòng qua nhiều fold để ước lượng ổn định hơn. Tên gọi trong câu chính là tập validation đó. "Training set" sai vì đó là phần mô hình dùng để học tham số; đánh giá trên chính nó cho kết quả quá lạc quan và không phát hiện được overfitting (quá khớp). "Test set" sai vì tập kiểm tra phải giữ riêng, chỉ dùng một lần cuối để báo cáo hiệu năng khách quan; đem nó ra tinh chỉnh là rò rỉ thông tin và làm con số cuối bị thổi phồng. "Unit test" sai vì đó là kiểm thử đơn vị trong kỹ thuật phần mềm, kiểm từng hàm có chạy đúng không, hoàn toàn không phải một phần của dữ liệu.

Đáp án đúng: "Domain expertise". Sau khi dữ liệu đã được làm sạch, câu hỏi còn lại là mô hình có đang nhìn đúng bản chất bài toán hay không, và chỉ chuyên môn lĩnh vực (domain expertise) mới trả lời được: người hiểu nghiệp vụ biết biến nào thực sự có ý nghĩa, mối quan hệ nào là nhân quả hay chỉ là trùng hợp, kết quả nào nghe hợp lý về thống kê nhưng vô lý ngoài thực tế. Thiếu nó, mô hình dễ học sai tín hiệu và gây quyết định thiếu chính xác, thậm chí bất công. "Objective summarization" là việc tóm tắt kết quả một cách khách quan, thuộc khâu trình bày chứ không bảo đảm cách đặt vấn đề đúng. "Dataset verification" là kiểm tra tính đầy đủ, nhất quán của dữ liệu, vốn gắn với khâu làm sạch đã xong theo đề bài. "First principles" là lối tư duy phân rã vấn đề về những chân lý nền tảng, hữu ích khi thiết kế giải pháp mới nhưng không phải hướng dẫn về độ chính xác giúp mô hình hiểu đúng bối cảnh như kiến thức của chuyên gia lĩnh vực.

Đáp án đúng: "To conduct the simulated attacks.". Trong penetration testing (kiểm thử xâm nhập) theo mô hình đội đỏ đội xanh, red team (đội đỏ) đóng vai kẻ tấn công, dùng kỹ thuật như hacker thật để tìm và khai thác lỗ hổng, nhờ đó tổ chức biết hệ thống yếu ở đâu trước khi kẻ xấu phát hiện; làm việc này có đạo đức khi có phạm vi và sự cho phép rõ ràng. "To defend against the simulated attacks." là nhiệm vụ của blue team (đội xanh), đội giám sát, phát hiện và ứng phó. "To officiate the simulated attacks." mô tả vai trò trọng tài, thường gọi là white team (đội trắng), đặt luật chơi và chấm kết quả chứ không tấn công. "To disable the attacks." sai vì vô hiệu hoá cuộc tấn công là mục tiêu phòng thủ, trái ngược hẳn với việc đội đỏ chủ động tạo ra các cuộc tấn công giả lập.

Đáp án đúng: "Focused on preventing future problems.". Ethical impact assessment (đánh giá tác động đạo đức) được làm trước hoặc trong lúc thiết kế, triển khai một hệ thống để lường trước hệ thống có thể gây hại cho ai, xâm phạm quyền riêng tư, công bằng hay quyền tự chủ ra sao, rồi đặt biện pháp phòng ngừa; bản chất của nó là hướng tới tương lai và phòng ngừa. "Focused on the impact of past ethical risks." nhìn về quá khứ, giống một cuộc kiểm toán hay rà soát sau sự việc. "Focused on identifying the causes of past errors." là việc của phân tích nguyên nhân gốc sau sự cố (post-mortem). "Focused on identifying the causes of future errors." có hướng tới tương lai nhưng đặt trọng tâm vào lỗi kỹ thuật, trong khi đánh giá tác động đạo đức nhắm vào tác hại đối với con người và xã hội và cách ngăn chúng xảy ra.

Đáp án đúng: "Error rate, rejection rate". Đường Pareto (Pareto curve) ở đây là đường đánh đổi giữa tỉ lệ lỗi và tỉ lệ từ chối (error-reject trade-off) của bộ phân loại có quyền từ chối dự đoán (reject option): mô hình được phép không trả lời những ca nó kém tự tin và chuyển chúng cho con người xét. Mỗi điểm trên đường ứng với một ngưỡng tự tin; siết ngưỡng thì từ chối nhiều ca hơn và lỗi trên phần còn lại giảm, nới ngưỡng thì ngược lại, nên không thể giảm lỗi mà không tăng số ca bị từ chối. Trong bối cảnh công bằng, các ca bị từ chối chính là chỗ con người can thiệp vào quyết định. "Rejection rate, subgroup fairness rate" sai vì thiếu trục lỗi, tức không thấy cái giá phải trả về độ chính xác. "Rejection rate, false-positive rate" sai vì false-positive rate chỉ là một loại lỗi, không phản ánh tổng tỉ lệ lỗi mà đường đánh đổi này theo dõi. "Error rate, true positive rate" sai vì true positive rate là trục của đường ROC (ghép với false positive rate), không phải trục của đường đánh đổi lỗi với từ chối.

Đáp án đúng: "Pipeline". Pipeline (đường ống dữ liệu) là chuỗi bước xử lý được định nghĩa sẵn và tự động hoá, từ thu thập, làm sạch, biến đổi tới phân tích và báo cáo, để mỗi khi dữ liệu mới đổ về, chẳng hạn hằng tháng, cùng một phép phân tích được chạy lại theo đúng quy trình mà không phải dựng lại từ đầu; nhờ vậy kết quả nhất quán, kiểm tra lại được và giảm sai sót thủ công. "Workflow" là quy trình công việc nói chung, có thể gồm cả bước con người phê duyệt, nên quá rộng để chỉ riêng việc chạy lặp lại một phép phân tích trên dữ liệu mới. "Swimland" không phải thuật ngữ chỉ quá trình xử lý dữ liệu định kỳ; nó gợi tới kiểu sơ đồ chia làn để phân vai trách nhiệm giữa các bộ phận trong một quy trình. "Use case" là tình huống sử dụng, mô tả ai dùng hệ thống để đạt mục tiêu gì, tức là nêu nhu cầu chứ không phải cơ chế xử lý dữ liệu lặp lại theo chu kỳ.

Đáp án đúng: "It provides an accountability framework for stakeholders of the organization to prevent ethical violations.". Corporate governance (quản trị doanh nghiệp) là hệ thống quy tắc, vai trò và cơ chế giám sát xác định ai ra quyết định, ai chịu trách nhiệm và ai kiểm tra; với công nghệ dựa trên dữ liệu, nó gắn trách nhiệm giải trình (accountability) cho từng bên liên quan để ngăn vi phạm đạo đức từ trước. "It helps the organization showcase to its customers that it has ethical guidelines." chỉ là lợi ích hình ảnh, nếu coi đó là mục đích thì dễ trượt sang ethics washing. "It binds the employees in a moral code that limits the kind of actions they can engage in." thu hẹp quản trị thành bộ quy tắc trói buộc nhân viên, trong khi quản trị áp cho cả ban lãnh đạo và hội đồng. "It helps the organization have a document to point towards in case an ethical violation occurs." mang tính phản ứng và phòng thủ pháp lý sau sự cố, không phải phòng ngừa.

Đáp án đúng: "To pre-write communications before they are needed". Holding statement (thông cáo chờ) là bản tuyên bố ngắn soạn sẵn từ trước cho các kịch bản khủng hoảng, chỉ cần điền chi tiết là phát hành được ngay khi sự cố nổ ra: xác nhận tổ chức đã biết sự việc, đang xử lý và sẽ cập nhật thêm, nhờ đó tổ chức có tiếng nói sớm, tránh im lặng để tin đồn lấp chỗ trống trong lúc chờ đủ thông tin. "To order the business to temporarily halt certain operations" là quyết định vận hành của ban lãnh đạo, không phải một văn bản truyền thông. "To retain the services of specific media outlets" là việc thuê hay giữ quan hệ với cơ quan báo chí, không liên quan tới nội dung thông cáo. "To prevent personnel from communicating prematurely" là mục tiêu của quy chế phát ngôn và chỉ định người phát ngôn; thông cáo chờ có thể góp phần vào việc đó nhưng mục đích của nó là có sẵn lời lẽ để nói ngay.

Đáp án đúng: "A collective term for all approaches to prepare, support, and help individuals, teams, and organizations in making organizational change.". Quản lý thay đổi (change management) là thuật ngữ chung cho mọi cách tiếp cận giúp cá nhân, nhóm và cả tổ chức chuẩn bị, được hỗ trợ và vượt qua một cuộc thay đổi tổ chức, ví dụ khi đưa quy trình đánh giá đạo đức vào các dự án AI: truyền thông lý do, đào tạo, xử lý sự kháng cự và củng cố hành vi mới. Phương án "how employees are able to voice their concerns" sai vì đó là cơ chế lên tiếng, góp ý (speak-up), chỉ là một kênh trong quá trình thay đổi chứ không phải toàn bộ khái niệm. Phương án "in fostering an ethical organizational culture" sai vì xây dựng văn hoá đạo đức chỉ là một mục tiêu cụ thể mà quản lý thay đổi có thể phục vụ, còn khái niệm áp dụng cho mọi loại thay đổi tổ chức. Phương án "in a product after receiving negative feedback" sai vì sửa sản phẩm sau phản hồi tiêu cực là cải tiến sản phẩm, không phải việc dẫn dắt con người và tổ chức đi qua thay đổi.

Đáp án đúng gồm hai ý: "Clear direction on the roles and responsibilities of team members" và "Access to adequate resources". Đội truyền thông khủng hoảng (crisis communication team) phải hành động nhanh dưới áp lực, nên cần biết rõ ai là người phát ngôn, ai soạn thông điệp, ai theo dõi dư luận, ai liên lạc với cơ quan quản lý, để tránh thông tin chồng chéo hay mâu thuẫn; đồng thời cần đủ nguồn lực như nhân sự, công cụ giám sát truyền thông, kênh phát hành và quyền tiếp cận thông tin nội bộ để phản hồi kịp thời và chính xác. "Permission to tell the public what they want to hear" sai về đạo đức: truyền thông khủng hoảng phải trung thực và minh bạch, nói điều công chúng muốn nghe thay vì sự thật sẽ phá huỷ lòng tin khi sự thật lộ ra. "The ability to work independently of the crisis management team" cũng sai, vì đội truyền thông phải phối hợp chặt với đội quản lý khủng hoảng để thông điệp khớp với hành động thực tế của tổ chức; tách rời hai đội dễ khiến tổ chức nói một đằng làm một nẻo.

Đáp án đúng: "inputs/outputs, algorithm". Với một learning function (hàm học) phức tạp như mạng nơ-ron sâu, ta biết dữ liệu nào đi vào và kết quả nào đi ra, nhưng không đọc hiểu được "algorithm" theo nghĩa của câu hỏi: đó là quy tắc quyết định mà mô hình tự hình thành bên trong qua hàng triệu tham số, thứ thực sự biến đầu vào thành đầu ra, chứ không phải thủ tục huấn luyện như lan truyền ngược mà con người tự viết; đây là gốc của vấn đề hộp đen và lý do cần explainable AI (AI giải thích được). "algorithm, cause and effect" là cách hiểu cạnh tranh đáng kể: vế sau có phần đúng vì mô hình chỉ nắm tương quan chứ không cho biết nhân quả, và nếu hiểu algorithm là thủ tục huấn luyện thì vế đầu cũng nghe hợp lý; nhưng với nghĩa quy tắc mô hình tự học thì vế đầu sai, nên phương án này không được chọn. "causal link, correlation" đảo ngược thực tế, vì mô hình học máy nắm tương quan (correlation) chứ thường không cho ta biết mối quan hệ nhân quả. "input data, output data" sai vì cả hai vế đều là thứ ta quan sát được, không có vế nào bị che khuất như câu hỏi mô tả.

Đáp án đúng: "individuals within those groups". Các tiêu chí group fairness (công bằng nhóm) như statistical parity chỉ bảo đảm con số trung bình giữa các nhóm cân bằng; để đạt điều đó mô hình có thể đối xử khác nhau với hai người có hồ sơ gần như giống hệt, hoặc hạ, nâng ngưỡng cho cả nhóm, khiến một số cá nhân cụ thể bị thiệt dù nhóm của họ nhìn chung được bảo vệ. Đây là căng thẳng giữa công bằng nhóm và individual fairness (công bằng cá nhân), vốn đòi những người tương tự phải được đối xử tương tự. "training datasets" là dữ liệu, không phải chủ thể có quyền lợi để bị tổn hại. "researchers" là người xây dựng mô hình, không phải đối tượng chịu quyết định của nó. "future models" là sản phẩm kỹ thuật; ràng buộc công bằng có thể làm giảm độ chính xác chung nhưng đó không phải là tổn hại đạo đức theo nghĩa của câu hỏi.

Đáp án đúng: "local". Trong quyền riêng tư vi phân (differential privacy), mức local nghĩa là nhiễu được thêm ngay phía người trả lời, trước khi dữ liệu rời khỏi họ, ví dụ kỹ thuật randomized response (trả lời ngẫu nhiên hoá): người được hỏi tung đồng xu để quyết định nói thật hay đưa câu trả lời ngẫu nhiên, nên ngay cả bên thu thập cũng không biết chắc câu trả lời thật của từng người, chỉ ước lượng được thống kê của cả nhóm. "global" sai vì ở mức toàn cục, bên thu thập được coi là đáng tin, giữ dữ liệu gốc chính xác rồi mới thêm nhiễu vào kết quả truy vấn, nên người thu thập vẫn thấy dữ liệu thật. "k-anonymous" sai vì k-anonymity là một kỹ thuật ẩn danh hoá khác, làm mờ quasi-identifier để mỗi người lẫn vào nhóm ít nhất k người, không phải một mức của differential privacy. "premium" sai vì không có mức nào mang tên này trong differential privacy; đây chỉ là từ gây nhiễu.

Đáp án đúng: "Compliance audit". Kiểm toán tuân thủ (compliance audit) là việc rà soát có hệ thống xem tổ chức có đáp ứng các luật, quy định và chuẩn mực bắt buộc hay không, chẳng hạn quy định bảo vệ dữ liệu cá nhân; trong chiến lược truyền thông rủi ro, nó cho bằng chứng rằng tổ chức đang giữ đúng nghĩa vụ pháp lý và giúp phát hiện lỗ hổng trước khi thành vi phạm. "Business impact assessment (BIA)" đánh giá tác động của sự gián đoạn lên hoạt động kinh doanh, phục vụ kế hoạch duy trì liên tục, chứ không kiểm tra việc tuân thủ quy định. "Ethical risk review" xem xét rủi ro đạo đức như thiên lệch hay xâm phạm riêng tư; nó rất đáng làm nhưng đạo đức rộng hơn và khác với nghĩa vụ pháp lý mà câu hỏi nhắm tới. "Public relations campaign" là chiến dịch xây dựng hình ảnh với công chúng, chỉ tác động tới nhận thức chứ không chứng minh hay bảo đảm tổ chức tuân thủ quy định.

Đáp án đúng: "Set the tone of what is to follow". Trong truyền thông khủng hoảng, thông cáo đầu tiên thường ra khi thông tin còn ít, nên nhiệm vụ của nó là định giọng điệu cho toàn bộ chuỗi thông báo sau: thừa nhận sự việc, thể hiện quan tâm tới người bị ảnh hưởng, cam kết minh bạch và hẹn thời điểm cập nhật tiếp; ấn tượng đầu này quyết định công chúng có tin các thông báo về sau hay không. "Provide in-depth details about the situation" không khả thi lúc đầu vì sự thật chưa được xác minh, nói chi tiết sớm dễ phải đính chính. "Survey public opinion of the organization" là việc đo lường nội bộ, không phải nội dung của một thông cáo gửi báo chí. "Accept responsibility for perceived problems" vội vàng nhận trách nhiệm cho vấn đề mới chỉ là cảm nhận, có thể sai sự thật và gây rủi ro pháp lý trước khi điều tra xong.