Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 4

Đáp án đúng gồm hai ý: "Mitigation" và "Identification". Quy trình quản lý rủi ro cơ bản đi theo chuỗi nhận diện rủi ro, đánh giá mức độ, giảm thiểu và theo dõi; Identification (nhận diện) là bước tìm ra những gì có thể đi sai, còn Mitigation (giảm thiểu) là bước đặt biện pháp làm giảm khả năng xảy ra hoặc mức thiệt hại. Không nhận diện thì không có gì để quản lý, không giảm thiểu thì việc nhận diện chẳng thay đổi được gì. "Authentication" (xác thực) là một biện pháp kiểm soát an ninh cụ thể, có thể được chọn trong bước giảm thiểu nhưng không phải một nhiệm vụ của quy trình quản lý rủi ro. "Compliance" (tuân thủ) là việc đáp ứng luật và quy định; vi phạm có thể là một nguồn rủi ro, nhưng tuân thủ là một mục tiêu hay một chức năng riêng chứ không phải bước nền của quản lý rủi ro.

Đáp án đúng: "Privacy considerations integrated from the start". Privacy by design (quyền riêng tư từ khâu thiết kế), do Ann Cavoukian đề xuất, nghĩa là cân nhắc quyền riêng tư được tích hợp ngay từ đầu vào kiến trúc hệ thống và quy trình, chủ động phòng ngừa thay vì khắc phục, và coi bảo vệ quyền riêng tư là thiết lập mặc định (privacy by default); GDPR cũng ghi yêu cầu này ở Điều 25. "Privacy features added after development" sai vì ngược hẳn nguyên tắc: thêm sau khi phát triển là vá lỗi, tốn kém và dễ bỏ sót. "Privacy only for premium users" sai vì quyền riêng tư là quyền của mọi người dùng, không phải đặc quyền phải trả tiền. "Privacy through legal compliance only" sai vì tuân thủ pháp luật chỉ là mức tối thiểu, còn privacy by design đòi hỏi chủ động làm nhiều hơn những gì luật bắt buộc.

Đáp án đúng: "User awareness and system testing". Kế hoạch giảm thiểu rủi ro AI hiệu quả cần cả hai mặt: kiểm thử hệ thống một cách có hệ thống, gồm kiểm thử độ chính xác, thiên lệch, độ bền trước dữ liệu bất thường và an ninh, để phát hiện vấn đề trước khi gây hại; và nâng cao nhận thức người dùng để họ hiểu giới hạn của hệ thống, biết khi nào không nên tin kết quả và cách báo cáo sự cố. "Full data exposure" là công khai toàn bộ dữ liệu, làm tăng rủi ro xâm phạm riêng tư và rò rỉ chứ không giảm rủi ro. "Elimination of all transparency" đi ngược nguyên tắc đạo đức AI, vì minh bạch giúp người dùng và cơ quan giám sát phát hiện, chất vấn sai sót. "Focus only on legal review" quá hẹp: rà soát pháp lý cần thiết nhưng chỉ bảo đảm không phạm luật, bỏ sót các rủi ro kỹ thuật, xã hội và đạo đức mà luật chưa điều chỉnh tới.

Đáp án đúng: "Models may perform poorly when applied to different contexts". Mô hình học các mẫu hình từ dữ liệu của bối cảnh nó được huấn luyện và kiểm thử; khi đem sang bối cảnh khác, như bệnh viện khác, quốc gia khác, nhóm dân cư khác, phân phối dữ liệu thay đổi (distribution shift) nên độ chính xác có thể tụt mạnh và thiên kiến với nhóm chưa xuất hiện trong dữ liệu lộ ra. "Models require less computational power in limited contexts" không phải giới hạn mà còn nghe như lợi ích, và cũng không đúng theo nghĩa chung. "Models reduce training data requirements when context is specified" lại mô tả một ưu điểm giả định, không trả lời câu hỏi về giới hạn. "Models automatically improve when tested in the same context" sai vì kiểm thử chỉ đo hiệu năng chứ không tự làm mô hình tốt lên, và kiểm thử cùng bối cảnh còn che giấu chính giới hạn đang hỏi.

Đáp án đúng: "Regression". Nhãn cần dự đoán là doanh thu mà mỗi khách mang lại, một giá trị số liên tục, nên đây là bài toán hồi quy (regression) thuộc học có giám sát. "Classification" sai vì phân loại dự đoán nhãn rời rạc như khách sẽ mua hay không; nó chỉ phù hợp nếu ta chia doanh thu thành các hạng thấp, trung bình, cao, điều câu hỏi không nêu. "Clustering" sai vì phân cụm là học không giám sát, gom những khách giống nhau mà không có nhãn cần dự đoán. "Dimensionality reduction" sai vì giảm chiều, chẳng hạn PCA, là kỹ thuật nén số thuộc tính để tiền xử lý chứ không tự đưa ra dự đoán. Về mặt đạo đức, cần lưu ý rằng dùng giới tính và vị trí làm đầu vào có thể khiến mô hình đối xử khác biệt với khách hàng chỉ vì thuộc tính được bảo vệ, nên phải kiểm tra thiên lệch.

Đáp án đúng: "Threat modeling or analysis tools". STRIDE là mô hình phân loại mối đe doạ do Microsoft đề xuất, gồm Spoofing, Tampering, Repudiation, Information disclosure, Denial of service và Elevation of privilege; VAST (Visual, Agile and Simple Threat) là một phương pháp mô hình hoá mối đe doạ hướng tới quy mô lớn. Cả hai được dùng trong công cụ threat modeling (mô hình hoá mối đe doạ) để liệt kê có hệ thống cách một hệ thống có thể bị tấn công trước khi xây dựng. "Black box mitigation methods" là cách giảm thiểu rủi ro khi không nhìn được bên trong hệ thống, không phải khung phân loại mối đe doạ. "Network optimization tools" tối ưu băng thông, định tuyến, phục vụ hiệu năng chứ không phải an ninh. "Bias mitigation techniques" là kỹ thuật giảm thiên lệch trong mô hình học máy, thuộc mảng công bằng chứ không phải phân tích tấn công.

Đáp án đúng: "distinguished from at least K individuals who are also in the dataset". k-anonymity (k-ẩn danh) đạt được khi mỗi bản ghi giống hệt các bản ghi khác trên những quasi-identifier (thuộc tính bán định danh như mã bưu chính, tuổi, giới tính), tức mỗi người nằm lẫn trong một nhóm ít nhất k người không phân biệt được với nhau; cách làm thường dùng là tổng quát hoá, như gộp tuổi thành khoảng, và che bớt giá trị. "reidentified in K datasets" sai vì k không phải số tập dữ liệu mà là kích thước nhóm tương đương trong cùng một tập. "hidden from a quasi-identifier column as long as K individuals belong" sai vì k-anonymity không giấu người khỏi cột quasi-identifier mà làm giá trị cột đó trùng nhau trong nhóm. "harmed from datasets with K individuals belonging to the sensitive class" sai vì k-anonymity không bảo đảm không gây hại và không đếm số người trong lớp nhạy cảm; chính điểm yếu này là lý do có l-diversity, đòi giá trị nhạy cảm trong nhóm phải đa dạng.

Đáp án đúng: "Loss of customer trust and potential legal penalties". Một vụ xâm phạm quyền riêng tư (privacy breach), như rò rỉ dữ liệu cá nhân của khách hàng, làm khách hàng mất niềm tin vào khả năng tổ chức bảo vệ thông tin của họ, dẫn tới rời bỏ dịch vụ và tổn hại danh tiếng lâu dài; đồng thời tổ chức có thể bị phạt theo luật bảo vệ dữ liệu và bị kiện đòi bồi thường. "Improved public reputation and trust" ngược hẳn với thực tế, vì danh tiếng và lòng tin chính là thứ bị tổn hại. "Increase in data security measures" thường xảy ra sau sự cố, nhưng đó là phản ứng khắc phục của tổ chức chứ không phải tác động tiêu cực mà vụ xâm phạm gây ra như câu hỏi muốn nói. "Enhanced employee morale" không hợp lý, vì sau một vụ rò rỉ nhân viên thường chịu áp lực, lo lắng và tinh thần đi xuống chứ không tăng lên.

Đáp án đúng: "To protect stakeholder trust and comply with legal regulations". Quản lý rủi ro quyền riêng tư tốt giúp tổ chức giữ niềm tin của khách hàng, nhân viên và đối tác, những người giao dữ liệu cá nhân với kỳ vọng nó được bảo vệ, đồng thời đáp ứng các luật như GDPR mà vi phạm có thể bị phạt nặng và tổn hại uy tín lâu dài. "To decrease the cost of cybersecurity measures" sai vì quản lý quyền riêng tư thường đòi đầu tư thêm, mục tiêu không phải cắt chi phí bảo mật. "To outsource data handling to third parties" không phải mục đích; giao dữ liệu cho bên thứ ba còn tạo thêm rủi ro phải kiểm soát. "To reduce employee training on data protection" đi ngược thực tế, quản lý rủi ro hiệu quả cần đào tạo nhân viên nhiều hơn chứ không ít đi.

Đáp án đúng: "claim their score was randomized response". Trong kỹ thuật randomized response (trả lời ngẫu nhiên hoá), mỗi người tung đồng xu bí mật: ra mặt sấp thì trả lời thật, ra mặt ngửa thì trả lời theo một lần tung thứ hai; vì vậy với một câu trả lời nhạy cảm bất kỳ, người khảo sát không biết đó là sự thật hay kết quả của đồng xu. Plausible deniability (khả năng chối hợp lý) chính là việc mỗi cá nhân luôn có thể nói câu trả lời của mình là do ngẫu nhiên, trong khi nhà nghiên cứu vẫn ước lượng được tỉ lệ chung của cả nhóm. "express their participation in a study" là việc công khai mình tham gia, ngược với chối bỏ. "remove themselves from a machine learning dataset" là quyền rút khỏi hoặc xoá dữ liệu, một cơ chế quyền riêng tư khác. "doubt the results of a study" là hoài nghi kết quả, không liên quan tới việc bảo vệ câu trả lời của từng người.

Đáp án đúng: "Reinforcement bias". Thiên kiến củng cố (reinforcement bias) xuất hiện khi cùng một loại dữ liệu bị lấy mẫu lặp đi lặp lại, thường qua vòng phản hồi: mô hình đưa ra quyết định, quyết định đó sinh ra dữ liệu mới giống dữ liệu cũ, rồi dữ liệu ấy lại được đưa vào huấn luyện, khiến góc nhìn của mô hình ngày càng hẹp; ví dụ hệ thống dự báo tội phạm cử cảnh sát tới cùng một khu, ghi nhận thêm vụ việc ở đó và càng tin khu đó nguy hiểm. "Confirmation bias" sai vì thiên kiến xác nhận là xu hướng tâm lý của con người tìm thông tin khẳng định niềm tin sẵn có, dù nó có thể là nguồn gốc ban đầu của vòng lặp. "Implicit bias" sai vì thiên kiến ngầm là định kiến vô thức trong con người, không gắn với việc lấy mẫu lặp. "Temporal bias" sai vì thiên kiến thời gian nảy sinh khi dữ liệu thuộc một giai đoạn không còn phản ánh hiện tại.

Đáp án đúng: "Public backlash and regulatory consequences". Bỏ qua các mối lo đạo đức khi thiết kế AI, như thiên lệch, xâm phạm riêng tư, thiếu minh bạch, khiến sản phẩm dễ gây hại cho người dùng; khi tác hại lộ ra, tổ chức đối mặt với làn sóng phản đối của công chúng, tẩy chay, mất uy tín, và cơ quan quản lý có thể điều tra, phạt tiền hay buộc ngừng hệ thống. Đây là lý do đạo đức phải được tích hợp ngay từ khâu thiết kế. "Reduced testing time" có thể là điều người ta tưởng được lợi khi bỏ qua đạo đức, nhưng đó không phải rủi ro mà là sự đánh đổi gây ra rủi ro. "Improved speed of deployment" cũng là cái lợi trước mắt nghe hấp dẫn, không phải rủi ro; triển khai vội càng dễ dẫn tới hậu quả. "Higher profit margins" có thể đúng ngắn hạn nhưng là lợi ích chứ không phải rủi ro, và về lâu dài thường bị xoá sạch bởi chi phí khắc phục, tiền phạt và mất khách.

Đáp án đúng gồm hai ý: "SSH/TLS" và "SSH". Transport encryption protocol (giao thức mã hoá đường truyền) mã hoá dữ liệu trên đường đi giữa hai máy để kẻ nghe lén không đọc được; TLS bảo vệ HTTPS, email và nhiều dịch vụ khác, còn SSH bảo vệ phiên đăng nhập từ xa và truyền tệp qua SFTP. Hai ý được chọn chồng lấn nhau: một ý in gộp SSH với TLS, ý kia lại tách riêng SSH, nhiều khả năng ý định gốc là SSH và TLS thành hai mục riêng; dù đọc theo cách nào thì chỉ hai ý này nói về giao thức có mã hoá đường truyền nên vẫn là cặp phải chọn. "FTP" truyền tệp và cả tên đăng nhập, mật khẩu dưới dạng văn bản rõ, phiên bản an toàn là FTPS hoặc SFTP. "HTTP" cũng gửi dữ liệu không mã hoá; chỉ khi chạy trên TLS thành HTTPS thì mới được bảo vệ.

Đáp án đúng: "Anchor Explanations". Thư viện Python Alibi cung cấp phương pháp Anchors, tìm một tập điều kiện trên các đặc trưng, gọi là anchor (mỏ neo), sao cho khi các điều kiện này giữ nguyên thì mô hình gần như luôn đưa ra cùng dự đoán dù các đặc trưng khác thay đổi; đây là giải thích cục bộ dạng luật dễ hiểu. "Local Interpretable Model-Agnostic Explanations" là LIME, xấp xỉ mô hình quanh một điểm bằng mô hình tuyến tính và cho trọng số đặc trưng chứ không phải tập điều kiện bảo toàn dự đoán. "Shapley value" từ lý thuyết trò chơi chia phần đóng góp của từng đặc trưng vào dự đoán, cũng là điểm số chứ không phải tập con đặc trưng. "Perturbation" là kỹ thuật làm nhiễu đầu vào mà nhiều phương pháp, kể cả Anchors, dùng bên trong, không phải tên của kỹ thuật được hỏi.

Đáp án đúng: "Establish clear ethical guidelines and rapid consultation processes". Trong môi trường công nghệ thay đổi nhanh, quyết định phải đưa ra liên tục nên đạo đức chỉ thực sự được áp dụng khi nó sẵn có ngay tại chỗ: hướng dẫn rõ ràng giúp nhân viên tự xử lý phần lớn tình huống, còn kênh tham vấn nhanh như đầu mối hay hội đồng đạo đức phản hồi trong thời gian ngắn giúp giải quyết ca khó mà không làm chậm dự án. "Slow down all processes" làm mất khả năng cạnh tranh và không bảo đảm quyết định đạo đức hơn, chỉ chậm hơn. "Make all decisions later" để rủi ro trôi qua mà không ai xử lý, đến khi quyết định thì tác hại có thể đã xảy ra. "Ignore ethics during development" đi ngược hoàn toàn mục tiêu, vì tác hại thường được gieo ngay trong giai đoạn phát triển và sửa sau tốn kém hơn nhiều.

Đáp án đúng: "A crisis with low likelihood tends to have high impact.". Đáp án phản ánh cách nhìn của quản trị khủng hoảng, không phải một quy luật thống kê: những khủng hoảng hiếm xảy ra, như rò rỉ toàn bộ cơ sở dữ liệu khách hàng hay một hệ thống AI gây tai nạn chết người, thường là biến cố nghiêm trọng; vì hiếm nên chúng dễ bị đánh giá thấp và tổ chức thường thiếu chuẩn bị, do đó cần lập kế hoạch ứng phó từ trước. "A crisis with low likelihood tends to have little to no effect on its impact." nói rằng khả năng xảy ra hầu như không liên quan tới mức tác động, tức hai đại lượng độc lập chứ không phải tác động biến mất; cần thừa nhận thẳng đây là chỗ tranh cãi, vì trong ma trận rủi ro chuẩn hai trục khả năng và tác động đúng là được đánh giá riêng, nên phương án này có cơ sở; tuy vậy câu hỏi hỏi về khuynh hướng của khủng hoảng hiếm, và bài học khẳng định chúng thường có tác động cao. "A crisis with low likelihood tends to have moderate impact." sai vì làm nhẹ đi đúng loại sự kiện cần chuẩn bị kỹ nhất. "A crisis with low likelihood tends to have low impact." sai vì đánh đồng hiếm với vô hại, dễ khiến tổ chức chủ quan.

Đáp án đúng: "They require adaptation of ethical approaches". Đạo đức toàn cầu phải tính tới khác biệt văn hoá: quan niệm về quyền riêng tư, vai trò của cá nhân và cộng đồng hay mức chấp nhận giám sát khác nhau giữa các quốc gia, nên một sản phẩm công nghệ triển khai ở nhiều nước phải điều chỉnh cách tiếp cận đạo đức cho hợp bối cảnh, trong khi vẫn giữ những giá trị cốt lõi như tôn trọng nhân phẩm. "They can be ignored in digital contexts" sai vì môi trường số xuyên biên giới khiến khác biệt văn hoá càng lộ rõ. "They complicate ethical frameworks unnecessarily" sai vì sự phức tạp đó là cần thiết; bỏ qua nó dẫn tới áp đặt giá trị của một nền văn hoá lên người khác. "They are only relevant for local businesses" sai vì chính doanh nghiệp toàn cầu mới phải đối mặt với nhiều nền văn hoá nhất.

Đáp án đúng: "They may have more institutional knowledge about a subject than managers.". Business impact assessment (BIA, đánh giá tác động kinh doanh) xác định quy trình nào quan trọng, phụ thuộc vào gì và gián đoạn sẽ gây hậu quả ra sao; người trực tiếp vận hành thường nắm institutional knowledge (tri thức tổ chức) về cách công việc thật sự diễn ra, các bước tắt, phụ thuộc ngầm mà quản lý không thấy, nên thiếu họ thì đánh giá sẽ lệch. "They are more likely to be candid and give forthright responses." là giả định không chắc chắn, nhân viên cấp dưới có khi còn dè dặt hơn vì sợ ảnh hưởng tới công việc. "They are more likely to find the time to complete an interview or survey." không phải tiêu chí chọn người phỏng vấn, và nhân viên tuyến đầu chưa chắc rảnh hơn. "They have a greater obligation to answer questions." sai vì không có nghĩa vụ trả lời nào nặng hơn theo cấp bậc, chọn họ là vì giá trị thông tin họ có.

Đáp án đúng: "To pre-write communications before they are needed". Holding statement (thông cáo chờ) là bản tuyên bố ngắn soạn sẵn từ trước cho các kịch bản khủng hoảng, chỉ cần điền chi tiết là phát hành được ngay khi sự cố nổ ra: xác nhận tổ chức đã biết sự việc, đang xử lý và sẽ cập nhật thêm, nhờ đó tổ chức có tiếng nói sớm, tránh im lặng để tin đồn lấp chỗ trống trong lúc chờ đủ thông tin. "To order the business to temporarily halt certain operations" là quyết định vận hành của ban lãnh đạo, không phải một văn bản truyền thông. "To retain the services of specific media outlets" là việc thuê hay giữ quan hệ với cơ quan báo chí, không liên quan tới nội dung thông cáo. "To prevent personnel from communicating prematurely" là mục tiêu của quy chế phát ngôn và chỉ định người phát ngôn; thông cáo chờ có thể góp phần vào việc đó nhưng mục đích của nó là có sẵn lời lẽ để nói ngay.

Đáp án đúng: "All people who have an impact or are impacted by the organization.". Bên liên quan (stakeholder) là bất kỳ cá nhân hay nhóm nào có thể tác động tới tổ chức hoặc chịu tác động từ hoạt động của tổ chức, gồm nhân viên, khách hàng, nhà đầu tư, nhà cung cấp, cơ quan quản lý, cộng đồng địa phương và cả những người không dùng sản phẩm nhưng chịu hệ quả của nó. Trong đạo đức công nghệ, định nghĩa rộng này quan trọng vì một hệ thống AI có thể ảnh hưởng tới những người không bao giờ là khách hàng. "All internal employees." chỉ là một nhóm bên liên quan nội bộ. "All internal employees and external customers." rộng hơn nhưng vẫn bỏ sót nhà đầu tư, cơ quan quản lý, cộng đồng và những người chịu tác động gián tiếp. "All people in the company." về thực chất cũng giới hạn trong nội bộ tổ chức, bỏ qua toàn bộ bên liên quan bên ngoài.