Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập cuối kỳ số 5

Đáp án đúng: "Human decision making is often influenced by emotion and not logic.". Lập luận đạo đức (moral reasoning) đòi hỏi cân nhắc có lý lẽ, nhất quán, nhưng trong thực tế con người thường quyết định nhanh theo cảm xúc, trực giác và thiên kiến nhận thức, rồi mới tìm lý lẽ biện minh sau. Vì vậy đặt mục tiêu luôn hành động bằng lập luận đạo đức thuần lý là không phải lúc nào cũng khả thi. "Most people are not educated on normative ethical theories and therefore cannot perform true moral reasoning." sai vì lập luận đạo đức không đòi phải học các lý thuyết chuẩn tắc; ai cũng có thể cân nhắc đúng sai bằng lý lẽ. "Moral reasoning is too complicated to apply to a real-world situation." phóng đại: nó có thể khó nhưng vẫn áp dụng được và vẫn được dùng hằng ngày. "Moral reasoning has few tangible benefits for most people." sai vì lập luận đạo đức giúp ra quyết định công bằng, có trách nhiệm và giữ niềm tin của người khác.

Đáp án đúng: "accurate, fair and explainable". Mô hình dự đoán có đạo đức cần chính xác (accurate) để quyết định đáng tin, công bằng (fair) để không gây thiệt hại có hệ thống cho nhóm nào, và giải thích được (explainable) để người bị ảnh hưởng hiểu và phản biện được quyết định; ba mục tiêu này thường phải cân bằng với nhau. "precise, explainable, predictable" sai vì thiếu công bằng, trụ cột của đạo đức, còn tính dễ đoán trước không phải mục tiêu đạo đức. "accurate, precise, fair" sai vì thiếu khả năng giải thích, trong khi chính xác và độ chuẩn (precision) chỉ là hai mặt của chất lượng dự đoán. "precise, methodical, ethical" sai vì từ ethical lặp lại chính điều cần định nghĩa, còn tính có phương pháp là phẩm chất của quy trình chứ không phải của kết quả.

Đáp án đúng: "Using IP as a defensive mechanism to eschew transparency requirements.". Intellectual property (sở hữu trí tuệ) được bảo hộ để khuyến khích sáng tạo, không phải để né trách nhiệm giải trình; khi tổ chức viện dẫn bí mật kinh doanh để từ chối cho kiểm toán viên, cơ quan quản lý hay người bị ảnh hưởng xem cách thuật toán ra quyết định, tức dùng IP làm lá chắn tránh yêu cầu minh bạch, đó là lạm dụng IP về mặt đạo đức. "Collecting returns on investments made in research and development." là mục đích chính đáng của bảo hộ IP: thu lại vốn đầu tư nghiên cứu. "Filing a patent for the IP that makes non-obvious information known to the public." cũng chính đáng, vì cơ chế bằng sáng chế đổi độc quyền có thời hạn lấy việc công bố sáng chế cho xã hội. "Enhancing the security posture of a product or service." là việc tăng cường an ninh, có lợi cho người dùng và không phải hành vi lạm dụng IP.

Đáp án đúng: "Through regular assessment, feedback, and adaptation". Cải thiện đạo đức liên tục là một vòng lặp: định kỳ đánh giá hệ thống và quy trình (ví dụ kiểm toán thiên lệch, rà soát quyền riêng tư), thu nhận phản hồi từ nhân viên, người dùng và các bên liên quan, rồi điều chỉnh chính sách và sản phẩm theo rủi ro mới phát sinh. "By implementing systems once and forgetting them" sai vì công nghệ, dữ liệu và kỳ vọng xã hội luôn thay đổi, làm một lần rồi bỏ mặc sẽ để rủi ro tích tụ. "By following competitors only" sai vì đối thủ cũng có thể sai, và đạo đức phải xuất phát từ giá trị và bối cảnh của chính tổ chức. "By focusing solely on compliance" sai vì tuân thủ pháp luật chỉ là mức sàn; nhiều vấn đề đạo đức như công bằng hay minh bạch vượt xa những gì luật yêu cầu và luật thường đi sau công nghệ.

Đáp án đúng: "individual's data". Câu này diễn đạt ý tưởng của differential privacy (quyền riêng tư vi phân): điều học được từ dữ liệu không được thay đổi đáng kể dù dữ liệu của một cá nhân bất kỳ có mặt hay không có mặt trong tập huấn luyện; nhờ vậy không ai suy ngược được một người cụ thể có tham gia hay thông tin của họ là gì. Kỹ thuật thường dùng là thêm nhiễu được hiệu chỉnh vào kết quả hoặc vào quá trình huấn luyện. "dataset filter" là bộ lọc dữ liệu, một bước tiền xử lý, không phải đơn vị cần bảo vệ trong định nghĩa. "biased dataset" sai vì giữ hay bỏ một tập dữ liệu lệch đương nhiên làm mô hình thay đổi, và đó là vấn đề công bằng chứ không phải quyền riêng tư. "model fairness score" là chỉ số đánh giá đầu ra của mô hình, không phải thứ được đưa vào hay bỏ ra khỏi tập huấn luyện.

Đáp án đúng: "It ensures fairness in access and outcomes". Equity (công bằng theo nhu cầu) khác equality (đối xử như nhau): nó điều chỉnh theo hoàn cảnh để những nhóm yếu thế, người khuyết tật, vùng thiếu hạ tầng không bị bỏ lại, cả ở khâu tiếp cận công nghệ lẫn ở kết quả mà công nghệ mang lại; thiếu nó, công nghệ mới dễ nới rộng khoảng cách số. "It increases brand value" sai vì giá trị thương hiệu chỉ là lợi ích phụ, không phải lý do đạo đức. "It simplifies design" sai vì thiết kế bao trùm thường phức tạp hơn, phải tính tới nhiều nhóm người dùng và yêu cầu khả năng tiếp cận. "It boosts marketing campaigns" sai vì đó là mục tiêu tiếp thị; đặt equity vào vai trò công cụ quảng cáo là hiểu sai lý do nó là một nguyên tắc.

Đáp án đúng: "It demonstrates that the organization is committed to accountability and transparency in their data-driven systems.". Mời các bên liên quan (stakeholders) tham gia ngay từ đầu quy trình quản trị rủi ro đạo đức cho thấy tổ chức sẵn sàng trả lời cho quyết định của mình (trách nhiệm giải trình) và công khai cách hệ thống được thiết kế (minh bạch), đồng thời giúp phát hiện sớm những rủi ro mà nội bộ không thấy. Phương án "It proves that you are completely equipped to address any ethical risks" sai vì không tổ chức nào chứng minh được mình xử lý được mọi rủi ro; việc lắng nghe bên ngoài còn ngầm thừa nhận điều ngược lại. Phương án "the organization cannot address ethical risks in data-driven systems without input from stakeholders first" đặt trọng tâm vào việc phô ra sự bất lực, không phải mục đích của việc tham vấn. Phương án "It helps the organization avoid legal trouble" có thể là lợi ích phụ, nhưng động cơ pháp lý chỉ là tuân thủ, không phải lý do đạo đức cốt lõi.

Đáp án đúng gồm hai ý: "It makes it easier for us to identify and manage different types of risks." và "It helps us understand the many complexities involved in different types of ethical risks." Phân loại rủi ro đạo đức thành các nhóm như quyền riêng tư, công bằng, minh bạch, trách nhiệm giải trình, an toàn giúp tổ chức nhận diện có hệ thống và giao từng loại cho đúng người, đúng quy trình, đồng thời thấy rõ mỗi loại có nguyên nhân và cách tác động riêng phức tạp ra sao. Phương án nói "customers and other external stakeholders know that we take ethical risks seriously" hướng về hình ảnh với bên ngoài; công bố cách phân loại có thể tạo niềm tin, nhưng đó là hệ quả truyền thông chứ không phải lý do cốt lõi của việc phân loại. Phương án nói "universal tactics that apply to all potential kinds of ethical risk" mâu thuẫn với chính mục đích phân loại: người ta tách loại để chọn biện pháp giảm thiểu riêng cho từng loại, vì không có chiến thuật chung nào xử lý được mọi rủi ro.

Đáp án đúng: "Regulators". Trong một bộ quy tắc đạo đức (code of ethics), bên liên quan bên ngoài (external stakeholders) là những chủ thể không thuộc tổ chức nhưng chịu tác động hoặc có quyền đòi hỏi tổ chức giải trình, như cơ quan quản lý, khách hàng, đối tác, cộng đồng; cơ quan quản lý đặt ra luật và giám sát việc tuân thủ nên là bên ngoài điển hình. "Business managers" là người trong tổ chức, chịu trách nhiệm thực thi và làm gương cho bộ quy tắc, nên thuộc nhóm nội bộ. "Developers" là nhân viên trực tiếp viết mã và chịu sự điều chỉnh của bộ quy tắc, cũng là bên liên quan nội bộ. "Designers" là người thiết kế sản phẩm bên trong tổ chức, có ảnh hưởng tới đạo đức sản phẩm nhưng vẫn là nội bộ chứ không phải bên ngoài.

Đáp án đúng: "Deontological Ethics". Đạo đức nghĩa vụ (deontological ethics), tiêu biểu là triết học của Immanuel Kant, cho rằng tính đúng sai của hành động nằm ở việc nó có tuân thủ bổn phận và quy tắc đạo đức hay không, chứ không ở kết quả; ví dụ tôn trọng quyền riêng tư là bổn phận dù vi phạm có thể đem lại lợi ích. Trong công nghệ, nó là nền tảng cho các quy tắc cứng như không thu thập dữ liệu khi chưa có đồng ý. "Ethical Relativism" cho rằng chuẩn mực đạo đức tuỳ thuộc văn hoá hay cá nhân, nên không đề cao những quy tắc bổn phận mang tính phổ quát. "Utilitarianism" là thuyết hệ quả, đánh giá hành động theo tổng lợi ích nó tạo ra, sẵn sàng phá quy tắc nếu kết quả tốt hơn. "Virtue Ethics" đặt trọng tâm vào phẩm chất và tính cách của người hành động, như trung thực, công tâm, chứ không vào bổn phận và quy tắc.

Đáp án đúng: "Focus on core ethical principles and gradual implementation". Tổ chức nhỏ không cần bộ máy đạo đức đồ sộ mới làm đúng; cách khả thi là chọn vài nguyên tắc cốt lõi phù hợp với rủi ro thực tế của mình, như bảo vệ dữ liệu khách hàng, minh bạch và công bằng, rồi triển khai dần qua quy trình đơn giản, đào tạo ngắn và rà soát định kỳ, mở rộng khi nguồn lực tăng. "Wait until they grow larger" sai vì rủi ro đạo đức và pháp lý tồn tại ngay từ khi tổ chức bắt đầu xử lý dữ liệu, và văn hoá xây từ sớm dễ hơn sửa về sau. "Copy larger organizations exactly" không hợp vì quy trình của doanh nghiệp lớn được thiết kế cho quy mô, nguồn lực và rủi ro khác; học hỏi thì tốt nhưng chép nguyên xi sẽ quá tải. "Ignore ethics until legally required" coi đạo đức chỉ là tuân thủ tối thiểu, khiến tổ chức dễ gây hại và mất niềm tin trước khi luật kịp điều chỉnh.

Đáp án đúng: "Spyware". Phần mềm gián điệp (spyware) cài lén trên thiết bị để theo dõi hành vi người dùng như trang web đã xem, phím đã gõ, vị trí, rồi gửi dữ liệu ra ngoài mà người dùng không biết và không cho phép, nên xâm phạm trực tiếp quyền riêng tư. "Virus" sai vì đặc trưng của virus là tự gắn vào tệp khác và lây lan khi tệp được chạy, nhằm phá hoại hoặc lây nhiễm, không định nghĩa bằng việc giám sát. "Ransomware" sai vì mã độc tống tiền mã hoá dữ liệu rồi công khai đòi tiền chuộc, tức là lộ diện chứ không âm thầm theo dõi. "Trojan horse" sai vì nó được định nghĩa bằng cách xâm nhập, nguỵ trang thành phần mềm hợp pháp để lừa người dùng cài đặt; nó có thể chở theo spyware nhưng bản thân không phải loại mã độc giám sát.

Đáp án đúng: "By automating sentiment analysis to gauge public opinion". Phản hồi và giám sát trong truyền thông khủng hoảng là theo dõi xem công chúng đang đón nhận thông điệp ra sao để kịp điều chỉnh; AI giúp bằng cách tự động phân tích cảm xúc (sentiment analysis) trên mạng xã hội, tin tức và bình luận với khối lượng và tốc độ mà con người khó theo kịp. "By creating holding statements for immediate use" là việc soạn sẵn thông cáo tạm thời để phát ngay khi khủng hoảng nổ ra, thuộc khâu chuẩn bị chứ không phải theo dõi phản hồi. "By replacing human oversight in communication strategies" sai vì truyền thông khủng hoảng cần con người chịu trách nhiệm và phán đoán; AI chỉ hỗ trợ, không thay sự giám sát của con người. "By predicting future crises through historical data analysis" thuộc khâu dự báo và phòng ngừa trước khủng hoảng, không phải giám sát phản ứng của công chúng với thông điệp đang phát.

Đáp án đúng gồm hai ý: "Any known bias in the sample data" và "Any missing values in the dataset and how they were handled". Minh bạch (transparency) về dữ liệu huấn luyện nghĩa là cho người dùng biết những hạn chế có thể làm kết quả mô hình kém tin cậy với họ; thiên lệch đã biết trong mẫu cho thấy mô hình có thể sai lệch với một số nhóm, còn giá trị thiếu và cách xử lý chúng, như loại bỏ bản ghi hay điền giá trị ước lượng, ảnh hưởng trực tiếp tới độ chính xác. Cả hai đều là điểm yếu thật sự của dữ liệu, loại thông tin thường được ghi trong tài liệu mô tả tập dữ liệu. "The amount of time it took to collect the data" là thông tin về quy trình, tự nó không phải một thiếu sót của dữ liệu. "The relatively large size of a dataset used in training" thường là điểm mạnh chứ không phải điểm bất cập; kích thước chỉ đáng lo khi dữ liệu quá nhỏ hoặc không đại diện.

Đáp án đúng: "facing unknown empirical data with an incomplete dataset". Unknown unknowns là những điều ta không biết rằng mình không biết; trong học máy, đó là lúc mô hình gặp dữ liệu thực tế mà tập huấn luyện chưa hề bao quát, và vì không ai nhận ra khoảng trống ấy nên cũng không lường được mô hình sẽ sai ở đâu. Cần phân biệt với "lack of explainability and what a model is actually looking at to make it's prediction": đó là vấn đề hộp đen (black box), ta biết rõ mình không hiểu bên trong mô hình, tức là một điều chưa biết mà ta đã ý thức được; hai vấn đề có thể xuất hiện cùng lúc nhưng thiếu khả năng giải thích không phải là khoảng trống dữ liệu ngoài tầm nhận biết. "being unsure about the morals of the research team" sai vì nó nói về đạo đức con người, không phải sự bất định của dữ liệu mô hình gặp. "an uncertainty of how the data is gathered" sai vì nguồn gốc dữ liệu (data provenance) là câu hỏi ta biết mình cần hỏi và có thể kiểm tra, ghi chép được.

Đáp án đúng: "General AI". Trong bốn lựa chọn, chỉ General AI (AI tổng quát, còn gọi là AGI) là một cấp độ AI được công nhận: đó là hệ thống không bị bó vào một nhiệm vụ mà có thể học và thực hiện mọi việc trí tuệ con người làm được, ở mức ngang hoặc hơn con người, khác với AI hẹp chỉ giỏi một việc. Cần lưu ý rằng nhiều tài liệu dành tên siêu trí tuệ (superintelligence) cho AI vượt hẳn con người ở mọi việc; nhưng siêu trí tuệ không có mặt ở đây, nên khái niệm khớp nhất với AI làm được mọi nhiệm vụ là AI tổng quát. "Outwit AI" không phải thuật ngữ phân loại AI, chỉ là cách chơi chữ với từ outwit (khôn hơn). "Specific AI" gần nghĩa với AI hẹp, chỉ làm một nhiệm vụ cụ thể nên trái với yêu cầu mọi nhiệm vụ. "Encompassing AI" nghe như bao quát mọi thứ nhưng không phải tên gọi chuẩn cho cấp độ nào.

Đáp án đúng: "Unauthorized data access". Ambient intelligence (trí tuệ môi trường xung quanh) là hệ thống cảm biến, camera, micro gắn vào nhà ở, văn phòng, thành phố, liên tục thu thập dữ liệu về hành vi con người để tự phản ứng. Vì dữ liệu được ghi liên tục, truyền qua mạng và lưu tập trung, khối lượng thông tin nhạy cảm rất lớn và có nhiều điểm có thể bị xâm nhập, nên rủi ro nổi bật nhất là truy cập trái phép ở các khâu thu thập, truyền, lưu trữ và truy cập. "Enhanced data analytics" là lợi ích của việc giám sát liên tục; nó chỉ thành mối lo khi bị dùng sai mục đích, còn tự thân không phải rủi ro quyền riêng tư được hỏi. "Improved user experience" là mục tiêu mà các hệ thống này hướng tới, không phải rủi ro. "Optimized resource allocation", như tự điều chỉnh đèn hay điều hoà theo người dùng, cũng là lợi ích vận hành chứ không phải mối nguy.

Đáp án đúng: "Over-reliance on technology". Thiên kiến tự động hoá (automation bias) là xu hướng tin quá mức vào đề xuất của hệ thống tự động, chấp nhận kết quả mà không kiểm tra lại và bỏ qua thông tin trái chiều; gốc tâm lý là sự dựa dẫm vào máy vì cho rằng máy khách quan, cộng với việc tiết kiệm công sức suy nghĩ. "Fear of technology" sai vì sợ công nghệ dẫn tới né tránh hoặc bác bỏ thuật toán (algorithm aversion), tức là chiều ngược lại. "Lack of technical skills" sai vì thiếu kỹ năng có thể làm người ta khó kiểm chứng, nhưng không phải nguyên nhân tâm lý cốt lõi; cả chuyên gia giàu kinh nghiệm vẫn mắc thiên kiến này. "Distrust in human judgment" nghe gần nhưng không đúng trọng tâm: thiên kiến này xuất phát từ việc trao lòng tin thái quá cho máy, chứ không phải từ việc chủ động nghi ngờ phán đoán của con người.

Đáp án đúng: "the data it is trained on". Mô hình dự đoán học quy luật từ dữ liệu huấn luyện, nên cách nó hành xử, những gì nó dự đoán tốt, những nhóm nó dự đoán sai và các mối tương quan nó dựa vào đều để lộ bản chất của tập dữ liệu đó; có khi còn suy ngược được cả thông tin nhạy cảm của dữ liệu gốc. Đây là lý do minh bạch về nguồn dữ liệu là trọng tâm của AI có trách nhiệm. "the algorithm's bias" có phần đúng, nhưng thiên lệch của mô hình phần lớn bắt nguồn từ dữ liệu; điều mô hình phản ánh trực tiếp là dữ liệu, còn thiên lệch là hệ quả cần kiểm thử mới kết luận được. "the researchers behind it" sai vì danh tính người xây dựng không lộ ra từ bản chất mô hình. "the ethics of the individual inputs" sai vì từng giá trị đầu vào không mang tính đạo đức tự thân; đạo đức nằm ở cách dữ liệu được thu thập và sử dụng.

Đáp án đúng: "To create a smooth transition.", tức mục đích của quản lý thay đổi (change management) là đưa tổ chức từ cách làm cũ sang văn hoá đạo đức mới một cách suôn sẻ. Xây văn hoá đạo đức đòi hỏi đổi thói quen, quy trình và cả cách đánh giá hiệu quả công việc, nên dễ gặp kháng cự; quản lý thay đổi chuẩn bị con người bằng truyền thông lý do, đào tạo, hỗ trợ và đo lường để thay đổi được chấp nhận và duy trì. "To create a fast transition through training." sai vì tốc độ không phải mục tiêu, ép nhanh dễ khiến thay đổi chỉ mang tính hình thức rồi quay lại thói cũ. "To create a slow transition through training." cũng sai vì chậm không phải mục tiêu; nhịp độ tuỳ hoàn cảnh, và đào tạo chỉ là một công cụ chứ không phải toàn bộ. "To create a management transition." hiểu nhầm thành chuyển giao ban lãnh đạo, trong khi thay đổi văn hoá phải lan tới toàn bộ nhân viên.