Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập cuối kỳ số 4

Đáp án đúng: "Outliers". Outliers (giá trị ngoại lai) là những điểm dữ liệu nằm xa khỏi phân phối thông thường của tập dữ liệu, ví dụ một người 110 tuổi trong dữ liệu xin vay; mô hình hiếm khi thấy chúng khi huấn luyện nên dễ dự đoán sai, và đó là một loại edge case (trường hợp biên) cần xử lý riêng để không gây hại cho chính những người hiếm gặp đó. "Overfitting" là hiện tượng mô hình học thuộc dữ liệu huấn luyện kể cả nhiễu nên tổng quát hoá kém, là vấn đề của mô hình chứ không phải một loại dữ liệu. "Errors" là dữ liệu bị ghi sai hay gán nhãn nhầm; chúng có thể nằm ngay trong vùng phân phối bình thường nên không được định nghĩa bằng việc nằm ngoài phân phối. "Noise" là dao động ngẫu nhiên lẫn trong dữ liệu, thường nhỏ và rải khắp phân phối, khác với một điểm đơn lẻ nằm tách hẳn ra ngoài.

Đáp án đúng: "Promote an organizational culture that embraces these values". Đa dạng, công bằng và hoà nhập (DEI) trong truyền thông chỉ thật khi xuất phát từ văn hoá: tổ chức sống theo các giá trị này thì thông điệp tự nhiên dùng ngôn ngữ hoà nhập, lắng nghe nhiều nhóm và nhất quán giữa lời nói với việc làm. Phương án "are communicating in different ways" sai vì chia người theo chủng tộc, giới tính để mỗi nhóm giao tiếp theo một cách là phân tách và rập khuôn, ngược với tinh thần hoà nhập. Phương án "rather than incorporating feedback from external stakeholders" sai vì gạt bỏ phản hồi bên ngoài làm mất góc nhìn của chính các nhóm đa dạng mà tổ chức muốn phục vụ. Phương án "Reassure customers that the organization" sai vì chỉ trấn an khách hàng bằng lời mà không có hành động tương ứng là truyền thông bề mặt, dễ bị xem là đánh bóng hình ảnh (diversity washing).

Đáp án đúng: "No, the data is biased as it reflects historical bias.". Công cụ đánh giá rủi ro trong tư pháp hình sự dự đoán khả năng tái phạm dựa trên dữ liệu quá khứ như lịch sử bắt giữ, kết án; nhưng dữ liệu đó mang dấu vết của việc kiểm soát an ninh không đồng đều và phân biệt đối xử trong lịch sử với một số nhóm chủng tộc, nên dù thuật toán không dùng trực tiếp biến chủng tộc, các biến đại diện (proxy) như nơi ở vẫn tái tạo thiên lệch. "No, it is designed with intention to be unfair." sai vì vấn đề thường không nằm ở ý đồ của người thiết kế mà ở dữ liệu và biến đại diện; thiên lệch có thể xảy ra ngay cả khi ai cũng có thiện chí. "Yes, technology in itself is not racist." bỏ qua việc công nghệ học từ dữ liệu do xã hội tạo ra, nên kế thừa thiên lệch của xã hội đó. "Yes, algorithms replace human judgement and they are unbiased." sai vì thuật toán chỉ mã hoá lại phán đoán của con người đã có trong dữ liệu, không tự nhiên trung lập.

Đáp án đúng: "Culture-building workshops teaches people how to integrate company values into daily practice, while ethics training teaches the company values.". Ethics training (đào tạo đạo đức) truyền đạt nội dung: các giá trị, quy tắc ứng xử và chính sách của công ty là gì; còn culture-building workshop (hội thảo xây dựng văn hoá) đi tiếp một bước, giúp mọi người tập áp dụng những giá trị ấy vào quyết định và thói quen làm việc hằng ngày qua thảo luận, tình huống và thực hành nhóm, để giá trị trở thành cách làm việc chứ không nằm trên giấy. Phương án đảo vai "Culture-building workshops teach the company values, while ethics training teaches people how to integrate" sai vì gán việc dạy nội dung cho hội thảo văn hoá và việc đưa vào thực hành cho đào tạo đạo đức, ngược với thứ tự tự nhiên là biết giá trị trước rồi mới hoà nó vào công việc.

Đáp án đúng: "Professional ethics". Applied ethics (đạo đức học ứng dụng) đem các nguyên tắc đạo đức vào những lĩnh vực và tình huống cụ thể như y học, kinh doanh hay công nghệ thông tin; professional ethics (đạo đức nghề nghiệp), ví dụ bộ quy tắc của kỹ sư phần mềm, là một nhánh tiêu biểu vì nó trả lời người làm nghề nên hành xử thế nào trong công việc thực tế. "Pluralism" là quan điểm cho rằng có nhiều giá trị đạo đức chính đáng không quy về một giá trị duy nhất, là một lập trường lý thuyết chứ không phải lĩnh vực ứng dụng. "Moral relativism" (thuyết tương đối đạo đức) cho rằng đúng sai phụ thuộc vào văn hoá hay cá nhân, thuộc metaethics (siêu đạo đức học). "Virtue ethics" (đạo đức học đức hạnh) là một lý thuyết của đạo đức học chuẩn tắc, xét phẩm chất người hành động; nó có thể được dùng trong đạo đức ứng dụng nhưng tự thân không phải ví dụ của đạo đức ứng dụng.

Đáp án đúng gồm hai ý: "It can impede socio-political cooperation." và "It can lead to groupthink, which can in turn halt forward progress.". Thiên kiến xác nhận (confirmation bias) là xu hướng tìm kiếm, ghi nhớ và diễn giải thông tin theo hướng khẳng định niềm tin sẵn có. Về mặt xã hội, khi mỗi phe chỉ nghe điều củng cố quan điểm của mình, các bên khó tìm điểm chung nên hợp tác chính trị – xã hội bị cản trở; trong một nhóm, mọi người cùng gạt bỏ ý kiến trái chiều dẫn tới tư duy tập thể (groupthink), quyết định kém mà không ai dám phản biện, làm tiến trình chững lại. "It can lead to a diverse set of friends." sai vì thiên kiến xác nhận khiến ta tìm đến người giống mình và tạo ra buồng vang (echo chamber), tức thu hẹp chứ không đa dạng hoá vòng bạn bè. "It can prevent us from being social with other people." sai vì nó không làm ta ngừng giao tiếp; ta vẫn giao du, chỉ là chọn lọc người cùng quan điểm.

Đáp án đúng: "It is difficult to understand how or why an AI system made a particular decision.". Vấn đề hộp đen (black box problem) chỉ việc các mô hình phức tạp như mạng nơ-ron sâu đưa ra quyết định qua hàng triệu tham số tương tác phi tuyến, nên người dùng, thậm chí nhà phát triển, không lần ra được vì sao một đầu vào cụ thể dẫn tới một kết luận cụ thể. Điều này cản trở tính minh bạch, trách nhiệm giải trình và quyền được giải thích của người chịu tác động, và là động lực cho lĩnh vực AI giải thích được (explainable AI). "It is difficult to understand the nature of data being used to train an AI model." nói về hiểu biết dữ liệu huấn luyện, một vấn đề khác thuộc quản trị dữ liệu. "It is difficult to understand the results that come from an AI system." sai vì kết quả thường hiểu được, như từ chối khoản vay; cái khó là cơ chế dẫn tới kết quả. "It is difficult to understand the reports that generate by an AI system." cũng chỉ nói tới đầu ra, không chạm vào quá trình ra quyết định bên trong.

Đáp án đúng: "Beneficence refers to “do only good” and non-maleficence refers to “do no harm.”". Hai nguyên tắc này mượn từ đạo đức y khoa: beneficence (làm điều thiện) yêu cầu công nghệ chủ động mang lại lợi ích cho con người và xã hội, còn non-maleficence (không gây hại) yêu cầu tránh gây tổn hại, như vi phạm quyền riêng tư hay phân biệt đối xử. "Beneficence is a less important goal for the field of AI than non-maleficence." đưa ra một thứ bậc ưu tiên, không trả lời câu hỏi về sự khác biệt giữa hai khái niệm. "Beneficence and non-maleficence are quite similar and often interchangeable." sai vì không gây hại chưa đồng nghĩa với làm điều tốt, một hệ thống vô hại vẫn có thể không đem lại lợi ích gì. "Non-maleficence refers only to malevolent artificial general intelligence (AGI)" thu hẹp sai nguyên tắc, vì không gây hại áp dụng cho mọi hệ thống AI hiện tại chứ không chỉ AGI ác ý.

Đáp án đúng: "perverse instantiation". Perverse instantiation (hiện thực hoá lệch lạc) là thuật ngữ Nick Bostrom dùng cho tình huống một trí tuệ nhân tạo tổng quát đạt đúng mục tiêu theo nghĩa đen nhưng bằng cách trái hẳn ý định của người đặt mục tiêu; ví dụ giao mục tiêu khiến con người mỉm cười, hệ thống có thể chọn cách can thiệp vào cơ mặt thay vì làm con người hạnh phúc. Rủi ro này cho thấy mục tiêu càng rộng và mơ hồ thì càng nhiều lối thực hiện gây hại. "an enduring output" không phải thuật ngữ nào trong đạo đức AI, chỉ là một kết quả lâu bền. "artificial sanctification" cũng không phải khái niệm có thật, nghe như việc thần thánh hoá máy móc. "an ethical dilemma" là tình huống phải chọn giữa hai giá trị xung đột, không mô tả kết quả ngoài ý muốn do diễn giải sai một mục tiêu.

Đáp án đúng: "An incentive structure that encourages all employees to identify people who deserve a reward for behaving ethically.". Văn hoá ghi nhận (culture of appreciation) là cơ chế khuyến khích trong đó mọi nhân viên, không phân cấp bậc, đều được mời chỉ ra đồng nghiệp xứng đáng được khen thưởng vì hành xử có đạo đức; khi ai cũng có thể ghi nhận ai, hành vi tốt được nhìn thấy ở mọi tầng và chuẩn mực đạo đức lan toả theo chiều ngang thay vì chỉ từ trên xuống. Phương án "encourages external stakeholders to identify" sai vì bên liên quan bên ngoài hiếm khi thấy hành vi hằng ngày trong tổ chức, còn văn hoá là thứ xây từ bên trong. Phương án "encourages managers to identify" sai vì chỉ để quản lý ghi nhận là mô hình khen thưởng từ trên xuống, bỏ sót những hành vi tốt mà quản lý không chứng kiến. Phương án "encourages all top directors to identify" sai vì càng thu hẹp về cấp lãnh đạo cao nhất thì càng xa thực tế công việc hằng ngày.

Đáp án đúng gồm hai ý: "Consolidating interests through mergers and acquisitions" và "Locking out smaller players, leading to monopolies or cartels". Bá quyền doanh nghiệp (corporate hegemony) là trạng thái một số ít tập đoàn chi phối thị trường và cả đời sống xã hội; trong công nghệ, nó hình thành khi các công ty lớn thâu tóm quyền lực bằng sáp nhập và mua lại đối thủ tiềm năng, rồi dùng lợi thế dữ liệu, hạ tầng và mạng lưới người dùng để chặn đường doanh nghiệp nhỏ, dẫn tới độc quyền hay cartel. Hệ quả đạo đức là người dùng mất lựa chọn, đổi mới bị kìm hãm và quyền kiểm soát dữ liệu dồn vào tay vài chủ thể. "Spending large sums on corporate branding and marketing" là hoạt động kinh doanh thông thường mà doanh nghiệp quy mô nào cũng có thể làm, không tự nó tạo ra sự thống trị. "Making multiple investments in a similar space to improve the outcomes of success" là chiến lược đa dạng hoá danh mục đầu tư để giảm rủi ro, không đồng nghĩa với việc gạt bỏ đối thủ hay thâu tóm thị trường.

Đáp án đúng: "recruiting leverage". Nghe thì lạ, nhưng lợi ích này đến từ phía tổ chức: công ty xây mô hình giải thích được và minh bạch về cách dùng AI thể hiện cam kết đạo đức rõ ràng, điều tạo sức hút với kỹ sư và nhà khoa học dữ liệu giỏi vốn muốn làm việc ở nơi có trách nhiệm, tức tạo đòn bẩy khi tuyển dụng (recruiting leverage). "the model is more accurate" là ngộ nhận phổ biến: tính giải thích được không làm mô hình chính xác hơn, thực tế thường phải đánh đổi một phần độ chính xác để đổi lấy mô hình đơn giản, dễ hiểu như cây quyết định. "privacy is preserved" sai vì giải thích mô hình không tự bảo vệ quyền riêng tư, giải thích quá chi tiết còn có thể làm lộ thông tin về dữ liệu huấn luyện. "less competition" không phải lợi ích có cơ sở, minh bạch không làm đối thủ biến mất.

Đáp án đúng: "Automation bias". Automation bias (thiên lệch tự động hoá) là xu hướng con người tin vào đề xuất của hệ thống ra quyết định tự động hơn phán đoán của con người, kể cả khi có dấu hiệu máy sai, chỉ vì cho rằng máy khách quan và chính xác hơn; nó làm suy yếu vai trò giám sát của con người. "Implicit bias" là định kiến vô thức đối với một nhóm người dựa trên giới tính, chủng tộc hay tuổi tác, không nói về niềm tin vào máy. "Complacency bias" là sự lơi lỏng giám sát khi đã quen với một hệ thống chạy ổn, có liên quan nhưng mô tả việc bớt kiểm tra, còn câu hỏi nói về việc đặt quyết định của máy lên trên quyết định của người. "Confirmation bias" là xu hướng tìm và tin những thông tin khẳng định điều mình đã nghĩ sẵn, có thể ủng hộ hoặc chống lại máy tuỳ niềm tin ban đầu.

Đáp án đúng: "National governments". Các Nguyên tắc AI của OECD, thông qua năm 2019, là khuyến nghị của một tổ chức liên chính phủ gửi tới các quốc gia thành viên và đối tác: phần thứ nhất nêu các giá trị cho AI đáng tin cậy, phần thứ hai là khuyến nghị chính sách dành cho chính phủ như đầu tư nghiên cứu, xây dựng hạ tầng dữ liệu, môi trường pháp lý và hợp tác quốc tế, nên đối tượng chính là chính phủ quốc gia. "Individuals" sai vì các nguyên tắc không nhằm hướng dẫn hành vi của từng người. "Municipal governments" sai vì OECD làm việc ở cấp quốc gia, chính quyền đô thị chỉ có thể tham khảo. "Private corporations" sai vì doanh nghiệp được nhắc tới như những bên tham gia vòng đời AI trong phần giá trị, nhưng cam kết thực thi và khuyến nghị chính sách nhắm vào chính phủ.

Đáp án đúng: "Prescriptive". Phân tích đề xuất (prescriptive analytics) trả lời câu hỏi nên làm gì: nó so sánh các phương án hành động và khuyến nghị lựa chọn tối ưu theo mục tiêu đặt ra. Việc cân nhắc nên mua doanh nghiệp nhỏ nào trong số nhiều doanh nghiệp để đem lại lợi ích tài chính lớn nhất cho công ty chính là bài toán chọn hành động tốt nhất, nên thuộc loại này. "Descriptive" là phân tích mô tả, trả lời điều gì đã xảy ra, chẳng hạn tổng hợp doanh thu quá khứ của từng doanh nghiệp; nó cung cấp dữ liệu đầu vào nhưng không đưa ra quyết định. "Predictive" là phân tích dự báo, trả lời điều gì có thể xảy ra, như ước lượng doanh thu tương lai của mỗi doanh nghiệp; đây là một bước trung gian, còn chọn mua cái nào mới là đề xuất. "Cumulative" không phải một loại phân tích dữ liệu chuẩn, chỉ mô tả tính chất cộng dồn của số liệu.

Đáp án đúng gồm hai ý: "To determine what occurred in an incident." và "To identify who or what is responsible for an incident.". Forensic analysis (phân tích pháp chứng số) thu thập và xem xét bằng chứng như log, ảnh ổ đĩa, lưu lượng mạng theo cách bảo toàn được chuỗi lưu giữ bằng chứng, nhằm tái dựng chính xác chuyện gì đã xảy ra và truy ra người hoặc yếu tố gây ra sự cố, làm cơ sở cho trách nhiệm giải trình và có thể cho cả xử lý pháp lý. "To inform stakeholders that an incident has occurred." thuộc khâu thông báo trong ứng phó sự cố, việc này thường diễn ra song song hoặc trước khi điều tra, không phải mục tiêu của phân tích pháp chứng. "To mitigate the effects of an incident." là bước ngăn chặn và khắc phục (containment, remediation); pháp chứng còn phải tránh làm thay đổi hiện trường nên không lấy giảm thiểu làm mục tiêu.

Đáp án đúng: "score the weight of input attributes on output". Một cuộc kiểm toán mô hình (algorithmic audit) nhằm làm rõ mô hình đang dựa vào điều gì để ra quyết định; báo cáo kiểm toán vì vậy chấm mức ảnh hưởng của từng thuộc tính đầu vào lên đầu ra, chẳng hạn cho thấy mã bưu chính hay giới tính tác động mạnh tới điểm tín dụng, để người có thẩm quyền thấy dấu hiệu thiên lệch và quyết định bước tiếp theo. "prevent the model from launching" là quyết định của ban lãnh đạo hay cơ quan quản lý dựa trên báo cáo, không phải việc người kiểm toán làm khi trình bày. "de-bias the results" là bước khắc phục do đội phát triển thực hiện sau khi đọc kết quả kiểm toán. "re-train the model" cũng là hành động khắc phục kỹ thuật; người kiểm toán đánh giá và báo cáo, còn việc sửa thuộc về chủ mô hình để giữ tính độc lập.

Đáp án đúng: "sensitive column". Trong ẩn danh hoá dữ liệu, cột thường chia ba loại: định danh trực tiếp như tên hay số căn cước, quasi-identifier (thuộc tính bán định danh) như tuổi hay mã bưu chính, khi ghép lại có thể truy ra người, và cột nhạy cảm (sensitive column) như chẩn đoán bệnh hay thu nhập, tự nó không chỉ ra ai nhưng là thông tin về cá nhân cần được bảo vệ để không bị gắn với đúng người. "quasi-identifier" sai vì loại cột này chính là có khả năng nhận dạng khi kết hợp, trái với mô tả not identifiable trong câu hỏi. "non-sensitive column" sai vì cột không nhạy cảm thì không cần bảo vệ đặc biệt. "explicitly private column" sai vì đây không phải thuật ngữ chuẩn trong cách phân loại thuộc tính khi ẩn danh hoá.

Đáp án đúng: "All of the others". Hội đồng đạo đức (ethics board) trong tổ chức công nghệ dựa trên dữ liệu đảm nhận cả ba nhiệm vụ được liệt kê, nên phương án gộp là đầy đủ nhất. "Response to rapid changes in the field, investigating the ethical implications." đúng vì công nghệ thay đổi rất nhanh, hội đồng phải theo dõi xu hướng mới và đánh giá hệ quả đạo đức của chúng trước khi tổ chức áp dụng. "Develop resources to be used in ethical decision-making processes." đúng vì hội đồng xây dựng bộ công cụ, khung đánh giá, danh mục câu hỏi giúp các nhóm tự đưa ra quyết định có đạo đức trong công việc hằng ngày. "Build a repository of institutional knowledge around ethical practices." cũng đúng vì hội đồng lưu giữ các tình huống, quyết định và bài học để tổ chức không lặp lại sai lầm và giữ được sự nhất quán. Mỗi ý trên chỉ là một phần nhiệm vụ, chọn riêng ý nào cũng bỏ sót những vai trò còn lại.

Đáp án đúng: "availability bias". Availability bias (thiên kiến sẵn có) là xu hướng chỉ dùng những gì sẵn trong tay, ở đây là chỉ tìm thuộc tính trong dữ liệu đã thu thập thay vì hỏi mô hình thực sự cần thông tin gì, khiến các yếu tố quan trọng nhưng chưa được ghi lại bị bỏ sót. "observer bias" là thiên kiến người quan sát, khi kỳ vọng của người thu thập hoặc gán nhãn làm méo dữ liệu. "prejudice bias" là thiên kiến định kiến, khi định kiến xã hội như khuôn mẫu giới tính hay chủng tộc lọt vào dữ liệu và nhãn. "exclusion bias" xảy ra khi chủ động loại bỏ một số đặc trưng hoặc nhóm dữ liệu vì nghĩ chúng không quan trọng, tức là lỗi cắt bớt chứ không phải lỗi chỉ trông vào dữ liệu đang có.