Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập cuối kỳ số 5

Đáp án đúng: "Selection bias". Selection bias (thiên lệch chọn mẫu) xảy ra khi cách thu thập hoặc chọn dữ liệu khiến mẫu huấn luyện không đại diện cho quần thể mà mô hình sẽ phục vụ, ví dụ dữ liệu khuôn mặt chủ yếu lấy từ một nhóm sắc tộc nên mô hình nhận diện kém với nhóm khác; cách giảm là kiểm tra phân bố mẫu và bổ sung dữ liệu cho nhóm bị thiếu. "Confirmation bias" là thiên kiến xác nhận, khi con người chỉ tìm và tin thông tin khớp với niềm tin sẵn có; đây là lỗi nhận thức của người phân tích chứ không phải tính chất của mẫu. "Anchoring bias" là thiên kiến mỏ neo, khi phán đoán bị kéo về con số hay thông tin đầu tiên nhận được. "Availability bias" là thiên kiến sẵn có, khi ta đánh giá khả năng xảy ra theo mức dễ nhớ ra ví dụ; nó có thể ảnh hưởng tới cách chọn dữ liệu, nhưng tên gọi chuẩn cho mẫu không đại diện quần thể vẫn là selection bias.

Đáp án đúng: "To ensure stakeholder expectations and values are understood". Giao tiếp với bên liên quan (stakeholder communication) là kênh hai chiều giúp tổ chức nắm được kỳ vọng, giá trị và mối lo của người dùng, nhân viên, cơ quan quản lý và cộng đồng; rủi ro đạo đức thường nảy sinh đúng ở chỗ sản phẩm đi ngược những giá trị mà tổ chức không hề biết tới, nên lắng nghe sớm giúp phát hiện và giảm rủi ro trước khi nó thành khủng hoảng. "To improve company branding only" sai vì chữ "only" biến giao tiếp thành công cụ quảng bá thuần tuý, bỏ qua mục tiêu hiểu và đáp ứng giá trị; hình ảnh tốt chỉ là hệ quả phụ. "To avoid legal responsibilities" sai vì giao tiếp không giúp né trách nhiệm pháp lý, trái lại minh bạch với bên liên quan là một phần của trách nhiệm giải trình (accountability). "To control product pricing strategies" sai vì định giá là quyết định kinh doanh, không phải mục đích của quản trị rủi ro đạo đức.

Đáp án đúng: "Given a lack of consensus, we should avoid strong assumptions regarding upper limits on future AI capabilities.". Đây gần như nguyên văn nguyên tắc Capability Caution (thận trọng về năng lực) trong bộ Asilomar AI Principles: vì giới nghiên cứu chưa đồng thuận AI rồi sẽ mạnh tới đâu, ta không nên mặc định là có một giới hạn trên an toàn, để còn chuẩn bị cho cả khả năng AI vượt xa dự đoán. Phương án "If there is no understanding of the internal mechanisms of AI, then AI development should be halted" đòi dừng phát triển, một mệnh lệnh cứng mà nguyên tắc này không hề nêu; nó chỉ yêu cầu khiêm tốn trong dự báo. Phương án "measures should be taken to ensure that humans are still capable of finding work" nói về việc làm và phân phối lợi ích kinh tế, thuộc nhóm vấn đề xã hội chứ không phải dự báo năng lực. Phương án "We should keep limits on what artificial general intelligence (AGI) is capable of" còn đi ngược tinh thần nguyên tắc, vì nó giả định ta đặt và giữ được giới hạn cho AGI, đúng loại giả định mạnh mà Capability Caution khuyên tránh.

Đáp án đúng: "A stipulation to continue providing service even if data usage is denied". PIPEDA (Personal Information Protection and Electronic Documents Act) là luật liên bang của Canada về cách khu vực tư nhân thu thập, sử dụng và tiết lộ thông tin cá nhân trong hoạt động thương mại; nguyên tắc 4.3.3 trong Phụ lục 1 của luật quy định tổ chức không được đặt việc đồng ý thu thập, sử dụng hay tiết lộ dữ liệu vượt quá mức cần thiết làm điều kiện để cung cấp sản phẩm, dịch vụ, tức người dùng từ chối phần dữ liệu không cần thiết thì vẫn được phục vụ, và nét này nằm ngay trong văn bản luật. "The early date of its inauguration" dễ gây phân vân và một số bộ câu hỏi ghi đây là đáp án, nhưng PIPEDA thông qua năm 2000, trong khi châu Âu đã có luật dữ liệu từ thập niên 1970, nên mốc ra đời không sớm nổi bật. "Its exclusive focus on a single domain rather than a breadth of domains" sai vì PIPEDA áp cho hoạt động thương mại nói chung ở nhiều ngành, không gói trong một lĩnh vực như HIPAA chỉ lo dữ liệu y tế. "Its nationwide scope and specific national focus" không phải điểm khác biệt, vì hầu hết luật quốc gia đều có phạm vi toàn quốc; hơn nữa ở những tỉnh có luật riêng được công nhận tương đương thì luật tỉnh được áp thay PIPEDA.

Đáp án đúng: "Clear communication of data use and user permission". Đồng thuận có hiểu biết (informed consent) gồm hai vế: người dùng phải được thông báo rõ ràng dữ liệu nào bị thu thập, dùng vào mục đích gì, ai được tiếp cận và rủi ro ra sao, rồi tự nguyện cho phép, kèm quyền rút lại sự cho phép đó; với AI, vế thông báo còn gồm việc dữ liệu có được dùng để huấn luyện mô hình hay ra quyết định tự động không. "Legal approval of AI patents" sai vì bằng sáng chế là chuyện sở hữu trí tuệ giữa tổ chức và nhà nước, không liên quan quyền của người có dữ liệu. "Selling user data to partners" sai vì đó chính là loại hành vi mà đồng thuận phải kiểm soát; bán dữ liệu khi người dùng chưa đồng ý là vi phạm. "Disabling all tracking features" là một cách bảo vệ riêng tư nhưng không phải điều đồng thuận đòi hỏi: đồng thuận cho phép việc theo dõi diễn ra khi người dùng đã hiểu và đồng ý, chứ không buộc tắt hết.

Đáp án đúng: "Superintelligence". Superintelligence (siêu trí tuệ) là AI vượt xa năng lực của con người ở mọi lĩnh vực, kể cả những việc mà không chuyên gia hay tập thể chuyên gia nào làm được. Chỉ ra chính xác từng người sẽ nhiễm một bệnh hoàn toàn mới trước cả ca đầu tiên là dự báo không có dữ liệu bệnh nào để học, vượt quá mọi khả năng hiện có của con người, nên chỉ siêu trí tuệ mới khớp mô tả. "Narrow AI" (AI hẹp) giỏi một nhiệm vụ cụ thể nhờ học từ dữ liệu sẵn có, ví dụ dự báo xu hướng dịch khi đã có ca bệnh, nhưng không thể biết trước từng cá nhân khi chưa có ca nào. "General AI" (AI tổng quát) chỉ đạt mức linh hoạt ngang con người trên nhiều lĩnh vực, mà con người thì không làm nổi việc này. "Basic AI" không phải một cấp độ được dùng trong cách phân loại AI hẹp, AI tổng quát và siêu trí tuệ.

Đáp án đúng: "Reference materials". NIST (Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ) cung cấp cho các tổ chức Standard Reference Materials, tức mẫu vật liệu chuẩn có giá trị đo đã được chứng nhận để hiệu chuẩn thiết bị và kiểm tra chất lượng phép đo, cùng với dữ liệu tham chiếu, tiêu chuẩn và hướng dẫn như khung quản trị rủi ro AI. "Measurement technologies" là lĩnh vực NIST nghiên cứu và phát triển trong khoa học đo lường, nhưng thứ chuyển giao cho tổ chức là chuẩn và mẫu tham chiếu để họ tự đo chính xác, không phải bán công nghệ đo. "Security tools" có phần đúng vì NIST có công bố cơ sở dữ liệu lỗ hổng National Vulnerability Database và các checklist cấu hình bảo mật, nhưng vai trò chính của NIST về an ninh mạng là ban hành khung, tiêu chuẩn và hướng dẫn như Cybersecurity Framework hay loạt SP 800, không phải nhà cung cấp phần mềm bảo mật. "Industrial configurations" chạm tới một mảng NIST có làm, vì NIST có hướng dẫn bảo mật hệ thống điều khiển công nghiệp SP 800-82, nhưng đó vẫn là tài liệu tham chiếu, không phải cấu hình công nghiệp làm sẵn cho doanh nghiệp.

Đáp án đúng: "Provide regular updates to keep the media informed". Truyền thông khủng hoảng (crisis communication) dựa trên ba yêu cầu: minh bạch, kịp thời và nhất quán; cập nhật định kỳ lấp khoảng trống thông tin, hạn chế tin đồn và cho thấy tổ chức đang chịu trách nhiệm xử lý, nhờ đó giữ được lòng tin. "Ignore media inquiries until the crisis resolves" sai vì im lặng tạo khoảng trống để người khác suy đoán, dễ bị hiểu là che giấu và làm khủng hoảng lan rộng. "Offer incentives for positive coverage" sai vì đó là mua chuộc truyền thông, vi phạm đạo đức báo chí và khi bị lộ sẽ biến thành một bê bối thứ hai. "Release information only to major news networks" sai vì phân biệt đối xử với báo nhỏ và địa phương, khiến một phần công chúng bị bỏ ngỏ và thông điệp thiếu nhất quán giữa các kênh.

Đáp án đúng: "50%". Khảo sát năm 2019 của Jobin, Ienca và Vayena trên 84 bộ nguyên tắc đạo đức AI do chính phủ, doanh nghiệp và tổ chức xã hội công bố ghi quyền riêng tư có mặt ở 47 trên 84 tài liệu, khoảng 56%, con số gần "50%" nhất; nghĩa là quyền riêng tư phổ biến nhưng không phải bộ nguyên tắc nào cũng nêu nó là nguyên tắc cốt lõi. Cần nói thẳng là tuỳ nguồn con số rất khác: báo cáo Principled Artificial Intelligence của Berkman Klein Center (Đại học Harvard) năm 2020 lại ghi quyền riêng tư có mặt ở khoảng 97% tài liệu, nên "99%" có cơ sở nếu dựa vào báo cáo đó, còn đáp án ở đây theo khảo sát 2019. "85%" gần với tỉ lệ của nguyên tắc minh bạch trong chính khảo sát 2019 (khoảng 87%) hơn là của quyền riêng tư, nên dễ nhầm hai con số. "25%" thấp hơn hẳn mọi con số khảo sát vừa nêu, không phản ánh mức phổ biến của quyền riêng tư trong các bộ nguyên tắc AI.

Đáp án đúng: "using scraped twitter data over survey data". Automation bias (thiên kiến tự động hoá) là xu hướng tin vào kết quả do máy hay quy trình tự động tạo ra hơn là thông tin do con người thu thập hoặc phán đoán, kể cả khi nguồn tự động kém tin cậy hơn. Ưu tiên dữ liệu Twitter được công cụ tự động cào về thay cho dữ liệu khảo sát do con người thiết kế và thu thập chính là biểu hiện đó: nguồn tự động được coi trọng chỉ vì nó tự động và nhiều, dù khảo sát thường có thiết kế mẫu rõ ràng hơn. "using biased survey data instead of parsed survey data" chỉ là chọn dữ liệu kém chất lượng trong cùng một nguồn khảo sát, không có yếu tố máy đặt cao hơn người. "using parsed twitter data over parsed Facebook data" so hai nguồn mạng xã hội đều đã qua xử lý tự động như nhau, nên không có sự ưu tiên máy hơn người. "using new data over existing data" là thiên về dữ liệu mới, gần với thiên kiến về tính mới chứ không phải automation bias.

Đáp án đúng: "Discriminatory or unsafe results". Thuật toán học từ dữ liệu lịch sử vốn mang thiên kiến xã hội; nếu khâu thiết kế không xét tới đạo đức như kiểm tra công bằng giữa các nhóm, đánh giá an toàn và trách nhiệm giải trình, hệ thống có thể phân biệt đối xử trong tuyển dụng, cho vay, hoặc gây nguy hiểm khi dùng trong y tế hay xe tự lái. "Lower electricity bills" sai vì mức tiêu thụ điện phụ thuộc phần cứng và khối lượng tính toán, không liên quan việc bỏ qua đạo đức. "Enhanced system performance" sai vì hiệu năng kỹ thuật là một chiều khác; một mô hình chính xác trung bình vẫn có thể sai lệch nặng với nhóm thiểu số, và bỏ qua đạo đức không làm nó tốt lên. "Better customer loyalty" sai vì kết quả bất công hay nguy hiểm làm khách hàng mất lòng tin, tức là tác động ngược lại.

Đáp án đúng: "By providing a model of belief about the likelihood of some event happening". Xác suất trong AI và các công nghệ dựa trên dữ liệu được hiểu theo nghĩa mức độ tin (degree of belief): mô hình học từ dữ liệu rồi đưa ra một ước lượng có điều kiện về khả năng xảy ra của sự kiện, và ước lượng đó được cập nhật khi có dữ liệu mới. Hiểu như vậy giúp ta nhớ rằng đầu ra của mô hình là phỏng đoán có độ bất định, cần diễn giải thận trọng. "By determining the objective likelihood of some event happening" sai vì mô hình không chạm tới một xác suất khách quan tuyệt đối; nó chỉ phản ánh dữ liệu và giả định của nó. "By estimating the likelihood of some event happening without input data" sai vì không có dữ liệu đầu vào thì mô hình không có gì để học hay ước lượng. "By guaranteeing that some event will occur with 100% likelihood" sai vì xác suất mô tả sự bất định, không bao giờ là lời bảo đảm chắc chắn.

Đáp án đúng: "Simple to follow examples". Chính sách đạo đức chỉ có tác dụng khi nhân viên, khách hàng và đối tác hiểu được nó và biết áp dụng vào tình huống cụ thể; ví dụ dễ theo dõi biến nguyên tắc trừu tượng như công bằng hay bảo vệ quyền riêng tư thành hành vi nhận ra được, nên là yếu tố then chốt của truyền thông với các bên liên quan trong và ngoài tổ chức. "Daily communications" không cần thiết, nhắc mỗi ngày dễ gây nhàm và làm loãng thông điệp; điều quan trọng là truyền thông đều đặn, đúng lúc chứ không phải tần suất hằng ngày. "Dense procedural descriptions" đi ngược mục tiêu vì mô tả thủ tục dày đặc khiến người đọc khó nắm ý chính, dù văn bản quy trình chi tiết vẫn cần cho bộ phận thực thi nội bộ. "Flexible verbiage" tức câu chữ linh hoạt, hiểu được theo nhiều cách, làm chính sách mơ hồ và tạo kẽ hở để mỗi người diễn giải theo ý mình, trái với yêu cầu rõ ràng.

Đáp án đúng: "Threat modeling or analysis tools". STRIDE là mô hình phân loại mối đe doạ do Microsoft đề xuất, gồm Spoofing, Tampering, Repudiation, Information disclosure, Denial of service và Elevation of privilege; VAST (Visual, Agile and Simple Threat) là một phương pháp mô hình hoá mối đe doạ hướng tới quy mô lớn. Cả hai được dùng trong công cụ threat modeling (mô hình hoá mối đe doạ) để liệt kê có hệ thống cách một hệ thống có thể bị tấn công trước khi xây dựng. "Black box mitigation methods" là cách giảm thiểu rủi ro khi không nhìn được bên trong hệ thống, không phải khung phân loại mối đe doạ. "Network optimization tools" tối ưu băng thông, định tuyến, phục vụ hiệu năng chứ không phải an ninh. "Bias mitigation techniques" là kỹ thuật giảm thiên lệch trong mô hình học máy, thuộc mảng công bằng chứ không phải phân tích tấn công.

Đáp án đúng gồm ba ý: "Act in such a way that your actions may become a universal law.", "Don't treat people as a means to an end; treat them always as an end." và "Each person must use reason to will moral laws.". Mệnh lệnh nhất quyết (categorical imperative) của Kant là bổn phận vô điều kiện, có các cách phát biểu chính: hành động theo quy tắc mà ta muốn trở thành luật phổ quát cho mọi người; đối xử với con người luôn như mục đích tự thân, không bao giờ chỉ như phương tiện; và nguyên tắc tự trị, theo đó mỗi người có lý trí tự đặt ra luật đạo đức cho mình như thành viên của một vương quốc các mục đích. Phương án "You have a moral duty to choose your actions based on their potential outcomes." sai vì chọn hành động theo kết quả là tinh thần của thuyết hệ quả (consequentialism); Kant cho rằng giá trị đạo đức nằm ở bổn phận và động cơ, không ở hậu quả.

Đáp án đúng: "Bias testing and diverse training data". Algorithmic fairness (công bằng thuật toán) là yêu cầu mô hình không gây kết quả bất lợi có hệ thống cho một nhóm người theo giới tính, sắc tộc, tuổi tác hay đặc điểm nhạy cảm khác. Hai biện pháp đi đôi là kiểm thử thiên lệch, tức đo các chỉ số như tỉ lệ chấp nhận hay tỉ lệ lỗi theo từng nhóm để phát hiện chênh lệch, và dữ liệu huấn luyện đa dạng, đại diện đủ các nhóm để mô hình không học lệch về nhóm chiếm đa số. "Using larger datasets only" không đủ, vì dữ liệu lớn mà vẫn lệch thì chỉ nhân bản thiên lệch ở quy mô lớn hơn. "Increasing processing speed" chỉ cải thiện hiệu năng, không đụng tới việc kết quả có công bằng hay không. "Reducing system complexity" có thể giúp mô hình dễ giải thích hơn, nhưng một mô hình đơn giản vẫn có thể phân biệt đối xử nếu dữ liệu và đặc trưng đầu vào bị lệch.

Đáp án đúng: "The principle of doing no harm.". Non-maleficence (không gây hại) bắt nguồn từ đạo đức y học với tinh thần "trước hết, đừng gây hại"; trong công nghệ, nó đòi hỏi hệ thống tránh gây tổn hại về thể chất, tâm lý, tài chính hay xã hội cho con người, và khác với beneficence (chủ động làm điều tốt). "The principle of having no bias." sai vì không thiên kiến thuộc về nguyên tắc công bằng (fairness); thiên kiến có thể dẫn tới tổn hại nhưng hai khái niệm không đồng nghĩa. "The principle of having no security risk." sai vì an ninh chỉ là một khía cạnh của việc tránh gây hại, và không hệ thống nào loại bỏ hoàn toàn rủi ro; nguyên tắc này rộng hơn bảo mật rất nhiều. "The principle of having security risk." sai vì nó mô tả chính điều mà mọi nguyên tắc đạo đức muốn giảm thiểu, hoàn toàn trái nghĩa với không gây hại.

Đáp án đúng: "Kantian deontology". Đạo đức học bổn phận của Kant (Kantian deontology) có công thức nhân tính của mệnh lệnh nhất quyết: luôn đối xử với con người như mục đích tự thân, không bao giờ chỉ như phương tiện, nghĩa là tôn trọng phẩm giá và quyền tự quyết của họ kể cả khi lợi dụng họ đem lại kết quả tốt. "Utilitarianism" (thuyết vị lợi) đánh giá hành động theo tổng lợi ích lớn nhất, nên về nguyên tắc có thể chấp nhận dùng một người làm phương tiện nếu tổng phúc lợi tăng. "Virtue ethics" (đạo đức học đức hạnh) tập trung vào phẩm chất của người hành động như trung thực, can đảm, không lấy việc coi người là mục đích làm nguyên tắc trung tâm. "Social contract theory" (thuyết khế ước xã hội) đặt nền đạo đức trên những thoả thuận mà các cá nhân có lý trí sẽ chấp nhận để cùng sống, không phải trên phẩm giá tự thân của từng người.

Đáp án đúng: "Clear responsibility assignment". Accountability (trách nhiệm giải trình) nghĩa là khi hệ thống gây hại hay ra quyết định sai, phải xác định được ai chịu trách nhiệm, ai phải giải thích và ai có quyền sửa; điều này chỉ có được khi vai trò được phân công rõ cho từng khâu thiết kế, triển khai và giám sát, ví dụ bằng ma trận RACI. "Complete automation" làm việc quy trách nhiệm khó hơn vì không còn người ra quyết định cụ thể đứng ra chịu trách nhiệm, dẫn tới khoảng trống trách nhiệm. "Maximum data collection" không liên quan tới trách nhiệm giải trình mà còn tăng rủi ro quyền riêng tư, trái với nguyên tắc tối thiểu hoá dữ liệu. "Fastest processing speed" chỉ là chỉ số hiệu năng kỹ thuật, không giúp trả lời câu hỏi ai chịu trách nhiệm khi hệ thống sai.

Đáp án đúng: "The conference can be interactive without the participants needing to be co-located.". Lợi ích thực chất của họp báo thực tế ảo (virtual reality) là tạo không gian chung nơi phóng viên và người phát ngôn ở nhiều nơi vẫn hỏi đáp, quan sát và tương tác gần như trực tiếp, mà không ai phải có mặt tại cùng một địa điểm. "It will be easier to communicate your overall message to your audience." sai vì độ rõ của thông điệp phụ thuộc nội dung và người phát ngôn, không phụ thuộc nền tảng; môi trường mới lạ còn có thể gây phân tán. "The conference will be easily accessible to all willing participants." sai vì thực tế ảo đòi hỏi kính chuyên dụng, kết nối tốt và kỹ năng sử dụng, nên kém dễ tiếp cận hơn một buổi họp trực tuyến thông thường. "The participants will be impressed by your leveraging of new and exciting technologies." sai vì gây ấn tượng bằng công nghệ là hiệu ứng hời hợt, không chắc xảy ra và không phải lợi ích của việc truyền thông.