Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 3

Đáp án đúng: "not excessive". Câu trích thể hiện nguyên tắc data minimisation (tối thiểu hoá dữ liệu): tổ chức chỉ được thu thập và xử lý lượng dữ liệu cá nhân vừa đủ, liên quan và không vượt quá mức cần cho mục đích đã nêu; văn bản GDPR hiện hành diễn đạt ý này là "limited to what is necessary", cùng nghĩa với không quá mức. Nguyên tắc này giảm rủi ro khi rò rỉ và hạn chế việc dùng dữ liệu cho mục đích khác. "thoroughly vetted" (được thẩm định kỹ) nói về chất lượng hay độ tin cậy của dữ liệu, gần với nguyên tắc chính xác chứ không phải giới hạn lượng dữ liệu. "highly specified" (được đặc tả chi tiết) không phải yêu cầu của nguyên tắc nào trong GDPR. "broadly applicable" (áp dụng rộng) đi ngược tinh thần tối thiểu hoá, vì dữ liệu dùng được cho nhiều mục đích chính là thứ GDPR muốn hạn chế.

Đáp án đúng: "When you say your bad behavior is caused by the situation, but when other people display the same bad behavior, it is caused by a personality trait.". Lỗi quy kết cơ bản (fundamental attribution error) là xu hướng giải thích hành vi của người khác bằng tính cách mà xem nhẹ hoàn cảnh, trong khi với bản thân thì ta lại đổ cho tình huống; trong tổ chức, lỗi này khiến ta quy tội cho cá nhân thay vì sửa quy trình đã dẫn tới sai phạm. Phương án "incorrectly assume a cause and effect relationship" mô tả việc nhầm tương quan thành nhân quả (correlation versus causation), không phải lỗi quy kết. Phương án "chances of experiencing something negative are lower" là thiên kiến lạc quan (optimism bias), tin rằng điều xấu ít xảy ra với mình hơn người khác. Phương án "your ideas are normal and that the majority of people agree" là hiệu ứng đồng thuận giả (false consensus effect), tưởng số đông nghĩ giống mình.

Đáp án đúng: "Data subjects of the data-driven technology system". Bộ quy tắc đạo đức (code of ethics) đặt ra chuẩn mực hành xử cho những người xây dựng, vận hành và chịu trách nhiệm về hệ thống, tức là những người có quyền quyết định và phải giải trình. Chủ thể dữ liệu (data subjects) là những cá nhân có dữ liệu được hệ thống thu thập và xử lý; họ là đối tượng được bộ quy tắc bảo vệ chứ không phải người phải tuân theo nó, vì họ không điều khiển cách hệ thống được thiết kế hay sử dụng. "Developers of the data-driven technology system" chịu sự điều chỉnh trực tiếp vì họ viết mã, chọn dữ liệu và thuật toán. "Designers of the data-driven technology system" cũng phải tuân thủ vì quyết định thiết kế ảnh hưởng tới quyền riêng tư, khả năng tiếp cận và công bằng. "Business managers of the data-driven technology system" quyết định mục tiêu, ngân sách và cách triển khai, nên càng phải chịu ràng buộc của bộ quy tắc và chịu trách nhiệm giải trình.

Đáp án đúng gồm hai ý: "Disenfranchisement" và "Erosion of rights". Câu hỏi nói về tác động xã hội của rủi ro đạo đức: khi tổ chức không truyền đạt cho công chúng biết công nghệ ảnh hưởng tới họ thế nào, người dân mất khả năng lên tiếng và tham gia quyết định, tức bị gạt ra lề (disenfranchisement), đồng thời các quyền như quyền riêng tư, quyền không bị phân biệt đối xử bị bào mòn dần mà không ai phản đối kịp (erosion of rights). "Decreased corporate revenue" là hậu quả tài chính đối với chính doanh nghiệp, không phải tác động xã hội mà câu hỏi đề cập. "Reduced of brand loyalty" cũng là thiệt hại thương mại của tổ chức, có thể xảy ra nhưng nằm ngoài phạm vi tác động lên xã hội và quyền của con người.

Đáp án đúng gồm hai ý: "If the holders of data are trustworthy entities." và "Whether the data was gathered in an ethical manner.". Ethical integrity (tính toàn vẹn đạo đức) của dữ liệu xét hai mặt: dữ liệu có được thu thập một cách đạo đức không, tức có sự đồng ý, minh bạch về mục đích và không lừa dối, và người hoặc tổ chức nắm giữ dữ liệu có đáng tin không, tức có bảo vệ và dùng dữ liệu đúng cam kết không. Dữ liệu chính xác về kỹ thuật nhưng thu thập lén lút hay nằm trong tay bên thiếu tin cậy vẫn không có tính toàn vẹn đạo đức. "If the data is commercially viable or monetarily valuable." là giá trị kinh tế của dữ liệu, một câu hỏi kinh doanh chứ không phải đạo đức. "What type of data (audio, visual, etc.) is being collected and/or utilized." là đặc điểm kỹ thuật về định dạng; loại dữ liệu có thể ảnh hưởng mức nhạy cảm nhưng tự nó không quyết định dữ liệu có toàn vẹn về đạo đức hay không.

Đáp án đúng: "The purpose of what-if scenario planning sessions is to think critically about potential worst-case scenarios so you can decide whether or not to proceed with a project.". Phiên lập kịch bản what-if đặt câu hỏi nếu điều tồi tệ nhất xảy ra thì sao, chẳng hạn dữ liệu bị lộ, mô hình phân biệt đối xử hay sản phẩm bị lạm dụng, để lường trước tác hại, chuẩn bị biện pháp và quyết định có nên tiếp tục dự án hay không. Phải nói thẳng chỗ dễ tranh cãi: phương án "tradeoffs between company values and business needs" nghe rất hợp lý và có cách hiểu xếp nó là đáp án, vì phiên what-if cũng chạm tới đánh đổi; nhưng cân nhắc đánh đổi giữa giá trị và nhu cầu kinh doanh là việc của đánh giá tác động đạo đức nói chung, còn nét riêng của what-if là tập trung vào kịch bản xấu nhất. Phương án "think critically about the mistakes so you can identify" sai vì đó là rút kinh nghiệm sau sự cố (post-mortem), diễn ra khi vi phạm đã xảy ra, còn what-if là lập kế hoạch trước. Phương án "potential best-case scenarios" sai vì chỉ nhìn kịch bản tốt nhất không giúp phát hiện rủi ro và dễ dẫn tới lạc quan quá mức.

Đáp án đúng gồm hai ý: "It minimizes the impact of any ethical issues which may emerge." và "It reveals any gaps in accountability or auditability.". Thử nghiệm thí điểm (pilot testing) đưa công nghệ mới ra một nhóm người dùng nhỏ, trong phạm vi kiểm soát được, trước khi phát hành rộng; nhờ quy mô hẹp, nếu xuất hiện vấn đề đạo đức như thiên lệch, xâm phạm riêng tư hay tác hại ngoài dự kiến thì số người bị ảnh hưởng ít và có thời gian khắc phục. Thí điểm cũng cho thấy hệ thống đã ghi nhật ký đủ chưa, ai chịu trách nhiệm khi có sự cố, có thể kiểm toán quyết định hay không, từ đó vá lỗ hổng về trách nhiệm giải trình. "It certifies that a product’s developers are legally accountable." sai vì thí điểm là hoạt động kỹ thuật và quản lý, không có giá trị xác nhận trách nhiệm pháp lý; điều đó do luật và hợp đồng quy định. "It demonstrates that the system is functional as early as possible in order to satisfy senior management and investor stakeholders." đặt mục tiêu làm hài lòng lãnh đạo và nhà đầu tư, đó là lợi ích kinh doanh chứ không phải lợi ích đạo đức, thậm chí có thể dẫn tới vội vàng bỏ qua rủi ro.

Đáp án đúng: "Genuine ethical action gets replaced by superficial promises.". Ethics washing (tẩy trắng đạo đức) là khi tổ chức thay hành động đạo đức thực chất bằng tuyên bố, nguyên tắc đẹp đẽ, hội đồng đạo đức hữu danh vô thực để tạo hình ảnh có trách nhiệm, trong khi cách làm thật không đổi; tương tự greenwashing trong môi trường. "No attempt is made towards genuine ethical action." chỉ mô tả việc không làm gì, thiếu yếu tố đặc trưng là lời hứa hình thức đem ra thay thế. "Superficial promises are replaced by genuine ethical action." đảo ngược khái niệm, mô tả một tổ chức đang tiến bộ chứ không phải tẩy trắng. "Genuine ethical action is used to wash over previous mistakes." sai vì nếu đã có hành động thực chất để sửa sai thì đó là khắc phục chính đáng, không phải dùng vỏ bọc che giấu.

Đáp án đúng: "It includes more perspectives, which can lead to better risk identification.". Mỗi bộ phận như kỹ thuật, pháp chế, chăm sóc khách hàng hay nhân sự nhìn thấy những rủi ro khác nhau từ góc làm việc của mình; mời bên liên quan từ nhiều mảng giúp lấp các điểm mù, tránh việc chỉ một nhóm kỹ sư tự đánh giá rồi bỏ sót tác hại tới khách hàng hay nhân viên. "It is e legal requirement in many jurisdictions." sai vì luật thường không bắt buộc thành phần cụ thể của nhóm nhận diện rủi ro; đa dạng góc nhìn là thực hành tốt chứ không phải nghĩa vụ pháp lý phổ biến. "It give you an opportunity to identify people as risk." biến việc nhận diện rủi ro thành soi xét con người, không phải mục đích của việc mời họ tham gia. "It give you an opportunity to identify technology as risk." quá hẹp, vì công nghệ chỉ là một nguồn rủi ro và không cần nhiều bộ phận mới nhận ra được nó.

Đáp án đúng: "utility". Góc nhìn lạc quan về AI tổng quát (general AI) coi nó như một tiện ích (utility) giống điện hay nước: một hạ tầng ai cũng tiếp cận được, giúp giải quyết bệnh tật, biến đổi khí hậu, nâng năng suất và phục vụ lợi ích chung của xã hội. "weapon" sai vì xem AI là vũ khí là góc nhìn bi quan, lo ngại AI bị dùng để gây hại hoặc vượt khỏi tầm kiểm soát. "peace-keeping tool" sai vì đó chỉ là một ứng dụng hẹp, vẫn gắn với xung đột và an ninh, chưa phải bức tranh tổng quát về vai trò của AI. "human right" sai vì quyền con người là thứ thuộc về con người; việc tiếp cận công nghệ có thể được bàn như một quyền, nhưng đó không phải cách tóm tắt góc nhìn lạc quan về bản thân AI tổng quát.

Đáp án đúng: "Google Maps satellite view dataset". Vi phạm riêng tư bằng thuật toán (algorithmic privacy violation) xảy ra khi dữ liệu công khai, từng mẩu có vẻ vô hại, bị thuật toán gộp lại để suy ra thông tin nhạy cảm mà không ai đồng ý cung cấp. Ảnh vệ tinh công khai từng được các nhà nghiên cứu tại Stanford dùng cùng học sâu để ước lượng mức nghèo đói của từng vùng; còn nghiên cứu Stanford suy ra thu nhập và xu hướng bỏ phiếu của khu dân cư từ xe ô tô trong ảnh thì dùng ảnh Google Street View. Theo đúng chữ in, ảnh vệ tinh Google Maps là bộ dữ liệu công khai có thật duy nhất trong các phương án. "Google search view dataset" có thể là bản in lệch của Google Street View, và nếu vậy nó cũng là ví dụ rất mạnh; nhưng theo đúng chữ in thì không có bộ dữ liệu công khai nào tên như vậy. "Stanford hospital dataset" sai vì tên Stanford gắn với các nghiên cứu ảnh nói trên, còn dữ liệu bệnh viện là dữ liệu y tế được bảo vệ, không công khai. "Fidelity Bank lending dataset" là dữ liệu tín dụng nội bộ của ngân hàng, có rủi ro riêng tư nhưng không công khai như câu hỏi yêu cầu.

Đáp án đúng: "perturbed inputs". Adversarial model (mô hình đối kháng) dùng để kiểm thử độ bền và thiên kiến của một mô hình bằng cách tạo ra perturbed inputs (đầu vào bị nhiễu, thay đổi nhỏ có chủ đích) rồi quan sát đầu ra thay đổi ra sao; nếu đổi một chi tiết rất nhỏ hoặc chỉ đổi thuộc tính nhạy cảm mà kết quả đảo hẳn, mô hình dễ bị tấn công hoặc đang thiên lệch. "sensitive columns" là các cột thuộc tính nhạy cảm như giới tính, chủng tộc, có thể là đối tượng bị nhiễu nhưng bản thân chúng không phải kỹ thuật. "algorithm detection" không phải một kỹ thuật có thật trong kiểm thử đối kháng. "pressure inputs" là thuật ngữ bịa, nghe na ná nhưng không có ý nghĩa trong học máy.

Đáp án đúng: "A user’s home address". PII (personally identifiable information, thông tin nhận dạng cá nhân) là thông tin tự nó đủ để xác định hoặc liên lạc với một người cụ thể; địa chỉ nhà dẫn thẳng tới một người hay một hộ gia đình mà không cần nguồn nào khác, nên là PII trực tiếp. "System events added to a log" là bản ghi kỹ thuật của hệ thống; nó chỉ trở thành dữ liệu cá nhân khi có chứa định danh người dùng, tự thân không nhận dạng ai. "Temperature readings for an office building" là số liệu môi trường của toà nhà, không gắn với cá nhân nào. "A user’s customer ID in an online ordering system" là định danh nội bộ, chỉ nhận ra người khi đối chiếu với cơ sở dữ liệu khách hàng của hệ thống; nó là định danh gián tiếp, có thể là dữ liệu cá nhân khi kết hợp nhưng không đủ để nhận dạng nếu đứng một mình.

Đáp án đúng gồm hai ý: "Data annotation and augmentation tools" và "Compiled models". Sản phẩm bên thứ ba có thể tận dụng (leverageable) trong dự án dữ liệu là những thứ mua hoặc dùng lại được từ bên ngoài: công cụ gán nhãn và tăng cường dữ liệu (data annotation, augmentation) và mô hình đã biên dịch, huấn luyện sẵn như mô hình tiền huấn luyện hay API nhận dạng ảnh. Dùng chúng tiết kiệm công sức nhưng kéo theo trách nhiệm thẩm định: dữ liệu gán nhãn có thiên lệch không, mô hình có minh bạch về dữ liệu huấn luyện không. "Management oversight" sai vì giám sát của ban quản lý là chức năng quản trị nội bộ, không phải sản phẩm dữ liệu mua từ bên ngoài. "Product design lifecycle" sai vì vòng đời thiết kế sản phẩm là quy trình của chính tổ chức, không phải một sản phẩm của bên thứ ba.

Đáp án đúng: "a list of bias and domain tests to run and adjust for". Một mô hình tự làm sạch, phân tích cú pháp và tự huấn luyện trên dữ liệu của chính nó rất dễ tự khuếch đại thiên lệch, vì không còn con người can thiệp ở từng bước. Để giữ được sự khách quan, nó cần một bộ kiểm thử về thiên lệch (như so sánh kết quả giữa các nhóm) và kiểm thử theo lĩnh vực (kết quả có hợp lý với kiến thức chuyên môn không) để chạy định kỳ và tự điều chỉnh khi phát hiện sai lệch. "more powerful computing algorithms to auto-scrub data" chỉ làm việc làm sạch nhanh hơn; thuật toán mạnh hơn vẫn có thể xoá nhầm hay giữ lại dữ liệu thiên lệch nếu không có tiêu chí kiểm tra. "10x the amount of data" không giải quyết gì nếu dữ liệu thêm vào mang cùng thiên lệch; nhiều dữ liệu hơn còn có thể củng cố thiên lệch. "a test for recency bias" chỉ bao một loại thiên lệch là thiên lệch gần đây, quá hẹp so với nhu cầu giữ khách quan toàn diện.

Đáp án đúng gồm ba ý: "Mitigation", "Analysis" và "Identification". Quy trình quản lý rủi ro tổng thể đi theo vòng: Identification (nhận diện rủi ro có thể xảy ra), Analysis (phân tích khả năng xảy ra và mức tác động để xếp ưu tiên), rồi Mitigation (giảm thiểu bằng biện pháp kiểm soát), sau đó theo dõi và lặp lại khi bối cảnh thay đổi. "Elimination" không phải một bước chuẩn của quy trình, vì trong thực tế hầu như không thể loại bỏ hoàn toàn rủi ro; né tránh rủi ro (avoidance) chỉ là một trong các lựa chọn xử lý thuộc khâu giảm thiểu, còn mục tiêu của quản lý rủi ro là đưa rủi ro về mức chấp nhận được chứ không phải về số không.

Đáp án đúng: "It helps you predict business interruptions and develop recovery strategies.". Business impact assessment (đánh giá tác động kinh doanh) xác định các hoạt động then chốt, ước tính hậu quả khi chúng bị gián đoạn, thời gian tối đa chịu được và từ đó xây chiến lược khôi phục, là nền tảng cho kế hoạch duy trì kinh doanh. "It helps you identify what risks you can accept or transfer to third party." là quyết định xử lý rủi ro (chấp nhận, chuyển giao qua bảo hiểm hay nhà cung cấp) trong quản lý rủi ro, diễn ra sau khi đã đánh giá. "It help you evaluate how a product or service could fail to apply ethical values to a society." mô tả đánh giá tác động đạo đức chứ không phải đánh giá tác động kinh doanh. "It helps you identify what risks you can accept or transfer to your customers." vừa là quyết định xử lý rủi ro, vừa thiếu đạo đức vì đẩy rủi ro sang khách hàng.

Đáp án đúng: "An approach in which ethics is considered from the initial design stage.". Ethics by design (đạo đức từ khâu thiết kế) nghĩa là đưa cân nhắc đạo đức vào ngay từ giai đoạn thiết kế ban đầu và duy trì suốt vòng đời sản phẩm, cùng tinh thần với privacy by design, thay vì vá lỗi sau khi sản phẩm đã gây hại. "A reference to one of the tenets of engineering activism." sai vì hoạt động vận động của kỹ sư là việc kỹ sư lên tiếng phản đối dự án sai trái, khác với một phương pháp thiết kế. "A creative design approach as the focus for ethics." sai vì nó đảo ngược quan hệ: đạo đức là thứ được lồng vào thiết kế, không phải thiết kế sáng tạo trở thành trọng tâm của đạo đức. "A reference to the framework set forth by IEEE’s Ethically Aligned Design." sai vì Ethically Aligned Design của IEEE là một bộ khuyến nghị cụ thể có cùng tinh thần, còn ethics by design là cách tiếp cận chung, không gắn riêng với khung nào.

Đáp án đúng: "blind attribute". Mô hình mù thuộc tính (blind attribute) là mô hình được cố ý bỏ các thuộc tính nhạy cảm như giới tính, chủng tộc khỏi đầu vào, theo cách tiếp cận gọi là công bằng nhờ không biết (fairness through unawareness). Nó vẫn có thể bất công vì những biến khác như mã bưu chính, tên trường, lịch sử mua sắm tương quan mạnh với thuộc tính bị ẩn và đóng vai biến đại diện (proxy), nên mô hình gián tiếp tái tạo phân biệt đối xử. "biased training" mô tả mô hình được huấn luyện trên dữ liệu thiên lệch; nó bất công là điều hiển nhiên, câu hỏi không xoay quanh việc nó có biết nhóm hay không. "single attribute" là mô hình chỉ dùng một thuộc tính, không phải khái niệm về việc giấu thông tin nhóm. "false-negative optimized" là mô hình tối ưu theo âm tính giả, liên quan tới chỉ số lỗi chứ không nói gì về việc mô hình không biết nhóm của đầu vào.

Đáp án đúng: "pareto efficiency". Pareto efficiency (hiệu quả Pareto) mô tả trạng thái phân bổ nguồn lực mà không thể làm ai đó tốt hơn nếu không làm ít nhất một người khác tệ đi; trong đạo đức thuật toán, khái niệm này giúp phân tích đánh đổi giữa các mục tiêu như độ chính xác và công bằng giữa các nhóm, vì cải thiện một nhóm có thể phải hy sinh nhóm khác. "boron letter" sai vì Boron Letters là tên loạt thư hướng dẫn viết quảng cáo, không phải khái niệm kinh tế hay đạo đức nào về phân bổ nguồn lực. "prisoner's dilemma" (thế lưỡng nan của người tù) là bài toán lý thuyết trò chơi về việc các bên lý trí không hợp tác dù hợp tác có lợi hơn, không nói về phân bổ không thể cải thiện. "aggregate curve" là đường tổng hợp, không định nghĩa trạng thái nào như mô tả trong câu.