Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 5

Đáp án đúng: "They can lead to unfair and discriminatory outcomes". Thuật toán thiên lệch (biased algorithms) thường học từ dữ liệu lịch sử phản ánh bất bình đẳng, hoặc từ biến đại diện gián tiếp cho chủng tộc, giới tính; khi dùng để ra quyết định tuyển dụng, cho vay, xét xử, chúng tái tạo và khuếch đại bất công đó ở quy mô lớn, gây hại cho nhóm bị thiệt. "They enhance the precision and accuracy of decisions" sai vì thiên lệch là sai số có hệ thống; mô hình có thể chính xác trung bình nhưng sai nhiều hơn với một số nhóm. "They ensure all stakeholders are considered equally" sai vì đó là điều trái ngược với thiên lệch, vốn ưu ái nhóm này và bất lợi cho nhóm khác. "They guarantee privacy and security in all data processes" sai vì thiên lệch và quyền riêng tư là hai chiều khác nhau, và không thuật toán nào bảo đảm an toàn tuyệt đối.

Đáp án đúng: "Promote international cooperation.". Theo Nguyên tắc AI của OECD (OECD AI Principles), phần khuyến nghị dành cho chính phủ gồm đầu tư cho nghiên cứu và phát triển AI, xây dựng hệ sinh thái số, tạo môi trường chính sách thuận lợi, phát triển năng lực con người và chuẩn bị cho chuyển đổi thị trường lao động, cùng hợp tác quốc tế vì AI đáng tin cậy, vì AI và dữ liệu vượt qua biên giới nên các nước cần chuẩn và cách làm chung. "Promote transparency in AI." là ý đúng về AI có trách nhiệm, nhưng minh bạch thuộc nhóm nguyên tắc giá trị áp cho mọi bên tham gia vòng đời AI, không phải khuyến nghị riêng cho chính phủ. "Promote human values." cũng thuộc nhóm nguyên tắc giá trị đó, tức tôn trọng nhân quyền, dân chủ và công bằng, áp chung cho mọi bên. "Promote collaboration." gần nghĩa với hợp tác quốc tế nhưng mơ hồ, không nói hợp tác giữa ai với ai, và không phải tên của khuyến nghị nào.

Đáp án đúng gồm hai ý: "Emulated empathy" và "Machine-readable privacy terms". Loạt tiêu chuẩn IEEE 7000 bàn các vấn đề đạo đức của hệ thống tự động và thông minh, trong đó có chuẩn riêng về cân nhắc đạo đức khi máy mô phỏng sự đồng cảm, vì hệ thống tỏ ra hiểu cảm xúc con người có thể gây gắn bó hay thao túng, và chuẩn về điều khoản quyền riêng tư cá nhân ở dạng máy đọc được, để người dùng đặt điều kiện chia sẻ dữ liệu mà hệ thống tự hiểu và tuân theo. Loạt này còn gồm các chủ đề như minh bạch, quyền riêng tư dữ liệu, thiên lệch thuật toán, thiết kế an toàn khi hỏng hóc. "Fair competition" là chủ đề của luật cạnh tranh và chống độc quyền, không phải lĩnh vực của loạt chuẩn này. "Personnel safety" tức an toàn lao động của nhân sự thuộc các chuẩn an toàn nghề nghiệp, không phải đạo đức của hệ thống tự động.

Đáp án đúng: "equality of false negatives". Một mô hình muốn giảm tác hại bằng cách cân bằng số lỗi giữa các nhóm con sẽ đòi tỉ lệ âm tính giả (false negative), tức trường hợp đáng được kết quả tích cực nhưng bị mô hình từ chối, ngang nhau giữa các nhóm; đây là tinh thần của tiêu chí cơ hội bình đẳng (equal opportunity), bảo đảm không nhóm nào chịu thiệt nhiều hơn vì lỗi bỏ sót của mô hình, như bị từ chối vay dù đủ điều kiện. "equality of true outcomes" nói về việc kết quả đúng ngang nhau, không phải cân bằng lỗi như câu hỏi mô tả. "equality of training data" là cân bằng lượng dữ liệu huấn luyện giữa các nhóm, một biện pháp ở khâu đầu vào chứ không phải tiêu chí quyết định về lỗi của mô hình. "equality of prediction bias" không phải tên một tiêu chí công bằng chuẩn, và thiên lệch dự đoán là thứ cần loại bỏ chứ không phải thứ cần làm cho ngang nhau.

Đáp án đúng: "CCPA". California Consumer Privacy Act (CCPA) là luật bảo vệ quyền riêng tư người tiêu dùng của bang California, trao cho cư dân California các quyền như biết doanh nghiệp thu thập dữ liệu gì, yêu cầu xoá dữ liệu cá nhân và từ chối việc bán dữ liệu; vì vậy nó là căn cứ để cư dân đòi công ty xoá dữ liệu của mình. "PCI DSS" là tiêu chuẩn bảo mật dữ liệu thẻ thanh toán do ngành thẻ đặt ra cho bên xử lý thẻ, không trao cho cá nhân quyền yêu cầu xoá dữ liệu. "OECD Privacy Guidelines" là bộ hướng dẫn quốc tế mang tính khuyến nghị, không phải luật cho cư dân California một quyền có thể thực thi. "COPPA" là luật liên bang Mỹ bảo vệ dữ liệu trực tuyến của trẻ em dưới 13 tuổi, chỉ áp dụng cho nhóm này chứ không cho mọi cư dân California.

Đáp án đúng: "ISO/IEC 42001". ISO/IEC 42001 là tiêu chuẩn quốc tế về AI management system (hệ thống quản lý trí tuệ nhân tạo), đặt yêu cầu để tổ chức thiết lập, vận hành và cải tiến việc quản trị AI: chính sách, đánh giá rủi ro và tác động, trách nhiệm, giám sát vòng đời hệ thống; tổ chức có thể được chứng nhận theo nó giống như với các tiêu chuẩn quản lý khác. "ISO 27001" là tiêu chuẩn hệ thống quản lý an toàn thông tin, tập trung vào bảo mật chứ không riêng cho AI. "IEEE Standards" là tên chung của cả một bộ tiêu chuẩn do IEEE ban hành, có một số tiêu chuẩn liên quan tới đạo đức thiết kế hệ thống, nhưng không phải một tiêu chuẩn quốc tế cụ thể về quản trị AI. "HIPAA" là luật của Hoa Kỳ về bảo vệ thông tin y tế, mang tính quốc gia và không phải hướng dẫn quản trị AI.

Đáp án đúng: "The Beijing AI Principles". Bộ nguyên tắc AI Bắc Kinh được chia thành ba phần là nghiên cứu và phát triển (Research and Development), sử dụng (Use) và quản trị (Governance), trong đó phần nghiên cứu và phát triển đứng đầu và nêu cụ thể các nguyên tắc cho người làm R&D, nên phù hợp nhất khi cần khung tham khảo cho hoạt động này. "The American Medical Association's definition of artificial intelligence" sai vì đó là cách nhìn của ngành y, nhấn mạnh AI như trí tuệ tăng cường hỗ trợ bác sĩ, không phải khung cho R&D nói chung. "The G20 AI Principles" sai vì đây là cam kết cấp chính phủ, dựa trên nguyên tắc AI của OECD, hướng tới chính sách và hợp tác quốc tế về AI đáng tin cậy chứ không tập trung vào R&D. "The Montreal Declaration for a Responsible Development of Artificial Intelligence" sai vì tuyên bố này đưa ra các giá trị cho xã hội như phúc lợi, tự chủ, riêng tư, công bằng, mang tính định hướng chung hơn là chuyên về quy trình nghiên cứu.

Đáp án đúng: "These rights necessitate that robots become sentient entities, which is currently not feasible.". Lập luận về quyền và giải phóng robot chỉ có ý nghĩa nếu robot là thực thể có cảm giác (sentient), tức có trải nghiệm chủ quan và lợi ích riêng; công nghệ hiện nay còn xa điều đó, trong khi thiên kiến, quyền riêng tư, minh bạch đang gây hại thật cho con người hôm nay, nên phải ưu tiên. "Humans are anthropocentric and don’t want to extend rights to other sentient entities." là nhận định về tâm lý con người, không phải lý do khiến vấn đề kém cấp bách, và con người vẫn đã mở rộng bảo vệ cho động vật. "There is no legal precedent for granting rights to entities that are not humans." sai sự thật, vì pháp nhân như công ty đã có tư cách pháp lý. "Robots are mechanical instruments and therefore don’t deserve to have rights." là kết luận dứt khoát, bỏ qua khả năng tương lai nếu robot có cảm giác.

Đáp án đúng: "Robustness to adversarial examples". Adversarial examples (mẫu đối kháng) là đầu vào bị chỉnh sửa rất nhỏ, có khi con người không nhận ra, nhưng khiến mô hình phân loại sai, ví dụ vài miếng dán trên biển báo dừng có thể làm mô hình nhận thành biển khác. Trong xe tự lái, sai lầm kiểu này có thể gây tai nạn chết người, nên khả năng chống chịu mẫu đối kháng là nguyên tắc thiết yếu khi triển khai thực tế. "Architectural design analysis" là bước phân tích thiết kế có ích cho mọi phần mềm, nhưng không nhắm vào điểm yếu đặc thù của mô hình AI trong tình huống nguy hiểm. "Continuous integration and deployment of patch updates" giúp sửa lỗi nhanh, nhưng với hệ thống liên quan tính mạng, liên tục đẩy bản vá còn tạo rủi ro mới nếu không kiểm định kỹ. "Version control of the AI models deployed" hỗ trợ truy vết và quay lui phiên bản, là thực hành tốt nhưng không ngăn được mô hình bị đánh lừa.

Đáp án đúng: "Data protection and privacy". GDPR (General Data Protection Regulation, Quy định chung về bảo vệ dữ liệu) của Liên minh châu Âu điều chỉnh việc thu thập, xử lý và lưu trữ dữ liệu cá nhân, trao cho người dân các quyền như được biết, được truy cập, được xoá dữ liệu, và buộc tổ chức có cơ sở pháp lý cùng biện pháp bảo vệ phù hợp. "Artificial intelligence development" sai vì GDPR không phải luật về AI; nó chỉ chạm tới AI khi hệ thống xử lý dữ liệu cá nhân, còn EU có đạo luật riêng cho AI. "Software quality assurance" sai vì đảm bảo chất lượng phần mềm thuộc các tiêu chuẩn kỹ thuật, không phải phạm vi của một luật bảo vệ dữ liệu. "Network security protocols" sai vì GDPR chỉ yêu cầu biện pháp an ninh phù hợp với rủi ro, không quy định giao thức mạng cụ thể nào.

Đáp án đúng: "By modeling ethical behavior and encouraging open dialogue". Nhân viên học chuẩn mực từ những gì lãnh đạo làm hơn là những gì họ nói; khi lãnh đạo tự hành xử đạo đức, minh bạch trong quyết định và khuyến khích mọi người nêu băn khoăn mà không sợ bị trù dập, các vấn đề được phát hiện sớm và đạo đức trở thành chuẩn mực chung. "By making decisions in isolation" sai vì quyết định khép kín thiếu góc nhìn đa dạng, thiếu minh bạch và làm suy giảm niềm tin. "By enforcing silence on ethical issues" sai vì cấm nói khiến sai phạm bị che giấu và lớn dần. "By limiting diversity in teams" sai vì nhóm đồng nhất dễ rơi vào tư duy bầy đàn và bỏ sót tác động lên những nhóm người khác nhau.

Đáp án đúng: "Employees might face cognitive dissonance.", vì cognitive dissonance (bất hoà nhận thức) là cảm giác căng thẳng khi điều một người tin là đúng mâu thuẫn với điều họ đang phải làm. Trong tổ chức thiếu văn hoá đạo đức, nhân viên có thể bị áp lực làm những việc trái giá trị cá nhân, như thu thập dữ liệu quá mức hay giấu lỗi sản phẩm, dẫn tới căng thẳng, mất động lực, nghỉ việc hoặc dần chấp nhận sai phạm. "Employees might be less interested in their careers." là tác động mơ hồ, có thể đến từ nhiều nguyên nhân như lương thưởng hay cơ hội thăng tiến, không phải rủi ro đặc trưng của việc thiếu văn hoá đạo đức. "Employees will experience a faster approval process to get a product launched." mô tả một kết quả trông như có lợi chứ không phải rủi ro, dù duyệt nhanh vì bỏ bước đánh giá đạo đức thì về sau mới gây hại. "Employees are more likely to express their opinions about the company." là dấu hiệu của văn hoá cởi mở, lành mạnh; trong văn hoá thiếu đạo đức nhân viên thường ngại lên tiếng hơn.

Đáp án đúng: "Leadership actively models ethical behavior". Văn hoá đạo đức từ trên xuống (top-down) hình thành khi lãnh đạo làm gương: họ ra quyết định minh bạch, chấp nhận đánh đổi lợi ích ngắn hạn để giữ nguyên tắc và xử lý vi phạm công bằng; nhân viên học theo hành động của cấp trên nhiều hơn theo văn bản, nên đây là đòn bẩy mạnh nhất. "Emphasizing profit margins over ethical considerations" sai vì đặt lợi nhuận lên trên đạo đức gửi tín hiệu rằng nguyên tắc có thể bị bỏ qua, tức là phá văn hoá đạo đức. "Ignoring unethical behavior if it increases efficiency" sai vì dung túng vi phạm vì hiệu quả biến hành vi sai thành chuẩn ngầm trong tổ chức. "Relying solely on external audit reports" sai vì kiểm toán bên ngoài chỉ là một công cụ kiểm tra; chữ "solely" bỏ mất vai trò chủ động của lãnh đạo, và văn hoá không thể thuê ngoài.

Đáp án đúng: "The pilot phase demonstrates the seriousness of the organization with respect to its ethical responsibilities.". Đây là câu hỏi tìm lý do có vấn đề: thí điểm bộ quy tắc đạo đức (code of ethics) nhằm học hỏi và cải thiện; dùng nó chủ yếu để tỏ ra nghiêm túc là động cơ hình thức, dễ biến thành đánh bóng hình ảnh trong khi nội dung không được sửa thật. Ba lý do kia đều chính đáng nên không được chọn: "helps to identify gaps in the current code of ethics" vì thực tế sẽ lộ ra những tình huống bộ quy tắc chưa lường tới; "helps to develop awareness and buy-in from the relevant stakeholders" vì người được tham gia sớm hiểu và ủng hộ bộ quy tắc hơn; "helps to stress test a code of ethics in a real-world situation" vì thử trong bối cảnh thật cho biết quy tắc có áp dụng được hay không trước khi triển khai rộng.

Đáp án đúng: "Fair competition builds user trust in technology as a whole.", vì khi các doanh nghiệp công nghệ cạnh tranh công bằng, không lạm dụng vị thế thống lĩnh, không khoá chặt người dùng hay khai thác dữ liệu để chèn ép đối thủ, người dùng có cơ sở tin rằng ngành công nghệ hoạt động vì lợi ích của họ, và niềm tin đó là nền tảng để xã hội chấp nhận sản phẩm dựa trên dữ liệu. "Fair competition prevents predatory pricing." đúng là một tác dụng, vì định giá huỷ diệt là hành vi phản cạnh tranh, nhưng đây là khía cạnh kinh tế hẹp chứ không phải lý do đạo đức bao quát được hỏi. "Fair competition provides products choice to users." là lợi ích có thật nhưng chỉ nói về sự đa dạng sản phẩm, một hệ quả cụ thể chứ không phải giá trị cốt lõi. "Fair competition provides service choice to users." tương tự, chỉ nói về lựa chọn dịch vụ; sự đa dạng lựa chọn là một phần góp vào niềm tin chung của người dùng chứ không thay được nó.

Đáp án đúng: "Higher trust among stakeholders". Khi tổ chức xây dựng văn hoá đạo đức, tức là coi trọng minh bạch, trách nhiệm giải trình và tôn trọng quyền lợi các bên, khách hàng, nhân viên, đối tác và cơ quan quản lý có cơ sở để tin rằng tổ chức sẽ hành xử đúng ngay cả khi không bị giám sát; lòng tin này là tài sản giúp giữ khách hàng, thu hút nhân tài và vượt qua khủng hoảng. "Reduced compliance with regulation" sai vì văn hoá đạo đức thường đi kèm tuân thủ tốt hơn chứ không kém đi. "Slower development processes" có thể xảy ra ở một vài khâu khi phải rà soát kỹ, nhưng đó là cái giá ngắn hạn chứ không phải kết quả mà việc xây dựng văn hoá nhắm tới. "More hierarchical power structure" sai vì văn hoá đạo đức khuyến khích nhân viên lên tiếng và báo cáo vấn đề, tức là hướng tới cởi mở hơn chứ không thêm tầng bậc.

Đáp án đúng: "It empowers ethical culture and trust". Trong thời đại dữ liệu, tổ chức nắm trong tay lượng lớn thông tin cá nhân và các hệ thống tự động ảnh hưởng tới nhiều người; lãnh đạo có đạo đức định hướng cách dữ liệu được dùng, làm gương và xây văn hoá nơi mọi người dám đặt câu hỏi đạo đức, từ đó giữ được niềm tin của nhân viên, khách hàng và xã hội. "It focuses solely on profit" sai vì chỉ chạy theo lợi nhuận chính là điều lãnh đạo đạo đức tránh; đạo đức cân bằng lợi nhuận với quyền và lợi ích của các bên. "It allows ignoring stakeholders" sai vì lãnh đạo đạo đức coi trọng và lắng nghe các bên liên quan. "It prevents communication" sai vì lãnh đạo đạo đức khuyến khích giao tiếp cởi mở và minh bạch.

Đáp án đúng: ""This is how things are done around here."", đây là câu nói quen thuộc nhất để mô tả văn hoá tổ chức (organizational culture): văn hoá là tập hợp giá trị, niềm tin và thói quen ngầm định quyết định cách mọi người thực sự hành xử hằng ngày, kể cả khi không có quy định hay người giám sát. Vì vậy muốn xây văn hoá đạo đức phải thay đổi cách mọi việc thực sự được làm, không chỉ ban hành văn bản. Câu "This is how we want this done." thể hiện mong muốn hay chỉ đạo của lãnh đạo, tức văn hoá mục tiêu, chưa chắc là điều đang diễn ra. Câu "It is what it is." là thái độ cam chịu trước hoàn cảnh, không mô tả cách tổ chức vận hành. Câu "This is what we're told to do." nói về sự tuân lệnh theo quy định hay mệnh lệnh từ trên xuống; hành vi do bị bắt buộc khác với chuẩn mực mà mọi người tự nhiên chia sẻ và làm theo.

Đáp án đúng: "Combination of stakeholder feedback, incident tracking, and outcome assessment". Thành công của việc thực thi đạo đức có nhiều chiều nên cần đo bằng nhiều nguồn: phản hồi của bên liên quan cho biết người chịu tác động cảm nhận ra sao, theo dõi sự cố cho thấy vi phạm và rủi ro thực tế, còn đánh giá kết quả xem hệ thống có tạo ra kết cục công bằng, an toàn hay không; kết hợp chúng giúp tránh điểm mù của từng thước đo riêng lẻ. "Financial metrics only" sai vì lợi nhuận không phản ánh việc có gây hại hay bất công hay không. "Legal compliance scores only" sai vì tuân thủ pháp luật chỉ là mức sàn; luật thường đi sau công nghệ và đạo đức đòi hỏi nhiều hơn. "Technical performance metrics only" sai vì độ chính xác hay tốc độ cao vẫn có thể đi kèm thiên lệch với một số nhóm, nên không đủ để kết luận về đạo đức.

Đáp án đúng: "By encouraging diverse ideas and approaches". Cạnh tranh công bằng cho phép nhiều doanh nghiệp, kể cả doanh nghiệp nhỏ, tiếp cận thị trường và dữ liệu theo luật chơi minh bạch; nhiều ý tưởng và cách tiếp cận khác nhau được thử nghiệm nên đổi mới diễn ra nhanh hơn, và người dùng tin tưởng hơn vì có lựa chọn, không bị một bên độc quyền áp đặt. "By limiting access to new technologies" sai vì hạn chế tiếp cận tạo rào cản gia nhập, có lợi cho kẻ đã nắm thị phần và kìm hãm đổi mới. "By enforcing uniformity in data processing methods" sai vì ép mọi bên dùng một cách xử lý giống nhau triệt tiêu sự đa dạng mà cạnh tranh cần, dù chuẩn chung về an toàn vẫn có ích. "By prioritizing profit over ethical standards" sai vì hạ chuẩn đạo đức để lấy lợi nhuận làm xói mòn niềm tin và biến cạnh tranh thành không công bằng.