Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 3

Đáp án đúng: "Recall". Recall (độ nhạy) = TP / (TP + FN), tức trong số cây cầu thật sự sập, mô hình bắt được bao nhiêu; ở bài toán này sai lầm đắt nhất là false negative, mô hình bảo cầu an toàn trong khi nó sập, nên cần tối đa recall để bỏ sót ít nhất. "Accuracy" gây hiểu lầm với dữ liệu mất cân bằng: chỉ vài cây cầu sập nên một mô hình luôn đoán không sập vẫn đạt độ chính xác gần 100% mà không phát hiện được cây cầu nguy hiểm nào. "Confusion matrix" là bảng đếm TP, FP, TN, FN dùng để tính các chỉ số, hữu ích để xem lỗi nhưng không phải một chỉ số đơn để tối ưu theo mục tiêu đã nêu. "Precision" = TP / (TP + FP) đo trong số cầu bị cảnh báo có bao nhiêu sập thật, tức hạn chế báo động nhầm; báo nhầm chỉ tốn chi phí kiểm tra, nhẹ hơn nhiều so với bỏ sót một cây cầu sắp sập.

Đáp án đúng: "A crisis with low likelihood tends to have high impact.". Đáp án phản ánh cách nhìn của quản trị khủng hoảng, không phải một quy luật thống kê: những khủng hoảng hiếm xảy ra, như rò rỉ toàn bộ cơ sở dữ liệu khách hàng hay một hệ thống AI gây tai nạn chết người, thường là biến cố nghiêm trọng; vì hiếm nên chúng dễ bị đánh giá thấp và tổ chức thường thiếu chuẩn bị, do đó cần lập kế hoạch ứng phó từ trước. "A crisis with low likelihood tends to have little to no effect on its impact." nói rằng khả năng xảy ra hầu như không liên quan tới mức tác động, tức hai đại lượng độc lập chứ không phải tác động biến mất; cần thừa nhận thẳng đây là chỗ tranh cãi, vì trong ma trận rủi ro chuẩn hai trục khả năng và tác động đúng là được đánh giá riêng, nên phương án này có cơ sở; tuy vậy câu hỏi hỏi về khuynh hướng của khủng hoảng hiếm, và bài học khẳng định chúng thường có tác động cao. "A crisis with low likelihood tends to have moderate impact." sai vì làm nhẹ đi đúng loại sự kiện cần chuẩn bị kỹ nhất. "A crisis with low likelihood tends to have low impact." sai vì đánh đồng hiếm với vô hại, dễ khiến tổ chức chủ quan.

Đáp án đúng: "Collecting location data every time the app is opened, potentially learning where a user lives, works, etc.". Để quyết định đặt trạm thời tiết ở đâu, thuật toán học cần biết người dùng tập trung ở những vùng nào, nên ứng dụng có xu hướng ghi vị trí mỗi lần mở; nhưng chuỗi vị trí lặp lại đó đủ để suy ra nơi ở, nơi làm việc và thói quen đi lại của từng người, một hệ quả về quyền riêng tư vượt xa mục đích ban đầu và đi ngược nguyên tắc tối thiểu hoá dữ liệu. "Accessing weather forecasts from local broadcasts" chỉ là lấy dữ liệu dự báo có sẵn, không cần thuật toán học và không giúp chọn chỗ đặt trạm. "Storing data in an AWS instance with all weather stations in the country" là một quyết định hạ tầng lưu trữ, không phải kết quả của việc dùng thuật toán học để chọn vị trí. "Collecting weather data every time the app is opened, knowing the temperature where the app is being used" nghe hợp lý nhưng điện thoại không đo được thời tiết chính xác, và để biết nhiệt độ ở đâu thì ứng dụng vẫn phải lấy vị trí, nên hệ quả đáng chú ý thực chất là việc thu thập vị trí.

Đáp án đúng: "Suspicion leads to aggressive rejection of a technology.". Khi truyền thông về rủi ro đạo đức, nếu tổ chức thiếu minh bạch hoặc nói quá mơ hồ, công chúng nảy sinh nghi ngờ (suspicion), và nghi ngờ dễ leo thang thành phản đối gay gắt, tẩy chay hay đòi cấm công nghệ, kể cả những ứng dụng có ích; đó là lý do nghi ngờ được coi là cạm bẫy. "Suspicion involves fear of some technology that is not completely known." mô tả bản chất của nghi ngờ chứ không giải thích vì sao nó gây hại cho việc truyền thông. "Suspicion makes it impossible to convince people of the benefits of technology." phóng đại, nghi ngờ làm việc thuyết phục khó hơn nhưng không phải bất khả. "Suspicion leads to use technologies ineffective." chỉ hậu quả mơ hồ về hiệu quả sử dụng, không phải rủi ro trọng tâm là sự bác bỏ quyết liệt.

Đáp án đúng gồm hai ý: "SSH/TLS" và "SSH". Transport encryption protocol (giao thức mã hoá đường truyền) mã hoá dữ liệu trên đường đi giữa hai máy để kẻ nghe lén không đọc được; TLS bảo vệ HTTPS, email và nhiều dịch vụ khác, còn SSH bảo vệ phiên đăng nhập từ xa và truyền tệp qua SFTP. Hai ý được chọn chồng lấn nhau: một ý in gộp SSH với TLS, ý kia lại tách riêng SSH, nhiều khả năng ý định gốc là SSH và TLS thành hai mục riêng; dù đọc theo cách nào thì chỉ hai ý này nói về giao thức có mã hoá đường truyền nên vẫn là cặp phải chọn. "FTP" truyền tệp và cả tên đăng nhập, mật khẩu dưới dạng văn bản rõ, phiên bản an toàn là FTPS hoặc SFTP. "HTTP" cũng gửi dữ liệu không mã hoá; chỉ khi chạy trên TLS thành HTTPS thì mới được bảo vệ.

Đáp án đúng: "Bioethics". Đạo đức sinh học (bioethics) là lĩnh vực đạo đức ứng dụng về y học, chăm sóc sức khoẻ và khoa học sự sống, xử lý các câu hỏi như quyền tự quyết của bệnh nhân, sự đồng ý có hiểu biết, nguyên tắc không gây hại và công bằng trong phân bổ điều trị; một hệ thống AI đề xuất phác đồ cho bệnh nhân rơi đúng vào lĩnh vực này. "Engineering ethics" sai vì đạo đức kỹ thuật bàn về trách nhiệm nghề nghiệp của kỹ sư như an toàn và chất lượng sản phẩm; nó liên quan tới người xây hệ thống, nhưng mối lo ở đây là cách quyết định điều trị cho người bệnh. "Business ethics" sai vì nó tập trung vào hành vi doanh nghiệp như cạnh tranh, lợi nhuận và quan hệ với khách hàng. "Environmental ethics" sai vì nó bàn về quan hệ giữa con người và môi trường tự nhiên.

Đáp án đúng: "Transparency about company values.". Văn hoá đạo đức trong tổ chức hình thành khi giá trị được nói rõ, thực hành công khai và mọi cấp đều thấy được cách giá trị đó dẫn dắt quyết định, kể cả khi tổ chức mắc sai lầm; minh bạch tạo lòng tin, giúp nhân viên dám nêu vấn đề và giữ lãnh đạo chịu trách nhiệm giải trình. Nói thẳng chỗ dễ tranh cãi: lãnh đạo làm gương là yếu tố rất quan trọng, nhưng "Top-down communication about company values." chỉ nói truyền đạt từ trên xuống, tức một kênh một chiều, chưa đủ để tạo văn hoá nếu nhân viên không thấy giá trị được thực hành. "Button-up communication about company values." cũng chỉ là một chiều giao tiếp ngược lại; ý kiến từ cấp dưới có ích nhưng tự nó không định hình văn hoá chung. "Having documents that describe the company’s values." là điều kiện cần nhưng tài liệu nằm trên giấy không biến thành hành vi; nhiều tổ chức có bộ giá trị đẹp mà văn hoá vẫn lệch lạc.

Đáp án đúng: "These rights necessitate that robots become sentient entities, which is currently not feasible.". Lập luận về quyền và giải phóng robot chỉ có ý nghĩa nếu robot là thực thể có cảm giác (sentient), tức có trải nghiệm chủ quan và lợi ích riêng; công nghệ hiện nay còn xa điều đó, trong khi thiên kiến, quyền riêng tư, minh bạch đang gây hại thật cho con người hôm nay, nên phải ưu tiên. "Humans are anthropocentric and don’t want to extend rights to other sentient entities." là nhận định về tâm lý con người, không phải lý do khiến vấn đề kém cấp bách, và con người vẫn đã mở rộng bảo vệ cho động vật. "There is no legal precedent for granting rights to entities that are not humans." sai sự thật, vì pháp nhân như công ty đã có tư cách pháp lý. "Robots are mechanical instruments and therefore don’t deserve to have rights." là kết luận dứt khoát, bỏ qua khả năng tương lai nếu robot có cảm giác.

Đáp án đúng: "All events, past, present, and future, are determined in advance.". Predeterminism (thuyết tiền định) cho rằng mọi sự kiện trong quá khứ, hiện tại và tương lai đều đã được định sẵn từ trước, không còn chỗ cho kết cục khác; trong đạo đức công nghệ, câu hỏi này liên quan tới việc ai chịu trách nhiệm nếu hành vi đã được định đoạt. "All future events are determined by preceding events, as in a chain, but human beings may still be able to interfere with this chain of events." ghép thuyết quyết định nhân quả (causal determinism) với khả năng con người can thiệp, mâu thuẫn với ý mọi thứ đã định sẵn, gần với lập trường dung hoà hơn. "Human beings are able to make choices whose outcomes are not already determined." là quan điểm ý chí tự do (libertarian free will), đối lập trực tiếp với tiền định. "All events are predestined to happen by a supernatural force." là thuyết định mệnh thần học (predestination), thêm một thế lực siêu nhiên định đoạt, hẹp hơn khái niệm tiền định nói chung.

Đáp án đúng: "The use of pictures with simple text makes it easier for the layperson to understand the details of a contract.". Hợp đồng trực quan (visual contract) kết hợp hình ảnh, biểu tượng, sơ đồ với chữ ngắn gọn để người không học luật vẫn nắm được quyền và nghĩa vụ của mình, ví dụ minh hoạ dữ liệu nào bị thu thập và dùng vào đâu; điều này phục vụ sự đồng ý có hiểu biết (informed consent) và tính minh bạch. Phương án "more accessible to all people, whereas a written contract" sai vì phóng đại: hình ảnh không tự động tiếp cận được với mọi người, chẳng hạn người khiếm thị, và lợi ích chính không chỉ nhắm vào người khó đọc. Phương án "explains the contract in greater detail" sai vì hình ảnh giúp đơn giản hoá và làm nổi ý chính chứ không chi tiết hơn bản viết. Phương án "pictures without any text" sai vì bỏ hết chữ khiến hình dễ bị hiểu theo nhiều cách và mất tính chính xác pháp lý; chính chữ đơn giản đi kèm mới giữ được nghĩa rõ ràng.

Đáp án đúng: "Security information and event management". SIEM là hệ thống quản lý thông tin và sự kiện an ninh, thu thập nhật ký từ máy chủ, tường lửa, ứng dụng và thiết bị mạng về một nơi, chuẩn hoá, liên kết các sự kiện để phát hiện dấu hiệu tấn công theo thời gian thực, phát cảnh báo và lưu bằng chứng phục vụ điều tra và báo cáo tuân thủ. Về mặt đạo đức, SIEM giúp tổ chức làm tròn nghĩa vụ bảo vệ dữ liệu người dùng, nhưng vì nó giám sát rất nhiều hoạt động nên cũng cần chính sách rõ để không biến thành công cụ theo dõi nhân viên quá mức. "Selective information extrapolation methods" là cụm từ ghép các chữ cái cho khớp, không phải thuật ngữ an ninh mạng. "Social, interpersonal, empathic, mental" là các khía cạnh tâm lý xã hội, không liên quan tới bảo mật hệ thống. "Serial input to externalized modulation" nghe như thuật ngữ kỹ thuật điện tử nhưng không có nghĩa trong an ninh mạng.

Đáp án đúng: "A social media site tracks engagement, uses an algorithm to surface posts you're likely to engage with, which then goes back into the algorithm". Feedback loop (vòng phản hồi) trong học máy là khi đầu ra của mô hình tác động lên hành vi người dùng, rồi hành vi đó lại trở thành dữ liệu huấn luyện cho chính mô hình. Phương án được chọn nêu tường minh đủ cả vòng của chính người dùng: hệ thống theo dõi tương tác, thuật toán dựa vào đó chọn bài có khả năng được tương tác, tương tác mới với những bài đó lại quay về thuật toán và định hình lượt chọn kế tiếp, dễ dẫn tới bong bóng lọc (filter bubble). "A shopping app surfaces new items to buy, which is based on dataset from customers fitting a similar profile" cũng chứa một vòng phản hồi, vì lượt mua do đề xuất sinh ra quay về tập dữ liệu dùng để đề xuất, nên có chỗ tranh cãi; tuy vậy vòng này chỉ được ngụ ý, đi qua dữ liệu chung của nhóm khách hàng cùng hồ sơ và không nói rõ thuật toán học lại từ đó, nên kém tường minh hơn ví dụ mạng xã hội. "A shopping app tracks your purchases, and recommends new things to buy" chỉ là đề xuất một chiều, thiếu bước khép vòng. "A social media site surfaces controversial posts, which make users more angry" mô tả hậu quả xã hội, không nêu dữ liệu quay về thuật toán.

Đáp án đúng: "Hiring candidates based on their culture fit.". Bộ phận nhân sự là cửa vào của tổ chức; tuyển người phù hợp văn hoá, hiểu theo nghĩa chia sẻ các giá trị đạo đức cốt lõi như trung thực, tôn trọng quyền riêng tư và dám lên tiếng khi thấy sai, giúp văn hoá đạo đức được giữ vững qua từng lứa nhân viên. Cần dùng tiêu chí này đúng nghĩa giá trị chung, không biến nó thành chỉ tuyển người giống mình, vì như vậy lại làm hại sự đa dạng. "Hiring candidates based on their technical skills." bảo đảm năng lực chuyên môn nhưng giỏi kỹ thuật không đồng nghĩa hành xử đạo đức. "Hiring candidates based on their leadership skills." có giá trị cho vị trí quản lý, nhưng kỹ năng lãnh đạo có thể phục vụ cả mục tiêu thiếu đạo đức. "Hiring candidates based on their soft skills." như giao tiếp, làm việc nhóm giúp phối hợp tốt nhưng không nói gì về việc ứng viên có chia sẻ giá trị đạo đức của tổ chức hay không.

Đáp án đúng: "Clear, concise, and coherent.". Để giữ minh bạch và khả năng giải thích, truyền thông về công nghệ dựa trên dữ liệu phải rõ ràng (clear) để người đọc hiểu đúng, súc tích (concise) để ý chính không bị chôn trong chi tiết thừa, và mạch lạc (coherent) để các thông điệp nhất quán, có logic. "Complex, convincing, and contained." sai vì phức tạp cản trở việc hiểu, còn chú trọng thuyết phục và khép kín thông tin là nghiêng về quảng bá hơn minh bạch. "Caring, consistent, and creative." có vài phẩm chất tốt như nhất quán và quan tâm người nghe, nhưng sáng tạo không phục vụ trực tiếp việc giải thích, và bộ ba này không nói gì về độ rõ ràng. "Long, complex and iterative." sai vì dài và phức tạp làm người dùng bỏ qua, giống những bản điều khoản dịch vụ hiếm ai đọc hết.

Đáp án đúng gồm hai ý: "Communicate to individuals proactively rather than reactively" và "Ensure individuals feel that they have input into the process". Khi truyền đạt rủi ro đạo đức tới từng cá nhân, tổ chức nên chủ động báo trước thay vì đợi sự cố xảy ra mới giải thích, vì thông tin sớm cho người dùng thời gian tự bảo vệ và thể hiện thiện chí, còn phản ứng muộn dễ bị coi là che giấu. Đồng thời, để họ cảm thấy có tiếng nói trong quá trình, như được góp ý, chọn cài đặt, phản hồi, giúp tăng lòng tin và tôn trọng quyền tự quyết. "Ensure individuals understand the specific details of each risk they are affected by" nghe có vẻ minh bạch, nhưng dồn mọi chi tiết kỹ thuật của từng rủi ro dễ gây quá tải; thông điệp tốt tập trung vào điều quan trọng và cách ứng phó. "Inform individuals of how they are obligated to mitigate risks to themselves" chuyển gánh nặng sang người dùng, trong khi trách nhiệm giảm thiểu rủi ro chủ yếu thuộc về tổ chức tạo ra hệ thống.

Đáp án đúng: "even if you haven't shared an direct datapoint about yourself, with enough related datapoints the algorithm can make an educated guess with alarming accuracy". Đây là rủi ro suy luận (inference) đối với quyền riêng tư: từ nhiều dữ liệu gián tiếp như lượt thích, lịch sử mua sắm, vị trí, thuật toán có thể đoán ra thông tin nhạy cảm như xu hướng tính dục, tình trạng sức khoẻ, việc mang thai mà người dùng chưa từng khai, nên ẩn một trường dữ liệu không đủ bảo vệ. "just because they are capable of improving outputs, they don't need more inputs" sai vì thuật toán học càng cần nhiều dữ liệu để cải thiện. "they only learn when given small amounts of data" đảo ngược thực tế, ít dữ liệu mới là nguyên nhân kết quả kém. "they cannot make predictions with current technology" sai rõ ràng, dự đoán chính là việc thuật toán học đang làm hằng ngày.

Đáp án đúng gồm hai ý: "Inalienable rights are inherent in all human beings." và "Inalienable rights cannot be taken away except in extreme circumstances.". Inalienable (không thể tước đoạt) nghĩa là quyền con người gắn liền với mỗi người chỉ vì họ là con người, không do ai ban phát, và không thể bị tước bỏ hay tự đem chuyển nhượng; chỉ trong hoàn cảnh đặc biệt và theo thủ tục pháp luật chặt chẽ, ví dụ hạn chế tự do của người bị kết án, một số quyền mới bị giới hạn. "Inalienable rights are conditional." sai vì quyền không thể tước đoạt không phụ thuộc vào điều kiện như quốc tịch, địa vị hay việc người đó làm. "Inalienable rights are derived from tradition." sai vì nguồn gốc của các quyền này là phẩm giá con người, không phải phong tục; nếu đến từ truyền thống thì một xã hội đổi truyền thống là có thể bỏ chúng.

Đáp án đúng: "Transparency and explainability". Một khảo sát năm 2019 rà soát 84 bộ nguyên tắc đạo đức AI cho thấy minh bạch là nguyên tắc xuất hiện nhiều nhất, có mặt ở 73 trên 84 tài liệu, và minh bạch thường đi liền với khả năng giải thích. Cần nói thẳng: thứ hạng tuỳ nguồn, vì báo cáo Principled AI năm 2020 lại thấy "Fairness and non-discrimination" có mặt ở mọi tài liệu được khảo sát, nên công bằng cũng có cơ sở mạnh; đáp án ở đây theo khảo sát 84 bộ nguyên tắc, nơi minh bạch đứng đầu, và ngay trong báo cáo năm 2020 minh bạch vẫn thuộc nhóm phổ biến nhất. "Human control and autonomy" sai vì kiểm soát của con người có được nhắc tới nhưng ở ít tài liệu hơn hẳn. "Happiness and spiritual contentment" sai vì đây không phải nguyên tắc tiêu chuẩn trong các khung đạo đức AI; phúc lợi con người (well-being) đôi khi xuất hiện, nhưng hạnh phúc tinh thần không phải chủ đề phổ biến.

Đáp án đúng: "It can help provide transparency around the efforts to improve the policies.". Theo dõi số lượng và mức độ nghiêm trọng của các vi phạm đạo đức cho tổ chức một bộ chỉ số định lượng, có thể so sánh qua thời gian để cho thấy chính sách có hiệu quả không; công bố các con số đó với nhân viên và bên liên quan thể hiện minh bạch và trách nhiệm giải trình về nỗ lực cải thiện. "It can replace the need for refreshing the internal and external ethics policies." sai vì số liệu vi phạm chỉ là đầu vào cho việc cập nhật chính sách, không thể thay thế việc rà soát định kỳ trước những rủi ro mới. "It can dissuade end users from scrutinizing the internal and external ethics policies." sai về mục đích: tổ chức có đạo đức hoan nghênh sự giám sát của người dùng chứ không tìm cách ngăn cản. "It can help provide qualitative information that can be used to improve the policies." không khớp vì đếm số vụ và xếp mức độ nghiêm trọng cho dữ liệu định lượng; thông tin định tính như bối cảnh, nguyên nhân phải đến từ điều tra từng vụ.

Đáp án đúng gồm hai ý: "It supports accountability and makes it more explicit." và "It supports consistency of behavior and unification of culture.". Chính sách tổ chức được định nghĩa rõ ràng ghi thành văn bản ai chịu trách nhiệm việc gì và chuẩn mực nào phải theo, nên trách nhiệm giải trình trở nên minh bạch, có căn cứ để đánh giá; đồng thời mọi người trong tổ chức hành xử theo cùng một chuẩn, tạo văn hoá thống nhất giữa các phòng ban. "It supports profitable research innovations and intellectual property." không phải lợi ích trực tiếp của chính sách, đổi mới và sở hữu trí tuệ phụ thuộc vào đầu tư nghiên cứu và chiến lược sản phẩm. "It supports improved sales and marketing results." có thể là tác dụng gián tiếp nếu chính sách tạo uy tín, nhưng không phải lợi ích có khả năng cao mà chính sách mang lại.