Câu hỏi: ITE302c Đạo đức trong Công nghệ thông tin – Bộ ôn tập thi lại số 4

Đáp án đúng: "Transparency and prompt response". Trong khủng hoảng đạo đức, công chúng và các bên liên quan đánh giá tổ chức qua việc nó có nói thật và lên tiếng kịp thời hay không; minh bạch giúp giữ niềm tin và thể hiện trách nhiệm giải trình, còn phản hồi nhanh ngăn tin đồn lấp khoảng trống thông tin. "Hiding the problem" là che giấu, khi sự thật lộ ra thì thiệt hại về uy tín còn lớn hơn chính sự cố. "Delaying all communications" tạo khoảng im lặng mà báo chí và mạng xã hội sẽ tự lấp bằng suy đoán. "Blaming external factors only" là né tránh trách nhiệm; nếu có yếu tố bên ngoài thật thì vẫn có thể nêu, nhưng đổ lỗi hoàn toàn cho bên ngoài làm mất lòng tin khi tổ chức cũng có phần lỗi.

Đáp án đúng: "Clear, concise, and coherent.". Để giữ minh bạch và khả năng giải thích, truyền thông về công nghệ dựa trên dữ liệu phải rõ ràng (clear) để người đọc hiểu đúng, súc tích (concise) để ý chính không bị chôn trong chi tiết thừa, và mạch lạc (coherent) để các thông điệp nhất quán, có logic. "Complex, convincing, and contained." sai vì phức tạp cản trở việc hiểu, còn chú trọng thuyết phục và khép kín thông tin là nghiêng về quảng bá hơn minh bạch. "Caring, consistent, and creative." có vài phẩm chất tốt như nhất quán và quan tâm người nghe, nhưng sáng tạo không phục vụ trực tiếp việc giải thích, và bộ ba này không nói gì về độ rõ ràng. "Long, complex and iterative." sai vì dài và phức tạp làm người dùng bỏ qua, giống những bản điều khoản dịch vụ hiếm ai đọc hết.

Đáp án đúng: "Trust, once lost, is difficult to regain.". Niềm tin của công chúng được tích luỹ qua thời gian dài từ những hành vi nhất quán, minh bạch, nhưng có thể sụp đổ chỉ sau một vụ rò rỉ dữ liệu hay một quyết định thiếu đạo đức; xây lại tốn kém hơn nhiều so với giữ gìn, nên tổ chức cần chủ động bảo vệ nó. "Trust is required to avoid legal pitfalls." nhầm hai chuyện: tránh rủi ro pháp lý dựa vào tuân thủ quy định, còn niềm tin không thay được việc tuân thủ và cũng không được luật đòi hỏi. "Trust can be used against the organization." không phải lý do để giữ niềm tin; nếu có thì là lý do ngược lại và không đúng với vai trò của niềm tin. "Trust is the new trend of organization." coi niềm tin như một trào lưu nhất thời, trong khi đây là nền tảng lâu dài cho quan hệ giữa tổ chức và công chúng.

Đáp án đúng: "To evaluate the consequences of disruptions and help plan recovery strategies". Business impact assessment (đánh giá tác động kinh doanh) trong quản lý rủi ro trả lời câu hỏi nếu một hoạt động hay hệ thống bị gián đoạn thì tổ chức thiệt hại gì về tài chính, vận hành, uy tín và pháp lý, chịu được bao lâu, rồi dùng kết quả đó để ưu tiên nguồn lực và xây chiến lược khôi phục. "To improve the technical specifications of products for better market competitiveness" là việc của phát triển sản phẩm và phân tích cạnh tranh, không liên quan tới gián đoạn. "To assess employee satisfaction and workplace harmony" là khảo sát nhân sự về sự hài lòng của nhân viên. "To analyze financial growth and expansion opportunities" là phân tích chiến lược kinh doanh nhằm tìm cơ hội tăng trưởng, hướng về lợi ích chứ không về thiệt hại khi có sự cố.

Đáp án đúng: "An acronym for findable, accessible, interoperable, and reusable.". Nguyên tắc FAIR, công bố năm 2016, đặt ra bốn yêu cầu để dữ liệu mở thực sự hữu ích: tìm được (findable) nhờ định danh bền vững và siêu dữ liệu, truy cập được (accessible) qua giao thức chuẩn, tương tác được (interoperable) nhờ định dạng và từ vựng chung, và tái sử dụng được (reusable) nhờ giấy phép và nguồn gốc rõ ràng. "An acronym for fundamental artificial intelligence research." sai vì đó chỉ trùng chữ viết tắt với phòng nghiên cứu AI của Meta, không liên quan tới dữ liệu mở. "A reference to fair competition, which makes open data possible." sai vì FAIR ở đây là chữ viết tắt của bốn tính chất dữ liệu, không mang nghĩa cạnh tranh công bằng. "An acronym for finance accoutability intelligence research." sai vì đây là cụm từ không tương ứng với nguyên tắc nào về dữ liệu mở.

Đáp án đúng: "From its inception, through maintenance, to applying foresight regarding its decommissioning.". Cân nhắc đạo đức nên đi suốt vòng đời công nghệ: từ khi hình thành ý tưởng và thiết kế (đạo đức ngay từ thiết kế), qua giai đoạn vận hành và bảo trì khi hệ thống gặp dữ liệu và bối cảnh mới, tới việc tính trước cách ngừng sử dụng, chẳng hạn xử lý dữ liệu còn lưu giữ và hỗ trợ người dùng phụ thuộc vào hệ thống. Cách làm này phòng ngừa tác hại thay vì chạy theo khắc phục. "Once an ethical issue has received negative feedback in public media." là cách tiếp cận bị động, chờ tác hại xảy ra và lộ ra công chúng mới hành động, khi đó thiệt hại đã thành. "Upon delivery, with appropriate warranties where necessary." quá muộn, vì lúc bàn giao các lựa chọn thiết kế cốt lõi đã cố định, còn bảo hành chỉ bù đắp chứ không ngăn tác hại. "During periodic reviews, with ongoing customer feedback solicited." là thực hành tốt nhưng chỉ là một phần, bỏ qua khâu thiết kế ban đầu và giai đoạn ngừng sử dụng.

Đáp án đúng: "Service-level agreement (SLA)". Service-level agreement (thoả thuận mức dịch vụ) là hợp đồng giữa nhà cung cấp và khách hàng nêu rõ mục tiêu của hai bên và cách đạt được, như thời gian hoạt động cam kết, thời gian phản hồi sự cố, chỉ số đo lường và chế tài khi không đạt, nên nó tạo trách nhiệm giải trình rõ ràng. "Software as a Service (SaaS)" là mô hình cung cấp phần mềm qua mạng, không phải loại hợp đồng; một dịch vụ SaaS thường đi kèm SLA. "Terms of Service (ToS)" là điều khoản do nhà cung cấp đặt ra một chiều cho người dùng chấp nhận, không thương lượng mục tiêu của hai bên. "End-user license agreement (EULA)" là giấy phép quy định người dùng cuối được dùng phần mềm thế nào, tập trung vào quyền sử dụng chứ không mô tả mục tiêu dịch vụ.

Đáp án đúng: "the predicted result was negative, and the actual result was positive". Trong confusion matrix (ma trận nhầm lẫn), chữ đầu nói dự đoán đúng hay sai, chữ sau nói mô hình dự đoán gì; false negative (âm tính giả) là mô hình dự đoán âm tính và dự đoán đó sai, tức thực tế là dương tính, ví dụ mô hình bảo không bị bệnh nhưng người đó thật ra bị bệnh. "the predicted result was positive, and the actual result was positive" là true positive (dương tính thật), dự đoán đúng. "the predicted result was negative, and the actual result was negative" là true negative (âm tính thật), cũng là dự đoán đúng. "the predicted result was positive, and the actual result was negative" là false positive (dương tính giả), lỗi ngược chiều: mô hình báo có trong khi thực tế không có.

Đáp án đúng: "accurate, fair and explainable". Mô hình dự đoán có đạo đức cần chính xác (accurate) để quyết định đáng tin, công bằng (fair) để không gây thiệt hại có hệ thống cho nhóm nào, và giải thích được (explainable) để người bị ảnh hưởng hiểu và phản biện được quyết định; ba mục tiêu này thường phải cân bằng với nhau. "precise, explainable, predictable" sai vì thiếu công bằng, trụ cột của đạo đức, còn tính dễ đoán trước không phải mục tiêu đạo đức. "accurate, precise, fair" sai vì thiếu khả năng giải thích, trong khi chính xác và độ chuẩn (precision) chỉ là hai mặt của chất lượng dự đoán. "precise, methodical, ethical" sai vì từ ethical lặp lại chính điều cần định nghĩa, còn tính có phương pháp là phẩm chất của quy trình chứ không phải của kết quả.

Đáp án đúng: "learning algorithm". Thuật toán học (learning algorithm) là thuật toán điều chỉnh hành vi của nó dựa trên dữ liệu và kinh nghiệm thay vì làm theo một quy tắc cố định. Ở đây thuật toán nhận một đầu vào, thử 10 kỹ thuật sắp xếp khác nhau, đánh giá xem kỹ thuật nào hợp nhất, rồi áp dụng kỹ thuật đó cho 100 đầu vào kế tiếp; tức là nó học từ kết quả thử nghiệm để quyết định cách xử lý về sau, đúng đặc trưng của học. Điều này cũng là lý do thuật toán học khó dự đoán và khó giải thích hơn. "implicit algorithm" không phải tên phân loại chuẩn cho kiểu hành vi này. "data algorithm" là cách gọi chung chung, mọi thuật toán đều xử lý dữ liệu nên nó không mô tả được việc tự chọn chiến lược. "explicit algorithm" là thuật toán tường minh, các bước được lập trình viên viết sẵn và luôn chạy giống nhau, ngược với việc tự rút kinh nghiệm để đổi cách làm.

Đáp án đúng: "a list of bias and domain tests to run and adjust for". Một mô hình tự làm sạch, phân tích cú pháp và tự huấn luyện trên dữ liệu của chính nó rất dễ tự khuếch đại thiên lệch, vì không còn con người can thiệp ở từng bước. Để giữ được sự khách quan, nó cần một bộ kiểm thử về thiên lệch (như so sánh kết quả giữa các nhóm) và kiểm thử theo lĩnh vực (kết quả có hợp lý với kiến thức chuyên môn không) để chạy định kỳ và tự điều chỉnh khi phát hiện sai lệch. "more powerful computing algorithms to auto-scrub data" chỉ làm việc làm sạch nhanh hơn; thuật toán mạnh hơn vẫn có thể xoá nhầm hay giữ lại dữ liệu thiên lệch nếu không có tiêu chí kiểm tra. "10x the amount of data" không giải quyết gì nếu dữ liệu thêm vào mang cùng thiên lệch; nhiều dữ liệu hơn còn có thể củng cố thiên lệch. "a test for recency bias" chỉ bao một loại thiên lệch là thiên lệch gần đây, quá hẹp so với nhu cầu giữ khách quan toàn diện.

Đáp án đúng gồm hai ý: "Cleaning and sorting data, and auditing for bias." và "Keeping up with the latest developments and vulnerabilities.". Kỹ sư AI có đạo đức chịu trách nhiệm chất lượng dữ liệu đầu vào, làm sạch, sắp xếp và kiểm tra thiên kiến để mô hình không phân biệt đối xử với nhóm nào, đồng thời phải liên tục cập nhật kỹ thuật mới cùng các lỗ hổng và kiểu tấn công mới, vì rủi ro của AI thay đổi rất nhanh. "Building and maintaining computational hardware." là việc của kỹ sư phần cứng hoặc hạ tầng, không gắn với khía cạnh đạo đức của vai trò kỹ sư AI. "Writing new equations to express intelligence." thuộc nghiên cứu lý thuyết cơ bản của nhà khoa học, không phải nhiệm vụ cốt lõi mang tính đạo đức của người xây dựng và vận hành hệ thống AI.

Đáp án đúng: "a potential extinction event". Quan điểm bi quan về trí tuệ nhân tạo tổng quát (general AI) cho rằng một hệ thống vượt trí tuệ con người mà không đồng nhất được mục tiêu với giá trị con người có thể gây ra rủi ro hiện sinh (existential risk), tức thảm hoạ đe doạ sự tồn tại của loài người; đây là lý do phe này kêu gọi nghiên cứu an toàn AI trước khi đẩy năng lực lên. "winner take all" mô tả kịch bản cạnh tranh trong đó bên phát triển AI trước nắm trọn lợi thế kinh tế, quân sự; đó là mối lo về tập trung quyền lực, không phải lõi của quan điểm bi quan. "creating AI for all governments" không phải một kịch bản được bàn trong tranh luận này. "impossible" là quan điểm hoài nghi cho rằng AI tổng quát không thể đạt được, nói về tính khả thi chứ không nói về hậu quả.

Đáp án đúng: "Knowledge". Theo tháp DIKW (Data, Information, Knowledge, Wisdom), dữ liệu là số liệu thô như từng giao dịch bán hàng, thông tin là dữ liệu đã được sắp xếp có ngữ cảnh như doanh số theo tháng, còn tri thức là hiểu được quy luật rút ra từ thông tin, như nhận ra doanh số luôn tăng vào mùa hè qua năm năm, và dùng nó để hành động; quyết định tuyển thêm nhân viên bán hàng dựa trên xu hướng đã phân tích chính là hành động dựa trên tri thức. "Data" sai vì bà không dựa trên số liệu thô chưa xử lý. "Information" sai vì thông tin chỉ cho biết doanh số từng kỳ, còn xu hướng nhiều năm là bước diễn giải cao hơn. "Wisdom" sai vì trí tuệ là tầng phán đoán điều nên làm dựa trên giá trị và tầm nhìn dài hạn, như cân nhắc ảnh hưởng tới con người hay chiến lược, vượt ra ngoài việc áp một xu hướng đã biết.

Đáp án đúng: "Data about the user is automatically collected unless that user explicitly states that you should not do so.". Chính sách từ chối (opt-out) mặc định thu thập dữ liệu và trao cho người dùng quyền chủ động rút lại, ví dụ hộp kiểm đã được đánh dấu sẵn mà người dùng phải bỏ chọn. Cách này thuận lợi cho tổ chức nhưng bị phê phán vì nhiều người không biết mình đang bị thu thập, nên đồng thuận không thực sự rõ ràng. "Data about that user isn’t collected until that user explicitly states you are allowed to." là mô tả chính sách đồng ý (opt-in), ngược với opt-out, và được coi là bảo vệ quyền riêng tư tốt hơn. "Data about the user is always collected, regardless of the user’s consent." là thu thập bất chấp sự đồng ý, không có lựa chọn từ chối nào nên không phải opt-out. "Data about the user is never collected, regardless of the user’s consent." là không thu thập gì cả, cũng không có cơ chế lựa chọn của người dùng.

Đáp án đúng: "An basic algorithm takes an input and gets an output, while a learning algorithm uses the output on the next input". Thuật toán cơ bản chạy theo quy tắc cố định: nhận đầu vào, xử lý, trả đầu ra, và lần sau vẫn làm y như cũ; thuật toán học thì dùng kết quả và phản hồi từ lần trước để điều chỉnh cách xử lý lần sau, nên hành vi của nó thay đổi theo dữ liệu, và đây cũng là nguồn gốc của vòng phản hồi và thiên kiến tích tụ. "A basic algorithm takes an input, while a learning algorithm takes an input and gets an output" sai vì thuật toán nào cũng cho ra đầu ra. "A basic algorithm takes an input and gets an output, while a learning algorithm takes multiple inputs and gets multiple outputs" và "A basic algorithm takes an input, gets an output, while a learning algorithm takes multiple" đều phân biệt bằng số lượng đầu vào đầu ra, trong khi thuật toán thường cũng xử lý được nhiều đầu vào; khác biệt thật là khả năng tự điều chỉnh.

Đáp án đúng: "Automation bias". Automation bias (thiên lệch tự động hoá) là xu hướng con người tin vào đề xuất của hệ thống ra quyết định tự động hơn phán đoán của con người, kể cả khi có dấu hiệu máy sai, chỉ vì cho rằng máy khách quan và chính xác hơn; nó làm suy yếu vai trò giám sát của con người. "Implicit bias" là định kiến vô thức đối với một nhóm người dựa trên giới tính, chủng tộc hay tuổi tác, không nói về niềm tin vào máy. "Complacency bias" là sự lơi lỏng giám sát khi đã quen với một hệ thống chạy ổn, có liên quan nhưng mô tả việc bớt kiểm tra, còn câu hỏi nói về việc đặt quyết định của máy lên trên quyết định của người. "Confirmation bias" là xu hướng tìm và tin những thông tin khẳng định điều mình đã nghĩ sẵn, có thể ủng hộ hoặc chống lại máy tuỳ niềm tin ban đầu.

Đáp án đúng: "Anonymized datasets can be combined with other datasets, which can re-identify individuals". Ẩn danh hoá thường chỉ xoá định danh trực tiếp như tên, số điện thoại, nhưng các trường còn lại như ngày sinh, giới tính, mã bưu chính hay lịch sử chấm điểm phim khi ghép với một tập dữ liệu công khai khác có thể khớp ra đúng từng người; đây là linkage attack (tấn công liên kết), như vụ dữ liệu Netflix Prize bị nhận dạng lại khi đối chiếu với đánh giá trên IMDb. "Anonymized datasets can be re-identifyed by anyone holding the hash key" mô tả pseudonymization (giả danh hoá) bằng khoá, một kỹ thuật khác, và kẻ không có khoá vẫn bị chặn. "Anonymized datasets aren't actually anonymous because many of the data fields can identify a user" chạm tới vai trò của các trường gián tiếp, nhưng nếu tự các trường đã nhận dạng được người thì đó là ẩn danh hoá làm hỏng chứ chưa nói tới cơ chế ghép dữ liệu. "Anonymized datasets can be traced back to the individuals by looking at their browsing history in the app" là theo dõi hành vi bên trong ứng dụng, không phải điểm yếu của tập dữ liệu đã ẩn danh.

Đáp án đúng gồm hai ý: "If the holders of data are trustworthy entities." và "Whether the data was gathered in an ethical manner.". Ethical integrity (tính toàn vẹn đạo đức) của dữ liệu xét hai mặt: dữ liệu có được thu thập một cách đạo đức không, tức có sự đồng ý, minh bạch về mục đích và không lừa dối, và người hoặc tổ chức nắm giữ dữ liệu có đáng tin không, tức có bảo vệ và dùng dữ liệu đúng cam kết không. Dữ liệu chính xác về kỹ thuật nhưng thu thập lén lút hay nằm trong tay bên thiếu tin cậy vẫn không có tính toàn vẹn đạo đức. "If the data is commercially viable or monetarily valuable." là giá trị kinh tế của dữ liệu, một câu hỏi kinh doanh chứ không phải đạo đức. "What type of data (audio, visual, etc.) is being collected and/or utilized." là đặc điểm kỹ thuật về định dạng; loại dữ liệu có thể ảnh hưởng mức nhạy cảm nhưng tự nó không quyết định dữ liệu có toàn vẹn về đạo đức hay không.

Đáp án đúng: "Linked IOT technology that always on and acting to personalize the experience for the people within its environment.". Trí tuệ môi trường xung quanh (ambient intelligence) là mạng thiết bị IoT liên kết, luôn bật, cảm nhận sự hiện diện và hành vi của người trong không gian rồi tự điều chỉnh ánh sáng, nhiệt độ hay lời nhắc để cá nhân hoá trải nghiệm mà người dùng không cần ra lệnh; vì luôn bật và vô hình nên nó đặt ra lo ngại về giám sát thường trực và sự đồng ý có hiểu biết. Phương án "collects and stores data about a home or office environment" sai vì chỉ thu thập và lưu dữ liệu là cảm biến thụ động, còn nét định nghĩa của ambient intelligence là hành động để thích ứng với con người. Phương án "conducts covert surveillance for the government" sai vì giám sát bí mật cho chính phủ là một rủi ro lạm dụng, không phải định nghĩa công nghệ. Phương án "collects and stores data about campus environment" sai vì cũng chỉ dừng ở thu thập và lưu trữ, lại bó hẹp vào khuôn viên trường.