Tất cả câu hỏi

Đáp án đúng: "Applying consistent ethical principles and stakeholder consideration". Khi tình huống bất định, không có quy tắc hay tiền lệ khớp sẵn, điểm tựa đáng tin nhất là áp dụng nhất quán các nguyên tắc đạo đức như không gây hại, công bằng, tôn trọng quyền tự quyết, cùng với việc cân nhắc lợi ích và rủi ro của mọi bên liên quan; tính nhất quán giúp quyết định giải thích và bảo vệ được, còn việc xét các bên giúp phát hiện những người có thể bị ảnh hưởng mà ta chưa nghĩ tới. "Following precedent exactly" sai vì tình huống bất định thường là tình huống mới, rập khuôn tiền lệ dễ áp sai bối cảnh; tiền lệ chỉ nên để tham khảo. "Choosing the fastest solution" sai vì tốc độ không bảo đảm đúng đắn, vội vàng dễ bỏ sót tác hại. "Minimizing costs above all else" sai vì đặt chi phí lên trên hết đồng nghĩa hy sinh giá trị đạo đức cho lợi ích tài chính.

Đáp án đúng: "We need to remember that we don’t know the full extent of what AI systems might become capable of so that we can better plan.". Capability caution (thận trọng về năng lực) là một trong các Asilomar AI Principles: vì chưa có đồng thuận về giới hạn trên của năng lực AI trong tương lai, ta nên tránh các giả định chắc chắn về giới hạn đó, nhờ vậy lập kế hoạch và đầu tư an toàn cho cả những kịch bản AI mạnh hơn dự kiến. "We need to take steps to ensure that humans capabilities are not limited by AI growth." nói về việc bảo vệ năng lực con người, một mối quan tâm khác. "We need to freeze AI’s capabilities at the current state so that we can ensure AI systems won’t take over the world." là đòi đóng băng phát triển, không phải nội dung của nguyên tắc vốn chỉ kêu gọi thận trọng trong giả định. "We need to remember that we know the full extent of what AI systems might become capable of so that we can better plan." nói ngược lại: khẳng định ta đã biết hết giới hạn chính là kiểu giả định chắc chắn mà nguyên tắc cảnh báo.

Đáp án đúng: "Promotes trust and accountability". Khi tổ chức sử dụng dữ liệu có đạo đức, tức thu thập có đồng ý, dùng đúng mục đích, bảo vệ quyền riêng tư và minh bạch về cách xử lý, nhân viên và khách hàng tin tưởng tổ chức hơn, còn mỗi người hiểu rõ trách nhiệm của mình với dữ liệu, từ đó hình thành văn hoá tin cậy và trách nhiệm giải trình. "Encourages rapid data monetization" đi ngược lại, chạy theo kiếm tiền nhanh từ dữ liệu thường là nguồn gốc của vi phạm. "Focuses on competitive advantage only" sai ở chữ only; đạo đức có thể tạo lợi thế cạnh tranh nhưng đó không phải trọng tâm duy nhất. "Reduces compliance costs significantly" không chắc đúng, thực hành đạo đức thường cần thêm nguồn lực, và đây cũng không phải tác động lên văn hoá.

Đáp án đúng: "Change inputs, evaluate outputs". Với mô hình hộp đen (black box) đã triển khai, nhà nghiên cứu bên ngoài thường không xem được mã nguồn hay dữ liệu huấn luyện; cách duy nhất là kiểm toán từ bên ngoài: đưa vào các đầu vào đã chỉnh có chủ đích, như giữ nguyên hồ sơ và chỉ đổi giới tính hay tên gợi chủng tộc, rồi so sánh đầu ra. Nếu kết quả thay đổi theo thuộc tính nhạy cảm, mô hình có dấu hiệu bất công. "Change training data, evaluate outputs" đòi hỏi quyền can thiệp vào dữ liệu huấn luyện và huấn luyện lại mô hình, điều người đánh giá một hộp đen có sẵn thường không làm được. "Change inputs, evaluate training data" sai vì đổi đầu vào không làm thay đổi dữ liệu huấn luyện, và dữ liệu đó thường không được tiếp cận. "Evaluate inputs, evaluate data" chỉ quan sát dữ liệu mà không thử nghiệm và không xem hành vi của mô hình, nên không đo được mô hình có đối xử công bằng hay không.

Đáp án đúng: "85%". Theo khảo sát năm 2019 trên 84 bộ nguyên tắc đạo đức AI, 73 bộ có nhắc tới minh bạch; 73 chia 84 xấp xỉ 0,87, tức khoảng 87%, cách 85% hai điểm, cách 95% tám điểm và cách 75% mười hai điểm, nên 85% là mức gần nhất, nhất quán với việc minh bạch là nguyên tắc được nêu nhiều nhất. Cần nói thẳng: con số phụ thuộc vào khảo sát; báo cáo Principled AI năm 2020 ghi khoảng 94% tài liệu có minh bạch và giải thích được, nên theo nguồn đó thì "95%" mới là mức gần nhất, còn ở đây chọn theo khảo sát 84 bộ nguyên tắc. "50%" sai vì quá thấp, trái với vị trí của minh bạch là nguyên tắc phổ biến nhất. "75%" sai vì vẫn thấp hơn rõ rệt so với tỉ lệ đo được ở cả hai khảo sát.

Đáp án đúng: "Use systematic ethical analysis and stakeholder engagement". Với tình huống lưỡng nan không có lời giải rõ ràng, tổ chức cần một quy trình có hệ thống: xác định các giá trị xung đột, cân nhắc hệ quả theo nhiều khung đạo đức, và mời các bên bị ảnh hưởng tham gia, để quyết định có lý lẽ, minh bạch và bảo vệ được khi bị chất vấn. "Avoid making decisions" sai vì không quyết định cũng là một quyết định, thường để hậu quả xảy ra mà không ai chịu trách nhiệm. "Choose randomly" bỏ qua hoàn toàn lập luận đạo đức, không thể giải trình với ai. "Follow majority opinion only" có thể chà đạp quyền của nhóm thiểu số; ý kiến số đông là một dữ kiện nên tham khảo, nhưng đúng sai về đạo đức không quyết định bằng biểu quyết.

Đáp án đúng: "Utilitarianism". Chủ nghĩa công lợi (utilitarianism) là khung đạo đức hệ quả, đánh giá hành động theo kết quả: lựa chọn đúng là lựa chọn mang lại lợi ích lớn nhất cho số người nhiều nhất. Khi áp vào công nghệ, nó giúp cân nhắc lợi ích và tác hại tổng thể của một hệ thống, nhưng có nhược điểm là có thể chấp nhận thiệt hại cho nhóm thiểu số nếu tổng lợi ích lớn. "Deontology" là đạo đức nghĩa vụ, cho rằng có những bổn phận và quy tắc phải tuân theo bất kể kết quả, ví dụ không được nói dối dù nói dối có lợi. "Virtue Ethics" là đạo đức đức hạnh, đặt câu hỏi một người có phẩm chất tốt sẽ làm gì, tập trung vào tính cách thay vì kết quả. "Ethical Relativism" là thuyết tương đối đạo đức, cho rằng đúng sai phụ thuộc vào văn hoá hay cá nhân, không đặt ra tiêu chí chung nào như tối đa hoá lợi ích cho số đông.

Đáp án đúng: "Anonymized datasets can be combined with other datasets, which can re-identify individuals". Ẩn danh hoá thường chỉ xoá định danh trực tiếp như tên, số điện thoại, nhưng các trường còn lại như ngày sinh, giới tính, mã bưu chính hay lịch sử chấm điểm phim khi ghép với một tập dữ liệu công khai khác có thể khớp ra đúng từng người; đây là linkage attack (tấn công liên kết), như vụ dữ liệu Netflix Prize bị nhận dạng lại khi đối chiếu với đánh giá trên IMDb. "Anonymized datasets can be re-identifyed by anyone holding the hash key" mô tả pseudonymization (giả danh hoá) bằng khoá, một kỹ thuật khác, và kẻ không có khoá vẫn bị chặn. "Anonymized datasets aren't actually anonymous because many of the data fields can identify a user" chạm tới vai trò của các trường gián tiếp, nhưng nếu tự các trường đã nhận dạng được người thì đó là ẩn danh hoá làm hỏng chứ chưa nói tới cơ chế ghép dữ liệu. "Anonymized datasets can be traced back to the individuals by looking at their browsing history in the app" là theo dõi hành vi bên trong ứng dụng, không phải điểm yếu của tập dữ liệu đã ẩn danh.

Đáp án đúng: "An basic algorithm takes an input and gets an output, while a learning algorithm uses the output on the next input". Thuật toán cơ bản chạy theo quy tắc cố định: nhận đầu vào, xử lý, trả đầu ra, và lần sau vẫn làm y như cũ; thuật toán học thì dùng kết quả và phản hồi từ lần trước để điều chỉnh cách xử lý lần sau, nên hành vi của nó thay đổi theo dữ liệu, và đây cũng là nguồn gốc của vòng phản hồi và thiên kiến tích tụ. "A basic algorithm takes an input, while a learning algorithm takes an input and gets an output" sai vì thuật toán nào cũng cho ra đầu ra. "A basic algorithm takes an input and gets an output, while a learning algorithm takes multiple inputs and gets multiple outputs" và "A basic algorithm takes an input, gets an output, while a learning algorithm takes multiple" đều phân biệt bằng số lượng đầu vào đầu ra, trong khi thuật toán thường cũng xử lý được nhiều đầu vào; khác biệt thật là khả năng tự điều chỉnh.

Đáp án đúng: "Data about the user is automatically collected unless that user explicitly states that you should not do so.". Chính sách từ chối (opt-out) mặc định thu thập dữ liệu và trao cho người dùng quyền chủ động rút lại, ví dụ hộp kiểm đã được đánh dấu sẵn mà người dùng phải bỏ chọn. Cách này thuận lợi cho tổ chức nhưng bị phê phán vì nhiều người không biết mình đang bị thu thập, nên đồng thuận không thực sự rõ ràng. "Data about that user isn’t collected until that user explicitly states you are allowed to." là mô tả chính sách đồng ý (opt-in), ngược với opt-out, và được coi là bảo vệ quyền riêng tư tốt hơn. "Data about the user is always collected, regardless of the user’s consent." là thu thập bất chấp sự đồng ý, không có lựa chọn từ chối nào nên không phải opt-out. "Data about the user is never collected, regardless of the user’s consent." là không thu thập gì cả, cũng không có cơ chế lựa chọn của người dùng.

Đáp án đúng: "Knowledge". Theo tháp DIKW (Data, Information, Knowledge, Wisdom), dữ liệu là số liệu thô như từng giao dịch bán hàng, thông tin là dữ liệu đã được sắp xếp có ngữ cảnh như doanh số theo tháng, còn tri thức là hiểu được quy luật rút ra từ thông tin, như nhận ra doanh số luôn tăng vào mùa hè qua năm năm, và dùng nó để hành động; quyết định tuyển thêm nhân viên bán hàng dựa trên xu hướng đã phân tích chính là hành động dựa trên tri thức. "Data" sai vì bà không dựa trên số liệu thô chưa xử lý. "Information" sai vì thông tin chỉ cho biết doanh số từng kỳ, còn xu hướng nhiều năm là bước diễn giải cao hơn. "Wisdom" sai vì trí tuệ là tầng phán đoán điều nên làm dựa trên giá trị và tầm nhìn dài hạn, như cân nhắc ảnh hưởng tới con người hay chiến lược, vượt ra ngoài việc áp một xu hướng đã biết.

Đáp án đúng: "a potential extinction event". Quan điểm bi quan về trí tuệ nhân tạo tổng quát (general AI) cho rằng một hệ thống vượt trí tuệ con người mà không đồng nhất được mục tiêu với giá trị con người có thể gây ra rủi ro hiện sinh (existential risk), tức thảm hoạ đe doạ sự tồn tại của loài người; đây là lý do phe này kêu gọi nghiên cứu an toàn AI trước khi đẩy năng lực lên. "winner take all" mô tả kịch bản cạnh tranh trong đó bên phát triển AI trước nắm trọn lợi thế kinh tế, quân sự; đó là mối lo về tập trung quyền lực, không phải lõi của quan điểm bi quan. "creating AI for all governments" không phải một kịch bản được bàn trong tranh luận này. "impossible" là quan điểm hoài nghi cho rằng AI tổng quát không thể đạt được, nói về tính khả thi chứ không nói về hậu quả.

Đáp án đúng: "Service-level agreement (SLA)". Service-level agreement (thoả thuận mức dịch vụ) là hợp đồng giữa nhà cung cấp và khách hàng nêu rõ mục tiêu của hai bên và cách đạt được, như thời gian hoạt động cam kết, thời gian phản hồi sự cố, chỉ số đo lường và chế tài khi không đạt, nên nó tạo trách nhiệm giải trình rõ ràng. "Software as a Service (SaaS)" là mô hình cung cấp phần mềm qua mạng, không phải loại hợp đồng; một dịch vụ SaaS thường đi kèm SLA. "Terms of Service (ToS)" là điều khoản do nhà cung cấp đặt ra một chiều cho người dùng chấp nhận, không thương lượng mục tiêu của hai bên. "End-user license agreement (EULA)" là giấy phép quy định người dùng cuối được dùng phần mềm thế nào, tập trung vào quyền sử dụng chứ không mô tả mục tiêu dịch vụ.

Đáp án đúng: "To evaluate the consequences of disruptions and help plan recovery strategies". Business impact assessment (đánh giá tác động kinh doanh) trong quản lý rủi ro trả lời câu hỏi nếu một hoạt động hay hệ thống bị gián đoạn thì tổ chức thiệt hại gì về tài chính, vận hành, uy tín và pháp lý, chịu được bao lâu, rồi dùng kết quả đó để ưu tiên nguồn lực và xây chiến lược khôi phục. "To improve the technical specifications of products for better market competitiveness" là việc của phát triển sản phẩm và phân tích cạnh tranh, không liên quan tới gián đoạn. "To assess employee satisfaction and workplace harmony" là khảo sát nhân sự về sự hài lòng của nhân viên. "To analyze financial growth and expansion opportunities" là phân tích chiến lược kinh doanh nhằm tìm cơ hội tăng trưởng, hướng về lợi ích chứ không về thiệt hại khi có sự cố.

Đáp án đúng: "Transparency and prompt response". Trong khủng hoảng đạo đức, công chúng và các bên liên quan đánh giá tổ chức qua việc nó có nói thật và lên tiếng kịp thời hay không; minh bạch giúp giữ niềm tin và thể hiện trách nhiệm giải trình, còn phản hồi nhanh ngăn tin đồn lấp khoảng trống thông tin. "Hiding the problem" là che giấu, khi sự thật lộ ra thì thiệt hại về uy tín còn lớn hơn chính sự cố. "Delaying all communications" tạo khoảng im lặng mà báo chí và mạng xã hội sẽ tự lấp bằng suy đoán. "Blaming external factors only" là né tránh trách nhiệm; nếu có yếu tố bên ngoài thật thì vẫn có thể nêu, nhưng đổ lỗi hoàn toàn cho bên ngoài làm mất lòng tin khi tổ chức cũng có phần lỗi.

Đáp án đúng: "They require adaptation of ethical approaches". Đạo đức toàn cầu phải tính tới khác biệt văn hoá: quan niệm về quyền riêng tư, vai trò của cá nhân và cộng đồng hay mức chấp nhận giám sát khác nhau giữa các quốc gia, nên một sản phẩm công nghệ triển khai ở nhiều nước phải điều chỉnh cách tiếp cận đạo đức cho hợp bối cảnh, trong khi vẫn giữ những giá trị cốt lõi như tôn trọng nhân phẩm. "They can be ignored in digital contexts" sai vì môi trường số xuyên biên giới khiến khác biệt văn hoá càng lộ rõ. "They complicate ethical frameworks unnecessarily" sai vì sự phức tạp đó là cần thiết; bỏ qua nó dẫn tới áp đặt giá trị của một nền văn hoá lên người khác. "They are only relevant for local businesses" sai vì chính doanh nghiệp toàn cầu mới phải đối mặt với nhiều nền văn hoá nhất.

Đáp án đúng: "Establish clear ethical guidelines and rapid consultation processes". Trong môi trường công nghệ thay đổi nhanh, quyết định phải đưa ra liên tục nên đạo đức chỉ thực sự được áp dụng khi nó sẵn có ngay tại chỗ: hướng dẫn rõ ràng giúp nhân viên tự xử lý phần lớn tình huống, còn kênh tham vấn nhanh như đầu mối hay hội đồng đạo đức phản hồi trong thời gian ngắn giúp giải quyết ca khó mà không làm chậm dự án. "Slow down all processes" làm mất khả năng cạnh tranh và không bảo đảm quyết định đạo đức hơn, chỉ chậm hơn. "Make all decisions later" để rủi ro trôi qua mà không ai xử lý, đến khi quyết định thì tác hại có thể đã xảy ra. "Ignore ethics during development" đi ngược hoàn toàn mục tiêu, vì tác hại thường được gieo ngay trong giai đoạn phát triển và sửa sau tốn kém hơn nhiều.

Đáp án đúng: "Anchor Explanations". Thư viện Python Alibi cung cấp phương pháp Anchors, tìm một tập điều kiện trên các đặc trưng, gọi là anchor (mỏ neo), sao cho khi các điều kiện này giữ nguyên thì mô hình gần như luôn đưa ra cùng dự đoán dù các đặc trưng khác thay đổi; đây là giải thích cục bộ dạng luật dễ hiểu. "Local Interpretable Model-Agnostic Explanations" là LIME, xấp xỉ mô hình quanh một điểm bằng mô hình tuyến tính và cho trọng số đặc trưng chứ không phải tập điều kiện bảo toàn dự đoán. "Shapley value" từ lý thuyết trò chơi chia phần đóng góp của từng đặc trưng vào dự đoán, cũng là điểm số chứ không phải tập con đặc trưng. "Perturbation" là kỹ thuật làm nhiễu đầu vào mà nhiều phương pháp, kể cả Anchors, dùng bên trong, không phải tên của kỹ thuật được hỏi.

Đáp án đúng: "Reinforcement bias". Thiên kiến củng cố (reinforcement bias) xuất hiện khi cùng một loại dữ liệu bị lấy mẫu lặp đi lặp lại, thường qua vòng phản hồi: mô hình đưa ra quyết định, quyết định đó sinh ra dữ liệu mới giống dữ liệu cũ, rồi dữ liệu ấy lại được đưa vào huấn luyện, khiến góc nhìn của mô hình ngày càng hẹp; ví dụ hệ thống dự báo tội phạm cử cảnh sát tới cùng một khu, ghi nhận thêm vụ việc ở đó và càng tin khu đó nguy hiểm. "Confirmation bias" sai vì thiên kiến xác nhận là xu hướng tâm lý của con người tìm thông tin khẳng định niềm tin sẵn có, dù nó có thể là nguồn gốc ban đầu của vòng lặp. "Implicit bias" sai vì thiên kiến ngầm là định kiến vô thức trong con người, không gắn với việc lấy mẫu lặp. "Temporal bias" sai vì thiên kiến thời gian nảy sinh khi dữ liệu thuộc một giai đoạn không còn phản ánh hiện tại.

Đáp án đúng: "claim their score was randomized response". Trong kỹ thuật randomized response (trả lời ngẫu nhiên hoá), mỗi người tung đồng xu bí mật: ra mặt sấp thì trả lời thật, ra mặt ngửa thì trả lời theo một lần tung thứ hai; vì vậy với một câu trả lời nhạy cảm bất kỳ, người khảo sát không biết đó là sự thật hay kết quả của đồng xu. Plausible deniability (khả năng chối hợp lý) chính là việc mỗi cá nhân luôn có thể nói câu trả lời của mình là do ngẫu nhiên, trong khi nhà nghiên cứu vẫn ước lượng được tỉ lệ chung của cả nhóm. "express their participation in a study" là việc công khai mình tham gia, ngược với chối bỏ. "remove themselves from a machine learning dataset" là quyền rút khỏi hoặc xoá dữ liệu, một cơ chế quyền riêng tư khác. "doubt the results of a study" là hoài nghi kết quả, không liên quan tới việc bảo vệ câu trả lời của từng người.