Câu hỏi: ITE302c - Chương 6: Phát hiện và giảm thiểu rủi ro đạo đức

Trước khi đưa ra thị trường các công nghệ mới nổi, việc thử nghiệm lâm sàng có thể mang lại nhiều lợi ích về mặt đạo đức. Điều này bao gồm việc giảm thiểu tác động của các vấn đề đạo đức có thể phát sinh và tiết lộ bất kỳ khoảng trống nào trong trách nhiệm giải trình hoặc khả năng kiểm toán. Việc thử nghiệm lâm sàng giúp các nhà phát triển sản phẩm xác định và giải quyết các vấn đề đạo đức tiềm ẩn, từ đó tạo ra sản phẩm an toàn và đạo đức hơn. Điều này không chỉ giúp bảo vệ người dùng mà còn giúp xây dựng niềm tin vào sản phẩm và công ty.

RACI là một từ viết tắt trong tiếng Anh, thường được sử dụng trong quản lý dự án và quản lý công việc. Nó đại diện cho bốn vai trò chính trong một dự án hoặc một công việc: Người chịu trách nhiệm (Responsible), Người có trách nhiệm (Accountable), Người được tham khảo ý kiến (Consulted) và Người được thông báo (Informed). Người chịu trách nhiệm là người thực hiện công việc, Người có trách nhiệm là người chịu trách nhiệm cuối cùng về kết quả, Người được tham khảo ý kiến là người có kiến thức và kinh nghiệm liên quan đến công việc và Người được thông báo là người cần được thông báo về tiến độ và kết quả công việc.

Trình tự xét xử ngoài tòa án được gọi là xét xử ngoài tòa án hay xét xử không chính thức. Điều này có nghĩa là một quyết định hoặc điểm số được đưa ra mà không có sự tham gia của tòa án. Điều này có thể xảy ra trong các trường hợp như xét xử dân sự, hình sự hoặc hành chính. Trong xét xử ngoài tòa án, quyết định thường được đưa ra bởi các cơ quan khác như chính quyền địa phương, cơ quan thực thi pháp luật hoặc các tổ chức phi chính phủ. Mục đích của xét xử ngoài tòa án là cung cấp một giải pháp nhanh chóng và hiệu quả cho các vấn đề cụ thể mà không cần phải tham gia vào quá trình xét xử kéo dài và phức tạp của tòa án.

Một thách thức của tính giải thích trong các hệ thống AI phức tạp là việc mô hình hóa các thuật toán đen hộp (black-box) khó được giải thích. Các thuật toán này hoạt động theo cách không thể hiểu được, khiến cho việc giải thích và đánh giá hiệu suất của chúng trở nên khó khăn. Điều này có thể dẫn đến sự thiếu tin tưởng của người dùng vào hệ thống AI, đặc biệt là khi hệ thống này được sử dụng trong các lĩnh vực quan trọng như y tế, tài chính hoặc an ninh. Vì vậy, việc giải thích được tích hợp vào các hệ thống AI là rất quan trọng để đảm bảo tính minh bạch và tin tưởng của người dùng.

Trả lời câu hỏi này, chúng ta cần hiểu rõ ba khái niệm quan trọng trong quản lý và tổ chức: trách nhiệm, trách nhiệm giải trình và trách nhiệm pháp lý. Trách nhiệm là nghĩa vụ thực hiện một nhiệm vụ cụ thể, trách nhiệm giải trình là quyền sở hữu kết quả của một nhiệm vụ, và trách nhiệm pháp lý là nghĩa vụ pháp lý đối với bất kỳ thiệt hại tiềm ẩn nào. Để phân biệt giữa ba khái niệm này, chúng ta cần xem xét vai trò và nghĩa vụ của mỗi khái niệm trong quản lý và tổ chức.

Trong triển khai thực tế của các ứng dụng phần mềm được hỗ trợ bởi trí tuệ nhân tạo trong các kịch bản quan trọng như xe tự lái, nguyên tắc phát triển phần mềm quan trọng là khả năng chống lại các ví dụ đối kháng. Khả năng này đảm bảo rằng phần mềm có thể hoạt động đúng ngay cả khi gặp phải các dữ liệu hoặc tình huống bất thường. Điều này đặc biệt quan trọng trong các ứng dụng tự lái xe, nơi phần mềm phải xử lý các tình huống phức tạp và không lường trước được. Khả năng chống lại các ví dụ đối kháng giúp đảm bảo an toàn và tin cậy của phần mềm trong các kịch bản quan trọng.

Để đảm bảo tính trách nhiệm trong hệ thống, yếu tố quan trọng cần được xem xét là việc phân công trách nhiệm rõ ràng. Điều này có nghĩa là mỗi cá nhân hoặc nhóm đều có vai trò và nhiệm vụ cụ thể, giúp tránh sự nhầm lẫn và đảm bảo rằng mọi người đều biết mình cần làm gì. Việc phân công trách nhiệm rõ ràng giúp tăng cường tính minh bạch và trách nhiệm trong hệ thống, từ đó cải thiện hiệu suất và giảm thiểu sai sót. Ngoài ra, việc này cũng giúp xây dựng sự tin tưởng và hợp tác giữa các cá nhân và nhóm, tạo điều kiện cho sự phát triển và thành công của hệ thống.

Sử dụng quyền sở hữu trí tuệ (IP) như một biện pháp phòng thủ để tránh tuân thủ yêu cầu minh bạch là một cách sử dụng sai quyền sở hữu trí tuệ khi nói đến trách nhiệm giải trình về mặt đạo đức cho một tổ chức. Điều này có nghĩa là một tổ chức sử dụng quyền sở hữu trí tuệ như một cách để che giấu thông tin hoặc tránh tuân thủ các yêu cầu minh bạch, thay vì sử dụng nó để bảo vệ và phát triển sản phẩm hoặc dịch vụ của mình. Sử dụng IP một cách không đúng đắn như vậy có thể gây hại cho tổ chức và gây ra hậu quả pháp lý. Nó cũng có thể làm mất lòng tin của khách hàng và gây ra thiệt hại cho danh tiếng của tổ chức.

Khi tham gia các bên liên quan vào quá trình quản lý rủi ro đạo đức ngay từ đầu, tổ chức thể hiện sự cam kết về trách nhiệm và minh bạch trong hệ thống dữ liệu. Điều này cho thấy tổ chức sẵn sàng lắng nghe và xem xét các quan điểm khác nhau, từ đó có thể đưa ra quyết định sáng suốt hơn. Quá trình tham gia này cũng giúp tổ chức nhận thức rõ hơn về các rủi ro đạo đức tiềm ẩn và có thể ngăn chặn chúng trước khi chúng trở thành vấn đề nghiêm trọng. Ngoài ra, việc tham gia các bên liên quan còn giúp tổ chức xây dựng niềm tin với các bên liên quan và tăng cường sự tin tưởng của công chúng.

Khi phân loại rủi ro đạo đức thành các loại khác nhau, chúng ta có thể dễ dàng nhận diện và quản lý các loại rủi ro khác nhau. Điều này giúp chúng ta hiểu rõ về các phức tạp đa dạng liên quan đến các loại rủi ro đạo đức khác nhau. Ví dụ, rủi ro đạo đức có thể bao gồm rủi ro về môi trường, rủi ro về nhân quyền, rủi ro về bảo mật dữ liệu, v.v. Mỗi loại rủi ro này đòi hỏi chiến lược quản lý rủi ro riêng biệt. Bằng cách phân loại rủi ro đạo đức, chúng ta có thể xác định rõ các loại rủi ro cần được ưu tiên và tập trung vào việc quản lý chúng.

Khi sử dụng dữ liệu đào tạo, cần phải thông báo cho người dùng về các hạn chế của dữ liệu để đảm bảo tính minh bạch. Hai hạn chế quan trọng cần được thông báo là bất kỳ thiên vị nào trong dữ liệu mẫu và bất kỳ giá trị nào bị thiếu trong dữ liệu và cách xử lý chúng. Thiên vị trong dữ liệu mẫu có thể ảnh hưởng đến độ chính xác của mô hình đào tạo, trong khi giá trị bị thiếu có thể ảnh hưởng đến kết quả dự đoán. Do đó, cần phải thông báo cho người dùng về các hạn chế này để họ có thể đánh giá kết quả một cách khách quan.

Đáp án đúng: C (facing unknown empirical data with an incomplete dataset). "Unknown unknowns" chỉ tình huống mô hình gặp dữ liệu nằm NGOÀI phân phối nó từng học — tập huấn luyện không đầy đủ nên có cả những vùng thực tế mà mô hình chưa từng thấy. Điều nguy hiểm là ở những vùng đó mô hình vẫn dự đoán với độ tự tin cao, nên sai lầm không tự bộc lộ. B mô tả BLACK BOX PROBLEM (không giải thích được mô hình đang nhìn vào đâu) — một khái niệm riêng, thường được hỏi thành câu độc lập. A là chuyện đạo đức của nhóm nghiên cứu. D là bất định về cách thu thập dữ liệu, gần với "known unknowns" vì ta biết mình đang thiếu thông tin gì.

Khi thiết kế trí tuệ nhân tạo (AI), việc bỏ qua các mối quan tâm về đạo đức có thể dẫn đến nhiều hậu quả nghiêm trọng. Một trong những rủi ro chính là sự phản ứng dữ dội của công chúng và hậu quả về mặt quy định. Điều này có thể xảy ra khi công chúng phát hiện ra rằng AI được thiết kế một cách không công bằng hoặc không minh bạch, dẫn đến sự mất niềm tin vào các tổ chức và cá nhân liên quan. Ngoài ra, các cơ quan quản lý cũng có thể áp dụng các quy định và hình phạt đối với các tổ chức không tuân thủ các tiêu chuẩn đạo đức trong thiết kế AI. Vì vậy, việc xem xét và giải quyết các mối quan tâm về đạo đức là rất quan trọng trong thiết kế AI để tránh những hậu quả tiêu cực này.

Danh mục rủi ro liên quan đến trách nhiệm của các bên liên quan trong việc tạo và sử dụng công nghệ dựa trên dữ liệu là Accountability. Trách nhiệm này đề cập đến việc xác định và chịu trách nhiệm về các quyết định và hành động được đưa ra dựa trên dữ liệu. Điều này bao gồm việc đảm bảo rằng các bên liên quan hiểu rõ về dữ liệu và các công nghệ được sử dụng, cũng như việc xác định và chịu trách nhiệm về bất kỳ hậu quả nào có thể xảy ra từ việc sử dụng dữ liệu và công nghệ. Accountability là một phần quan trọng của quản lý rủi ro trong việc tạo và sử dụng dữ liệu và công nghệ.

Pseudocode là một mô tả có thể hiểu được về mã code, được thiết kế cho con người, không phải cho máy tính. Nó là một dạng mô tả logic của một chương trình, giúp người lập trình viên hiểu rõ hơn về quy trình thực hiện của chương trình mà không cần phải viết mã code cụ thể. Pseudocode thường được sử dụng để mô tả các thuật toán, quy trình xử lý dữ liệu và các bước thực hiện của một chương trình. Nó giúp người lập trình viên có thể dễ dàng hiểu và giải thích các ý tưởng và quy trình của mình cho người khác, đồng thời cũng giúp họ có thể dễ dàng chuyển đổi pseudocode sang mã code thực tế.

Lý do quan trọng để có một cách tiếp cận chủ động đối với các vấn đề liên quan đến trách nhiệm pháp lý là vì luật pháp thường chậm theo kịp sự đổi mới. Khi công nghệ và sản phẩm mới được phát triển, luật pháp có thể không sẵn sàng để điều chỉnh chúng. Điều này có thể dẫn đến sự không chắc chắn và rủi ro pháp lý cho các cá nhân và tổ chức. Một cách tiếp cận chủ động giúp các cá nhân và tổ chức nhận ra và giải quyết các vấn đề liên quan đến trách nhiệm pháp lý trước khi chúng trở thành vấn đề nghiêm trọng. Điều này giúp họ tránh được các hậu quả pháp lý có thể xảy ra và duy trì sự ổn định và an toàn trong hoạt động kinh doanh của mình.

Đáp án đúng: Semi-quantitative analysis ; Qualitative analysis. Phân tích ĐỊNH TÍNH dùng đúng những chữ mà đề nêu ⇒ D chắc chắn. Loại B vì định lượng phải ra số tiền/xác suất cụ thể. Giữa A và C: "semi-qualitative" không phải thuật ngữ chuẩn, còn BÁN ĐỊNH LƯỢNG là bậc trung gian có thật — vẫn dùng các nhãn chữ "low/medium/high" nhưng gán cho mỗi nhãn một thang điểm hoặc khoảng giá trị.

Đáp án đúng: Mitigation ; Identification. Chu trình quản trị rủi ro cơ bản: NHẬN DIỆN rủi ro rồi GIẢM THIỂU nó. Xác thực là biện pháp kỹ thuật, tuân thủ là nghĩa vụ pháp lý.

Đáp án đúng: Specify and document what precisely is being audited. ; Document the audit procedures to be followed.. Nhãn của đề là "steps to DOCUMENT": hai phương án duy nhất nói tới việc GHI LẠI là B (ghi rõ phạm vi — chính xác cái gì đang bị kiểm) và D (ghi quy trình kiểm sẽ theo). A không phải việc ghi chép, lại phản tác dụng vì báo trước quá lâu thì mất tính khách quan. ⚠ C (nêu mục đích/chương trình làm việc) cũng là một mục hợp lý của hồ sơ kiểm toán — giữa C và D gần như ngang nhau, tôi chọn D vì đúng chữ "document" trong đề.