ITE302c - Đạo đức trong Công nghệ thông tin

Một mô hình dự đoán có thể tiết lộ nhiều thông tin về bản thân nó. Trong đó, dữ liệu mà mô hình được đào tạo trên có thể được xem là một trong những thông tin quan trọng nhất. Khi chúng ta biết được dữ liệu mà mô hình được đào tạo trên, chúng ta có thể hiểu được tính chất và đặc điểm của mô hình. Điều này giúp chúng ta đánh giá được độ chính xác và tin cậy của mô hình. Ngoài ra, dữ liệu mà mô hình được đào tạo trên cũng có thể giúp chúng ta nhận biết được các vấn đề tiềm ẩn trong mô hình, chẳng hạn như sự thiên vị trong dữ liệu.

Hacktivism là một hình thức hoạt động mạng nhằm mục đích thúc đẩy thay đổi xã hội. Các hacker thường sử dụng công nghệ để chống lại các chính sách hoặc hành vi mà họ coi là bất công hoặc độc hại. Mục tiêu chính của hacktivism không phải là kiếm tiền hoặc phục vụ một người có quyền lực, mà là tạo ra sự thay đổi tích cực trong xã hội. Điều này có thể bao gồm việc tiết lộ thông tin bí mật, phá vỡ các hệ thống độc tài hoặc chống lại các chính sách phân biệt đối xử. Mục đích của hacktivism là tạo ra sự thay đổi và nâng cao nhận thức về các vấn đề xã hội.

Trong quá trình kiểm tra lại (cross-validation), tập dữ liệu được chia thành ba phần: tập huấn luyện, tập kiểm tra và tập xác minh. Tập xác minh được sử dụng để tinh chỉnh hiệu suất của mô hình. Khi mô hình được huấn luyện trên tập huấn luyện và kiểm tra trên tập kiểm tra, tập xác minh được sử dụng để đánh giá hiệu suất của mô hình và tinh chỉnh các tham số của mô hình. Điều này giúp đảm bảo rằng mô hình hoạt động tốt trên dữ liệu mới chưa được nhìn thấy trước đó.

Goodhart's luật là một nguyên tắc quan trọng trong học máy, giúp chúng ta tránh được những sai lầm tiềm ẩn khi xây dựng và triển khai mô hình học máy. Lý do quan trọng của Goodhart's luật là mô hình có thể tối ưu hóa một chỉ số nhất định, nhưng đồng thời bỏ qua hoặc giảm thiểu các chỉ số khác. Điều này có thể dẫn đến hiệu suất tốt trong một số trường hợp, nhưng lại gây ra hậu quả tiêu cực trong các trường hợp khác. Ví dụ, một mô hình có thể tối ưu hóa độ chính xác của dự đoán, nhưng lại bỏ qua độ tin cậy của dự đoán. Điều này có thể dẫn đến việc đưa ra những dự đoán không chính xác, gây ra hậu quả nghiêm trọng. Vì vậy, Goodhart's luật giúp chúng ta nhận ra được những hạn chế của mô hình và tránh được những sai lầm tiềm ẩn.

Khi huấn luyện và kiểm tra mô hình AI trong một ngữ cảnh cụ thể, có một số hạn chế cần lưu ý. Mô hình AI có thể không thể hoạt động hiệu quả khi được áp dụng vào các ngữ cảnh khác nhau. Điều này là do mô hình AI đã được huấn luyện và kiểm tra trong ngữ cảnh cụ thể, vì vậy nó có thể không có đủ kiến thức và kỹ năng để xử lý các tình huống khác nhau. Ngoài ra, mô hình AI cũng có thể không thể thích nghi được với các thay đổi trong ngữ cảnh, dẫn đến hiệu suất thấp. Vì vậy, cần phải xem xét kỹ lưỡng khi áp dụng mô hình AI vào các ngữ cảnh khác nhau.

Khi huấn luyện mô hình phân loại khả năng một cây cầu có thể sụp đổ dựa trên các yếu tố khác nhau, bạn có một tập dữ liệu gồm hàng nghìn cây cầu hiện có và các đặc điểm của chúng, nơi mỗi cây cầu được dán nhãn là có thể sụp đổ hoặc không. Chỉ có một vài cây cầu trong tập dữ liệu được dán nhãn là có thể sụp đổ – phần còn lại được dán nhãn là không thể sụp đổ. Với mục tiêu của bạn là giảm thiểu sự sụp đổ của cây cầu và hậu quả nghiêm trọng mà nó gây ra, thì chỉ số nào sau đây sẽ hữu ích nhất để đánh giá mô hình? Mặc dù độ chính xác (Accuracy) và độ chính xác của ma trận nhầm lẫn (Confusion matrix) đều là các chỉ số quan trọng trong việc đánh giá mô hình, nhưng chúng không phù hợp trong trường hợp này. Độ chính xác (Accuracy) chỉ cho biết tỷ lệ dự đoán chính xác của mô hình, nhưng nó không thể hiện được khả năng mô hình trong việc phát hiện các cây cầu có thể sụp đổ. Ma trận nhầm lẫn (Confusion matrix) cho thấy số lượng dự đoán chính xác và sai lầm của mô hình, nhưng nó cũng không thể hiện được khả năng mô hình trong việc phát hiện các cây cầu có thể sụp đổ. Độ chính xác (Precision) và độ nhớ (Recall) là hai chỉ số quan trọng trong trường hợp này. Độ chính xác (Precision) cho biết tỷ lệ dự đoán chính xác của mô hình đối với các cây cầu có thể sụp đổ, trong khi độ nhớ (Recall) cho biết tỷ lệ dự đoán chính xác của mô hình đối với các cây cầu có thể sụp đổ. Trong trường hợp này, độ nhớ (Recall) là chỉ số quan trọng hơn vì mục tiêu của bạn là giảm thiểu sự sụp đổ của cây cầu và hậu quả nghiêm trọng mà nó gây ra. Vì vậy, độ nhớ (Recall) sẽ hữu ích nhất để đánh giá mô hình.

Để một mô hình có thể tự làm sạch, phân tích và tự huấn luyện dữ liệu của mình mà không thiên vị, mô hình cần có một số yếu tố quan trọng. Thứ nhất, mô hình cần có một danh sách các bài kiểm tra thiên vị và miền để chạy và điều chỉnh. Điều này giúp đảm bảo rằng mô hình không bị ảnh hưởng bởi các thiên vị hoặc giới hạn miền cụ thể. Thứ hai, mô hình cần có khả năng tự động làm sạch dữ liệu bằng cách sử dụng các thuật toán mạnh mẽ. Tuy nhiên, điều này không phải là lựa chọn chính xác nhất trong trường hợp này. Thứ ba, việc tăng gấp 10 lần dữ liệu không phải là giải pháp phù hợp vì nó không giải quyết được vấn đề thiên vị. Cuối cùng, việc kiểm tra thiên vị về tính mới (recency bias) cũng không phải là giải pháp phù hợp trong trường hợp này. Vì vậy, lựa chọn chính xác nhất là danh sách các bài kiểm tra thiên vị và miền để chạy và điều chỉnh.

Để chống lại thiên vị ngầm, bạn cần thực hiện các hành động sau. Trước hết, hãy nhận thức được thiên vị của bản thân. Điều này có nghĩa là bạn cần nhận thức được những suy nghĩ và cảm xúc không chính thức mà bạn có về một nhóm người nào đó. Sau đó, hãy cố gắng tương tác với những nhóm người đa dạng. Điều này có thể giúp bạn hiểu rõ hơn về những khác biệt và tương đồng giữa các nhóm người. Cuối cùng, hãy cố gắng tiếp xúc với những ví dụ trái ngược với những định kiến của bạn. Điều này có thể giúp bạn thay đổi suy nghĩ và cảm xúc của mình.

Khi mô hình hóa dữ liệu địa chỉ với 'Thành phố + Tỉnh/Thành phố' làm các đầu vào riêng biệt từ một tập dữ liệu, điều này sẽ vi phạm nguyên tắc nào về độ chính xác? Nguyên tắc này liên quan đến việc đảm bảo rằng các dữ liệu đầu vào có mối quan hệ logic và hợp lý với nhau. Trong trường hợp này, việc tách thành phố và tỉnh/thành phố thành các đầu vào riêng biệt có thể dẫn đến sự thiếu nhất quán và không chính xác trong mô hình. Điều này đòi hỏi người lập mô hình phải có kiến thức chuyên môn về dữ liệu và hiểu biết về mối quan hệ giữa các biến dữ liệu.

Bias tự động hóa (Automation bias) là một loại thiên vị khiến người ta tin tưởng hệ thống quyết định tự động (ADS) hơn quyết định của con người. Điều này xảy ra khi người ta tin rằng hệ thống tự động hóa luôn đưa ra quyết định chính xác và khách quan, trong khi con người có thể mắc lỗi hoặc thiên vị. Bias tự động hóa có thể dẫn đến việc bỏ qua các quyết định của con người, ngay cả khi chúng có thể là chính xác hơn. Điều này đặc biệt quan trọng trong các lĩnh vực như y tế, tài chính và an ninh, nơi mà quyết định sai lầm có thể có hậu quả nghiêm trọng. Để tránh bias tự động hóa, cần phải hiểu rõ về các hệ thống tự động hóa và đánh giá chúng một cách khách quan.

Một mô hình dự đoán sai âm tính có thể được định nghĩa là trường hợp mà mô hình dự đoán kết quả âm tính, nhưng thực tế lại cho kết quả dương tính. Điều này có nghĩa là mô hình đã dự đoán sai, dẫn đến kết quả không chính xác. Ví dụ, nếu một người bệnh có bệnh lý nghiêm trọng nhưng mô hình dự đoán cho kết quả âm tính, thì mô hình đã dự đoán sai. Điều này có thể dẫn đến hậu quả nghiêm trọng nếu không được phát hiện và điều trị kịp thời. Vì vậy, việc hiểu và xác định được sai âm tính trong mô hình dự đoán là rất quan trọng để đảm bảo kết quả dự đoán chính xác và đáng tin cậy.

Confirmation bias có thể ảnh hưởng đến chúng ta xã hội bằng nhiều cách khác nhau. Nó có thể ngăn cản chúng ta hợp tác với người khác trong các vấn đề chính trị và xã hội. Điều này xảy ra khi chúng ta chỉ tập trung vào những thông tin ủng hộ quan điểm của mình và bỏ qua những thông tin khác. Kết quả là, chúng ta có thể không thể đạt được sự đồng thuận và hợp tác trong các vấn đề quan trọng. Ngoài ra, confirmation bias còn có thể dẫn đến hiện tượng nhóm tư duy (groupthink), nơi mà mọi người trong nhóm không sẵn sàng thách thức quan điểm của nhau, dẫn đến việc không thể tiến bộ và phát triển.

Các thuật toán thiên vị có thể dẫn đến những kết quả không công bằng và phân biệt đối xử trong quá trình đưa ra quyết định. Điều này xảy ra khi các thuật toán được thiết kế và huấn luyện dựa trên dữ liệu không đầy đủ hoặc không chính xác, dẫn đến việc ưu tiên những nhóm người nhất định hơn những nhóm khác. Kết quả là, những người thuộc nhóm bị phân biệt đối xử có thể bị ảnh hưởng tiêu cực trong việc tiếp cận các dịch vụ, cơ hội và nguồn lực. Vì vậy, việc sử dụng các thuật toán thiên vị trong quyết định có thể dẫn đến những hậu quả nghiêm trọng và không công bằng.

Một mô hình được thiết kế để giảm thiểu tác hại bằng cách cân bằng số lượng sai lầm của từng nhóm được gọi là mô hình quyết định dựa trên "sự cân bằng của sai lầm âm". Điều này có nghĩa là mô hình sẽ cố gắng giảm thiểu số lượng trường hợp sai âm (false negatives) ở từng nhóm, tức là giảm thiểu số trường hợp mà mô hình dự đoán sai khi thực tế là đúng. Ví dụ, nếu mô hình dự đoán sai 10 trường hợp âm ở nhóm A và 20 trường hợp âm ở nhóm B, mô hình sẽ cố gắng giảm thiểu số trường hợp âm ở nhóm B để cân bằng số lượng sai lầm. Điều này giúp giảm thiểu tác hại của mô hình đối với từng nhóm.

Bias chọn mẫu (Selection bias) là một loại thiên vị xảy ra khi dữ liệu đào tạo không đại diện cho dân số. Điều này có nghĩa là dữ liệu được sử dụng để đào tạo mô hình không phản ánh đúng đặc điểm của dân số mà mô hình sẽ được áp dụng. Ví dụ, nếu một công ty đang phát triển một mô hình dự đoán khả năng thành công của các ứng viên, nhưng dữ liệu đào tạo chỉ bao gồm ứng viên từ các trường đại học danh tiếng, thì mô hình sẽ thiên vị về mặt xã hội và không phản ánh được khả năng thành công của ứng viên từ các trường đại học khác. Điều này có thể dẫn đến kết quả không chính xác khi áp dụng mô hình vào dân số thực tế.

Automation bias là hiện tượng người dùng tin tưởng quá mức vào kết quả tự động, dẫn đến bỏ qua hoặc bỏ qua các nguồn dữ liệu khác. Ví dụ về automation bias là việc sử dụng dữ liệu Twitter được thu thập tự động (scraped) thay cho dữ liệu từ khảo sát. Điều này có thể dẫn đến kết quả không chính xác vì dữ liệu tự động có thể bị lỗi hoặc không đầy đủ. Việc sử dụng dữ liệu tự động thay cho dữ liệu từ khảo sát có thể là một ví dụ về automation bias vì nó có thể dẫn đến bỏ qua các nguồn dữ liệu quan trọng và tin tưởng vào kết quả không chính xác.

Kỹ thuật giúp cải thiện tính công bằng của thuật toán là kiểm tra thiên vị và dữ liệu đào tạo đa dạng. Kiểm tra thiên vị giúp xác định xem thuật toán có thiên vị hay không, trong khi dữ liệu đào tạo đa dạng giúp đảm bảo rằng thuật toán được đào tạo trên các mẫu dữ liệu đa dạng và đại diện. Điều này giúp giảm thiểu khả năng thuật toán thiên vị đối với các nhóm dân tộc hoặc giới tính cụ thể. Ví dụ, nếu thuật toán được đào tạo trên dữ liệu về việc vay tiền chỉ bao gồm dữ liệu của người da trắng, thì nó có thể thiên vị đối với người da đen. Tuy nhiên, nếu dữ liệu được mở rộng để bao gồm cả người da đen, thì thuật toán sẽ có khả năng thiên vị thấp hơn. Vì vậy, kiểm tra thiên vị và dữ liệu đào tạo đa dạng là hai kỹ thuật quan trọng giúp cải thiện tính công bằng của thuật toán.

Khi xây dựng mô hình dự đoán có đạo đức, chúng ta cần đảm bảo kết quả thu được đáp ứng các tiêu chí sau. Đầu tiên, mô hình cần phải chính xác và chính xác. Điều này có nghĩa là mô hình dự đoán phải đưa ra kết quả đúng và không có sai sót. Thứ hai, mô hình cần phải công bằng. Điều này có nghĩa là mô hình dự đoán phải đối xử công bằng với tất cả các cá nhân hoặc nhóm, không phân biệt đối xử hoặc thiên vị. Cuối cùng, mô hình cần phải minh bạch. Điều này có nghĩa là mô hình dự đoán phải có thể giải thích được cách nó đưa ra kết quả, giúp người dùng hiểu được quá trình dự đoán và có thể tin tưởng vào kết quả.

Tính tự động hóa là một hiện tượng tâm lý trong đó con người dựa quá mức vào công nghệ và tự động hóa để đưa ra quyết định. Điều này dẫn đến việc bỏ qua khả năng đánh giá và phân tích của con người. Trong nhiều trường hợp, con người có xu hướng tin tưởng vào kết quả của hệ thống tự động hóa hơn là khả năng đánh giá của bản thân. Điều này có thể gây ra những hậu quả nghiêm trọng, đặc biệt là trong các tình huống khẩn cấp hoặc khi quyết định có ảnh hưởng lớn đến kết quả. Tính tự động hóa có thể được giải thích bởi sự phụ thuộc quá mức vào công nghệ, điều này khiến con người trở nên phụ thuộc vào hệ thống tự động hóa và bỏ qua khả năng đánh giá của bản thân.

Khi con người gặp một mảnh thông tin thiếu ngữ cảnh hoặc ý nghĩa, họ thường có xu hướng điền vào những khoảng trống bằng kiến thức hiện có của mình. Điều này được gọi là thiên vị nhận thức. Ví dụ, nếu bạn đọc một thông tin về một loại thực phẩm có thể giúp giảm cân, bạn có thể tự hỏi liệu nó có thực sự hiệu quả không và điền vào những khoảng trống bằng kinh nghiệm hoặc kiến thức của mình. Điều này có thể dẫn đến việc đưa ra kết luận sai lầm hoặc không chính xác. Thiên vị nhận thức này có thể ảnh hưởng đến cách chúng ta xử lý thông tin và đưa ra quyết định.