AID301c - Phần 2: Phân tích dữ liệu và kiểm định giả thuyết

Đáp án đúng: "United Kingdom". Khi cộng doanh thu (số lượng nhân đơn giá) của mọi giao dịch theo từng quốc gia trong bộ dữ liệu bán lẻ trực tuyến của bài thực hành, United Kingdom đứng đầu với khoảng cách rất lớn, vì đây là thị trường gốc của doanh nghiệp và phần lớn đơn hàng đến từ khách trong nước. "Singapore" chỉ có một lượng giao dịch nhỏ nên tổng doanh thu thấp. "USA" xuất hiện ít trong dữ liệu, tổng doanh thu không đáng kể so với thị trường chính. "EIRE" (Ireland) và "Germany" là các thị trường nước ngoài có doanh thu cao nhất sau thị trường chính, nhưng vẫn kém xa United Kingdom khi tổng hợp bằng groupby theo quốc gia rồi lấy tổng.

Đáp án đúng: "Dashboards are quick way to create portable simple plots". Dashboard (bảng điều khiển trực quan) là sản phẩm tổng hợp nhiều biểu đồ có tương tác, cần công sức thiết kế và một máy chủ hoặc nền tảng để chạy, nên không phải cách nhanh để tạo biểu đồ đơn giản mang đi dùng ở nơi khác; việc đó hợp với một hình tĩnh xuất từ Matplotlib hơn. "Dashboards are an easy way to share summaries and findings" đúng vì dashboard giúp người liên quan xem kết quả tổng hợp ở một chỗ. "Dashboards have interactive functionality that helps create a rich experience" đúng vì người dùng có thể lọc, phóng to, chọn chiều dữ liệu. "Dashboards are generally used after serveral iterations of the AI workflow" đúng vì thường chỉ dựng dashboard khi phân tích đã ổn định qua vài vòng lặp. "Dashboards can be used to tell the story of investigative visualizations" đúng vì chúng sắp xếp các phát hiện thành một mạch kể chuyện bằng dữ liệu.

Đáp án đúng: "Company size". Câu hỏi phủ định, nên cần chọn thứ không phải yếu tố quyết định thời gian làm sạch dữ liệu (data cleaning). Quy mô công ty tự nó không cho biết dữ liệu bẩn tới mức nào hay cần xử lý kỹ ra sao: một công ty nhỏ vẫn có thể có dữ liệu rất lộn xộn, và ngược lại. "Data quality" là yếu tố rõ nhất, vì dữ liệu càng nhiều giá trị thiếu, bản ghi trùng lặp, sai định dạng hay ngoại lai thì càng tốn công xử lý. "Team experience" có ảnh hưởng thật, vì nhóm từng làm nhiều sẽ nhanh nhận ra lỗi điển hình và có sẵn quy trình, công cụ để tự động hóa. "Project requirements" cũng ảnh hưởng, vì yêu cầu về độ chính xác, phạm vi dữ liệu và thời hạn quyết định cần làm sạch sâu đến đâu. Đây đều là phát biểu đúng nên không được chọn.

Đáp án đúng: "Null Hypothesis Significance Testing (NHST)". NHST (kiểm định ý nghĩa thống kê với giả thuyết không) là quy trình ra quyết định: giả định giả thuyết không đúng rồi tính p-value để bác bỏ hay không bác bỏ nó, chứ không phải phương pháp tính ước lượng tham số. Các phương án còn trong danh sách đều là cách tính ước lượng nên không được chọn. "Maximum Likelihood Estimation (MLE)" tìm giá trị tham số làm hàm hợp lý (likelihood) của dữ liệu đạt cực đại. "Markov Chain Monte Carlo (MCMC)" lấy mẫu từ phân phối hậu nghiệm trong suy luận Bayes, từ đó ước lượng tham số và khoảng tin cậy. "Expectation Maximization (EM)" là thuật toán lặp tìm ước lượng hợp lý cực đại khi có biến ẩn hoặc dữ liệu thiếu, ví dụ ước lượng tham số mô hình hỗn hợp Gauss. "Simulation via Permutations" dùng hoán vị và lấy mẫu lại để mô phỏng phân phối của một thống kê, từ đó xấp xỉ giá trị và độ bất định của nó mà không cần công thức giải tích.

Đáp án đúng: "Use imputation techniques". Imputation (điền khuyết) là thay giá trị thiếu bằng giá trị ước lượng hợp lý như trung bình, trung vị, giá trị từ mô hình KNN hay hồi quy, giúp giữ lại các dòng dữ liệu và không làm hỏng phân phối của biến số, ví dụ SimpleImputer trong scikit-learn. Phương án "Convert missing values to a flag" là kỹ thuật bổ trợ hữu ích, thêm một cột chỉ báo dòng nào từng thiếu, nhưng tự nó không cho cột số một giá trị dùng được nên không phải cách xử lý được khuyến nghị chính. Phương án "Delete the entire dataset" vô lý vì vứt bỏ toàn bộ thông tin chỉ vì một phần bị thiếu; ngay cả xoá dòng cũng chỉ phù hợp khi tỷ lệ thiếu rất nhỏ và ngẫu nhiên. Phương án "Replace with a random value" đưa nhiễu vào dữ liệu, làm sai lệch quan hệ giữa các biến và khiến kết quả không tái lập được.

Đáp án đúng: "A 2-sample unequal variances t-test". Giả thuyết so sánh tuổi trung bình của hai nhóm người dùng độc lập, nên cần kiểm định t hai mẫu; vì không có lý do để giả định hai nhóm có cùng phương sai, kiểm định Welch (two-sample t-test không giả định phương sai bằng nhau) là lựa chọn an toàn và phù hợp nhất. "A 1-sample t-test" chỉ so trung bình một nhóm với một giá trị cố định, không so hai nhóm. "A 2-sample t-test assuming equal variance" cũng so hai nhóm nhưng thêm giả định phương sai bằng nhau, giả định không được kiểm chứng ở đây. "Z-Test with continuity correction" dùng cho tỷ lệ hoặc dữ liệu đếm xấp xỉ chuẩn, không phải trung bình của biến liên tục với mẫu nhỏ. "Binomial Test" dành cho biến nhị phân (thành công hay thất bại), không áp dụng cho tuổi.

Đáp án đúng: "To create summaries and visualizations of the data". Exploratory Data Analysis (phân tích khám phá dữ liệu) là bước dùng thống kê mô tả và biểu đồ để hiểu phân phối, mối quan hệ giữa các biến, giá trị ngoại lai và vấn đề chất lượng dữ liệu, từ đó định hướng giả thuyết và mô hình. "To clean the data" là việc làm sạch dữ liệu; EDA có thể phát hiện chỗ cần làm sạch, nhưng mục đích của nó là hiểu dữ liệu. "To build predictive models" thuộc bước mô hình hoá diễn ra sau EDA. "To gather raw data" là bước thu thập dữ liệu (data ingestion), phải có dữ liệu rồi mới khám phá được.

Đáp án đúng: "Reproducibility and communication". Trong doanh nghiệp, biểu đồ là công cụ truyền đạt phát hiện cho người ra quyết định và phải tạo lại được: mã vẽ được lưu thành script hay hàm, chạy lại trên dữ liệu mới cho cùng kết quả, để đồng nghiệp kiểm chứng và cập nhật báo cáo định kỳ. "Speed of execution" chỉ là yếu tố phụ; biểu đồ vẽ nhanh mà không tái tạo được hay khó hiểu thì vẫn không có giá trị. "Complexity of models" thuộc khâu mô hình hoá, không phải tiêu chí của trực quan hoá, và biểu đồ tốt thường càng đơn giản càng dễ đọc. "Use of advanced algorithms" cũng không phải trọng tâm: trực quan hoá trong khám phá dữ liệu chủ yếu dùng biểu đồ cơ bản như histogram, scatter plot, boxplot, miễn là chúng kể rõ câu chuyện của dữ liệu.

Đáp án đúng: "Kullback-Leibler divergence". KL divergence (độ phân kỳ Kullback-Leibler) đo mức khác nhau giữa hai phân phối xác suất, bằng 0 khi hai phân phối trùng nhau và càng lớn khi chúng càng lệch; trong vận hành mô hình nó thường được dùng để phát hiện trôi dữ liệu (data drift) giữa dữ liệu huấn luyện và dữ liệu mới. "Linear regression" mô hình hoá quan hệ tuyến tính giữa biến đầu vào và biến mục tiêu, không phải thước đo so sánh phân phối. "Decision trees" là mô hình dự đoán chia dữ liệu theo các luật rẽ nhánh. "Neural networks" là họ mô hình học hàm phức tạp; chúng có thể học phân phối nhưng bản thân không phải phương pháp so sánh hai phân phối.

Đáp án đúng: "Predictive linear or logistic regression". EDA (phân tích khám phá dữ liệu) nhằm hiểu dữ liệu và gắn nó với câu hỏi kinh doanh, còn xây dựng mô hình dự đoán như hồi quy tuyến tính hay logistic thuộc bước mô hình hoá diễn ra sau, nên đây là thứ không thuộc EDA. Những việc sau đều là phần bình thường của EDA nên không được chọn: "Visual summaries of the data" như histogram, boxplot, scatter plot là công cụ chính để khám phá; "Connecting the data to the business opportunity" giúp kiểm tra dữ liệu có thực sự trả lời được bài toán kinh doanh hay không; "Communication to stakeholders" là bước trình bày phát hiện ban đầu cho người liên quan để thống nhất hướng đi trước khi mô hình hoá.

Đáp án đúng: "probability = 1 - stats.norm.cdf(cdf_val, loc=loc_val, scale=scale_val)". Hàm phân phối tích luỹ (CDF) stats.norm.cdf(x, loc, scale) trả về P(X ≤ x) với X theo phân phối chuẩn có trung bình loc và độ lệch chuẩn scale, nên xác suất phần đuôi P(X ≥ 80) bằng 1 trừ CDF tại 80 (với biến liên tục, P(X = 80) bằng 0 nên ≥ và > như nhau). Với trung bình 50 và độ lệch chuẩn 20, điểm 80 cách trung bình 1,5 độ lệch chuẩn, cho kết quả khoảng 0,067. Dòng này nằm trong thân hàm, thụt lề cùng cấp với return probability. "probability = stats.norm.cdf(cdf_val, loc=loc_val, scale=scale_val)" thiếu phép lấy phần bù nên trả về P(X ≤ 80), khoảng 0,933, tức xác suất điểm dưới 80. "probability = 1 - stats.cdf(cdf_val, loc=loc_val, scale=scale_val)" gọi cdf thẳng trên module scipy.stats, nơi không có hàm cdf chung, nên báo AttributeError; cdf là phương thức của từng phân phối như stats.norm. "probability = 1 - stats.norm(cdf_val, loc=loc_val, scale=scale_val)" gọi stats.norm(...) để tạo đối tượng phân phối cố định tham số chứ không tính xác suất, lại truyền loc hai lần (theo vị trí và theo từ khoá) nên báo TypeError, và kể cả tạo được thì cũng không thể lấy 1 trừ một đối tượng phân phối.

Đáp án đúng: "90%". Làm sạch dữ liệu gồm xử lý giá trị thiếu, sửa định dạng, loại trùng lặp, chuẩn hoá đơn vị và kiểm tra giá trị bất thường, và với dữ liệu thực tế lộn xộn từ nhiều nguồn, công việc này có thể chiếm tới 90% thời gian của nhà khoa học dữ liệu; câu hỏi dùng chữ can be nên hỏi mức có thể đạt tới chứ không hỏi mức trung bình. Phương án "10%" quá thấp, chỉ đúng khi dữ liệu đã được chuẩn bị sẵn rất sạch, điều hiếm gặp. Phương án "30%" cũng đánh giá thấp khối lượng chuẩn bị dữ liệu trong các dự án thực. Phương án "60%" là con số gần với mức thường gặp trong các khảo sát về thời gian làm sạch và sắp xếp dữ liệu, nhưng nó phản ánh mức điển hình, còn câu hỏi hỏi mức có thể chiếm, tức giới hạn trên mà làm sạch dữ liệu có thể đạt.

Đáp án đúng: "To provide a functional interface for simple interactive use". matplotlib.pyplot là giao diện kiểu hàm, tự giữ trạng thái của hình và trục hiện tại, cho phép vẽ nhanh bằng các lệnh như plt.plot, plt.xlabel, plt.show trong notebook hay phiên tương tác, theo phong cách của MATLAB; với hình phức tạp thì nên dùng giao diện hướng đối tượng qua Figure và Axes. "To create complex web applications" không phải vai trò của pyplot; ứng dụng web cần framework như Flask hay Dash, pyplot chỉ tạo hình. "To manage data storage" thuộc việc của cơ sở dữ liệu, tệp hay pandas, không liên quan tới vẽ. "To perform statistical analysis" là việc của các thư viện như scipy.stats hay statsmodels; pyplot chỉ hiển thị kết quả chứ không tự tính toán thống kê.

Đáp án đúng: "That the probability statement applies to one observation at a time in a data set". Đây là câu phủ định. Khi đưa ra phát biểu xác suất về một mẫu, ta dựa trên khung suy luận thống kê: mẫu lấy từ một tổng thể, tổng thể theo một phân phối giả định, các quan sát độc lập và cùng phân phối, còn dữ liệu được mô hình hoá bằng biến ngẫu nhiên; phát biểu như khoảng tin cậy hay giá trị p nói về cả mẫu hoặc tham số của tổng thể, nên việc áp dụng cho từng quan sát một không phải một giả định. "That there is an underlying population that your sample comes from" là giả định thật nên không chọn, vì suy luận từ mẫu chỉ có nghĩa khi có tổng thể để khái quát. "That the population follows an assumed probability distribution" là giả định thật vì cần mô hình phân phối, như phân phối chuẩn, mới tính được xác suất. "That the observations in your sample are independent and identically distributed" là giả định thật (i.i.d.), cho phép nhân xác suất các quan sát và áp dụng định lý giới hạn trung tâm. "That random variables represent the possible values that the data can take" là giả định thật vì dữ liệu được xem là hiện thực của biến ngẫu nhiên.

Đáp án đúng: "Generating static images only". Plotly là thư viện trực quan hoá tạo biểu đồ tương tác chạy trên trình duyệt: người dùng phóng to, rê chuột xem giá trị, bật tắt chuỗi dữ liệu; nó có thể xuất ảnh tĩnh khi cần, nhưng chỉ tạo ảnh tĩnh là phát biểu sai về Plotly nên đây là đáp án của câu hỏi phủ định. Các phát biểu khác đều đúng nên không được chọn. "Creating interactive plots" là đặc trưng cốt lõi của Plotly, khác với biểu đồ tĩnh mặc định của matplotlib. "Accessing from a Python notebook" đúng vì Plotly hiển thị trực tiếp trong Jupyter notebook qua thư viện Python plotly. "Offering unique chart types like contour plots" đúng vì Plotly có sẵn nhiều loại biểu đồ như contour (đường đồng mức), bản đồ nhiệt, biểu đồ ba chiều và bản đồ địa lý.