Where does the data for each worker node get sent to after a collect function is called?
5 phương ánCó giải thích
Các phương án trả lời
Chọn một phương ánLời giảiChọn phương án để mở
Đáp án đúng: "Spark Context". collect là một action trong Spark: nó buộc thực thi chuỗi transformation rồi gom toàn bộ phần tử của RDD từ mọi phân vùng trên các worker node về chương trình driver, nơi SparkContext đang chạy, thành một danh sách trong bộ nhớ; vì thế chỉ nên gọi collect khi kết quả đủ nhỏ. "Other Worker Nodes" sai vì dữ liệu chỉ trao đổi giữa các worker khi có shuffle trong các phép như reduceByKey, còn collect đưa dữ liệu về driver. "Spark Streaming" là thư viện xử lý luồng, không phải đích nhận dữ liệu của collect. "None; Stays in the Same Node" sai vì đó là hành vi của transformation hay persist, còn collect bản chất là chuyển dữ liệu về driver. "Spark SQL" là thư viện xử lý dữ liệu có cấu trúc bằng DataFrame và SQL, cũng không phải nơi nhận dữ liệu.
Cùng phần 8
Xuất hiện trong 1 bộ đề
Đi tiếp từ đây