If we continue to add GPUs or other computational resources, the time it takes to train a model will always continue to decrease.
2 phương ánCó giải thích
Các phương án trả lời
Chọn một phương ánLời giảiChọn phương án để mở
Đáp án đúng: "False". Thêm GPU hay tài nguyên tính toán chỉ rút ngắn được phần công việc có thể song song hóa. Theo định luật Amdahl, phần việc buộc phải chạy tuần tự, như nạp và tiền xử lý dữ liệu, đồng bộ trọng số giữa các thiết bị hay ghi checkpoint, đặt ra giới hạn dưới cho thời gian huấn luyện. Thêm nữa, càng nhiều GPU thì chi phí giao tiếp giữa chúng càng lớn, batch quá to có thể làm mô hình hội tụ kém đi, và nút thắt có thể chuyển sang băng thông đọc dữ liệu hoặc mạng. Vì vậy đến một mức nào đó thời gian huấn luyện gần như chững lại, thậm chí tăng lên. Phát biểu "True" sai ở chữ always: lợi ích của việc thêm tài nguyên giảm dần chứ không kéo dài mãi.
Cùng phần 5
In the script example-spark-submit.sh, what does the #!/bin/bash line indicate?Có lời giảiCâu hỏiWhen you worked on model deployment case study, which modification to the ALS algorithm had the largest effect on model performance?Có lời giảiCâu hỏiDocker containers run a private file system that is isolated from the host and other containers. What is the suggested way to access notebooks and scripts from within the container?Có lời giảiCâu hỏiCả 25 câu của chủ đề25 câu