AID301c - Phần 5: Triển khai mô hình trong doanh nghiệp

Một mô hình chưa tạo ra giá trị nào cho tới khi hệ thống khác gọi được nó. Triển khai biến tệp mô hình đã huấn luyện thành dịch vụ dự đoán: đặt sau một giao diện lập trình nhận yêu cầu và trả kết quả, đóng gói cùng đúng phiên bản thư viện trong container Docker để chạy giống nhau ở mọi máy. Khi dữ liệu vượt sức một máy, Apache Spark chia việc xử lý và huấn luyện ra nhiều nút, với khung dữ liệu phân tán và thư viện học máy riêng, đổi lại là phải tính tới phân vùng dữ liệu. Một lựa chọn khác là dự đoán theo lô chạy định kỳ hay tức thời theo từng yêu cầu, hai cách đòi hạ tầng và độ trễ khác hẳn nhau. Dịch vụ phải ghi lại đầu vào và đầu ra làm nguyên liệu cho việc giám sát. Người học đưa được một mô hình thành dịch vụ chạy trong container và nhận ra khi nào bài toán cần xử lý phân tán.