💸 Tự dựng pipeline MLOps end-to-end trên hạ tầng rẻ

By Ngọc Vương Trương · Generated by Everwise

Khóa học nhanh dành cho người mới, tập trung dựng một pipeline MLOps end-to-end (train, deploy, monitor) trên hạ tầng rẻ nhất: bộ công cụ mã nguồn mở tự host làm trục chính, VPS và spot instance thay cho hạ tầng đắt tiền, serving và monitoring tối giản chi phí.

Level
Beginner
Language
Vietnamese
Focus
oss tooling stack infra cheap vps spot model serving cheap
Practice
Capstone project
Time
~4.8h
Voice
Một kỹ sư MLOps senior hướng dẫn thực chiến, chia sẻ kinh nghiệm và cạm bẫy

Bạn sẽ đạt được gì

Sau khóa học, bạn sẽ tự tay dựng và vận hành được một pipeline MLOps end-to-end trên hạ tầng rẻ, kèm checklist kiểm soát chi phí để dùng lại về sau. Cụ thể, bạn sẽ có khả năng:

  • Giải thích MLOps là gì và đọc được bản đồ chi phí hạ tầng, biết khoản nào đang ngốn tiền của bạn.
  • Tự host một bộ công cụ mã nguồn mở (MLflow, DVC, MinIO) trên một VPS rẻ để thay cho các dịch vụ trả tiền.
  • Chọn hạ tầng phù hợp giữa VPS, spot instance và serverless dựa trên nhu cầu thật, không dựa trên cảm tính.
  • Train model, đăng ký model vào registry và deploy lên hạ tầng rẻ.
  • Phục vụ model tiết kiệm: batch thay vì real-time khi có thể, container nhẹ, autoscale đúng chỗ.
  • Dựng monitoring và logging với chi phí thấp, đủ để phát hiện sự cố mà không đốt tiền.
  • Nhận diện các cạm bẫy chi phí phổ biến và áp dụng checklist vận hành trước khi hóa đơn tăng.

Đây là khóa học thực chiến. Cuối khóa, bạn có một pipeline chạy được và một báo cáo chi phí cho chính pipeline đó, không chỉ là ghi chú lý thuyết.

Khóa học dành cho ai

Khóa học ở mức beginner, không yêu cầu kiến thức MLOps trước đó. Bạn chưa từng làm MLOps cũng bắt đầu được ngay.

Bạn sẽ thấy khóa học phù hợp nếu:

  • Bạn đã biết chạy một script Python train model đơn giản và muốn đưa nó lên chạy thật.
  • Bạn muốn hiểu MLOps bằng cách tự dựng, không phải bằng cách đọc slide.
  • Bạn quan tâm đến chi phí hạ tầng và muốn làm MLOps mà không cần ngân sách lớn.

Không có yêu cầu tiên quyết nào được ghi nhận. Nếu bạn từng dùng dòng lệnh Linux cơ bản thì sẽ thuận hơn, nhưng bài học được viết để bạn theo kịp từ đầu.

Lộ trình khóa học

Khóa học gồm 3 module, 12 bài, khoảng 285 phút.

Module 1: Nền tảng MLOps và bộ công cụ OSS tự host

  • 1.1 MLOps là gì và bản đồ chi phí hạ tầng: bạn nắm bức tranh tổng thể và biết tiền hạ tầng đi đâu.
  • 1.2 Bộ công cụ OSS thay thế dịch vụ trả tiền: MLflow, DVC, MinIO và vai trò của từng công cụ.
  • 1.3 Thực hành dựng stack OSS tự host trên một VPS rẻ: bạn có môi trường chạy được bằng tay mình.
  • 1.4 Checkpoint: củng cố nền tảng và stack OSS trước khi sang hạ tầng.

Module 2: Hạ tầng rẻ và phục vụ model tiết kiệm

  • 2.1 Chọn hạ tầng rẻ: so sánh VPS, spot instance và serverless theo tình huống thật.
  • 2.2 Phục vụ model tiết kiệm: chiến lược batch, container nhẹ và autoscale để không trả tiền cho thời gian nhàn rỗi.
  • 2.3 Capstone phần 1: train, đăng ký model và deploy lên hạ tầng rẻ.
  • 2.4 Checkpoint: kiểm tra phần hạ tầng và serving.

Module 3: Monitoring chi phí thấp và hoàn thiện capstone

  • 3.1 Monitoring và logging chi phí thấp: theo dõi pipeline mà không cần bộ công cụ đắt tiền.
  • 3.2 Cạm bẫy chi phí và checklist vận hành: những lỗi khiến hóa đơn tăng và cách phòng.
  • 3.3 Capstone hoàn chỉnh: pipeline end-to-end và báo cáo chi phí.
  • 3.4 Checkpoint: tổng kết monitoring và capstone.

Khóa học vận hành thế nào

Mỗi bài đan xen lý thuyết khá kỹ với thực hành ngay trên chủ đề đó. Bạn sẽ gặp các dạng nội dung sau:

  • Lý thuyết: giải thích khái niệm, kèm sơ đồ, bảng và minh họa trực quan để bạn hình dung hệ thống.
  • Thực hành: thao tác trực tiếp, dựng stack, chạy lệnh, cấu hình.
  • Capstone: các bài 2.3 và 3.3 là nơi bạn ghép mọi thứ thành một pipeline hoàn chỉnh.
  • Checkpoint quiz: bài 1.4, 2.4 và 3.4 kiểm tra bạn đã nắm phần vừa học trước khi đi tiếp.

Tổng thời lượng ước tính khoảng 285 phút cho 12 bài, tức trung bình chưa tới 25 phút mỗi bài. Bạn có thể chia thành vài buổi, miễn là làm bài thực hành đầy đủ.

Cách học khuyến nghị: đi tuần tự từ 1.1 đến 3.4. Các bài được thiết kế nối tiếp nhau, bài sau dùng lại kết quả bài trước. Nếu bạn đã quen phần nào, có thể đọc lướt lý thuyết, nhưng đừng bỏ qua bài thực hành và checkpoint, vì đó là chỗ kiến thức được kiểm chứng.

Dự án xuyên suốt khóa học

Dự án của khóa học là "Pipeline MLOps end-to-end trên hạ tầng rẻ". Đây là một sợi chỉ liên tục chạy qua toàn khóa, không phải các bài tập rời rạc.

Bạn sẽ xây dựng một pipeline thật, đi qua đủ ba chặng: train, deploy, monitor. Cụ thể, bạn sẽ:

  • Dựng stack OSS tự host (MLflow, DVC, MinIO) làm trục chính, chạy trên một VPS rẻ.
  • Train model, đăng ký model vào registry và deploy lên hạ tầng rẻ đã chọn.
  • Phục vụ model theo cách tiết kiệm chi phí.
  • Dựng monitoring, logging và viết báo cáo chi phí cho chính pipeline của bạn.
  • Đối chiếu với checklist vận hành để bắt các cạm bẫy chi phí trước khi chúng thành hóa đơn thật.

Các bài nuôi dự án theo thứ tự: 1.3 dựng nền stack, 2.3 hoàn thành phần train và deploy, 3.3 ghép tất cả lại thành pipeline hoàn chỉnh kèm báo cáo chi phí. Các bài lý thuyết còn lại cung cấp kiến thức và quyết định thiết kế cho từng mảnh đó.

Kết thúc khóa, bạn không chỉ hiểu MLOps. Bạn có một pipeline chạy được, một báo cáo chi phí, và một checklist để tự vận hành về sau.