본문 바로가기

MLOps

MLOps ?


MLOps 란?

  • ML을 효율적으로 개발하고 서비스화하고 운영할 때 필요한 모든 것을 다루는 분야
  • ML 시스템 개발(Dev)과 ML 시스템 운영(Ops)을 통합하는 것을 목표로 하는 ML 엔지니어링
  • 일반 SW DevOps와 차이점은 뭘까 ?? -> Data의 유무. Data의 중요성
  • 재사용, 재개발 용이하게

MLOps Component

  • 인프라
  • Seving
  • Experiment, Model Management
  • Feature store
  • Data Validation
  • Continuous Training
  • Monitoring
  • AutoML

MLOps 구성요소

  • 데이터
    • 데이터 수집 파이프라인 : Airflow..
    • 데이터 저장 : Hadoop, SQL..
    • 데이터 관리 : Feast..
  • 모델
    • 모델 개발 : Docker, Kubeflow, Optuna, Ray..
    • 모델 버전 관리 : Git, MLflow..
    • 모델 학습 스케줄링 관리 : Kubernetes..
  • 서빙
    • 모델 패키징 : Docker, FastAPI, Flask, BentoML..
    • 서버 모니터링 : Prometheus, Thanos..
    • 파이프라인 매니징 : Kubeflow, Airflow..

MLOps의 대부분을 지원하는 Full package

  • Aws SageMaker
  • GCP Vertex AI
  • Azure Machine Learning