MLOps는 "Machine Learning Operations"의 약어로, 머신러닝(Machine Learning)과 DevOps, 데이터 엔지니어링(Data Engineering)이 교차하는 지점에 위치한 일련의 관행(practices)을 가리키는 용어이다. 머신러닝 모델을 개발 단계에서 실제 운영(production) 환경으로 안정적이고 효율적으로 배포하고 유지 관리하는 것을 목표로 하는 패러다임으로 정의된다.
MLOps라는 단어는 "머신러닝(machine learning)"과 소프트웨어 분야의 지속적 전달(CI/CD) 관행을 의미하는 "DevOps"의 합성어이다. 머신러닝 모델은 일반적으로 격리된 실험 시스템에서 개발되고 테스트되며, 알고리즘이 실제 서비스에 투입될 준비가 되면 데이터 과학자, DevOps 엔지니어, 머신러닝 엔지니어 간의 협업을 통해 운영 시스템으로 전환된다. MLOps는 이러한 전환 과정과 이후의 지속적 유지 관리를 체계화하는 역할을 한다.
MLOps의 주요 목표로는 배포 및 자동화, 모델과 예측의 재현성(reproducibility), 진단(diagnostics), 거버넌스 및 규제 준수, 확장성(scalability), 협업, 비즈니스 활용, 모니터링 및 관리 등이 꼽힌다. MLOps는 머신러닝 시스템의 전체 수명주기, 즉 데이터 수집, 데이터 처리, 피처 엔지니어링, 데이터 라벨링, 모델 설계, 모델 훈련 및 최적화, 엔드포인트 배포, 엔드포인트 모니터링의 각 단계에 걸쳐 적용된다.
역사적으로 머신러닝 시스템의 운영화에 대한 관심은 2010년대 중반부터 본격적으로 증가하기 시작했다. 2015년에 발표된 논문 "Hidden Technical Debt in Machine Learning Systems"는 머신러닝 시스템을 지속적으로 운영하는 데 따르는 기술적 부채의 문제를 지적하며 이 분야의 중요성을 부각시켰다. 이후 기업들의 머신러닝 도입이 확대되면서 MLOps는 단순한 모범 사례(best practices)의 집합에서 머신러닝 수명주기 관리를 위한 독립적인 접근 방식으로 점차 발전해 왔다.
MLOps는 유사한 개념인 ModelOps와 구별된다. 가트너(Gartner)의 분류에 따르면 MLOps는 ModelOps의 하위 집합으로, MLOps가 머신러닝 모델의 운영화에 초점을 맞추는 반면 ModelOps는 모든 유형의 AI 모델 운영화를 포괄한다. 또한 AIOps는 IT 운영에 AI를 활용하는 개념으로, MLOps와 이름이 유사하지만 서로 다른 의미를 지닌다.
MLOps 시장은 지속적으로 성장하고 있으며, 대표적인 관련 도구 및 플랫폼으로는 MLflow, Kubeflow, Amazon SageMaker, Google Vertex AI, Microsoft Azure Machine Learning 등이 있다. MLOps는 머신러닝 모델을 실제 비즈니스 가치로 전환하고자 하는 기업들에게 중요한 운영 체계로 자리 잡고 있다.
