MLOps 의 분야중 하나인 Model Serving 에 대해 개략적인 내용을 정리해보려합니다. BentoML이라는 프레임워크를 통해 Model Serving 이라는 분야에서 어떤 것들을 해야하는지 설명합니다. 이 세션은 아래 두가지 대주제를 다룹니다. Model Serving Framework: BentoML, torchserve, tenrsorflowserving, triton-inference-server Model Serving Platform: kserve, yatai, sagemaker(deploy part) 주로 BentoML을 통해 예시를 보이고 다른 framework들을 비교합니다.