BentoML Custom model, Pickleable Model

1 minute read

Pickle?

피클 가지고 놀기 : 네이버 블로그

python 자체에서도 흔하게 쓰이는지는 모르겠으나, ML/DL을 하다보면 쉽게 접할 수 있는 압축 확장자이다.

ML을 쉽게 접할 수 있는 Sklearn에서도 지원하고 DL을 쉽게 접할 수 있는 Tensorflow에서도 쉽게 접할 수 있다.

이런 pickle파일을 BentoML🍱에서도 지원하고 있기 때문에 우리는 pickle로 저장할 수 있는 모델이라면 쉽게 묶어서 구현할 수 있을 것이다.

다시 말해서, Tensorflow, sklearn, xgboost 다 pickle로 저장해서 pickle파일을 API로 던져서 컨테이너화(Containerize)된 Docker Image를 얻도록 구현할 생각이다.

BentoML, Custom Model

🔗https://docs.bentoml.org/en/latest/frameworks/picklable.html

예제는 이미 공식 문서에 잘 서술되어 있다.

전략 설정

📡어떻게 pickle파일을 api로 전송해서 BentoML로 할 것인가?

loaded_model = bentoml.picklable_model.load_model("my_python_model:latest")

[진행중]

Kyungseon Park

저는 여의도 소재의 AI핀테크 스타트업 Aizen에서 ML Engineer로 근무하고 있고, 최근에는 MLOps에 관심을 갖고 공부하고있습니다. 만약 제 정보가 더 필요하다면 프로필 사진을 클릭하세요.