BentoML

構造

最もシンプルなBentoMLモデルパッケージの場合、以下のような構造を持ちます。

simple_model.zip

├── bentofile.yaml
├── requirements.txt
├── packages.txt
└── service.py

環境

BentoMLデプロイ環境では、buildpack-deps:jammy（Ubuntu 22.04）ベースでPython 3.10を使用します。展開されたモデルは/user/modelに配置されます。

Aptitude

Linuxパッケージマネージャであるapt-getを使用してパッケージをインストールできます。インストールするパッケージは、packages.txtに1行ずつ記述することができます。

packages.txt

ffmpeg
libopenal1

packages.txtに記載されているパッケージは、次のコマンドを使用してシステムにインストールされます。

xargs sudo apt-get --no-install-recommends -y install < packages.txt

Virtualenv

環境準備スクリプトは、requirements.txtに記述されたpipパッケージのみをインストールします。requirements.txtには、bentomlが含まれている必要があります。

pip install --no-cache-dir -r requirements.txt

現在の環境にインストールされているすべてのパッケージを一覧表示するには、次のコマンドを使用します。

pip freeze > requirements.txt

BentoML

BentoMLは実行コンテナで次のコマンドを使用して実行されます。ローカル環境では、同じコマンドを使用して実行されるかどうかを確認できます。

bentoml serve /user_model --host 0.0.0.0 --p 8080

BentoMLベースのモデルの作成については、BentoMLドキュメントを参照してください。