Databricks Appsエージェントの本番運用
エージェントを作成してDatabricks Appsにデプロイしたら、次の順序で本番運用に移行します。
-
- 1. Databricks Apps エージェントの CI/CD をセットアップする
- Databricks AppsのデプロイをGitHub Actionsから自動化します。ワークロード ID フェデレーション(有効期限の長いシークレットなし)と、エージェント Template に同梱されているスターター ワークフローを使用します。
-
- 2. Databricks Appsエージェントのロードテストを行います。
- エージェントが維持できる最大のQPSを確認してください。Databricks Appsインフラストラクチャのthroughputをモデルのレイテンシーから切り離すため、エージェントのモックLLMビルドに対してランプ・ツー・サチュレーション ロードテストを実行します。
-
- 3. Unity AI GatewayでLLMの使用を統制します。
- Unity AI Gateway経由でLLMコールをルーティングします。権限を集中化し、アプリごとのコストを割り当て、モデルをスワップし、エージェントコードを変更せずにトラフィックを検査またはリプレイできます。
エージェント固有ではない汎用的な Databricks Apps CI/CD については、GitHub Actions を使用した Databricks Apps の CI/CDを参照してください。