Databricks Appsエージェントを本番環境に導入する
エージェントを作成してDatabricks Appsにデプロイしたら、次の順序で本番運用に進んでください。
-
- 1. Databricks AppsエージェントのCI/CDを設定します。
- GitHub ActionsからDatabricks Appsデプロイを自動化します。 ワークロードIDフェデレーション(長期保存型のシークレットは使用しない)と、エージェントテンプレートに同梱されているスターターワークフローを使用します。
-
- 2. Databricks Appsエージェントの負荷テストを実施する
- エージェントが処理できる最大QPS(1秒あたりのクエリ数)を調べてください。エージェントの模擬LLMビルドに対して、負荷を徐々に増加させて飽和状態にするテストを実行し、Databricks Appsインフラストラクチャのスループットとモデルの遅延を切り分けます。
-
- 3. Unity AI Gateway を使用して LLM の使用を管理する
- LLM呼び出しはUnity AI Gateway経由でルーティングしてください。権限を一元化し、アプリごとのコストを属性付け、スワップモデルを作成し、エージェントコードを変更することなくトラフィックを検査または再生します。
エージェント固有ではない一般的なDatabricks Apps CI/CDについては、 GitHub Actionsを使用したDatabricks AppsのCI/CDを参照してください。