Databricks Apps エージェントを実運用化する

エージェントを作成し、Databricks Appsにデプロイしたら、次の順序で本番運用に移行します。

• • 1. Databricks Apps エージェントの CI/CD を設定する
  • GitHub Actions から Databricks Apps のデプロイを自動化します。ワークロードIDフェデレーション (有効期間の長いシークレットなし) と、エージェントテンプレートで提供されるスターター ワークフローを使用します。
• • 2. Databricks Appsエージェントの負荷テストを行う
  • エージェントが維持できる最大 QPS を確認します。エージェントのモックLLMビルドに対してランプから飽和までの負荷テストを実行し、Databricks Apps のインフラストラクチャのスループットをモデルのレイテンシーから切り分けます。
• • 3. Unity AI Gateway で LLM の使用状況を管理します
  • Unity AI Gateway を介して LLM コールをルーティングします。権限の一元化、アプリごとのコスト配分、モデルのスワップ、エージェントコードを変更せずにトラフィックの検査またはリプレイを行います。

エージェント固有ではない一般的なDatabricks Apps CI/CDについては、GitHub Actions を使用した Databricks Apps の CI/CDを参照してください。