メインコンテンツまでスキップ

Databricks Appsエージェントを本番環境に導入する

エージェントを作成してDatabricks Appsにデプロイしたら、次の順序で本番運用に進んでください。

    • 1. Databricks AppsエージェントのCI/CDを設定します。
    • GitHub ActionsからDatabricks Appsデプロイを自動化します。 ワークロードIDフェデレーション(長期保存型のシークレットは使用しない)と、エージェントテンプレートに同梱されているスターターワークフローを使用します。
    • 2. Databricks Appsエージェントの負荷テストを実施する
    • エージェントが処理できる最大QPS(1秒あたりのクエリ数)を調べてください。エージェントの模擬LLMビルドに対して、負荷を徐々に増加させて飽和状態にするテストを実行し、Databricks Appsインフラストラクチャのスループットとモデルの遅延を切り分けます。
    • 3. Unity AI Gateway を使用して LLM の使用を管理する
    • LLM呼び出しはUnity AI Gateway経由でルーティングしてください。権限を一元化し、アプリごとのコストを属性付け、スワップモデルを作成し、エージェントコードを変更することなくトラフィックを検査または再生します。

エージェント固有ではない一般的なDatabricks Apps CI/CDについては、 GitHub Actionsを使用したDatabricks AppsのCI/CDを参照してください。