メインコンテンツまでスキップ

Databricks Appsエージェントの本番運用

エージェントを作成してDatabricks Appsにデプロイしたら、次の順序で本番運用に移行します。

    • 2. Databricks Appsエージェントのロードテストを行います。
    • エージェントが維持できる最大のQPSを確認してください。Databricks Appsインフラストラクチャのthroughputをモデルのレイテンシーから切り離すため、エージェントのモックLLMビルドに対してランプ・ツー・サチュレーション ロードテストを実行します。
    • 3. Unity GatewayによるLLM使用の管理
    • LLM 呼び出しを Unity Gateway 経由でルーティングします。エージェントコードを変更することなく、権限の集約、アプリごとのコスト属性の割り当て、モデルのスワップ、トラフィックの検査やリプレイを行います。

エージェント固有ではない汎用的な Databricks Apps CI/CD については、GitHub Actions を使用した Databricks Apps の CI/CDを参照してください。