メインコンテンツまでスキップ

Databricks Appsエージェントの本番運用

エージェントを作成してDatabricks Appsにデプロイしたら、次の順序で本番運用に移行します。

    • 2. Databricks Appsエージェントのロードテストを行います。
    • エージェントが維持できる最大のQPSを確認してください。Databricks Appsインフラストラクチャのthroughputをモデルのレイテンシーから切り離すため、エージェントのモックLLMビルドに対してランプ・ツー・サチュレーション ロードテストを実行します。
    • 3. Unity AI GatewayでLLMの使用を統制します。
    • Unity AI Gateway経由でLLMコールをルーティングします。権限を集中化し、アプリごとのコストを割り当て、モデルをスワップし、エージェントコードを変更せずにトラフィックを検査またはリプレイできます。

エージェント固有ではない汎用的な Databricks Apps CI/CD については、GitHub Actions を使用した Databricks Apps の CI/CDを参照してください。