Produza seu agente de Databricks Apps
Depois de criar um agente e implantá-lo nos Databricks Apps, leve-o para produção nesta ordem:
-
- 1. Configure o CI/CD para seu agente do Databricks Apps
- Automatize as implantações do Databricks Apps a partir do GitHub Actions. Usa federação de identidade de carga de trabalho (sem segredos de longa duração) e um fluxo de trabalho inicial fornecido nos padrões de agente.
-
- 2. Teste de carga do seu agente Databricks Apps
- Encontre o QPS máximo que o agente pode sustentar. Execute um teste de carga de rampa até a saturação contra uma compilação de LLM simulado do agente para isolar o throughput da infraestrutura de Databricks Apps da latência do modelo.
-
- 3. Governe o uso de LLM com o Unity AI Gateway
- Direcione as chamadas LLM através do Unity AI Gateway. Centralize permissões, atribua custos por aplicativo, faça swap de modelos e inspecione ou reproduza o tráfego sem modificar o código do agente.
Para CI/CD genérico do Databricks Apps que não seja específico de agente, consulte CI/CD para Databricks Apps com GitHub Actions.