Mettez en production votre agent Databricks Apps
Une fois que vous avez créé un agent et l'avez déployé sur Databricks Apps, mettez-le en production dans cet ordre :
-
- 1. Configurez le CI/CD pour votre agent Databricks Apps
- Automatisez les déploiements Databricks Apps à partir de GitHub Actions. Utilise la fédération d'identités de charge de travail (sans secrets de longue durée) et un workflow de démarrage fourni dans les modèles d'agent.
-
- 2. Testez le chargement de votre agent Databricks Apps
- Trouvez le QPS maximal que votre agent peut supporter. Exécutez un test de charge de rampe à saturation par rapport à une build LLM simulée de votre agent afin d'isoler le throughput de l'infrastructure Databricks Apps de la latence du modèle.
-
- 3. Gouverner l'utilisation des LLM avec Unity AI Gateway
- Acheminer les appels LLM par le biais d'Unity AI Gateway. Centralisez les autorisations, attribuez les coûts par application, échangez les modèles et inspectez ou rejouez le trafic sans modifier le code de l'agent.
Pour les solutions génériques de CI/CD Databricks Apps non spécifiques aux agents, consultez CI/CD pour Databricks Apps avec GitHub Actions.