Industrialisez votre agent Databricks Apps
Une fois que vous avez créé un agent et l’avez déployé sur Databricks Apps, mettez-le en production dans cet ordre :
-
- 1. Configurez le CI/CD pour votre agent Databricks Apps
- Automatisez les déploiements de Databricks Apps depuis GitHub Actions. Utilise la fédération d’identité de charge de travail (pas de secrets à long terme) et un flux de travail de démarrage fourni dans les templates d’agent.
-
- 2. Testez la charge de votre agent Databricks Apps
- Déterminez le QPS maximal que votre agent peut supporter. Exécutez un test de charge en rampe jusqu'à saturation par rapport à une version simulée de votre agent basée sur un LLM pour isoler le throughput de l'infrastructure Databricks Apps de la latence du modèle.
-
- 3. Gouverner l'utilisation des LLM avec Unity AI Gateway
- Acheminez les appels LLM via Unity AI Gateway. Centralisez les permissions, attribuez les coûts par application, échangez les modèles et inspectez ou rejouez le trafic sans modifier le code de l'agent.
Pour les Databricks Apps CI/CD génériques qui ne sont pas spécifiques aux agents, consultez CI/CD pour Databricks Apps avec GitHub Actions.