groupe de commandesserving-endpoints
L'utilisation de la CLI Databricks est soumise à la licence Databricks et à la politique de confidentialité de Databricks, y compris toute disposition relative aux données d'utilisation.
Le groupe de commandes serving-endpoints au sein de la CLI Databricks vous permet de créer, de mettre à jour et de supprimer des Endpoint de service de modèles. Consultez Gérer les Endpoint de service de modèles.
Logs de build des Endpoint de service Databricks
Récupérez les logs de build associés au modèle servi fourni.
databricks serving-endpoints build-logs NAME SERVED_MODEL_NAME [flags]
Arguments
NAME
Le nom de l'Endpoint de service auquel appartient le modèle servi. Ce champ est obligatoire.
SERVED_MODEL_NAME
Nom du modèle servi pour lequel les Logs de build seront récupérés. Ce champ est obligatoire.
Options
databricks serving-endpoints create
Créer un nouvel Endpoint de service.
databricks serving-endpoints create NAME [flags]
Arguments
NAME
Le nom de l'endpoint de service. Ce champ est obligatoire et doit être unique dans l'ensemble d'un Workspace Databricks. Un nom d'Endpoint peut être composé de caractères alphanumériques, de tirets et de traits de soulignement.
Options
--budget-policy-id string
La politique budgétaire à appliquer à l'Endpoint de service.
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
--no-wait
ne pas attendre d'atteindre l'état NOT_UPDATING
--route-optimized
Activer l'optimisation d'itinéraire pour l'Endpoint de service.
--timeout duration
durée maximale pour atteindre l'état NOT_UPDATING (default 20m0s)
databricks serving-endpoints create-provisioned-throughput-endpoint
Créez un nouvel Endpoint de service avec throughput provisionné.
databricks serving-endpoints create-provisioned-throughput-endpoint [flags]
Options
--budget-policy-id string
La politique budgétaire associée à l'Endpoint.
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
--no-wait
N'attendez pas d'atteindre l'état NOT_UPDATING.
--timeout duration
Durée maximale pour atteindre l'état NOT_UPDATING (default 20m0s).
Exemples
L'exemple suivant crée un endpoint de throughput provisionné :
databricks serving-endpoints create-provisioned-throughput-endpoint --json @endpoint-config.json
databricks Endpoints de service supprimer
Supprimer un endpoint de service.
databricks serving-endpoints delete NAME [flags]
Arguments
NAME
Le nom de l'endpoint de service à supprimer.
Options
databricks serving-endpoints export-metrics
Récupérez les métriques associées à l'endpoint de service fourni au format d'exposition Prometheus ou OpenMetrics.
databricks serving-endpoints export-metrics NAME [flags]
Arguments
NAME
Le nom de l'endpoint de service pour lequel récupérer les métriques. Ce champ est obligatoire.
Options
databricks serving-endpoints get
Récupérez les détails d'un endpoint de mise en service unique.
databricks serving-endpoints get NAME [flags]
Arguments
NAME
Le nom de l'endpoint de service. Ce champ est obligatoire.
Options
databricks serving-endpoints get-open-api
Obtenir le schéma de query de l'endpoint de service au format OpenAPI. Le schéma contient des informations pour les chemins pris en charge, le format d'entrée et de sortie et les types de données.
databricks serving-endpoints get-open-api NAME [flags]
Arguments
NAME
Le nom de l'Endpoint de service auquel appartient le modèle servi. Ce champ est obligatoire.
Options
Databricks serving-endpoints list
Obtenez tous les Endpoint de service.
databricks serving-endpoints list [flags]
Arguments
Aucun
Options
logs des endpoints de diffusion Databricks
Récupérez les logs de service associés au modèle servi fourni.
databricks serving-endpoints logs NAME SERVED_MODEL_NAME [flags]
Arguments
NAME
Le nom de l'Endpoint de service auquel appartient le modèle servi. Ce champ est obligatoire.
SERVED_MODEL_NAME
Le nom du modèle servi pour lequel les Logs seront récupérés. Ce champ est obligatoire.
Options
databricks serving-endpoints patch
Ajouter ou supprimer des tags d'un endpoint de service.
databricks serving-endpoints patch NAME [flags]
Arguments
NAME
Le nom de l'endpoint de déploiement dont les étiquettes sont à corriger. Ce champ est obligatoire.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
databricks serving-endpoints put
Obsolète. Utilisez AI Gateway pour gérer les limites de taux à la place.
Mettre à jour les limites de taux d'un Endpoint de service.
databricks serving-endpoints put NAME [flags]
Arguments
NAME
Le nom de l'Endpoint au service dont les limites de taux sont mises à jour. Ce champ est obligatoire.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
databricks serving-endpoints put-ai-gateway
Mettre à jour le endpoint de passerelle d'IA au service. Les endpoints de modèle externe, de throughput provisionné et de paiement au jeton sont entièrement pris en charge ; les endpoints d'agent ne prennent actuellement en charge que les tables d'inférence.
databricks serving-endpoints put-ai-gateway NAME [flags]
Arguments
NAME
Le nom de l'Endpoint de service dont l'AI Gateway est en cours de mise à jour. Ce champ est obligatoire.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
Databricks serving-Endpoint query
Interroger un Endpoint de service.
databricks serving-endpoints query NAME [flags]
Arguments
NAME
Le nom de l'endpoint de service. Ce champ est obligatoire.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
--max-tokens int
Le champ des jetons maximum est utilisé UNIQUEMENT pour les **completions** et les **chat externes et de modèle de fondation** Endpoint de diffusion.
--n int
Le champ n (nombre de candidats) est utilisé UNIQUEMENT pour les **completions** et les **Endpoint** de service de **modèles de chat externes et de fondation**.
--stream
Le champ de Stream utilisé UNIQUEMENT pour les **complétions** et les Endpoint de diffusion des **modèles de chat externes et de fondation**.
--temperature float
Le champ de température est utilisé UNIQUEMENT pour les completions et les chat external & foundation model serving Endpoint.
databricks serving-endpoints update-config
Mettez à jour n'importe quelle combinaison des entités servies de l'Endpoint de service, de la configuration du compute de ces entités servies et de la configuration du trafic de l'Endpoint. Un Endpoint ayant déjà une mise à jour en cours ne peut pas être mis à jour tant que la mise à jour actuelle n'est pas terminée ou n'a pas échoué.
databricks serving-endpoints update-config NAME [flags]
Arguments
NAME
Le nom de l'endpoint de service à mettre à jour. Ce champ est obligatoire.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
--no-wait
ne pas attendre d'atteindre l'état NOT_UPDATING
--timeout duration
durée maximale pour atteindre l'état NOT_UPDATING (default 20m0s)
databricks serving-endpoints update-notifications
Mettez à jour les paramètres de notification par e-mail et webhook pour un endpoint de service.
databricks serving-endpoints update-notifications NAME [flags]
Arguments
NAME
Nom de l'endpoint de service dont les notifications sont mises à jour.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
Exemples
L'exemple suivant met à jour les paramètres de notification pour un endpoint :
databricks serving-endpoints update-notifications my-endpoint --json '{"email_notifications": {"on_failure": ["user@example.com"]}}'
databricks serving-endpoints update-provisioned-throughput-endpoint-config
Mettre à jour la configuration d'un Endpoint de service de throughput provisionné. Les mises à jour sont instantanées.
databricks serving-endpoints update-provisioned-throughput-endpoint-config NAME [flags]
Arguments
NAME
Le nom de l'Endpoint de throughput provisionné à mettre à jour.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
--no-wait
N'attendez pas d'atteindre l'état NOT_UPDATING.
--timeout duration
Durée maximale pour atteindre l'état NOT_UPDATING (default 20m0s).
Exemples
L'exemple suivant met à jour la configuration d'un endpoint de throughput provisionné :
databricks serving-endpoints update-provisioned-throughput-endpoint-config my-pt-endpoint --json @updated-config.json
databricks serving-endpoints obtenir les niveaux d'autorisation
Obtenir les niveaux d'autorisation du service Endpoint.
databricks serving-endpoints get-permission-levels SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
L'Endpoint de service pour lequel obtenir ou gérer les autorisations.
Options
databricks serving-endpoints get-permissions
Obtenir les autorisations d'endpoint de service.
Obtient les permissions d'un Endpoint de service. Serving Endpoint peuvent hériter des autorisations de leur objet racine.
databricks serving-endpoints get-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
L'Endpoint de service pour lequel obtenir ou gérer les autorisations.
Options
databricks serving-endpoints set-permissions
Définir les autorisations d'endpoint de service.
databricks serving-endpoints set-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
L'Endpoint de service pour lequel obtenir ou gérer les autorisations.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
databricks serving-endpoints update-permissions
Mettre à jour les autorisations sur un endpoint de mise en service. Serving Endpoint peuvent hériter des autorisations de leur objet racine.
databricks serving-endpoints update-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
L'Endpoint de service pour lequel obtenir ou gérer les autorisations.
Options
--json JSON
La chaîne JSON en ligne ou le @chemin vers le fichier JSON avec le corps de la requête.
Drapeaux globaux
--debug
Activer ou non la journalisation de débogage.
-h OU --help
Afficher l'aide de Databricks CLI ou du groupe de commandes associé ou de la commande associée.
--log-file chaîne
Une chaîne représentant le fichier dans lequel écrire les logs de sortie. Si cet indicateur n'est pas spécifié, la default est d'écrire les logs de sortie dans stderr.
--log-format Format
Le type de format de log, text ou json. La valeur par default est text.
--log-level chaîne
Une chaîne représentant le niveau de format du log. S'il n'est pas spécifié, le niveau de format du log est désactivé.
-o, --output Type
Le type de sortie de commande, text ou json. La valeur par default est text.
-p, --profile chaîne
Nom du profil dans le fichier ~/.databrickscfg à utiliser pour exécuter la commande. Si cet indicateur n'est pas spécifié, alors s'il existe, le profil nommé DEFAULT est utilisé.
--progress-format Format
Le format pour afficher les logs de progression : default, append, inplace ou json
-t, --target chaîne
Le cas échéant, la cible de bundle à utiliser