Arrêter et start des endpoints de recherche IA

info

Bêta

Cette fonctionnalité est en version Bêta. Pour l’utiliser, un administrateur du workspace doit activer Recherche IA : arrêter et start Endpoint à partir de la page Prévisualisations . Consultez Gérer les aperçus Databricks.

Arrêtez les Endpoint de recherche IA qui ne sont pas utilisés. Un endpoint arrêté n’entraîne pas de frais de service, et ses index et ses données sont conservés. Le stockage reste facturé comme avant l'arrêt de l'endpoint. Lorsque vous start à nouveau l’Endpoint, il dessert les mêmes index sans les synchroniser à partir de leurs tables source. L’arrêt et le start prennent chacun plusieurs minutes, et un Endpoint arrêté le reste jusqu’à ce que vous le start ou le supprimiez.

Un Endpoint arrêté ne peut pas répondre aux query. Arrêtez uniquement les Endpoint dont aucune application ne dépend. Pour trouver des Endpoint dont les index ne reçoivent aucune requête, consultez la section Identifier les Endpoint de Recherche IA inutilisés.

Prérequis

• Un administrateur de Workspace doit activer l’aperçu AI Search: Stop and start Endpoint . Consultez Gérer les aperçus Databricks.
• Vous devez disposer de l'autorisation CAN MANAGE sur l'endpoint. Voir ACL d’endpoint de recherche IA.

Ce qui se passe lorsqu’un endpoint est arrêté

Un Endpoint cesse de servir les requêtes dès que vous l’arrêtez, et les servira à nouveau lorsqu’il sera prêt après que vous l’ayez start. Jusque-là :

• Les requêtes échouent et les index ne se synchronisent pas à partir de leurs tables source. Les index s’affichent comme Hors ligne .

• Vous ne pouvez pas effectuer les actions suivantes :

  • Créer ou supprimer des index sur l'endpoint.
  • Modifiez les paramètres de l'endpoint, tels que le nombre cible de requêtes par seconde (QPS), la politique d'utilisation ou les tags.
  • Exécuter l’évaluation de la qualité de la récupération ou l’affinage du réorganisateur.

• Vous pouvez toujours afficher l’endpoint et ses index, modifier les autorisations et supprimer l’endpoint.

Après le start de l’endpoint, synchronisez chaque index déclenché pour prendre en compte les modifications apportées à sa table source alors que l’endpoint était arrêté.

Quand un endpoint ne peut pas être arrêté

La demande d’arrêt échoue et le message d’erreur donne la raison dans ces cas :

• L’endpoint n’est pas prêt ou une opération est en cours, comme la création, la suppression ou la synchronisation d’un index, ou la modification du QPS cible. Réessayez après la fin de l’opération.
• Un index sur l’endpoint utilise le mode de synchronisation continue ou est un index vectoriel d'accès direct. Les Endpoint avec ces index ne peuvent pas être arrêtés.
• Ce endpoint n’a pas d’index. Il n’est pas nécessaire de l’arrêter, car la facturation d’un endpoint s’arrête 24 heures après la suppression de son dernier index. Voir Comment est tarifée la recherche IA.

Arrêter un endpoint

Vous pouvez arrêter un endpoint via l'interface utilisateur Databricks, le SDK Python ou l'API REST.

Databricks UI

1. Dans la barre latérale gauche, cliquez sur Compute .
2. Cliquez sur l'tab Recherche IA .
3. Dans la ligne correspondant au endpoint, cliquez sur le menu kebab et sélectionnez Arrêter le endpoint . Vous pouvez également sélectionner Arrêter le endpoint dans le menu kebab de la page des détails du endpoint.
4. Dans la boîte de dialogue de confirmation, cliquez sur Arrêter l’endpoint .

L’état de l’endpoint passe à En cours d’arrêt , puis à Arrêté .

Python SDK

L’arrêt et le démarrage des Endpoint nécessitent databricks-ai-search version 0.80 ou supérieure :

Python

%pip install --upgrade databricks-ai-search
dbutils.library.restartPython()

Python

from databricks.ai_search.client import AISearchClient

client = AISearchClient()

client.stop_endpoint(name="my-endpoint")

# The state is STOPPING at first, and then STOPPED
endpoint = client.get_endpoint(name="my-endpoint")
print(endpoint["endpoint_status"]["state"])

REST API

Pour arrêter un endpoint, envoyez la requête suivante sans corps de demande :

HTTP

POST /api/2.0/vector-search/endpoints/{endpoint_name}/stop

La réponse contient l’endpoint, avec endpoint_status.state défini sur STOPPING. Pour vérifier si l’endpoint est arrêté, envoyez la requête suivante et vérifiez que endpoint_status.state est STOPPED:

HTTP

GET /api/2.0/vector-search/endpoints/{endpoint_name}

L’envoi d’une demande d’arrêt pour un endpoint déjà en cours d’arrêt ou arrêté renvoie l’endpoint sans le modifier.

Start un Endpoint

Lorsque vous start un Endpoint, il dessert les mêmes index que lorsqu’il s’est arrêté.

Databricks UI

1. Dans la barre latérale gauche, cliquez sur Compute .
2. Cliquez sur l'tab Recherche IA .
3. Dans la ligne de l’Endpoint arrêté, cliquez sur le menu kebab et sélectionnez start Endpoint . Vous pouvez également sélectionner start Endpoint dans le menu kebab sur la page des détails de l’Endpoint.

Le statut du Endpoint devient Démarrage , puis Prêt lorsque Endpoint est en mesure de traiter les query.

Python SDK

Python

from databricks.ai_search.client import AISearchClient

client = AISearchClient()

# Start the endpoint and wait until it is ONLINE and ready to serve queries
client.start_endpoint_and_wait(name="my-endpoint")

Pour start l’Endpoint sans attendre, utilisez client.start_endpoint(name="my-endpoint").

REST API

Pour start un endpoint, envoyez la demande suivante sans corps de demande :

HTTP

POST /api/2.0/vector-search/endpoints/{endpoint_name}/start

La réponse contient l’endpoint, avec endpoint_status.state défini sur STARTING. Lorsque l’Endpoint est prêt à traiter les query, endpoint_status.state est ONLINE.

L'envoi d'une requête de start pour un Endpoint qui est déjà en cours de start renvoie l'Endpoint sans modification.