Discutez avec les LLM et prototypez des applications d'IA générative à l'aide d'AI Playground

remarque

Cette fonctionnalité est en mode aperçu.

Vous pouvez interagir avec les grands modèles linguistiques pris en charge à l'aide de l'AI Playground. L'AI Playground est un environnement de type chat où vous pouvez tester, solliciter et comparer des LLM.

Exigences

Votre workspace Databricks doit se trouver dans une région qui prend en charge l'une des fonctionnalités suivantes :

• APIs de modèle de fondation (paiement par jeton)
• APIs des modèles de fondation avec throughput provisionné
• Modèles externes

Utiliser AI Playground

remarque

Si Playground n'est pas disponible dans votre Workspace, contactez votre équipe de compte Databricks pour plus d'informations.

Pour utiliser l'AI Playground :

1. Sélectionnez Playground dans le volet de navigation de gauche sous IA/ML .

2. Sélectionnez le modèle avec lequel vous souhaitez interagir à l'aide de la liste déroulante en haut à gauche.

3. Vous pouvez effectuer l'une des actions suivantes :

   1. Saisissez votre question ou prompt.
   2. Sélectionnez un exemple d'instruction d'IA parmi celles listées dans la fenêtre.

4. Vous pouvez sélectionner le + pour ajouter un endpoint. Cela vous permet de comparer plusieurs réponses de modèles côte à côte.

Prototypez les agents d'IA générative dans l'AI Playground.

Vous pouvez également commencer à créer des agents d’IA générative dans AI Playground.

Pour prototyper un agent d'appel d'outils :

1. Depuis Playground, sélectionnez un modèle avec l'étiquette **Outils activés**.

   

2. Sélectionnez **Outils** et sélectionnez un outil à donner à l'agent. Pour ce guide, sélectionnez la fonction Unity Catalog intégrée, system.ai.python_exec. Cette fonction permet à votre agent d'exécuter du code Python arbitraire.

3. Discutez pour tester la combinaison actuelle de LLM, d’outils et de l’invite système et essayez des variations.

Exporter et déployer des agents AI Playground

Après avoir prototypé l'agent IA dans l'AI Playground, exportez-le vers des Notebooks Python pour le déployer sur un Endpoint de service de modèle.

1. Cliquez sur **Exporter** pour générer le Notebook qui définit et déploie l'agent IA.

   Après l'exportation du code d'agent, un dossier contenant un Notebook de Driver est enregistré dans votre Workspace. Ce Driver définit un Client OpenAI d'appel d'outils ResponsesAgent, teste l'agent localement, utilise la journalisation basée sur le code, enregistre et déploie l'agent IA à l'aide d'agents personnalisés (Custom Agents).

2. Traiter tous les À FAIRE dans le Notebook.

remarque

Le code exporté pourrait se comporter différemment de votre session AI Playground. Databricks vous recommande d'exécuter les notebooks exportés pour itérer et déboguer davantage, évaluer la qualité de l'agent, puis déployer l'agent pour le partager avec d'autres personnes.