LLMとチャットし、AI Playgroundを使用して生成AIアプリをプロトタイプ化
この機能はプレビュー段階です。
AI Playgroundを使用して、サポートされている大規模言語モデルと対話できます。AI Playgroundは、LLMをテストしたり、プロンプトを入力したり、比較したりできるチャットのような環境です。
必要条件
Databricks ワークスペースは、次のいずれかの機能をサポートするリージョンに存在する必要があります。
- ペイパートークンの基盤モデルAPI
- プロビジョニング スループット基盤モデルAPI
- 外部モデル
AI Playgroundを使用
ワークスペースに Playground がない場合は、 Databricks アカウント チームに連絡して詳細を確認してください。
AI Playgroundを使用するには：
-
左側のナビゲーション ウィンドウの Machine Learning から Playground を選択します。
-
左上のドロップダウンリストを使用して、対話したいモデルを選択します。
-
以下のいずれかを実行してください。
- 質問またはプロンプトを入力します。
- ウィンドウに表示されているAIインストラクションのサンプルから1つ選択します。
-
+ を選択するとエンドポイントを追加することができます。これにより、複数のモデルの応答を並べて比較できるようになります。
AI Playground のプロトタイプ生成 AI エージェント
AI Playground で 生成AI エージェントの構築を開始することもできます。
ツール呼び出しエージェントのプロトタイプを作成するには:
-
Playground から、 ツールの有効化 ラベルが付いたモデルを選択します。
-
ツール を選択し、エージェントに提供するツールを選択します。このガイドでは、組み込みの Unity Catalog 関数 (
system.ai.python_exec) を選択します。 この機能により、エージェントは任意のPythonコードを実行できます。 -
チャットして、LLM、ツール、およびシステムプロンプトの現在の組み合わせをテストし、バリエーションを試します。
AI Playground エージェントのエクスポートとデプロイ
AI PlaygroundでAIエージェントのプロトタイプを作成した後、それをPythonノートブックにエクスポートして、モデルサービング エンドポイントにデプロイします。
-
[ エクスポート ] をクリックして、AI エージェントを定義してデプロイするノートブックを生成します。
エージェント コードをエクスポートすると、ドライバー ノートブックを含むフォルダーがワークスペースに保存されます。このドライバーは、LangGraph ChatAgent を呼び出すツールを定義し、エージェントをローカルでテストし、コードベースのログ記録を使用して登録し、エージェント フレームワークを使用して AI エージェント Mosaic AI デプロイします。
-
ノートブック内のすべての TODO に対処します。
エクスポートされたコードは、AI Playground セッションとは異なる動作をする場合があります。Databricks では、エクスポートされたノートブックを実行して、さらに反復処理とデバッグを行い、エージェントの品質を評価してから、エージェントをデプロイして他のユーザーと共有することをお勧めします。