Databricks で LLM のクエリを開始する

備考

ベータ版

この機能はベータ版です。アカウント管理者は、アカウント コンソールの [プレビュー] ページからこの機能へのアクセスを制御できます。 Databricksのプレビューを管理するを参照してください。

この記事では、 Unity AI Gateway のモデルサービス を使用して LLM をクエリする方法について説明します。

最も簡単な開始方法は、system.aiでシステム提供のモデルサービスをクエリすることです。システム提供のモデルサービスは、デフォルトですべてのアカウントユーザーが利用できるため、追加の設定なしでリクエストの送信を開始できます。基盤モデルの検出を参照してください。

また、AI Playgroundを使用してこれらのモデルをテストしたりチャットしたりすることもできます。AI Playground を使用したLLM とのチャットおよび生成AIアプリのプロトタイプを参照してください。

必要条件

• DatabricksワークスペースとUnity AI Gatewayがサポートされているリージョン。
• OpenAIクライアントを使用してモデルサービスをクエリするためのDatabricks パーソナルアクセストークン。

モデルサービスの使用を開始する

次の例は、Databricks ノートブックで実行することを想定しています。このコード例は、システム提供のモデルサービス system.ai.claude-sonnet-4-5 によって提供される Databricks ホスト型モデルをクエリします。その他の利用可能なモデルについては、基盤モデルについてを参照してください。

この例では、OpenAI クライアントを使用して、クエリするモデルサービスの完全修飾名を model フィールドに入力することで、モデルをクエリします。個人アクセストークンを使用して DATABRICKS_TOKEN と Databricks ワークスペースインスタンスを入力し、OpenAI クライアントを Databricks に接続します。

Python

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get("DATABRICKS_TOKEN")

client = OpenAI(
  api_key=DATABRICKS_TOKEN, # your personal access token
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1", # your Databricks workspace instance
)

chat_completion = client.chat.completions.create(
  messages=[
    {
      "role": "system",
      "content": "You are an AI assistant",
    },
    {
      "role": "user",
      "content": "What is a mixture of experts model?",
    }
  ],
  model="system.ai.claude-sonnet-4-5",
  max_tokens=256
)

print(chat_completion.choices[0].message.content)

注記

メッセージ、 ImportError: cannot import name 'OpenAI' from 'openai' が表示された場合は、 !pip install -U openai を使用して openai のバージョンをアップグレードします。 パッケージをインストールしたら、 dbutils.library.restartPython()　を実行します。

期待される出力:

Bash

{
  "id": "xxxxxxxxxxxxx",
  "object": "chat.completion",
  "created": "xxxxxxxxx",
  "model": "system.ai.claude-sonnet-4-5",
  "choices": [
    {
      "index": 0,
      "message":
        {
          "role": "assistant",
          "content": "A Mixture of Experts (MoE) model is a machine learning technique that combines the predictions of multiple expert models to improve overall performance. Each expert model specializes in a specific subset of the data, and the MoE model uses a gating network to determine which expert to use for a given input."
        },
      "finish_reason": "stop"
    }
  ],
  "usage":
    {
      "prompt_tokens": 123,
      "completion_tokens": 23,
      "total_tokens": 146
    }
}

次のステップ

• AI プレイグラウンドを使用して、使い慣れたチャット インターフェイスでさまざまなモデルを試してみてください。
• モデルサービスを使用。
• 基盤モデルを見つける。
• 「カスタムモデルサービスを作成する」。
• モデルの品質とエンドポイントの正常性を監視する方法を探索します。