推論モデルのクエリ
この記事では、推論タスクに最適化され、Unity Gateway によって提供される基盤モデル向けのクエリーリクエストの記述方法を学びます。
Genie Code（エージェントモード）がこれを実行できます。このプロンプトの例を試してください。
Query the databricks-claude-sonnet-4-5 model using the OpenAI client with extended thinking enabled (budget_tokens set to 10240). Send a reasoning question and print both the thinking summary and the final answer.
Databricks基盤モデルAPI 、推論モデルを含むすべての基盤モデルと対話するための統合APIを提供します。 推論機能により、基盤モデルは複雑なタスクに取り組むための強化された能力を備える。一部のモデルは、最終的な回答を出す前に、段階的な思考プロセスを明らかにすることで透明性を確保している。
推論モデルの種類
モデルには、推論のみとハイブリッドの 2 種類があります。次の表は、異なるモデルが推論を制御するために異なるアプローチを使用する方法を示しています。
モデル | 推論モデルの種類 | 詳細 | パラメータ |
|---|---|---|---|
| ハイブリッド推論 | このモデルは、より深い推論のための適応的思考をサポートしており、より迅速な応答のために思考を無効にすることができます。 | Anthropic Messages APIで以下のパラメーターを使用します：
|
| 推論のみ | このモデルはすべてのリクエストに適応型思考を使用するため、推論を無効にすることはできません。 | Anthropic Messages APIで以下のパラメーターを使用します：
|
| 推論のみ | このモデルは常にアダプティブシンキングを使用しており、推論を無効にすることはできません。 | Anthropic Messages APIで以下のパラメーターを使用します：
|
| 推論のみ | このモデルは、defaultで応答に内部推論を使用します。 |
|
| 推論のみ | These models use internal reasoning in their responses by default. | 推論の深さを制御するには |
| 推論のみ | このモデルは、応答において常に内部推論を使用します。 | 推論の深さを制御するには、 |
| 推論のみ | これらのモデルは、応答に常に内部推論を使用します。 | リクエストで次のパラメーターを使用します。
|
| ハイブリッド推論 | これらのモデルは、必要に応じて、高速で即時の返信とより深い推論の両方をサポートします。 | ハイブリッド推論を使用するには、次のパラメーターを含めます。
|
| ハイブリッド推論 | このモデルは、素早いインスタント返信と、必要に応じたより深い推論の両方をサポートしています。 | ハイブリッド推論を使用するには、次のパラメーターを含めます。
|
| ハイブリッド推論 | このモデルは、素早いインスタント返信と、必要に応じたより深い推論の両方をサポートしています。 | ハイブリッド推論を使用するには、次のパラメーターを含めます。
|
| ハイブリッド推論 | これらのモデルは、必要に応じて、高速で即時の返信とより深い推論の両方をサポートします。 | ハイブリッド推論を使用するには、次のパラメーターを含めます。
|
| 推論のみ | これらのモデルは、応答に常に内部推論を使用します。 | リクエストで次のパラメーターを使用します。
|
| 推論のみ | このモデルは、応答において常に内部推論を使用します。 | リクエストで次のパラメーターを使用します。
|
| ハイブリッド推論 | これらのモデルはdefaultで推論を行い、 | リクエストで次のパラメーターを使用します。
|
| 推論のみ | これらのモデルは応答に常に内部推論を使用しており、推論を無効にすることはできません。 | リクエストで次のパラメーターを使用します。
|
クエリの例
以下の例は、Unity Gatewayとモデルサービスに基づいています。モデルサービング Endpoint ではなくモデル サービスを使用する場合は、モデル サービス名を Endpoint 名に置き換えます。利用可能な基盤モデル、そのモデルサービス、およびEndpoint名のリストについては、Databricks 基盤モデルAPIsがサポートするモデルの詳細リストを参照してください。
ほとんどの推論モデルでは、チャットコンプリーション Endpointが使用されます。例に示されているように、Claude Haiku 5.5、Claude Opus 5.5、および Claude Fable 5.1 は Anthropic Messages API を使用します。
- Claude model example
- Claude Haiku 5.5 model example
- Claude Opus 5.5 model example
- Claude Fable 5.1 model example
- GPT-5.1
- GPT OSS model example
- Grok 4.6 model example
- Gemini model example
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ.get('YOUR_DATABRICKS_TOKEN'),
base_url=os.environ.get('YOUR_DATABRICKS_BASE_URL')
)
response = client.chat.completions.create(
model="system.ai.claude-sonnet-4-5",
messages=[{"role": "user", "content": "Why is the sky blue?"}],
max_tokens=20480,
extra_body={
"thinking": {
"type": "enabled",
"budget_tokens": 10240
}
}
)
msg = response.choices[0].message
reasoning = msg.content[0]["summary"][0]["text"]
answer = msg.content[1]["text"]
print("Reasoning:", reasoning)
print("Answer:", answer)
Claude Haiku 5.5 supports adaptive thinking.Set output_config.effort to low, medium, or high to control reasoning depth.Databricks では、このパラメーターを省略すると medium が使用されます。推論を無効にするには、thinking.type を disabled に設定し、output_config を省略します。
curl -X POST "https://<workspace_host>.databricks.com/serving-endpoints/anthropic/v1/messages" \
-u token:$DATABRICKS_TOKEN \
-H "Content-Type: application/json" \
-H "anthropic-beta: effort-2025-11-24" \
-d '{
"model": "databricks-claude-haiku-5-5",
"max_tokens": 4096,
"thinking": {
"type": "adaptive"
},
"output_config": {
"effort": "high"
},
"messages": [
{
"role": "user",
"content": "Why is the sky blue?"
}
]
}'
Claude Opus 5.5は、すべてのリクエストに適応型思考を使用します。output_config.effortをlow、medium、high、xhigh、またはmaxに設定して、推論の深さを制御します。このパラメーターを省略すると、Databricks はmediumを使用します。
curl -X POST "https://<workspace_host>.databricks.com/ai-gateway/anthropic/v1/messages" \
-u token:$DATABRICKS_TOKEN \
-H "Content-Type: application/json" \
-H "anthropic-beta: effort-2025-11-24" \
-d '{
"model": "databricks-claude-opus-5-5",
"max_tokens": 4096,
"thinking": {
"type": "adaptive"
},
"output_config": {
"effort": "high"
},
"messages": [
{
"role": "user",
"content": "Why is the sky blue?"
}
]
}'
Claude Fable 5.1は常にアダプティブシンキングを使用します。推論の深さを制御するには、output_config.effort を low、medium、high、xhigh、または max に設定します。
curl -X POST "https://<workspace_host>.databricks.com/ai-gateway/anthropic/v1/messages" \
-u token:$DATABRICKS_TOKEN \
-H "Content-Type: application/json" \
-H "anthropic-beta: effort-2025-11-24" \
-d '{
"model": "databricks-claude-fable-5-1",
"max_tokens": 4096,
"thinking": {
"type": "adaptive"
},
"output_config": {
"effort": "high"
},
"messages": [
{
"role": "user",
"content": "Why is the sky blue?"
}
]
}'
GPT-5.1 のreasoning_effortパラメーターは、デフォルトでnoneに設定されていますが、リクエストでオーバーライドできます。 推論の努力を高めると、より思慮深く正確な応答が得られる可能性がありますが、レイテンシとトークンの使用量が増える可能性があります。
curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "system.ai.gpt-5-1",
"messages": [
{
"role": "user",
"content": "Why is the sky blue?"
}
],
"max_tokens": 4096,
"reasoning_effort": "none"
}'
reasoning_effort パラメーターは、"low"、"medium" (デフォルト)、または"high"値を受け入れます。推論の努力が高まると、より思慮深く正確な応答が得られる可能性がありますが、レイテンシーとトークンの使用量が増加する可能性があります。
curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "system.ai.gpt-oss-120b",
"messages": [
{
"role": "user",
"content": "Why is the sky blue?"
}
],
"max_tokens": 4096,
"reasoning_effort": "high"
}'
reasoning_effortパラメーターは、"low"、"medium"、"high"、または"xhigh"の値を受け入れます。推論の努力を高めると、より思慮深く正確な応答が得られる可能性がありますが、レイテンシーとトークンの使用量が増える可能性があります。
curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "system.ai.databricks-grok-4-6",
"messages": [
{
"role": "user",
"content": "Why is the sky blue?"
}
],
"max_tokens": 4096,
"reasoning_effort": "high"
}'
この例ではsystem.ai.gemini-3-1-proを使用します。reasoning_effort問題は、安全により"low"に設定されていますが、次の例に示すようにリクエストでオーバーライドできます。
curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "system.ai.gemini-3-1-pro",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "Why is the sky blue?"
}
],
"max_tokens": 2000,
"stream": true,
"reasoning_effort": "high"
}'
API レスポンスには、思考コンテンツブロックとテキストコンテンツブロックの両方が含まれます。
ChatCompletionMessage(
role="assistant",
content=[
{
"type": "reasoning",
"summary": [
{
"type": "summary_text",
"text": ("The question is asking about the scientific explanation for why the sky appears blue... "),
"signature": ("EqoBCkgIARABGAIiQAhCWRmlaLuPiHaF357JzGmloqLqkeBm3cHG9NFTxKMyC/9bBdBInUsE3IZk6RxWge...")
}
]
},
{
"type": "text",
"text": (
"# Why the Sky Is Blue\n\n"
"The sky appears blue because of a phenomenon called Rayleigh scattering. Here's how it works..."
)
}
],
refusal=None,
annotations=None,
audio=None,
function_call=None,
tool_calls=None
)
複数のターンにわたる推論の管理
このセクションはdatabricks-claude-sonnet-4-5モデルに特化したものです。
マルチターンの会話では、最後のアシスタントターンまたはツール使用セッションに関連付けられた推論ブロックのみがモデルに表示され、入力トークンとしてカウントされます。
推論トークンをモデルに戻さない場合 (たとえば、前の手順で推論する必要がない場合) は、推論ブロックを完全に省略できます。例えば：
response = client.chat.completions.create(
model="system.ai.claude-sonnet-4-5",
messages=[
{"role": "user", "content": "Why is the sky blue?"},
{"role": "assistant", "content": text_content},
{"role": "user", "content": "Can you explain in a way that a 5-year-old child can understand?"}
],
max_tokens=20480,
extra_body={
"thinking": {
"type": "enabled",
"budget_tokens": 10240
}
}
)
answer = response.choices[0].message.content[1]["text"]
print("Answer:", answer)
ただし、モデルが前の推論プロセスを推論する必要がある場合 (たとえば、中間推論を表示するエクスペリエンスを構築している場合) は、前のターンの推論ブロックを含む、変更されていない完全なアシスタント メッセージを含める必要があります。完全なアシスタントメッセージでスレッドを続ける方法は次のとおりです。
assistant_message = response.choices[0].message
response = client.chat.completions.create(
model="system.ai.claude-sonnet-4-5",
messages=[
{"role": "user", "content": "Why is the sky blue?"},
{"role": "assistant", "content": text_content},
{"role": "user", "content": "Can you explain in a way that a 5-year-old child can understand?"},
assistant_message,
{"role": "user", "content": "Can you simplify the previous answer?"}
],
max_tokens=20480,
extra_body={
"thinking": {
"type": "enabled",
"budget_tokens": 10240
}
}
)
answer = response.choices[0].message.content[1]["text"]
print("Answer:", answer)
Open Responses API
Open Responses APIを使用する場合、推論は応答outputでreasoning項目として返されます。後のターンでモデルが以前の思考について推論できるようにするには、reasoning項目を（encrypted_contentフィールドは未変更のまま）次のリクエストのinputに含めます。
レスポンス出力で返されるreasoning項目は、次の形式になります。
{
"type": "reasoning",
"id": "rs_abc123",
"content": [{ "type": "reasoning_text", "text": "Let me work through the question..." }],
"encrypted_content": "<opaque-provider-signature>"
}
会話を続けるには、前のターンの出力をinputで送り返し、reasoningの項目をそのまま保持します。
{
"model": "databricks-claude-sonnet-4-5",
"input": [
{ "role": "user", "content": "Why is the sky blue?" },
{
"type": "reasoning",
"id": "rs_abc123",
"content": [{ "type": "reasoning_text", "text": "Let me work through the question..." }],
"encrypted_content": "<opaque-provider-signature>"
},
{ "role": "assistant", "content": "The sky is blue because of Rayleigh scattering..." },
{ "role": "user", "content": "Can you explain it for a five-year-old?" }
]
}
encrypted_contentの値はプロバイダー固有の推論状態を含んでいます。削除または変更された場合、モデルは以前の思考について推論できません。これはAnthropic ClaudeおよびGoogle Geminiモデルに適用されます。
推論モデルはどのように機能しますか?
推論モデルでは、標準の入力トークンと出力トークンに加えて、特別な推論トークンが導入されます。これらのトークンにより、モデルはプロンプトを通じて「考え」、プロンプトを分解し、さまざまな応答方法を検討できます。この内部推論プロセスの後、モデルは最終的な回答を目に見える出力トークンとして生成します。databricks-claude-sonnet-4-5のような一部のモデルは、これらの推論トークンをユーザーに表示する一方で、OpenAI o シリーズなどの他のモデルはそれらを破棄し、最終出力で公開しません。