Guia de introdução ao Unity Gateway
Envie sua primeira solicitação por meio do Unity Gateway para o endpoint compatível com OpenAI.
Requisitos
- A Databricks workspace in a Unity Gateway supported region.
- Para se autenticar com o OAuth, instale a CLI do Databricks. Como alternativa, use um access token pessoal, que não requer a CLI do Databricks.
Autenticar
Para começar, use um access token pessoal. O OAuth é recomendado para casos de uso de produção. Defina DATABRICKS_TOKEN como o token para o seu workspace.
- Personal access token
- OAuth
Exportar um access token:
export DATABRICKS_TOKEN=<your-personal-access-token>
Substitua <workspace-url> pela sua URL do workspace do Databricks. Em seguida, faça o log in com a CLI do Databricks e exporte um token OAuth de curta duração:
databricks auth login --host https://<workspace-url>
export DATABRICKS_TOKEN=$(databricks auth token --host https://<workspace-url> | jq -r .access_token)
Escolha um modelo
O Databricks fornece modelos prontos para uso que você pode procurar na interface do usuário no esquema system.ai ou consultar a lista completa de modelos compatíveis aqui.
Este início rápido usa system.ai.gpt-5-2. Para consultar um modelo diferente, substitua pelo seu nome totalmente qualificado.
Envie sua solicitação
Substitua <workspace-url> por sua URL do workspace do Databricks.
- Bash
- Python
- TypeScript
curl https://<workspace-url>/ai-gateway/mlflow/v1/responses \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-d '{
"model": "system.ai.gpt-5-2",
"max_output_tokens": 256,
"input": [
{
"role": "user",
"content": [{"type": "input_text", "text": "Hello!"}]
},
{
"role": "assistant",
"content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]
},
{
"role": "user",
"content": [{"type": "input_text", "text": "What is Databricks?"}]
}
]
}'
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ.get("DATABRICKS_TOKEN"),
base_url="https://<workspace-url>/ai-gateway/mlflow/v1",
)
response = client.responses.create(
model="system.ai.gpt-5-2",
max_output_tokens=256,
input=[
{"role": "user", "content": [{"type": "input_text", "text": "Hello!"}]},
{"role": "assistant", "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]},
{"role": "user", "content": [{"type": "input_text", "text": "What is Databricks?"}]},
],
)
print(response.output)
import OpenAI from 'openai';
const client = new OpenAI({
apiKey: process.env.DATABRICKS_TOKEN,
baseURL: 'https://<workspace-url>/ai-gateway/mlflow/v1',
});
const response = await client.responses.create({
model: 'system.ai.gpt-5-2',
max_output_tokens: 256,
input: [
{ role: 'user', content: [{ type: 'input_text', text: 'Hello!' }] },
{ role: 'assistant', content: [{ type: 'output_text', text: 'Hello! How can I assist you today?' }] },
{ role: 'user', content: [{ type: 'input_text', text: 'What is Databricks?' }] },
],
});
console.log(response.output);
Ver sua solicitação
Abra o modelo que você query (system.ai.gpt-5-2) no Catalog Explorer e selecione a Métricas tab para ver a request que você acabou de enviar no histórico de uso, juntamente com o uso de tokens e a latência. Consulte observabilidade do Unity Gateway.