Inferência hospedada pelo Databricks
Use o Unity Gateway para executar inferência em modelos proprietários de fronteira e de pesos abertos hospedados pela Databricks ou por provedores de terceiros. Escolha um modelo e a capacidade de servir que se adequem à sua carga de trabalho.
Modelos disponíveis por meio do Databricks
O Unity Gateway serve modelos hospedados pelo Databricks e modelos hospedados por provedores terceirizados. Independentemente de onde um modelo está hospedado, você é responsável por cumprir os termos de uso aplicáveis do provedor. Consulte Termos aplicáveis ao modelo.
Os modelos a seguir são hospedados pela Databricks. Cada nome de modelo Link às suas especificações. Para modelos hospedados por seus provedores, consulte Modelos hospedados por provedores de terceiros.
Os ativos de modelo em system.ai são listados globalmente. Ver um modelo lá não significa que ele esteja disponível no seu workspace. A disponibilidade depende da região do seu workspace, das configurações cross-geo e da disponibilidade do modelo. Verifique a interface de usuário do Unity Gateway para ver o serviço de modelo correspondente e confirme se você tem permissão para fazer uma query nele.
Listar um modelo não envia dados do cliente para ele para inferência. Consulte Disponibilidade do modelo por região para obter detalhes regionais.
O DeepSeek V4.1 Flash será desativado em 19 de novembro de 2026. Consulte Modelos legados, obsoletos e desativados para ver o modelo de substituição recomendado e orientações sobre como realizar a migração durante a desativação.
O Zhipu AI GLM 5.2 está obsoleto e tem aposentadoria prevista para 4 de fevereiro de 2027. Consulte Modelos legados, obsoletos e aposentados para obter o modelo de substituição recomendado e orientações sobre como migrar durante a descontinuação.
Para modelos descontinuados e substituições recomendadas, consulte Modelos descontinuados e aposentados.
Modelos hospedados por provedores terceirizados
Os modelos a seguir são hospedados por seus provedores, não pela Databricks, e são servidos através do Unity Gateway. O Databricks fornece o caminho de acesso, autenticação e roteamento. O provedor opera o ambiente de hospedagem do modelo, e os termos do provedor regem o seu uso do modelo.
Consulte Modelos hospedados pelo provedor.
Provedor | Modelo | Hospedagem |
|---|---|---|
TypeSafe AI, Inc. | Hospedado por provedor, servido pelo Unity Gateway |
Usar um modelo
Sua tarefa | Como usar os modelos |
|---|---|
Crie um aplicativo ou agente | Chame um modelo por meio da API do Unity Gateway. Serviços de modelo fornecidos pelo sistema em |
Aplique IA aos seus dados | Use |
Use um agente de programação | Conecte o seu agente de codificação a modelos através do Unity Gateway. Veja Agentes de codificação e de trabalho suportados. |
Os modelos suportados e os identificadores de modelo variam de acordo com a interface. Consulte os guias vinculados para ver os requisitos e exemplos.
Serviços de modelo fornecidos pelo sistema
O Databricks fornece serviços de modelo de pagamento por tokens prontos para uso em system.ai, como system.ai.claude-opus-5. Novos serviços são adicionados à medida que os modelos básicos ficam disponíveis.
- Um usuário do sistema os possui e você não pode excluí-los.
- Por default, apenas administradores do metastore podem modificá-los. Um administrador do metastore pode delegar o gerenciamento concedendo o privilégio
MANAGE.
Para restringir o acesso, consulte Descobrir e governar o acesso a serviços de modelo.
Escolher capacidade de atendimento
Opção | Recomendado para | Como funciona |
|---|---|---|
Pagamento por token | Cargas de trabalho com uso variável ou intermitente. | Pague pelos tokens usados sem provisionar capacidade de atendimento dedicada. |
Cargas de trabalho que precisam de capacidade dedicada com flexibilidade para ajustá-la à medida que os requisitos mudam. | Pague pela capacidade alocada sem compromisso de prazo. |
Os serviços de modelo do Unity Gateway podem direcionar o tráfego para destinos de throughput provisionado. Consulte a documentação de cada opção para verificar os modelos elegíveis e os requisitos de configuração.
Para inferência em lotes com ai_query, use a orientação sobre AI Functions para selecionar os modelos e as opções de disponibilização compatíveis. O suporte a modelos e regiões varia de acordo com a opção de disponibilização.
Conectar outros provedores de modelos
Você também pode usar o Unity Gateway com sua própria account de provedor de modelo. Conecte o provedor de modelo e governe o acesso usando as credenciais da sua organização.
Consulte Conectar um provedor de modelo externo.