Modelos de fundação suportados no modelo de serviço
Este artigo descreve os modelos básicos que você pode servir usando o modelo de serviço.
Os modelos de base são redes neurais extensas e pré-treinadas, que são treinadas em grandes e amplas gamas de dados. Esses modelos são projetados para aprender padrões gerais em linguagem, imagens ou outros tipos de dados, e podem ser ajustados para tarefas específicas com treinamento adicional. O uso de determinados modelos básicos está sujeito aos termos e à política de uso aceitável do modelo. Consulte os termos do modelo aplicáveis.
O servindo modelo oferece opções flexíveis para hospedagem e consulta de modelos da fundação com base em suas necessidades:
- Pagamento por tokens: Ideal para experimentação e exploração rápida. Essa opção permite que o senhor consulte um endpoint pré-configurado em seu Databricks workspace sem compromissos iniciais de infraestrutura.
- AI Functions (inferência de lotes): Um subconjunto de modelos hospedados Databrickssão otimizados para AI Functions. Você pode aplicar AI aos seus dados e executar cargas de trabalho de produção de inferência em lotes em escala, usando essas funções e seus modelos suportados.
- provisionamento Taxa de transferência: Recomendado para casos de uso de produção que exigem garantias de desempenho. Essa opção permite a implementação de modelos de fundação ajustados com endpoint de atendimento otimizado.
- Modelos externos: Essa opção permite o acesso a modelos de fundação hospedados fora da Databricks, como os fornecidos pela OpenAI ou pela Anthropic. Esses modelos podem ser gerenciados de forma centralizada em Databricks para uma governança simplificada.
As solicitações para modelos de base, tanto hospedados na Databricks quanto externos, são roteadas através do Unity AI Gateway (Beta), que permite aplicar limites de taxa, orçamentos e guard-rails para controlar custos e acesso.
Modelos básicos hospedados na Databricks
A Databricks hospeda modelos básicos abertos de última geração. Esses modelos são disponibilizados usando APIs do Foundation Model. Para restringir quais modelos de base hospedados pelo Databricks sua organização pode usar, consulte permissões do Unity Catalog para modelos de base.
A tabela a seguir resume quais modelos e famílias de modelos hospedados no site Databrickssão suportados em cada região com base no recurso servindo modelo.
-
O Google Gemini 3 Flash e o Google Gemini 3 Pro são hospedados em endpoints globais e exigem que o roteamento entre geografias seja habilitado para cada região. O Google Gemini 3 Pro será desativado em 26 de março de 2026. Consulte Modelos descontinuados e desativados para ver o modelo de substituição recomendado e as orientações sobre como migrar durante a descontinuação.
- Para permitir mais tempo para a migração, entre 26 de março de 2026 e 7 de junho de 2026, as chamadas de API para o Gemini 3 Pro serão temporariamente redirecionadas para o Gemini 3.1 Pro. Os preços para ambos os modelos são idênticos.
-
Google Gemini 2.5 Flash foi descontinuado e está planejado para ser desativado em 2 de outubro de 2026. Consulte Modelos obsoletos e descontinuados para obter o modelo de substituição recomendado e orientação sobre como migrar durante a descontinuação.
-
O Google Gemini 2.5 Pro será descontinuado em 2 de outubro de 2026. Consulte Modelos obsoletos e descontinuados para obter o modelo de substituição recomendado e orientação sobre como migrar durante a descontinuação.
-
OpenAI GPT-5.1 Codex Max e OpenAI GPT-5.1 Codex Mini estão hospedados em um ponto de extremidade global e exigem que o roteamento entre regiões geográficas seja ativado para cada região.
-
OpenAI GPT-5.1 Codex Max, OpenAI GPT-5.1 Codex Mini e OpenAI GPT-5.2 O Codex será desativado em 16 de julho de 2026. Consulte Modelos descontinuados e aposentados para o modelo de substituição recomendado e orientações sobre como migrar durante a descontinuação.
-
Anthropic Claude Sonnet 4 está descontinuado. Consulte Modelos descontinuados e aposentados para a data de descontinuação, o modelo de substituição recomendado e a orientação sobre como migrar durante a descontinuação.
-
Anthropic Claude 3.7 Sonnet não está mais disponível. Consulte Modelos obsoletos e desativados para ver o modelo de substituição recomendado e as orientações sobre como migrar durante a descontinuação.
-
O Meta Llama 4 Maverick está disponível para cargas de trabalho do modelo Foundation APIs provisionamento Taxa de transferência no Public Preview.
-
O Meta-Llama-3.1-405B-Instruct não está mais disponível para cargas de trabalho de pagamento por token. A partir de 15 de maio de 2026, ele também será descontinuado para cargas de trabalho de taxa de transferência provisionada. Consulte Modelos descontinuados e aposentados para o modelo de substituição recomendado e orientações sobre como migrar durante a descontinuação.
-
Várias famílias de modelos mais antigas foram descontinuadas. Consulte Modelos descontinuados e aposentados para obter a lista completa de modelos descontinuados e substituições recomendadas.
⥂ Este modelo é suportado com base na disponibilidade de GPUs e requer que o roteamento entre regiões geográficas esteja ativado.
Acessar modelos de fundação hospedados fora da Databricks
Os modelos básicos criados por provedores de LLM, como OpenAI e Anthropic, também podem ser acessados no Databricks usando modelos externos. Esses modelos são hospedados fora da Databricks e o senhor pode criar um endpoint para consultá-los. Esses endpoints podem ser controlados de forma centralizada em Databricks, o que simplifica o uso e o gerenciamento de vários provedores de LLM em sua organização.
A tabela a seguir apresenta uma lista não exaustiva dos modelos compatíveis e dos tipos de endpoint correspondentes. O senhor pode usar as associações de modelos listadas para ajudá-lo a configurar seu endpoint para quaisquer tipos de modelos recém-lançados, à medida que eles se tornam disponíveis em um determinado provedor. Os clientes são responsáveis por garantir o compliance com as licenças de modelo aplicáveis.
Com o rápido desenvolvimento dos LLMs, não há garantia de que essa lista esteja sempre atualizada. Geralmente, há suporte para novas versões de modelos do mesmo fornecedor, mesmo que não estejam na lista.
Fornecedor de modelos | llm/v1/conclusões | llm/v1/chat | llm/v1/incorporações |
|---|---|---|---|
IA aberta** |
|
|
|
Azure OpenAI** |
|
|
|
Anthropic |
|
| |
Coer** |
|
|
|
Servindo modelo | Databricks servindo endpoint | Databricks servindo endpoint | Databricks servindo endpoint |
Amazon Bedrock | Anthropic: - claude-instant-v1 - claude-v2 Cohere: - comando-texto-v14 - texto de luz de comando-v14 AI21 Labs: - instrução j2-grande-instruct - instrução j2-jumbo - j2-mid - j2 no meio da v1 - j2-ultra - j2-ultra-v1 | Anthropic: - claude-3-5-soneto-20241022-v 2:0 - claude-3-5-haiku-20241022-v 1:0 - claude-3-opus-20240229-v 1:0 - claude-3-soneto-20240229-v 1:0 - claude-3-5-soneto-20240620-v 1:0 Cohere: - comando-r-plus-v1:0 - comando-r-v1:0 Amazon: - nova-lite-v 1:0 - nova-micro-v 1:0 - nova-pro-v 1:0 | Amazon: - titan-embed-text-v 2:0 - texto incorporado em titã v1 - titan-embed-g1-text-02 Cohere: - incorporar inglês-v3 - incorporar multilíngue-v3 |
AI21 Labs |
| ||
Google Cloud Vertex AI | bisonte de texto |
|
|
** O provedor de modelos oferece suporte a modelos de preenchimento e bate-papo aprimorados. Para consultar um modelo ajustado, preencha o campo name da configuração external model com o nome do seu modelo ajustado.
† O provedor de modelos oferece suporte a modelos de conclusão personalizados.
Criar um endpoint de modelo de serviço de fundação
Para consultar e usar modelos básicos em seus aplicativos AI, o senhor deve primeiro criar um modelo de serviço endpoint. O servindo modelo usa um API e uma UI unificados para criar e atualizar o endpoint do servindo modelo da fundação.
- Para criar um endpoint que sirva variantes ajustadas de modelos de fundação disponibilizados por meio do provisionamento de Foundation Model APIs Taxa de transferência, consulte Criar seu provisionamento Taxa de transferência endpoint usando o REST API .
- Para criar um endpoint de serviço que acesse os modelos da fundação disponibilizados usando a oferta de modelos externos, consulte Criar um modelo de serviço externo endpoint.
Query foundation servindo modelo endpoint
Depois de criar o endpoint de serviço, o senhor poderá consultar o modelo da fundação. O servindo modelo usa um API e um SDK unificados e compatíveis com o OpenAI para consultar os modelos da fundação. Essa experiência unificada simplifica a forma como você experimenta e personaliza modelos básicos para produção em nuvens e fornecedores compatíveis.
Consulte Usar modelos de base.