Modelos pré-treinados em Unity Catalog e no marketplace

info

Visualização

Esse recurso está em Public Preview.

O Databricks inclui uma seleção de modelos de base treinados previamente e de alta qualidade no Unity Catalog. Além disso, você pode instalar e implantar modelos treinados previamente de fornecedores externos com o Databricks Marketplace. Este artigo descreve como utilizar esses modelos e incorporá-los aos seus fluxos de trabalho de inferência. Esses modelos treinados previamente permitem que você acesse recursos de IA de última geração, economizando o tempo e as despesas de criar seus próprios modelos personalizados.

Para obter informações sobre como usar seus próprios modelos personalizados com Unity Catalog, consulte gerenciar o ciclo de vida do modelo em Unity Catalog.

Encontre modelos de base pré-treinados no Unity Catalog

Nas regiões que estão habilitadas para o Mosaic AI Model Serving, a Databricks pré-instalou uma seleção de modelos de fundação de última geração. Esses modelos têm licenças permissivas e foram otimizados para servir com provisionamento Taxa de transferência Foundation Model APIs.

Databricks recomenda o uso das versões básicas desses modelos pré-treinados para o ajuste fino da tarefa e o uso das versões de instrução para implantação e manutenção do modelo.

Esses modelos estão disponíveis diretamente no Gerenciador de Catálogos, no system catálogo no ai de esquema (system.ai).

O senhor pode servir esses modelos com um único clique ou incorporá-los diretamente ao seu fluxo de trabalho de inferência de lotes. Para servir um modelo pré-treinado, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Servir este modelo . Para obter mais informações sobre como servir o modelo, consulte implantado models using Mosaic AI Model Serving. Para obter uma lista das regiões compatíveis com o servindo modelo, consulte Disponibilidade de regiões.

Os modelos em system.ai estão disponíveis para todos os usuários do account em default. Os administradores do metastore do Unity Catalog podem limitar o acesso a esses modelos. Consulte Privilégios e objetos protegidos do Unity Catalog.

Encontre modelos pré-treinados no Databricks Marketplace

Além dos modelos integrados fornecidos pelo Databricks no esquema system.ai, você pode encontrar e instalar modelos de fornecedores externos no Databricks Marketplace. Você pode instalar listagens de modelos do Databricks Marketplace no Unity Catalog e, em seguida, implantar modelos na listagem para tarefas de inferência, da mesma forma que faria com um de seus próprios modelos.

Consulte Acessar dados do produto em Databricks Marketplace (espaço de trabalho habilitado para o Unity Catalog) para obter instruções.