Obtenha modelos generativos AI e LLM em Unity Catalog e no marketplace

info

Visualização

Esse recurso está em Public Preview.

Databricks inclui uma seleção de modelos generativos de alta qualidade AI e modelos de base LLM em Unity Catalog. Além disso, o senhor pode instalar e implantar modelos de provedores externos usando o site Databricks Marketplace. Este artigo descreve como o senhor pode usar esses modelos e incorporá-los ao seu fluxo de trabalho de inferência. Esses modelos permitem que o senhor acesse os recursos de última geração do AI, economizando o tempo e as despesas de criar seus próprios modelos personalizados.

Para obter informações sobre como usar seus próprios modelos personalizados com Unity Catalog, consulte gerenciar o ciclo de vida do modelo em Unity Catalog.

Encontre modelos de fundação no Unity Catalog

Nas regiões que estão habilitadas para o Mosaic AI Model Serving, a Databricks pré-instalou uma seleção de modelos de fundação de última geração. Esses modelos têm licenças permissivas e foram otimizados para servir com provisionamento Taxa de transferência Foundation Model APIs.

Databricks recomenda o uso das versões básicas desses modelos para o ajuste fino da tarefa e o uso das versões de instrução para implantação e manutenção do modelo.

Esses modelos estão disponíveis diretamente no Gerenciador de Catálogos, no system catálogo no ai de esquema (system.ai).

O senhor pode servir esses modelos com um único clique ou incorporá-los diretamente ao seu fluxo de trabalho de inferência de lotes. Para servir um modelo, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Servir este modelo . Para obter mais informações sobre como servir o modelo, consulte implantado models using Mosaic AI Model Serving. Para obter uma lista das regiões compatíveis com o servindo modelo, consulte Disponibilidade de regiões.

Os modelos em system.ai estão disponíveis para todos os usuários do account em default. Os administradores do metastore do Unity Catalog podem limitar o acesso a esses modelos. Consulte Privilégios e objetos protegidos do Unity Catalog.

Encontre modelos no Databricks Marketplace

Além dos modelos integrados fornecidos pelo Databricks no esquema system.ai, você pode encontrar e instalar modelos de fornecedores externos no Databricks Marketplace. Você pode instalar listagens de modelos do Databricks Marketplace no Unity Catalog e, em seguida, implantar modelos na listagem para tarefas de inferência, da mesma forma que faria com um de seus próprios modelos.

Consulte Acessar dados do produto em Databricks Marketplace (espaço de trabalho habilitado para o Unity Catalog) para obter instruções.