Acessar modelos de AI generativa e LLM do Unity Catalog
Visualização
Este recurso está em Pré-lançamento público.
O Databricks inclui uma seleção de modelos de base de IA generativa e LLM de alta qualidade no Unity Catalog. Este artigo descreve como usar esses modelos e incorporá-los em seus fluxos de trabalho de inferência. Esses modelos permitem acessar recursos de AI de última geração, economizando o tempo e o custo de criar seus próprios modelos personalizados.
Para obter informações sobre como usar seus próprios modelos personalizados com o Unity Catalog, consulte Gerenciar o ciclo de vida do modelo no Unity Catalog.
Encontrar modelos de base no Unity Catalog
Em regiões habilitadas para o Model Serving, a Databricks instalou previamente uma seleção de modelos de base de última geração. Esses modelos têm licenças flexíveis e foram otimizados para servir com APIs de modelo de base de throughput provisionada. Consulte Termos aplicáveis ao modelo.
A Databricks recomenda usar as versões **base** desses modelos para tarefas de ajuste fino e usar as versões **instruct** para implantação e servindo modelo.
Esses modelos estão disponíveis diretamente no Gerenciador de Catálogos, no system catálogo no ai de esquema (system.ai).
Você pode servir esses modelos com um único clique e, em seguida, incorporar os endpoints de servindo modelo diretamente em seus fluxos de trabalho de inferência em lotes. Para servir um modelo, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Servir este modelo . Para obter mais informações sobre o Model Serving, consulte Implantar modelos usando o Model Serving. Para uma lista de regiões compatíveis com o Model Serving, consulte Disponibilidade de região.
Os modelos em system.ai estão disponíveis para todos os usuários da account por default. Um administrador de metastore pode gerenciar o acesso ao esquema system.ai e seus modelos sem um administrador account. Consulte Permissões do Unity Catalog para modelos de fundação.
