Acessar modelos de AI generativa e LLM do Unity Catalog
Experimente a nova Unity AI Gateway Beta
Uma nova experiência do Unity AI Gateway está disponível em Beta. O novo Unity AI Gateway é o plano de controle corporativo para governar o endpoint LLM e os agentes de codificação com recurso aprimorado. Consulte Governança de AI com Unity AI Gateway.
Visualização
Este recurso está em Pré-lançamento público.
O Databricks inclui uma seleção de modelos de base de IA generativa e LLM de alta qualidade no Unity Catalog. Este artigo descreve como usar esses modelos e incorporá-los em seus fluxos de trabalho de inferência. Esses modelos permitem acessar recursos de AI de última geração, economizando o tempo e o custo de criar seus próprios modelos personalizados.
Para obter informações sobre como usar seus próprios modelos personalizados com o Unity Catalog, consulte Gerenciar o ciclo de vida do modelo no Unity Catalog.
Encontrar modelos de base no Unity Catalog
Em regiões habilitadas para o Mosaic AI Model Serving, a Databricks pré-instalou uma seleção de modelos de base de ponta. Esses modelos têm licenças permissivas e foram otimizados para serem usados com APIs de Modelo de Base de Taxa de Transferência Provisionada. Consulte Termos de modelo aplicáveis.
A Databricks recomenda usar as versões **base** desses modelos para tarefas de ajuste fino e usar as versões **instruct** para implantação e servindo modelo.
Esses modelos estão disponíveis diretamente no Gerenciador de Catálogos, no system catálogo no ai de esquema (system.ai).
Você pode servir esses modelos com um único clique e, em seguida, incorporar os endpoints de servindo modelo diretamente em seus fluxos de trabalho de inferência em lotes. Para servir um modelo, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Servir este modelo . Para obter mais informações sobre o Model Serving, consulte Implantar modelos usando o Model Serving. Para uma lista de regiões compatíveis com o Model Serving, consulte Disponibilidade de região.
Os modelos em system.ai estão disponíveis para todos os usuários da account por default. Os administradores de metastore do Unity Catalog podem limitar o acesso a esses modelos. Consulte Gerenciar privilégios no Unity Catalog.
