Acesse modelos generativos AI e LLM do Unity Catalog
Experimente o novo Unity AI Gateway Beta
Uma nova experiência do Unity AI Gateway está disponível em Beta. O novo Unity AI Gateway é o plano de controle corporativo para governar o endpoint LLM e os agentes de codificação com recurso aprimorado. Consulte Unity AI Gateway.
Visualização
Esse recurso está em Public Preview.
Databricks inclui uma seleção de modelos generativos AI de alta qualidade e modelos básicos de aprendizado de máquina LLM no Unity Catalog. Este artigo descreve como você pode usar esses modelos e incorporá-los ao seu fluxo de trabalho de inferência. Esses modelos permitem que você acesse recursos AI de última geração, economizando tempo e dinheiro que seriam gastos na criação de modelos personalizados.
Para obter informações sobre como usar seus próprios modelos personalizados com Unity Catalog, consulte gerenciar o ciclo de vida do modelo em Unity Catalog.
Encontre modelos de fundação no Unity Catalog
Em regiões onde o Mosaic AI Model Serving está habilitado, a Databricks pré-instalou uma seleção de modelos básicos de última geração. Esses modelos possuem licenças permissivas e foram otimizados para serem servidos com APIsde modelo de provisionamento Taxa de transferência Foundation. Consulte os termos do modelo aplicáveis.
Databricks recomenda o uso das versões básicas desses modelos para o ajuste fino da tarefa e o uso das versões de instrução para implantação e manutenção do modelo.
Esses modelos estão disponíveis diretamente no Gerenciador de Catálogos, no system catálogo no ai de esquema (system.ai).
Você pode disponibilizar esses modelos com um único clique e, em seguida, incorporar o endpoint de disponibilização do modelo diretamente no seu fluxo de trabalho de inferência de lotes. Para atender a um modelo, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Atender este modelo . Para obter mais informações sobre o modelo de operação, consulte modelos implantados usando modelo de operação. Para obter uma lista das regiões suportadas para servir o modelo, consulte Disponibilidade de regiões.
Os modelos em system.ai estão disponíveis para todos os usuários da account por default. Os administradores de metastore do Unity Catalog podem limitar o acesso a esses modelos. Consulte Gerenciar privilégios no Unity Catalog.
