Acesse modelos generativos AI e LLM do Unity Catalog
Visualização
Esse recurso está em Public Preview.
Databricks inclui uma seleção de modelos generativos AI de alta qualidade e modelos básicos de aprendizado de máquina LLM no Unity Catalog. Este artigo descreve como você pode usar esses modelos e incorporá-los ao seu fluxo de trabalho de inferência. Esses modelos permitem que você acesse recursos AI de última geração, economizando tempo e dinheiro que seriam gastos na criação de modelos personalizados.
Para obter informações sobre como usar seus próprios modelos personalizados com Unity Catalog, consulte gerenciar o ciclo de vida do modelo em Unity Catalog.
Encontre modelos de fundação no Unity Catalog
Nas regiões que estão habilitadas para o Mosaic AI Model Serving, a Databricks pré-instalou uma seleção de modelos de fundação de última geração. Esses modelos têm licenças permissivas e foram otimizados para servir com provisionamento Taxa de transferência Foundation Model APIs. Consulte os termos e licenças de desenvolvedor de modelos aplicáveis.
Databricks recomenda o uso das versões básicas desses modelos para o ajuste fino da tarefa e o uso das versões de instrução para implantação e manutenção do modelo.
Esses modelos estão disponíveis diretamente no Gerenciador de Catálogos, no system catálogo no ai de esquema (system.ai).
Você pode disponibilizar esses modelos com um único clique e, em seguida, incorporar o endpoint de disponibilização do modelo diretamente no seu fluxo de trabalho de inferência de lotes. Para atender a um modelo, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Atender este modelo . Para obter mais informações sobre o modelo de operação, consulte modelos implantados usando Mosaic AI Model Serving. Para obter uma lista das regiões suportadas para servir o modelo, consulte Disponibilidade de regiões.
Os modelos em system.ai estão disponíveis para todos os usuários do account em default. Os administradores do metastore do Unity Catalog podem limitar o acesso a esses modelos. Consulte Privilégios e objetos protegidos do Unity Catalog.
