RecursosMosaic AI para GenAI

Mosaic AI fornece uma plataforma para construir, avaliar, implantar e monitorar aplicações AI generativa (aplicações GenAI). Ele reúne um conjunto de ferramentas que abordam os desafios do desenvolvimento de aplicativos GenAI de nível empresarial. O Mosaic AI integra-se com estruturas populares de código aberto, adicionando governança, observabilidade e ferramentas operacionais de nível empresarial, conhecidas coletivamente como LLMOps.

Esta página lista os principais recursos do GenAI, organizados por etapas do fluxo de trabalho do GenAI.

Consulta GenAI

A Databricks disponibiliza modelos GenAI de última geração dos principais fornecedores de modelos por meio dos Modelos Fundamentais hospedados na Databricks. Você também pode consultar modelos de provedores externos e seus modelos personalizados. Todos esses modelos podem ser consultados por meio de interfaces de usuário (UI), API/SDK e SQL. Essa possibilidade de escolha permite que você use o GenAI para todos os casos de uso: bate-papo geral, agentes complexos, pipeline de dados automatizado, análise interativa de dados e muito mais.

Método	Recursos
UI	Para desenvolvimento, o AI Playground fornece uma interface de usuário para consultar os modelos e agentes GenAI disponíveis. Para fins de teste, seus agentes e aplicativos podem ser consultados e avaliados por especialistas da área usando o aplicativo de revisão. Para produção, seus aplicativos podem ser hospedados com uma interface de usuário usando o Databricks Apps para uso interno em sua organização. Para aplicativos externos, você pode utilizar as APIs do Databricks para alimentar aplicativos voltados para o usuário.
API e SDK	Servindo modelo fornece um endpoint API REST para consultar modelos e agentes. Veja mais opções de consulta , incluindo o cliente OpenAI e o SDK Python da Databricks.
SQL	As funçõesAI fornecem funções SQL específicas para tarefas e funções de propósito geral para consultar modelos e agentes.

Construir GenAI

O Databricks oferece um conjunto flexível de ferramentas para criar aplicativos, agentes, ferramentas e modelos de IA GenAI. Isso inclui frameworks de interface do usuário e baseados em código, que podem otimizar os sistemas GenAI com base nos seus dados. Você pode aproveitar qualquer framework GenAI de código aberto e integrar ferramentas personalizadas e servidores MCP.

Categoria	Recursos
Apps	O Databricks Apps oferece desenvolvimento e implantação flexíveis de aplicativos para usuários autenticados. Aplicativos personalizados podem ser desenvolvidos com base nas APIs do Databricks.
Agentes	O Agent Bricks oferece desenvolvimento e otimização guiados de agentes para casos de uso key AI . O AI Playground fornece uma interface de usuário para prototipagem de agentes que chamam ferramentas. É possível desenvolver e implantar código personalizado e frameworks de código aberto usando o Agent Framework ou Databricks Apps.
Ferramentas	O suporte da ferramenta inclui servidores MCP e FunçõesUnity Catalog, ambos oferecendo governança baseada Unity Catalog .
Modelos e instruções	A engenharia de prompts pode ser feita interativamente usando AI Playground ou por meio de otimização data-driven usando MLflow Prompt Optimization. Ajuste modelos usando computeGPU sem servidor.

Preparar e disponibilizar dados

Databricks simplifica os dados para AI , unificando a governança de dados tradicionais e cargas de trabalho AI . Com todos os dados gerenciados no Unity Catalog com controles de acesso detalhados, é fácil ajustar os limites da engenharia de dados e AI para se adequarem à sua organização. Os dados podem ser preparados para o GenAI usando quaisquer ferramentas de engenharia de dados, como o pipeline declarativoLakeFlow Spark. Uma tabela no Unity Catalog pode ser disponibilizada para o GenAI, usando um índice vetorial para dados não estruturados ou uma tabela de recursos para dados estruturados.

Tipo de dados	Recursos
Não estruturado (texto, imagens, etc.)	A Busca Vetorial indexa automaticamente sua base de conhecimento em grande escala para busca semântica ou híbrida.
Estruturado (tabelas)	SQLsem servidor permite integrar tabelas e consultas SQL em seu aplicativo GenAI para análises ou transformações. Os agentes Genie podem ser usados em sistemas multiagentes para responder a consultas em linguagem natural sobre seus dados estruturados. O repositório de recursos online fornece acesso a recursos em tempo real para seu aplicativo GenAI.

implantar e servir GenAI

Databricks fornece sistemas de serviço prontos para produção para aplicativos, agentes e modelos GenAI, com suporte do Databricks Apps e do Servindo Modelo. Essas implementações escaláveis podem ser usadas tanto para o fornecimento de tempo real quanto para a inferência de lotes. Todas as implementações integram-se com ferramentas de observabilidade , avaliação e monitoramento .

A estrutura que você usar para desenvolver seu sistema GenAI orientará o caminho de implantação:

Quadro de desenvolvimento	Implantação e serviço
Databricks Apps	Aplicativos e agentes podem ser implantados usando Databricks Apps, que oferece implantação baseada em interface do usuário e API.
Agent Bricks	O Agent Bricks automatiza a implantação do seu agente no endpoint do modelo de serviço .
Código de agente personalizado e estruturas de código aberto	Se você desenvolver um agente usando código ou frameworks personalizados, poderá usar o Agent Framework para simplificar a implantação no modelo de serviço.
Modelos ajustados	implantamos modelos otimizados nas APIsdo Foundation Model.

Rastrear, avaliar e monitorar a IA GenAI

Databricks fornece gerenciamento MLflow para observabilidade, avaliação e monitoramento GenAI. APIs de código aberto simplificam a integração e a portabilidade, enquanto o serviço gerenciado fornece endpoint pronto para produção. Databricks-gerenciar MLflow pode ser usado para aplicativos e agentes GenAI hospedados no Databricks e em outros locais.

Categoria	Recursos
Rastreamento e observabilidade	O MLflow Tracing permite instrumentar seus agentes e aplicativos GenAI para coletar dados de telemetria e observabilidade para avaliação, monitoramento de produção e auditoria.
Avaliação	A ferramenta de avaliação MLflow permite medir a qualidade dos sistemas GenAI. Os juízes e avaliadores LLM integrados e personalizados , juntamente com o conjunto de dados de avaliação, permitem que você adapte a avaliação ao seu caso de uso.
Monitoramento	O monitoramento da produção permite medir a qualidade em etapas de produção, utilizando os mesmos avaliadores e classificadores da avaliação durante o desenvolvimento.
Feedback humano	Durante o desenvolvimento, o aplicativo Review permite que você execute verificações rápidas de impressão usando uma interface de bate-papo e colete feedback de especialistas em sessões de rotulagem. Durante a produção, APIs permitem anotar rastreamentos com feedback do usuário.

LLMOps

A Databricks oferece um conjunto completo de ferramentas para operações de GenAI, ou "LLMOps". A governança unificada de dados e AI ativa no Unity Catalog simplifica e protege a implementação de AI em toda a organização. O AI Gateway simplifica o gerenciamento de modelos de diversos fornecedores de modelos GenAI. Os pacotes MLflow e Databricks Ativo oferecem controle de versão e Infrastructure-as-Code para a implementação de processos LLMOps robustos.

Categoria	Recursos
Governança ativa de dados e AI	Unity Catalog oferece governança unificada para dados e AI ativa. Os dados ativos incluem arquivos, tabelas, índices vetoriais e repositório de recursos. AI Ativo inclui modelos, ferramentas e conexões para servidores MCP e outras APIs.
Governança endpoint do modelo	AI Gateway fornece governança e monitoramento centralizados para o endpoint do modelo GenAI.
Controle de versão de aplicativos, agentes e prompts	MLflow oferece suporte ao versionamento de aplicativos e agentes , além de um Registro de Prompt e acompanhamento de experimentos.
Infraestrutura como código	MLOps Stacks, que é construído sobre os Databricks Ativo Bundles, fornece gerenciamento e implantação de infraestrutura e fluxo de trabalho baseados em código.

Suporte a código aberto no Mosaic AI

A Mosaic AI oferece suporte completo ao ecossistema de código aberto em rápido crescimento do GenAI.

Para desenvolvimento, você pode utilizar qualquer código aberto do framework e implantá-lo com Agent Framework para instalar o modelo. O serviço Databricks pode ser usado por ferramentas e aplicativos GenAI de terceiros através de servidores MCP , da API REST ou dos SDKs.

Para observabilidade, avaliação e monitoramento, o MLflow Tracing fornece registro automático nativo para mais de 20 frameworks GenAI de código aberto, e você pode adicionar rastreamento personalizado a quaisquer outros frameworks ou códigos. Os dados coletados podem então ser usados com o MLflow para avaliação e monitoramento de produção. Os rastreamentos seguem as especificações de rastreamento do OpenTelemetry e podem ser exportados para ferramentas de terceiros.

Saber mais

• Introdução aos aplicativos generativos AI em Databricks
• Tutorial AI e machine learning
• código aberto vs. gerenciar MLflow no Databricks