Capacidades AI generativaDatabricks

Databricks fornece uma plataforma para construir, avaliar, implantar e monitorar aplicações AI generativa (aplicações GenAI). Ele reúne um conjunto de ferramentas que abordam os desafios do desenvolvimento de aplicativos GenAI de nível empresarial. O Databricks se integra com frameworks populares de código aberto, adicionando ferramentas de governança, observabilidade e operacionais de nível empresarial, conhecidas coletivamente como LLMOps.

Esta página lista os principais recursos do GenAI, organizados por etapas do fluxo de trabalho do GenAI.

Consulta GenAI

A Databricks disponibiliza modelos GenAI de última geração dos principais fornecedores de modelos por meio dos Modelos Fundamentais hospedados na Databricks. Você também pode consultar modelos de provedores externos e seus modelos personalizados. Todos esses modelos podem ser consultados por meio de interfaces de usuário (UI), API/SDK e SQL. Essa possibilidade de escolha permite que você use o GenAI para todos os casos de uso: bate-papo geral, agentes complexos, pipeline de dados automatizado, análise interativa de dados e muito mais.

Método	Recursos
UI	Para desenvolvimento, o AI Playground fornece uma interface de usuário para consultar os modelos e agentes GenAI disponíveis. Para fins de teste, seus agentes e aplicativos podem ser consultados e avaliados por especialistas da área usando o aplicativo de revisão. Para produção, seus aplicativos podem ser hospedados com uma interface de usuário usando o Databricks Apps para uso interno em sua organização. Para aplicativos externos, você pode utilizar as APIs do Databricks para alimentar aplicativos voltados para o usuário.
API e SDK	Model Serving fornece um endpoint API REST para consultar modelos e agentes. Veja mais opções de consulta , incluindo o cliente OpenAI e o SDK Python da Databricks.
SQL	As funçõesAI fornecem funções SQL específicas para tarefas e funções de propósito geral para consultar modelos e agentes.

Método	Recursos
UI	Para desenvolvimento, o AI Playground fornece uma interface de usuário para consultar os modelos e agentes GenAI disponíveis. Para fins de teste, seus agentes e aplicativos podem ser consultados e avaliados por especialistas da área usando o aplicativo de revisão. Para produção, seus aplicativos podem ser hospedados com uma interface de usuário usando o Databricks Apps para uso interno em sua organização. Para aplicativos externos, você pode utilizar as APIs do Databricks para alimentar aplicativos voltados para o usuário.
API e SDK	Model Serving fornece um endpoint API REST para consultar modelos e agentes. Veja mais opções de consulta , incluindo o cliente OpenAI e o SDK Python da Databricks.
SQL	As funçõesAI fornecem funções SQL específicas para tarefas e funções de propósito geral para consultar modelos e agentes.

Construir GenAI

O Databricks oferece um conjunto flexível de ferramentas para criar aplicativos, agentes, ferramentas e modelos de IA GenAI. Isso inclui frameworks de interface do usuário e baseados em código, que podem otimizar os sistemas GenAI com base nos seus dados. Você pode aproveitar qualquer framework GenAI de código aberto e integrar ferramentas personalizadas e servidores MCP.

Categoria	Recursos
Apps	O Databricks Apps oferece desenvolvimento e implantação flexíveis de aplicativos para usuários autenticados. Aplicativos personalizados podem ser desenvolvidos com base nas APIs do Databricks.
Agentes	O AI Playground fornece uma interface de usuário para prototipagem de agentes que chamam ferramentas. Código personalizado e frameworks de código aberto podem ser desenvolvidos e implantados usando Agentes personalizados ou Databricks Apps.
Ferramentas	O suporte da ferramenta inclui servidores MCP e FunçõesUnity Catalog, ambos oferecendo governança baseada Unity Catalog .
Modelos e instruções	A engenharia de prompts pode ser feita interativamente usando AI Playground ou por meio de otimização data-driven usando MLflow Prompt Optimization. Ajuste modelos usando o Databricks Runtime para Machine Learning com suporte a GPU.

Categoria	Recursos
Apps	O Databricks Apps oferece desenvolvimento e implantação flexíveis de aplicativos para usuários autenticados. Aplicativos personalizados podem ser desenvolvidos com base nas APIs do Databricks.
Agentes	O AI Playground fornece uma interface de usuário para prototipagem de agentes que chamam ferramentas. Código personalizado e frameworks de código aberto podem ser desenvolvidos e implantados usando Agentes personalizados ou Databricks Apps.
Ferramentas	O suporte da ferramenta inclui servidores MCP e FunçõesUnity Catalog, ambos oferecendo governança baseada Unity Catalog .
Modelos e instruções	A engenharia de prompts pode ser feita interativamente usando AI Playground ou por meio de otimização data-driven usando MLflow Prompt Optimization. Ajuste modelos usando o Databricks Runtime para Machine Learning com suporte a GPU.

Preparar e disponibilizar dados

A Databricks simplifica os dados para a IA unificando a governança de cargas de trabalho tradicionais de dados e IA. Com todos os dados gerenciados no Unity Catalog com controles de acesso refinados, é fácil ajustar os limites de engenharia de dados e AI para se adequar à sua organização. Os dados podem ser preparados para GenAI usando quaisquer ferramentas de engenharia de dados, como os LakeFlow Pipelines. Uma tabela no Unity Catalog pode ser usada para GenAI, usando um índice vetorial para dados não estruturados ou uma tabela de recursos para dados estruturados.

Tipo de dados	Recursos
Não estruturado (texto, imagens, etc.)	Pesquisa de IA indexa automaticamente sua base de conhecimento em escala para pesquisa semântica ou híbrida.
Estruturado (tabelas)	SQLsem servidor permite integrar tabelas e consultas SQL em seu aplicativo GenAI para análises ou transformações. Os agentes Genie podem ser usados em sistemas multiagentes para responder a consultas em linguagem natural sobre seus dados estruturados.

Tipo de dados	Recursos
Não estruturado (texto, imagens, etc.)	Pesquisa de IA indexa automaticamente sua base de conhecimento em escala para pesquisa semântica ou híbrida.
Estruturado (tabelas)	SQLsem servidor permite integrar tabelas e consultas SQL em seu aplicativo GenAI para análises ou transformações. Os agentes Genie podem ser usados em sistemas multiagentes para responder a consultas em linguagem natural sobre seus dados estruturados.

implantar e servir GenAI

A Databricks fornece sistemas de serviço prontos para produção para aplicativos, agentes e modelos GenAI, com suporte do Databricks Apps. Essas implementações escaláveis podem ser usadas tanto para o fornecimento de tempo real quanto para a inferência de lotes. Todas as implementações integram-se com ferramentas de observabilidade , avaliação e monitoramento .

Método de desenvolvimento	Implantação e serviço
Databricks Apps	Aplicativos e agentes podem ser implantados usando Databricks Apps, que oferece implantação baseada em interface do usuário e API.

Método de desenvolvimento	Implantação e serviço
Databricks Apps	Aplicativos e agentes podem ser implantados usando Databricks Apps, que oferece implantação baseada em interface do usuário e API.

Rastrear, avaliar e monitorar a IA GenAI

Databricks fornece gerenciamento MLflow para observabilidade, avaliação e monitoramento GenAI. APIs de código aberto simplificam a integração e a portabilidade, enquanto o serviço gerenciado fornece endpoint pronto para produção. Databricks-gerenciar MLflow pode ser usado para aplicativos e agentes GenAI hospedados no Databricks e em outros locais.

Categoria	Recursos
Rastreamento e observabilidade	O MLflow Tracing permite instrumentar seus agentes e aplicativos GenAI para coletar dados de telemetria e observabilidade para avaliação, monitoramento de produção e auditoria.
Avaliação	A ferramenta de avaliação MLflow permite medir a qualidade dos sistemas GenAI. Os juízes e avaliadores LLM integrados e personalizados , juntamente com o conjunto de dados de avaliação, permitem que você adapte a avaliação ao seu caso de uso.
Monitoramento	O monitoramento da produção permite medir a qualidade em etapas de produção, utilizando os mesmos avaliadores e classificadores da avaliação durante o desenvolvimento.
Feedback humano	Durante o desenvolvimento, o aplicativo Review permite que você execute verificações rápidas de impressão usando uma interface de bate-papo e colete feedback de especialistas em sessões de rotulagem. Durante a produção, APIs permitem anotar rastreamentos com feedback do usuário.

Categoria	Recursos
Rastreamento e observabilidade	O MLflow Tracing permite instrumentar seus agentes e aplicativos GenAI para coletar dados de telemetria e observabilidade para avaliação, monitoramento de produção e auditoria.
Avaliação	A ferramenta de avaliação MLflow permite medir a qualidade dos sistemas GenAI. Os juízes e avaliadores LLM integrados e personalizados , juntamente com o conjunto de dados de avaliação, permitem que você adapte a avaliação ao seu caso de uso.
Monitoramento	O monitoramento da produção permite medir a qualidade em etapas de produção, utilizando os mesmos avaliadores e classificadores da avaliação durante o desenvolvimento.
Feedback humano	Durante o desenvolvimento, o aplicativo Review permite que você execute verificações rápidas de impressão usando uma interface de bate-papo e colete feedback de especialistas em sessões de rotulagem. Durante a produção, APIs permitem anotar rastreamentos com feedback do usuário.

LLMOps

A Databricks oferece um conjunto completo de ferramentas para operações de GenAI, ou "LLMOps". A governança unificada de dados e AI ativa no Unity Catalog simplifica e protege a implementação de AI em toda a organização. O AI Gateway simplifica o gerenciamento de modelos de diversos fornecedores de modelos GenAI. Os pacotes MLflow e Declarative Automation oferecem controle de versão e Infrastructure-as-Code para a implementação de processos LLMOps robustos.

Categoria	Recursos
Governança ativa de dados e AI	Unity Catalog oferece governança unificada para dados e AI ativa. Os dados ativos incluem arquivos, tabelas, índices vetoriais e repositório de recursos. AI Ativo inclui modelos, ferramentas e conexões para servidores MCP e outras APIs.
Governança endpoint do modelo	AI Gateway fornece governança e monitoramento centralizados para o endpoint do modelo GenAI.
versionamento de prompt	MLflow fornece um Registro de Prompts, bem como acompanhamento de experimentos.
Infraestrutura como código	MLOps Stacks, que é construído sobre os Databricks Ativo Bundles, fornece gerenciamento e implantação de infraestrutura e fluxo de trabalho baseados em código.

Categoria	Recursos
Governança ativa de dados e AI	Unity Catalog oferece governança unificada para dados e AI ativa. Os dados ativos incluem arquivos, tabelas, índices vetoriais e repositório de recursos. AI Ativo inclui modelos, ferramentas e conexões para servidores MCP e outras APIs.
Governança endpoint do modelo	AI Gateway fornece governança e monitoramento centralizados para o endpoint do modelo GenAI.
versionamento de prompt	MLflow fornece um Registro de Prompts, bem como acompanhamento de experimentos.
Infraestrutura como código	MLOps Stacks, que é construído sobre os Databricks Ativo Bundles, fornece gerenciamento e implantação de infraestrutura e fluxo de trabalho baseados em código.

Suporte a código aberto

A Databricks oferece suporte completo ao ecossistema de código aberto em rápido crescimento do GenAI.

Para o desenvolvimento, você pode usar qualquer framework de código aberto e implantá-lo usando Databricks Apps. O serviço Databricks pode ser usado por ferramentas e aplicativos GenAI de terceiros através de servidores MCP , da API REST ou dos SDKs.

Para observabilidade, avaliação e monitoramento, o MLflow Tracing fornece registro automático nativo para mais de 20 frameworks GenAI de código aberto, e você pode adicionar rastreamento personalizado a quaisquer outros frameworks ou códigos. Os dados coletados podem então ser usados com o MLflow para avaliação e monitoramento de produção. Os rastreamentos seguem as especificações de rastreamento do OpenTelemetry e podem ser exportados para ferramentas de terceiros.

Recursos adicionais

• Construa agentes de AI no Databricks
• código aberto vs. gerenciar MLflow no Databricks