Introdução a aplicativos AI generativa no Databricks

A Mosaic AI oferece suporte a aplicações GenAI simples e complexas, desde chatbots de Geração Aumentada por Recuperação (RAG) até agentes de chamada de ferramentas. Este guia do usuário explica os key conceitos por trás dos aplicativos GenAI e sistemas de agentes no Databricks e fornece orientações para criar, avaliar e dimensionar aplicativos GenAI.

• • Comece agora: GenAI sem código
  • Experimente o AI Playground para testes e prototipagem baseados em interface do usuário.
• • Começar: MLflow 3 para GenAI
  • Experimente o MLflow para rastreamento, avaliação e feedback humano do GenAI.
• • Conceitos: GenAI no Databricks
  • Saiba mais sobre os modelos, agentes, ferramentas e aplicativos da GenAI.
• • Plataforma: recurso principal da GenAI
  • Encontre detalhes sobre key recursos para GenAI no Databricks.

Comece a criar aplicativos GenAI

Experimente o GenAI baseado em interface de usuário e em código no Databricks.

Tutorial	Descrição
Comece agora: Consulte LLMs e crie protótipos de agentes AI sem código.	Familiarize-se com o AI Playground para testes e prototipagem baseados em interface do usuário.
Começar: MLflow 3 para GenAI	Experimente o MLflow para rastreamento, avaliação e feedback humano do GenAI .
Comece a consultar LLMs no Databricks	Utilize as APIs do Foundation Model para consultar modelos GenAI usando código.

Aprenda os conceitos do GenAI

Familiarize-se com os conceitos fundamentais da GenAI, como modelos, agentes, ferramentas e aplicativos.

guia	Descrição
Conceitos: AI Generativa no Databricks	Saiba mais sobre os modelos, agentes, ferramentas e aplicativos da GenAI.
Principais desafios na criação de aplicativos GenAI	Saiba mais sobre key desafios da Inteligência Artificial Geral (GenAI) e como Databricks os aborda.
Padrões de projeto de sistemas de agentes	Aprenda sobre opções e vantagens e desvantagens para projetos de agentes, desde cadeias simples até sistemas multiagentes complexos.

Use o recurso Databricks para criar aplicativos GenAI.

Para abordagens sem código ou com pouco código, comece familiarizando-se com:

Recurso	Descrição
AI Playground	Consulte modelos e agentes GenAI, faça engenharia de instruções e crie protótipos de agentes que chamam ferramentas em uma interface de usuário.
Funções de IA	Chame funções SQL integradas para tarefa AI .

Para abordagens que priorizam o código, comece familiarizando-se com:

Recurso	Descrição
MLflow para GenAI	Utilize o MLflow para rastreamento e observabilidade, avaliação e monitoramento.
Modelos de fundação em modelo interativo	Utilize o endpoint do modelo GenAI, incluindo APIsde Modelos Fundamentais hospedadasDatabricks e modelos externos.
Vector Search	Criar e consultar índices vetoriais para RAG e outros sistemas de agentes.
Estrutura do Mosaic AI Agent	Criar e implantar agentes AI usando código.
Gateway de IA	Gerencie e monitore o acesso aos modelos e endpoints do GenAI.

Para obter uma lista mais detalhada, consulte as funcionalidades do Mosaic AI para GenAI.

Inteligência geral versus inteligência de dados

• A inteligência geral refere-se ao conhecimento inato adquirido pelo mestre em Direito (LLM) a partir de um amplo treinamento prévio em diversos tipos de texto. Isso é útil para a fluência na linguagem e o raciocínio em geral.
• Inteligência de dados refere-se aos dados e APIs específicos do domínio da sua organização. Isso pode incluir registros de clientes, informações sobre produtos, bases de conhecimento ou documentos que reflitam o ambiente específico da sua empresa.

Os sistemas de agentes combinam essas duas fontes de conhecimento: começam com o conhecimento amplo e genérico de um LLM e, em seguida, incorporam dados reais ou específicos do domínio para responder a perguntas detalhadas ou executar ações especializadas. Com o Databricks, você pode incorporar inteligência de dados em seus aplicativos GenAI em todos os níveis:

• fonte de dados como índices vetoriais e Genie

• Agentes e aplicativos

• Dados e métricas de avaliação

• Otimização imediata com base em dados de avaliação

GenAI x ML x aprendizagem profunda

As fronteiras entre inteligência artificial generativa (GenAI), machine learning (ML) e aprendizagem profunda (DL) podem ser imprecisas. Este guia se concentra em GenAI, mas os seguintes recursos da plataforma Databricks oferecem suporte ML, aprendizagem profunda e GenAI:

• O modelo específico oferece suporte aos modelos ML, aprendizagem profunda e GenAI. Você pode usá-lo para inferência de lotes GenAI e para implantar agentes ou modelos ajustados usando um modelo de serviço personalizado.

• Databricks Runtime para Machine Learning com suporte a GPU pode ser usado para ensinar e ajustar modelos ML, aprendizagem profunda e GenAI.

• O acompanhamento de experimentosMLflow pode ser usado para monitorar experimentos e sua execução, tanto de ML clássico quanto de GenAI.

• Databricks Feature Store pode ser usado para gerenciar e fornecer dados estruturados tanto para ML clássico quanto para IA de geração de dados.