Mosaic AI recursos para aplicativos generativos AI

Mosaic AI inclui um conjunto de ferramentas que aborda os desafios da criação de aplicativos de alta qualidade e de produção no site AI. Esse conjunto de ferramentas que prioriza o código oferece funcionalidade para criar, avaliar, implantar e monitorar aplicativos do gênero AI em escala. Cada componente se integra ao Unity Catalog para governança unificada e ao MLflow para acompanhamento, rastreamento e controle de versão de experimentos.

Visão geral dos componentes do Mosaic AI

servindo modelo ajuda o senhor:

• Implante e consulte os aplicativos e modelos do site AI usando uma interface unificada
• Controle e monitore implantações

A avaliação do agente ajuda você a:

• Repita rapidamente para obter alta qualidade em seu ciclo de desenvolvimento.
• Monitore e corrija a qualidade durante a produção.
• Colete informações e feedback de especialistas no assunto sobre a qualidade do aplicativo gen AI.
• gerenciar o conjunto de dados de avaliação para definir e medir a qualidade.

O Agent Framework permite que você:

• Implante o código + configuração do seu aplicativo gen AI - logs como modelos MLflow - no endpoint de serviço pronto para produção com uma única linha de código.

O MLflow oferece recursos para:

• Instrumentar seus aplicativos gen AI para fornecer observabilidade e telemetria.
• Registre o código e a configuração do seu aplicativo gen AI para gerenciar seu ciclo de vida.
• Crie agentes usando uma ampla variedade de estruturas, incluindo langchain, langgraph, crewAI e OpenAI SDK.

Habilite a inteligência de dados

Databricks A plataforma de Data Intelligence aprende sobre seus dados e usa esse entendimento para ajudá-lo, ao mesmo tempo em que oferece governança e segurança sólidas:

• Pesquisa vetorial: Indexe automaticamente sua base de conhecimento em escala para pesquisas por similaridade ou híbridas.
• Genie: use a linguagem natural para consultar seus dados estruturados.
• serverless SQL : Integre fontes de dados existentes em seu aplicativo gen AI para análises ou transformações.
• Tabelas on-line: Acesse o tempo real recurso em seu aplicativo gen AI.

Como o Mosaic AI permite o desenvolvimento de aplicativos da geração AI

Mosaic AI ajuda o senhor a resolver alguns dos desafios do desenvolvimento de aplicativos gen AI.

Governança de ponta a ponta em dados e AI

Forte integração com o site Unity Catalog para fornecer uma única fonte de verdade para a governança de dados e AI:

• Unity Catalog Funções: Governança para as ferramentas baseadas em SQL e Pythondo seu sistema de agentes.
• Unity Catalog Modelos: Governança para o código e a configuração do seu sistema de agentes.
• Unity Catalog Conexões : Governança para seu APIs interno e externo usado pelo seu sistema de agentes.

Telemetria e observabilidade unificadas em toda a geração AI Aplicativos implantados dentro e fora do site Databricks :

• MLflow O rastreamento permite que o senhor instrumentalize seus aplicativos gen AI para coletar dados de telemetria e observabilidade para auditoria e avaliação/monitoramento da qualidade.
• AI O Gateway permite que o senhor rastreie o uso e log solicitações, rastreamentos e feedback do usuário.

O Lakeguard oferece um ambiente de execução de código em sandbox para que suas ferramentas respeitem a governança e as ACLs do Unity Catalog.

Entregas com qualidade de produção

É fácil colaborar com especialistas no assunto (PMEs) para coletar informações para informar a definição de qualidade.

• O Agent Evaluation fornece UIs integradas para permitir que especialistas no assunto rotulem dados de avaliação/treinamento e forneçam feedback sobre os resultados do aplicativo gen AI.
• As UIs de monitoramento ajudam a analisar as interações do SME e transformam o feedback valioso em dados de avaliação estruturados para melhoria contínua.

Medição precisa, rápida e de qualidade no desenvolvimento e na produção, para aplicativos gen AI implantados dentro e fora do Databricks.

• Com a avaliação do agente :
  • Os conjuntos de avaliação são usados para definir e medir o padrão de qualidade.
  • AI Os juízes medem a qualidade e identificam as causas básicas dos problemas de qualidade.
  • Monitoramento de agentes para avaliar automaticamente a qualidade das implementações de produção usando os juízes do site LLM.
  • monitoramento da UI para identificar e depurar problemas de qualidade durante a produção.

Ferramentas de desenvolvimento rápido que reduzem o tempo de desenvolvimento

• Avaliação do agente

  • A geração de conjuntos de avaliação sintética fornece dados de avaliação de alta qualidade para testar e avaliar a qualidade do aplicativo gen AI antes de envolver as PMEs.
  • A funcionalidade de avaliação facilita a avaliação rápida da qualidade usando os juízes e o conjunto de dados de avaliação do site LLM.

• Agent Framework : implante o código e a configuração do seu aplicativo gen AI, registre como modelos MLflow, para servir APIs pronto para produção hospedado no servindo modelo usando uma linha de código.

• AI Playground : UI em sandbox para interagir com um aplicativo implantado.

  Veja mais

• Introdução aos aplicativos generativos AI em Databricks

• Principais desafios na criação de aplicativos da geração AI

• Descrição do pipeline de dados do RAG e etapas de processamento