Mosaic AI recursos para aplicativos generativos AI
Mosaic AI é uma plataforma para criar , avaliar , implantar e monitorar aplicativos generativos AI (gen AI apps). Ele reúne um conjunto de ferramentas que enfrentam os desafios do desenvolvimento de aplicativos de nível empresarial do gênero AI. O Mosaic AI se integra a estruturas populares de código aberto, adicionando governança, observabilidade e ferramentas operacionais de nível empresarial, conhecidas coletivamente como LLMOps.
Visão geral dos componentes do Mosaic AI
servindo modelo ajuda o senhor:
- Implante e consulte os aplicativos e modelos do site AI usando uma interface unificada
- Controle e monitore implantações
A avaliação do agente ajuda você a:
- Repita rapidamente para obter alta qualidade em seu ciclo de desenvolvimento.
- Monitore e corrija a qualidade durante a produção.
- Colete informações e feedback de especialistas no assunto sobre a qualidade do aplicativo gen AI.
- gerenciar o conjunto de dados de avaliação para definir e medir a qualidade.
O Agent Framework permite que você:
- Implante o código + configuração do seu aplicativo gen AI - logs como modelos MLflow - no endpoint de serviço pronto para produção com uma única linha de código.
O MLflow oferece recursos para:
- Instrumentar seus aplicativos gen AI para fornecer observabilidade e telemetria.
- Registre o código e a configuração do seu aplicativo gen AI para gerenciar seu ciclo de vida.
- Crie agentes usando uma ampla variedade de estruturas, incluindo langchain, langgraph, crewAI e OpenAI SDK.
Habilite a inteligência de dados
Databricks A plataforma de Data Intelligence aprende sobre seus dados e usa esse entendimento para ajudá-lo, ao mesmo tempo em que oferece governança e segurança sólidas:
- Pesquisa vetorial: Indexe automaticamente sua base de conhecimento em escala para pesquisas por similaridade ou híbridas.
- Genie: use a linguagem natural para consultar seus dados estruturados.
- serverless SQL : Integre fontes de dados existentes em seu aplicativo gen AI para análises ou transformações.
Como o Mosaic AI permite o desenvolvimento de aplicativos da geração AI
Mosaic AI ajuda o senhor a resolver alguns dos desafios do desenvolvimento de aplicativos gen AI.
Governança de ponta a ponta em dados e AI
Forte integração com o site Unity Catalog para fornecer uma única fonte de verdade para a governança de dados e AI:
- Unity Catalog Funções: Governança para as ferramentas baseadas em SQL e Pythondo seu sistema de agentes.
- Unity Catalog Modelos: Governança para o código e a configuração do seu sistema de agentes.
- Unity Catalog Conexões : Governança para seu APIs interno e externo usado pelo seu sistema de agentes.
Telemetria e observabilidade unificadas em toda a geração AI Aplicativos implantados dentro e fora do site Databricks :
- MLflow O rastreamento permite que o senhor instrumentalize seus aplicativos gen AI para coletar dados de telemetria e observabilidade para auditoria e avaliação/monitoramento da qualidade.
- AI O Gateway permite que o senhor rastreie o uso e log solicitações, rastreamentos e feedback do usuário.
O Lakeguard oferece um ambiente de execução de código em sandbox para que suas ferramentas respeitem a governança e as ACLs do Unity Catalog.
Entregas com qualidade de produção
É fácil colaborar com especialistas no assunto (PMEs) para coletar informações para informar a definição de qualidade.
- O Agent Evaluation fornece UIs integradas para permitir que especialistas no assunto rotulem dados de avaliação/treinamento e forneçam feedback sobre os resultados do aplicativo gen AI.
- As UIs de monitoramento ajudam a analisar as interações do SME e transformam o feedback valioso em dados de avaliação estruturados para melhoria contínua.
- O senhor pode aproveitar a avaliação e o recurso de monitoramento do Mosaic AI, quer tenha implantado seu aplicativo no Databricks ou em outro lugar.
Medição precisa, rápida e de qualidade no desenvolvimento e na produção, para aplicativos gen AI implantados dentro e fora do Databricks.
- Com a avaliação do agente :
- Os conjuntos de avaliação são usados para definir e medir o padrão de qualidade.
- AI Os juízes medem a qualidade e identificam as causas básicas dos problemas de qualidade.
- Monitoramento de agentes para avaliar automaticamente a qualidade das implementações de produção usando os juízes do site LLM.
- monitoramento da UI para identificar e depurar problemas de qualidade durante a produção.
Ferramentas de desenvolvimento rápido que reduzem o tempo de desenvolvimento
-
Avaliação do agente
- A geração de conjuntos de avaliação sintética fornece dados de avaliação de alta qualidade para testar e avaliar a qualidade do aplicativo gen AI antes de envolver as PMEs.
- A funcionalidade de avaliação facilita a avaliação rápida da qualidade usando os juízes e o conjunto de dados de avaliação do site LLM.
-
Estrutura do agente : implante o código do seu aplicativo gen AI & config, logs como modelos MLflow, para o serviço pronto para produção APIs hospedado no modelo de serviço usando uma linha de código.
-
AI Playground : UI em sandbox para interagir com um aplicativo implantado.
Suporte de código aberto no Mosaic AI
Com o Mosaic AI, o senhor pode escalar seus aplicativos gen AI para uso corporativo, independentemente da estrutura de código aberto com a qual começar.
Mosaic AI complementa , mas não substitui, o código aberto gen AI biblioteca e os SDKs existentes, como o código aberto gen biblioteca:
- Inteligência artificial aberta
- LangChain
- Gráfico Lang
- AutoGen
- Índice LlamaM
- CrewAI
- Núcleo semântico
- DSPy
Se o senhor preferir criar seus aplicativos de geração AI a partir do zero, o Mosaic AI oferece suporte a soluções personalizadas somente para Python, sem necessidade de estrutura.