Aprendizado de máquina com a Mosaic AI

Mosaic AI unifica o ciclo de vida do AI, desde a coleta e a preparação de dados, passando pelo desenvolvimento de modelos e LLMOps, até o atendimento e o monitoramento. Com o Mosaic AI, uma única plataforma atende a todas as etapas de desenvolvimento e implementação de ML. data scientistsO senhor pode usar o mesmo conjunto de ferramentas e uma única fonte de verdade para os dados, os engenheiros de dados, os engenheiros do ML e o DevOps.

Este artigo descreve as ferramentas que o SAP Databricks fornece para ajudar o senhor a criar sistemas de inteligência artificial (AI) e aprendizado de máquina (ML).

recurso

Os seguintes recursos AI e ML estão incluídos no SAP Databricks:

• AI Playground para testar modelos generativos AI de seu Databricks workspace. Você pode solicitar, comparar e ajustar configurações como comandos do sistema e parâmetros de inferência.
• AI Functions que o senhor pode usar para aplicar AI, como tradução de texto ou análise de sentimento, em seus dados armazenados em Databricks.
• Mosaic AI Gateway para governar e monitorar o acesso aos modelos generativos AI suportados e seu endpoint de modelo de serviço associado.
• Mosaic AI Model Serving para LLMs implantados.
• O Mosaic AI Vector Search oferece um banco de dados vetorial consultável que armazena vetores de incorporação e pode ser configurado para sincronizar automaticamente com sua base de conhecimento.
• Monitoramento de lagoas para monitoramento de dados e acompanhamento da qualidade e desvio da previsão do modelo usando o registro automático de carga útil com tabelas de inferência.
• Gerenciar MLflow para o agente AI e o ciclo de vida do modelo ML.
• Mosaic AI Estrutura de agentes para criar e implantar agentes com qualidade de produção, como os aplicativos Retrieval Augmented Generation (RAG).
• Mosaic AI Avaliação de agentes para avaliar a qualidade, o custo e a latência de aplicativos generativos do AI, incluindo aplicativos e cadeias RAG.
• AutoML para simplificar o processo de aplicação do aprendizado de máquina ao seu conjunto de dados.
• Foundation Model Fine-tuning para personalizar um modelo de fundação usando seus próprios dados para otimizar o desempenho para sua aplicação específica.
• Unity Catalog para gerenciar AI ativo, incluindo modelos e experimentos.

gerenciar AI ativo com Unity Catalog

O Mosaic AI unifica a camada de dados e a plataforma de ML. Todos os dados ativos e artefatos, como modelos e funções, podem ser descobertos e controlados em um único catálogo. O uso de uma única plataforma para dados e modelos possibilita o rastreamento da linhagem, desde os dados brutos até o modelo de produção. O monitoramento integrado de dados e modelos salva as métricas de qualidade em tabelas que também são armazenadas na plataforma, facilitando a identificação da causa raiz dos problemas de desempenho dos modelos.

Converse com LLMs e crie protótipos de aplicativos generativos AI usando AI Playground

O senhor pode interagir com grandes modelos de linguagem suportados usando o AI Playground. O AI Playground é um ambiente semelhante a um bate-papo em que o senhor pode testar, solicitar e comparar LLMs. Consulte Bate-papo com LLMs e protótipo de aplicativos generativos AI usando AI Playground.

Use AI Functions em SQL

AI Functions são funções integradas que o senhor pode usar para aplicar AI, como tradução de texto ou análise de sentimento, em seus dados armazenados em Databricks. Elas podem ser executadas no editor do Notebook e do site SQL. Os engenheiros analistas, data scientists e de aprendizado de máquina podem usar as funções do AI para aplicar inteligência de dados a seus dados proprietários. Veja Apply AI em uso de dados SAP Databricks AI Functions .

AI Gateway

Mosaic AI Gateway foi projetado para simplificar o uso e o gerenciamento de modelos e agentes generativos da AI em uma organização. É um serviço centralizado que traz governança, monitoramento e prontidão de produção para atender ao modelo de endpoint. Ele também permite que o senhor execute, proteja e controle o tráfego AI para democratizar e acelerar a adoção do AI em sua organização. Consulte Configure AI Gateway on servindo modelo endpoint.

modelos implantados usando Mosaic AI Model Serving

Mosaic AI Model Serving fornece uma interface unificada para implantar, administrar e consultar modelos AI para inferência de tempo real e lotes. Cada modelo que o senhor atende está disponível como uma API REST que pode ser integrada ao seu aplicativo da Web ou cliente.

Você pode configurar um endpoint de servindo modelo especificamente para acessar modelos de IA generativa:

• LLMs abertos de última geração usando APIs do Foundation Model.
• Modelos de terceiros hospedados fora do Databricks.

Mosaic AI Vector Search

Mosaic AI Vector Search é uma solução de pesquisa vetorial incorporada à Databricks Data Intelligence Platform e integrada às suas ferramentas de governança e produtividade. O Mosaic AI Vector Search oferece um banco de dados vetorial consultável que armazena vetores de incorporação e pode ser configurado para sincronizar automaticamente com sua base de conhecimento. As incorporações são cruciais para aplicativos que exigem pesquisas por similaridade, como RAG (Retrieval Augmented Generation), sistemas de recomendação e reconhecimento de imagem.

monitoramento da lagoa

Databricks O lakehouse monitoramento permite que o senhor monitore as propriedades estatísticas e a qualidade dos dados em todas as tabelas do seu site account. O senhor também pode usá-lo para monitorar o desempenho do modelo do aprendizado de máquina e do endpoint do modelo de serviço, monitorando as tabelas de inferência que contêm entradas e previsões do modelo. Consulte Monitorar dados e AI ativo com o monitoramento de lakehouse.

gerenciar MLflow

O SAP Databricks fornece uma versão gerenciar do MLflow 2.0. MLflow é uma plataforma de código aberto para o desenvolvimento de modelos e aplicativos generativos AI. Ele tem os seguintes componentes principais:

• acompanhamento: Permite que o senhor acompanhe experimentos para registrar e comparar parâmetros e resultados.
• Modelos: Permite que o senhor gerencie e implante modelos de várias ML bibliotecas para várias plataformas de modelo de serviço e inferência.
• Model Registry: Permite que o senhor gerencie o processo de implementação de modelos, desde a preparação até a produção, com recursos de versão e anotação de modelos.
• AI Avaliação e rastreamento de agentes: Permite que o senhor desenvolva agentes de alta qualidade no site AI, ajudando-o a comparar, avaliar e solucionar problemas de agentes.

Mosaic AI Estrutura do agente

Mosaic AI O Agent Framework é composto por um conjunto de ferramentas no site Databricks criado para ajudar os desenvolvedores a criar, implantar e avaliar agentes com qualidade de produção, como os aplicativos Retrieval Augmented Generation (RAG).

Ele é compatível com estruturas de terceiros, como LangChain e LlamaIndex, permitindo que o senhor desenvolva com sua estrutura preferida e, ao mesmo tempo, aproveite o Databricks' gerenciar Unity Catalog, a estrutura de avaliação de agentes e outros benefícios da plataforma.

Mosaic AI Avaliação do agente

Mosaic AI O Agent Evaluation ajuda os desenvolvedores a avaliar a qualidade, o custo e a latência dos aplicativos AI agênticos, incluindo aplicativos e cadeias RAG. A avaliação do agente foi projetada para identificar problemas de qualidade e determinar a causa raiz desses problemas. Os recursos da Avaliação de agentes são unificados nas fases de desenvolvimento, preparação e produção do ciclo de vida do site MLOps, e todas as métricas e dados de avaliação são registrados no site MLflow execução.

Previsão de AutoML

AutoML forecasting simplifica a previsão de dados de séries temporais, selecionando automaticamente o melhor algoritmo e os melhores hiperparâmetros, tudo isso enquanto é executado em um recurso totalmente gerenciado compute. Para executar um experimento de previsão, consulte AutoML forecasting.

Ajuste fino do modelo básico

nota

Para usar esse produto, seu workspace deve estar na região suportada, us-east-1.

Com o ajuste fino do modelo de fundação, o senhor pode usar seus próprios dados para personalizar um modelo de fundação e otimizar seu desempenho para sua aplicação específica. Ao realizar o ajuste fino ou o treinamento contínuo de um modelo básico, o senhor pode treinar seu próprio modelo usando significativamente menos dados, tempo e compute recurso do que treinar um modelo do zero.

Saiba mais

Para saber mais sobre aprendizado de máquina e recurso de inteligência artificial em Databricks, consulte a documentação completa sobre AI e aprendizado de máquina em Databricks em AWS. NOTA: O conjunto de recursos suportados no SAP Databricks difere do Databricks em AWS.