Principais desafios na criação de aplicativos GenAI
Apesar do poder dos modelos GenAI modernos, a construção de aplicações AI generativa de nível de produção costuma ser um desafio. Três desafios key podem ser resumidos da seguinte forma:
- Governança : Muitas plataformas têm dificuldades em fornecer governança unificada, privacidade de dados e segurança para dados e atividades AI .
- Qualidade : O comportamento flexível e imprevisível dos modelos GenAI aumenta a complexidade da avaliação.
- Controle : As plataformas devem oferecer flexibilidade, opções de modelos e personalização.
Governança para dados e AI
As aplicações GenAI requerem dados diversificados e recursos AI : tabelas, índices vetoriais, modelos AI , ferramentas e muito mais. Uma plataforma GenAI deve fornecer acesso granular a esses ativos para desenvolvedores, ao mesmo tempo que oferece governança conjunta para administradores. Sem uma governança completa, as organizações enfrentam riscos como:
- Vazamento de dados: Dados confidenciais de clientes ou da empresa podem ser usados indevidamente sem o devido rastreamento de linhagem e controle de acesso, e os dados podem vazar inadvertidamente por meio das saídas do modelo se as devidas salvaguardas não forem aplicadas.
- Restrições de conformidade: Muitas organizações têm requisitos compliance , como SOC2 ou HIPAA, e a integração de modelos GenAI em plataformas legadas compatíveis pode ser complexa, levando a atrasos ou restrições no uso dos melhores modelos.
- Uso não autorizado ou custos inesperados: Sem controles de acesso e salvaguardas de uso, os modelos AI podem ser usados por equipes não autorizadas ou incorrer em altos custos de uso.
Databricks simplifica a governança unificada de dados e AI por meio de:
- Unity Catalog, que gerencia arquivos, tabelas, índices vetoriais, repositório de recursos, modelos e ferramentas sob um modelo de governança unificado
- AI Gateway oferece governança e monitoramento unificados para endpoints de modelos AI , incluindo mecanismos de segurança e limites de uso.
- Databricks AI Security Framework oferece um guia completo para a gestão de riscos AI
- Databricks AI Governance Framework complementa o Security Framework, fornecendo uma view da governança que abrange tanto a segurança quanto a integridade operacional.
Qualidade dos modelos, agentes e aplicativos
Os modelos GenAI produzem resultados estocásticos e de final aberto, sendo frequentemente aplicados a problemas de final aberto com muitas respostas "boas". Até mesmo definir "alta qualidade" pode ser um desafio e, muitas vezes, requer feedback iterativo de especialistas da área ou usuários. Sem processos de avaliação robustos, as organizações enfrentam riscos como:
- Experiências ruins para o usuário: Se os aplicativos GenAI não forem avaliados com base em métricas alinhadas às necessidades do usuário, as respostas podem ser consideradas inúteis, imprecisas ou até mesmo prejudiciais ou ofensivas. Em casos extremos, a reputação da marca pode sofrer danos.
- Limbo no desenvolvimento: Se a qualidade não puder ser definida ou medida de forma a permitir a aprovação das partes interessadas, os projetos GenAI podem ser atrasados ou cancelados por falta de "prova" de qualidade.
Databricks simplifica a medição e a otimização da qualidade AI por meio de:
-
Avaliação e monitoramentoMLflow, com avaliadores integrados e pontuadores personalizados para medir a qualidade, utilizável tanto no monitoramento de desenvolvimento quanto de produção.
-
O MLflow Tracing oferece rastreamento automático e manual para proporcionar observabilidade tanto em desenvolvimento quanto em produção.
-
Coleta de feedback humano, com um aplicativo integrado para feedback de especialistas durante o desenvolvimento e APIs para feedback de usuários de aplicativos em produção.
-
Métodos para otimizar o equilíbrio entre qualidade, custo e latência. A estrutura de agentes e uma escolha flexível de modelos AI oferecem opções de compromisso para agentes totalmente personalizados.
Controle de dados e modelos
Diversos fornecedores de modelos oferecem modelos GenAI de última geração, além de opções de código aberto hospedadas internamente. Devido a complicações relacionadas à privacidade de dados e licenciamento, muitas plataformas têm dificuldades em suportar esse ecossistema diversificado e em permitir iterações e personalizações rápidas. As organizações devem manter o controle de seus dados e a escolha de modelos para evitar riscos como:
- Restrições de privacidade de dados: requisitos de conformidade ou integração podem impedir que as organizações acessem os melhores modelos de IA GenAI de vários fornecedores, sacrificando a flexibilidade e a relação custo-benefício.
- Falta de vantagem competitiva: Se os modelos, dados, agentes e aplicações não forem personalizáveis com base nos dados proprietários de uma organização, torna-se difícil construir propriedade intelectual.
O Databricks oferece controle e flexibilidade para dados e modelos por meio de:
- APIsdo Foundation Model, que fornecem modelos de ponta dos principais provedores de modelos em seu próprio ambiente Databricks , juntamente com seus modelos e agentes personalizados no modelo de serviço.
- Aplicativos, agentes, modelos, ferramentas e fontes de dados personalizados, construídos em torno de seus dados proprietários. Todos esses níveis de AI dão suporte à Inteligência de Dados, desde a criação de aplicativos e agentes, passando pelo fornecimento de dados por meio de ferramentas, até a avaliação e otimização de agentes com base em seus dados.