Portal deAI
AI Gateway é a solução Databricks para governo e monitoramento de endpoint LLM , agentes de codificação e modelo de endpoint instalado. Utilize o AI Gateway para analisar o uso, configurar permissões e gerenciar a capacidade entre os provedores.
PortalAI (Beta)
A nova experiência do AI Gateway está disponível em versão Beta. AI Gateway (Beta) é o plano de controle empresarial para governar endpoints LLM e agentes de codificação com recursos aprimorados, incluindo uma interface de usuário rica, observabilidade melhorada e cobertura API expandida.
tópico | Descrição |
|---|---|
Saiba mais sobre AI Gateway (Beta), seus recursos suportados e como começar a usá-lo. | |
Crie e configure o endpoint AI Gateway para seus LLMs e agentes de codificação. | |
Consulte o endpoint AI Gateway usando o cliente OpenAI e outras APIs compatíveis. | |
Monitore o uso e os custos do endpoint do AI Gateway usando tabelas do sistema. | |
Monitorar e auditar solicitações e respostas nas tabelas Delta Unity Catalog . | |
Integre agentes de codificação como Cursor, Gemini CLI, Codex CLI e Claude Code com o AI Gateway. |
O recurso AI Gateway não gera cobranças durante a versão Beta.
Ponto final de serviço
Os recursos AI Gateway também estão disponíveis para servir endpoints de modelos, incluindo endpoints de modelos externos, endpoints API Foundation Model e endpoints de modelos personalizados.
tópico | Descrição |
|---|---|
Saiba mais sobre o recurso do AI Gateway para servir endpoints, incluindo recursos suportados e limitações. | |
Configure os recursos do AI Gateway, como acompanhamento de uso, registro de payloads, limites de taxa e proteções em um endpoint de modelo de serviço. | |
Monitore os modelos utilizados com tabelas de inferência habilitadas pelo AI Gateway. | Monitore os modelos utilizados com tabelas de inferência habilitadas pelo AI Gateway. |