Adicionar um instance profile a um endpoint de serviço de modelo
Este artigo demonstra como anexar um instance profile a um endpoint de modelo de operação. Isso permite que os clientes acessem qualquer recurso da AWS do modelo permitido pelo instance profile. Saiba mais sobre instance profile.
Requisitos
Adicione um instance profile ao Databricks.
Se você tiver um instance profile já configurado para SQL serverless , certifique-se de alterar as políticas de acesso para que seus modelos tenham a política de acesso correta para seus recursos.
Adicionar um instance profile durante a criação do endpoint
Quando o senhor cria um modelo de serviço endpoint, pode adicionar um instance profile à configuração endpoint.
Observação
A permissão do criador do endpoint para um instance profile é validada no momento da criação do endpoint.
Na UI do Serving, o senhor pode adicionar um instance profile em Advanced configurations (Configurações avançadas):
Para o fluxo de trabalho programático, use o campo
instance_profile_arn
quando o senhor criar um endpoint para adicionar um instance profile.POST /api/2.0/serving-endpoints { "name": "feed-ads", "config":{ "served_entities": [{ "entity_name": "ads1", "entity_version": "1", "workload_size": "Small", "scale_to_zero_enabled": true, "instance_profile_arn": "arn:aws:iam::<aws-account-id>:instance-profile/<instance-profile-name-1>" }] } }
Atualize um endpoint existente com um instance profile
Você também pode atualizar uma configuração de endpoint de serviço de modelo existente com um instance profile com o campo instance_profile_arn
.
PUT /api/2.0/serving-endpoints/{name}/config
{
"served_entities": [{
"entity_name": "ads1",
"entity_version": "2",
"workload_size": "Small",
"scale_to_zero_enabled": true,
"instance_profile_arn": "arn:aws:iam::<aws-account-id>:instance-profile/<instance-profile-name-2>"
}]
}
Limitações
Aplicam-se as seguintes limitações:
As credenciais de segurança temporárias do STS são usadas para autenticar o acesso aos dados. Ele não pode ignorar nenhuma restrição de rede.
Se os clientes editarem o instance profile IAM role nas configurações da interface do usuário Databricks, o ponto de extremidade executado com o instance profile continuará a usar o IAM role antigo até que o endpoint seja atualizado.
Se os clientes excluírem um instance profile das configurações da interface do usuário Databricks e esse perfil for usado no endpoint em execução, o endpoint em execução não será afetado.
Para conhecer as limitações gerais dos endpoints do modelo servindo, consulte Limites e regiões do modelo servindo.
Recursos adicionais
Pesquise recursos usando o mesmo instance profile que você adicionou ao endpoint de serviço.
Configurar o acesso ao recurso a partir do endpoint do modelo de serviço.