Perdendo instâncias pontuais
Quando o provedor de cloud recupera as instâncias Spot, os executores nessas instâncias são encerrados e todas as suas tarefas ativas falham. O Spark deve executar novamente essas tarefas, o que torna o job lento e pode causar falhas no estágio ou no job.
Use esta página quando o log de eventos do compute mostrar que instâncias Spot foram perdidas ou recuperadas. Se o log de eventos mostrar que o compute foi redimensionado devido ao autoscale, os executores removidos são esperados e não um erro. Se o log de eventos não explicar os executores perdidos, consulte Jobs falhando ou executores removidos.
Reduzir perdas de instâncias Spot
Perdas frequentes de instâncias spot podem significar que o tipo de instância tem uma alta taxa de recuperação. Para reduzir perdas, tente estas abordagens:
- Escolha tipos de instância com taxas de interrupção mais baixas. Para ver com que frequência cada tipo de instância é interrompido, use o Spot Instance Advisor.
- Use um tipo de instância de frota. Um tipo de instância de frota é resolvido para o tipo de instância disponível do mesmo tamanho com a melhor capacidade de spot e preço.
- Parar de usar instâncias Spot. Desmarque a caixa de seleção Usar instância Spot na configuração de compute. Veja Instâncias Spot.
Use instâncias sob demanda para o driver e cargas de trabalho sensíveis à latência
Se o provedor de cloud recuperar o Driver, o Job falhará imediatamente. A Databricks recomenda o uso de uma instância sob demanda para o nó driver para que o provedor de cloud não possa recuperá-lo. Se você usar um pool de instância spot para workers, selecione um pool sob demanda como o tipo de driver . Consulte Práticas recomendadas de pools.
Um driver sob demanda não protege os workers. Quando o provedor de cloud recupera um worker, seus executores terminam e suas tarefas ativas falham. O trabalho continua, mas o Spark deve reexecutar essas tarefas, o que torna o trabalho mais lento e pode causar falhas de estágio ou trabalho. Use instâncias spot apenas para cargas de trabalho que podem tolerar atrasos. Consulte Práticas recomendadas de configuração de compute clássico.