Política de manutenção do modelo de APIs do Foundation Model

Este artigo descreve a política de manutenção do modelo para a oferta de pagamento por tokens do Foundation Model APIs .

O modelo da Fundação API oferece pay-per-tokens que permitem que os clientes experimentem os melhores modelos. Para continuar a oferecer suporte aos modelos mais modernos, a Databricks pode descontinuar modelos mais antigos ou atualizar modelos compatíveis.

Se o senhor precisar de suporte de longo prazo para uma versão específica do modelo, o site Databricks recomenda o uso do provisionamento Taxa de transferência.

Prevalência de modelos

A política de depreciação a seguir se aplica somente aos modelos de bate-papo e de conclusão.

Se um modelo estiver definido para ser descontinuado, o site Databricks tomará os seguintes passos para notificar os clientes:

• Uma mensagem de aviso é exibida no cartão do modelo na página Serving do site Databricks workspace , indicando que o modelo está obsoleto.

• A documentação contém um aviso que indica que o modelo está obsoleto.

Depois que os clientes forem notificados sobre a próxima descontinuação do modelo, a Databricks o retirará em três meses. Durante esse período, os clientes podem optar por migrar para um provisionamento Taxa de transferência endpoint para continuar usando o modelo após a data de fim de vida útil.

Atualizações de modelos

Databricks pode enviar atualizações incrementais para modelos de pagamento por tokens para fornecer otimizações. Quando um modelo é atualizado, o URL do endpoint permanece o mesmo, mas o ID do modelo no objeto de resposta é alterado para refletir a data da atualização. Por exemplo, se uma atualização for enviada para llama-2-70b-chat em 3/4/2024, o nome do modelo no objeto de resposta será atualizado de acordo com llama-2-70b-chat-030424. Databricks mantém um histórico de versões das atualizações que os clientes podem consultar.