基盤APIsモデル保守ポリシー

この記事では、基盤モデルAPIsペイパー・ウィークオファリングのモデル保守ポリシーについて説明します。

基盤モデルAPIペイパー ベンチャー サービスにより、顧客は最高のモデルを体験することができます。 最先端のモデルをサポートし続けるために、Databricks は古いモデルを廃止したり、サポートされているモデルを更新したりする場合があります。

特定のモデル バージョンの長期サポートが必要な場合、Databricks ではプロビジョニングされたスループットを使用することをお勧めします。

モデルの非推奨化

次の非推奨ポリシーは、チャット モデルと完了モデルにのみ適用されます。

モデルが非推奨に設定されている場合、 Databricks次のステップを実行して顧客に通知します。

  • Databricks ワークスペースの[サービス提供]ページのモデル カードに、モデルが非推奨であることを示す警告メッセージが表示されます。

  • ドキュメントには、モデルが非推奨であることを示す通知が含まれています。

今後のモデルの廃止について顧客に通知された後、 Databricks 3 か月以内にモデルを廃止します。 この期間中、顧客はプロビジョニング スループット エンドポイントに移行して、サポート終了日を過ぎてもモデルを引き続き使用することを選択できます。

モデルの更新

Databricks は、最適化を実現するために、トークンごとの支払いモデルに増分更新を配布する場合があります。 モデルが更新されると、エンドポイント URL は変わりませんが、応答オブジェクトのモデル ID は更新の日付を反映するように変更されます。 たとえば、更新プログラムが 2024 年 3 月 4 日に llama-2-70b-chat に出荷された場合、応答オブジェクトのモデル名はそれに応じて llama-2-70b-chat-030424に更新されます。 Databricks は、顧客が参照できる更新のバージョン履歴を維持します。