生成AIモデル保守ポリシー

この記事では、APIsプロビジョニング スループット オファリング トークン単位の従量課金 と基盤モデルのモデル メンテナンスAPIs ポリシー 説明します。

最先端のモデルを引き続きサポートするために、Databricks はサポートされているモデルを更新するか、これらのオファリングの古いモデルを廃止する場合があります。

モデル廃止ポリシー

次のセクションでは、示された機能オファリングの廃止ポリシーを要約します。

important

トークン単位の従量課金と基盤モデル ファインチューニング オファリングに適用される廃止ポリシー APIs 、サポートされているチャット モデルと完了モデルにのみ影響します。

基盤モデル APIs トークン単位の従量課金

次の表は、基盤モデル APIs トークン単位の従量課金の廃止ポリシーをまとめたものです。

退職のお知らせ	退職への移行	廃止日
Databricks では、次の手順を実行して、廃止に設定されたモデルについて顧客に通知します。 Databricks ワークスペースの [ 提供] ページで、モデルが廃止が計画されていることを示す警告メッセージがモデル カードに表示されます。 該当するドキュメントには、モデルが廃止予定であることと、サポートされなくなる開始日を示す通知が含まれています。	Databricks は 3 か月 以内にモデルを廃止します。この 3 か月間、顧客は次のいずれかを行うことができます。 基盤モデル APIs プロビジョニング スループット エンドポイントに移行して、サポート終了日を過ぎてもモデルを引き続き使用することを選択します。 既存のワークフローを移行して、推奨される代替モデルを使用します。	モデルは使用できなくなり、製品から削除されました。該当するドキュメントが更新され、交換モデルの使用が推奨されます。

基盤モデル APIs プロビジョニング スループット

次の表は、基盤モデル APIs プロビジョニング スループットの廃止ポリシーをまとめたものです。

退職のお知らせ	退職への移行	廃止日
Databricks では、次の手順を実行して、廃止に設定されたモデルについて顧客に通知します。 非推奨のモデルを提供するエンドポイントの場合、Databricks ワークスペースのその提供エンドポイントの詳細ページに警告メッセージが表示されます。このメッセージは、モデルが廃止が計画されていることと、該当する廃止日を示します。 ツールチップメッセージには、ワークロードの移行に推奨される代替モデルが表示されます。 該当するドキュメントには、モデルが廃止予定であることと、サポートされなくなる開始日を示す通知が含まれています。	Databricks は 6 か月 以内にモデルを廃止します。この6か月間: 顧客は、廃止日まで、非推奨のモデルを使用して既存のプロビジョニング スループット エンドポイントを引き続き実行できます。 非推奨モデルを積極的に使用していない顧客は、新しいプロビジョニング スループット エンドポイントを作成したり、非推奨モデルの停止したエンドポイントを再起動したりすることはできません。	モデルは使用できなくなり、製品から削除されました。 廃止されたモデルを使用するすべてのエンドポイントは、説明的なメッセージとともに失敗状態に移行します。これらのエンドポイントへの要求は失敗します。 顧客は、廃止されたモデルを使用するエンドポイントを削除できますが、再起動することはできません。 該当するドキュメントが更新され、交換モデルの使用が推奨されます。

モデルの更新

Databricksでは最適化を実現するために、トークン単位の従量課金モデルに増分更新を出荷する場合があります。 モデルが更新されても、エンドポイント URL は変わりませんが、レスポンス オブジェクトのモデル ID は更新日を反映して変更されます。 たとえば、更新プログラムが 2024 年 3 月 4 日に meta-llama/Meta-Llama-3.3-70B に出荷された場合、応答オブジェクトのモデル名は meta-llama/Meta-Llama-3.3-70B-030424に更新されます。 Databricks は、参照できる更新プログラムのバージョン履歴を保持します。