生成AIモデルのメンテナンスポリシー

この記事では、Foundation モデルAPIsおよびMosaic AIモデル オファリングのモデル メンテナンス ポリシーについて説明します。

最先端のモデルを引き続きサポートするために、 Databricksでは、古いモデルを廃止したり、基盤モデルAPIsおよびMosaic AIモデルオファリングでサポートされているモデルを更新したりする可能性があります。

モデル退職プラン

以下の廃止ポリシーは、チャット モデルと完了モデルにのみ適用されます。

モデルが廃止対象に設定されている場合、 Databricks次の手順を実行して顧客に通知します。

  • Databricks ワークスペースの[サービス]ページのモデル カードに、モデルの廃止が予定されていることを示す警告メッセージが表示されます。

  • 実験タブのMosaic AIモデル トレーニング」の「廃止」メニューに、モデルが廃止される予定であることを示す警告メッセージが表示されます。

  • 該当するドキュメントには、モデルが廃止予定であることと、モデルのサポートが終了する開始日を示す通知が含まれています。

お客様に今後のモデルの廃止について通知した後、 Databricks 3 か月以内にモデルを廃止します。 この期間中、顧客は、サポート終了日を過ぎてもモデルを引き続き使用するために、 オフライン エンドポイントに移行することを選択できます。

現在廃止されているモデルと計画されている廃止日の一覧については、 廃止されたモデル を参照してください。

モデルの更新

Databricks 、最適化を実現するために、トークン単位の従量課金モデルに増分更新を出荷する場合があります。 モデルが更新されても、エンドポイント URL は変わりませんが、レスポンス オブジェクトのモデル ID は更新日を反映して変更されます。 たとえば、更新プログラムが 2024 年 3 月 4 日に llama-2-70b-chat に出荷された場合、応答オブジェクトのモデル名はそれに応じて に更新されます llama-2-70b-chat-030424。 Databricks は、顧客が参照できる更新のバージョン履歴を保持しています。

リタイアモデル

次の表は、モデルの廃止、その廃止日、および基盤モデルAPIs無償単位の従量課金ワークロードに使用する推奨代替モデルを示しています。 Databricks では、指定された廃止日より前に、アプリケーションを移行して代替モデルを使用することをお勧めします。

重要

2024 年 7 月 23 日以降、Meta-Llama-3.1-70B-Instruct このサポートは、地域のコンピュートの可用性に基づいて利用可能であり、基盤モデルAPIsにおける Meta-Llama-3-70B-Instruct のサポートを置き換えます。 お住まいの地域で Meta-Llama-3.1-70B-Instruct が利用できない場合は、引き続き Meta-Llama-3-70B-Instruction を使用できます。

モデル

廃止日

推奨される交換モデル

Meta-Llama-3-70B-Instruct

2024年10月30日

メタラマ-3.1-70B-指示

Meta-Llama-2-70B-Chat

2024年10月30日

メタラマ-3.1-70B-指示

MPT 7B Instruct

2024年8月30日

Mixtral -8x7B

MPT 30B Instruct

2024年8月30日

Mixtral -8x7B

特定のモデル バージョンの長期サポートが必要な場合、 、Databricks APIsサービス ワークロードに基盤モデル を使用することをお勧めします。