Unity CatalogとMarketplaceから生成AIモデルLLMを取得する
プレビュー
この機能は パブリック プレビュー段階です。
Unity Catalogには、Databricks の高品質な生成AI とLLM 基盤モデルのセレクションが含まれています。さらに、Databricks Marketplace を使用して、外部プロバイダーからモデルをインストールしてデプロイできます。この記事では、これらのモデルを使用して推論ワークフローに組み込む方法について説明します。これらのモデルを使用すると、最先端のAI機能にアクセスできるため、独自のカスタムモデルを作成する時間と費用を節約できます。
Unity Catalogで独自のカスタムモデルを使用する方法については、「Unity Catalogでのモデルのライフサイクルの管理」を参照してください。
Unity Catalog で基盤モデルを見つける
Mosaic AI Model Servingが有効になっている地域では、Databricks は最先端の基盤モデルの一部をプレインストールしています。これらのモデルには制限の緩いライセンスがあり、プロビジョニング済みスループット 基盤モデル APIでの提供に最適化されています。適用可能なモデル開発者のライセンスと条件を参照してください。
Databricksでは、ファインチューニング タスクにはこれらのモデルの base バージョンを使用し、デプロイとモデルサービングには instruct バージョンを使用することをお勧めします。
これらのモデルは、カタログエクスプローラーでカタログsystemのスキーマai(system.ai)から直接入手できます。
これらのモデルは、1 回のクリックで提供することも、バッチ推論ワークフローに直接組み込むこともできます。モデルを提供するには、カタログでモデルの名前をクリックしてモデル ページを開き、[ このモデルを提供] をクリックします。モデルサービングの詳細については、「Mosaic AI Model Servingを使用したモデルのデプロイ」を参照してください。モデルサービングでサポートされているリージョンのリストについては、「 利用可能なリージョン」を参照してください。
system.aiのモデルは、デフォルトですべてのアカウントユーザーが利用できます。Unity Catalog メタストア管理者は、これらのモデルへのアクセスを制限できます。 Unity Catalog の特権とセキュリティ保護可能なオブジェクトを参照してください。
Databricks Marketplace でモデルを検索する
system.aiスキーマの組み込みのDatabricks提供モデルに加えて、Databricks Marketplaceで外部プロバイダーからモデルを検索してインストールできます。Databricks MarketplaceからUnity Catalogにモデルリストをインストールし、自分のモデルをデプロイするのと同じように、推論タスクのためにリスト内のモデルをデプロイすることができます。
手順については、Databricks Marketplace でデータ製品にアクセスする (Unity Catalog 対応ワークスペース) を参照してください。