メインコンテンツまでスキップ

GenAIのMosaic AI機能

Mosaic AI 、生成AIアプリケーション (GenAI アプリ) を構築、評価、展開、モニタリングするためのプラットフォームを提供します。 エンタープライズ グレードの GenAI アプリ開発の課題に対処するツール スイートを統合します。Mosaic AI は、一般的なオープンソース フレームワークと統合され、エンタープライズ グレードのガバナンス、可観測性、運用ツール(総称して LLMOps)を追加します。

このページには、GenAI ワークフロー ステージ別に整理された GenAI の主な機能がリストされています。

GenAIをクエリする

Databricks 、トップ モデル プロバイダーの最先端の GenAI モデルを、 Databricksがホストする基盤モデルを通じてすぐに利用できるようにしています。 外部プロバイダーカスタム モデルからのモデルをクエリすることもできます。これらのモデルはすべて、UI、API/SDK、SQL インターフェースを通じてクエリできます。このオプションにより、一般的なチャット、複雑なエージェント、自動データパイプライン、対話型データ分析など、あらゆるユースケースで GenAI を使用できるようになります。

手法

機能

UI

  • 開発向けに、 AI Playground は利用可能な GenAI モデルとエージェントを照会するための UI を提供します。
  • テストでは、レビュー アプリを使用して、ドメイン エキスパートがエージェントとアプリを照会および評価できます。
  • 本番運用では、組織内で使用するために、 Databricks Appsを使用して UI でアプリをホストできます。 外部アプリの場合、 Databricks APIsを使用してユーザー向けアプリを強化できます。

APIとSDK

SQL

  • AI 関数は、モデルとエージェントを照会するためのタスク固有および汎用の SQL 関数を提供します。

GenAIを構築する

Databricks は、GenAI アプリ、エージェント、ツール、モデルを構築するための柔軟なツールセットを提供します。これらには UI とコードベースのフレームワークが含まれており、すべてデータに基づいて GenAI システムを最適化できます。任意のオープンソース GenAI フレームワークを活用し、カスタム ツールと MCP サーバーを統合できます。

カテゴリー

機能

アプリ

  • Databricks Apps認証されたユーザーに柔軟なアプリ開発と展開を提供します。
  • カスタム アプリはDatabricks APIsによって強化されます。

エージェント

ツール

モデルとプロンプト

データの準備と提供

Databricks は、従来のデータと AI ワークロードのガバナンスを統合することで、AI 向けデータを簡素化します。すべてのデータはきめ細かいアクセス制御を備えたUnity Catalogで管理されるため、組織に合わせてデータエンジニアリングとAI境界を調整するのが簡単です。 データは 、LakeFlowSpark 宣言型パイプライン などのデータエンジニアリング ツール を使用して GenAI 用に準備できます。Unity Catalogのテーブルは、非構造化データのベクトル インデックスまたは構造化データの特徴量テーブルを使用して GenAI に提供できます。

データのタイプ

機能

非構造化(テキスト、画像など)

  • トレンド検索は、セマンティック検索またはハイブリッド検索のために、ナレッジ ベースに大規模なインデックスを自動的に作成します。

構造化(表)

  • SQLSQL使用すると、アナリティクスや変換のためにテーブルと クエリを GenAI アプリに統合できます。
  • Genie エージェントは、マルチエージェント システムで使用して、構造化データに関する自然言語クエリに回答できます。

GenAIの導入と提供

Databricks Databricks Appsモデルサービングによってサポートされる GenAI アプリ、エージェント、モデル向けの本番運用対応のサービス システムを提供します。 これらのスケーラブルなデプロイメントは、リアルタイム サービングとバッチ推論の両方に使用できます。すべての展開は、可観測性評価、モニタリングツールと統合されています。

GenAI システムの開発に使用するフレームワークによって、展開パスが決まります。

開発方法

展開とサービス

Databricks Apps

アプリとエージェントは、 UI ベースおよび API ベースのデプロイメントを提供するDatabricks Appsを使用してデプロイできます。

カスタムエージェントコードとオープンソースフレームワーク

カスタム コードまたはフレームワークを使用してエージェントを開発する場合、エージェント フレームワークを使用してモデルサービングへの展開を簡素化できます。

微調整されたモデル

微調整されたモデルをインフラストラクチャモデルAPIsにデプロイします。

GenAIの追跡、評価、監視

Databricks 、GenAI の可観測性、評価、モニタリングのためのマネージドMLflowを提供します。 オープンソースAPIs統合と移植性をシンプルにし、マネージドサービスは本番運用に対応したエンドポイントを提供します。 Databricks 管理の MLflow は、Databricks でホストされている GenAI アプリおよびエージェント、および他の場所でホストされている GenAI アプリおよびエージェントに使用できます。

カテゴリー

機能

追跡と観測可能性

  • MLflow Tracing使用すると、GenAI エージェントとアプリを計測して、評価、本番運用モニタリング、監査のためのテレメトリ データと可観測性データを収集できます。

評価

モニタリング

人間からのフィードバック

LLMOps

Databricks は、GenAI 操作 (「LLMOps」) 用の完全なツール スイートを提供します。Unity Catalogによるデータと AI アセットの統合ガバナンスにより、組織全体での AI の展開が簡素化され、安全になります。AI Gateway は、多くの GenAI モデル プロバイダーからのモデルの管理を簡素化します。MLflowおよびDatabricksアセット バンドルは、堅牢な LLMOps プロセスを実装するためのバージョン管理とInfrastructure-as-Codeを提供します。

カテゴリー

機能

データとAI資産のガバナンス

Unity Catalog は、データと AI アセットの統合ガバナンスを提供します。データ アセットには、ファイル、テーブル、ベクター インデックス、Feature Store が含まれます。 AIアセットには、MCP サーバーやその他のAPIs用のモデル、ツール、接続が含まれます。

モデルエンドポイントガバナンス

AI Gateway は、 GenAI モデルのエンドポイントに一元的なガバナンスとモニタリングを提供します。

アプリ、エージェント、プロンプトのバージョン管理

MLflowアプリとエージェントのバージョン管理をサポートし、プロンプト レジストリとエクスペリメント トラッキングを提供します。

インフラストラクチャ・アズ・コード

Databricks Assets Bundles 上に構築されたMLOps Stacks は、インフラストラクチャとワークフローのコードベースの管理と展開を提供します。

Mosaic AIのオープンソースサポート

Mosaic AI は、急速に成長している GenAI のオープンソース エコシステムを全面的にサポートします。

開発には、任意のオープンソースフレームワークを使用し、Agent Framework を使用してモデルサービング に デプロイでき ます。Databricks サービスは、 MCP サーバーまたはREST API または SDKを使用して、サードパーティの GenAI ツールやアプリで使用できます。

可観測性、評価、モニタリングのために、 MLflow Tracing 20 以上のオープンソース GenAI フレームワークにネイティブ自動ロギングを提供し、他のフレームワークやコードにカスタム トレースを追加できます。 トレースは、 MLflow評価および本番運用モニタリングで使用できます。 トレースはOpenTelemetry トレース仕様に準拠しており、サードパーティのツールにエクスポートできます。

もっと詳しく知る