メインコンテンツまでスキップ

生成AIアプリのためのMosaic AIの機能

Mosaic AI には、高品質の本番運用 AI アプリを構築する際の課題に対処する一連のツールが含まれています。 このコードファーストのツール セットは、大規模な AI 生成アプリの構築、評価、デプロイ、監視のための機能を提供します。 各コンポーネントは、統合ガバナンスのための Unity Catalog と統合され、エクスペリメントの追跡、トレース、バージョン管理のための MLflow と統合されます。

Mosaic AI コンポーネントの概要​

モデルサービング はあなたを助けます:

  • 統一されたインターフェースを使用して、生成AIアプリケーションとモデルをデプロイおよびクエリします
  • デプロイを管理および監視する

エージェント評価は、次のことを支援します。

  • 開発ループで高品質に迅速に反復します。
  • 本番運用中に品質をモニタリングし、修正します。
  • 生成AI アプリの品質について、対象分野の専門家から意見やフィードバックを収集します。
  • 評価データセットを管理して、品質を定義および測定します。

Agent Framework を使用すると、次のことが可能になります。

  • MLflowモデルとして記録された 生成AI アプリのコード + 設定 を、1 行のコードで本番運用可能なサービス エンドポイントにデプロイします。

MLflow には、次の機能が用意されています。

  • 生成AIアプリをインストルメント化して、可観測性とテレメトリを提供します。
  • 生成 AI アプリのコードと構成をログに記録して、ライフサイクルを管理します。
  • langchain、langgraph、crewAI、OpenAI SDKなど、さまざまなフレームワークを使用してエージェントを作成します。

データインテリジェンスの実現​

Databricks Data Intelligenceプラットフォームは、お客様のデータについて学習し、その知見を使用してお客様を支援しながら、強力なガバナンスとセキュリティを提供します。

  • ベクトル検索:類似性検索やハイブリッド検索のために、ナレッジベースに大規模に自動的にインデックスを付けます。
  • Genie:自然言語を使用して構造化データをクエリします。
  • サーバレス SQL : 既存のデータソースを生成AIアプリに統合して、アナリティクスや変換を行います。
  • オンラインテーブル:生成AIアプリ内でリアルタイムの特徴量にアクセスします。

Mosaic AIが生成AIアプリの開発を可能にする方法​

Mosaic AIは、生成AIアプリ開発の課題の一部を解決するのに役立ちます。

Mosiac AI は、ガバナンス、本番運用品質のアプリ、迅速な開発を可能にします。

データとAIにわたるエンドツーエンドのガバナンス​

Unity Catalogとの緊密な統合により、データとAIガバナンスの真実を一元的に把握できます。

  • Unity Catalog Functions:エージェントシステムの SQL および Python ベースのツールのガバナンス。
  • Unity Catalog Models: エージェント システムのコードと構成のガバナンス。
  • Unity Catalog Connections : エージェント システムで使用される内部および外部APIsのガバナンス。

Databricks の内外にデプロイされたすべての 生成 AI アプリにわたるテレメトリと可観測性の統合:

  • MLflow Tracingを使用すると、Gen StartupAIインストルメント化して、監査と品質評価/モニタリングのためのテレメトリと可観測性データを収集できます。
  • AI Gateway を使用すると、使用状況を追跡し、リクエスト、トレース、およびユーザー フィードバックをログに記録できます。

Lakeguard は、ツールが Unity Catalog のガバナンスと ACL を尊重するように 、サンドボックス化されたコード実行環境 を提供します。

本番運用品質の成果物​

対象分野の専門家 (SME) と簡単に連携して、品質の定義に役立つ意見を収集できます。

  • エージェント評価 には、対象分野の専門家が評価/トレーニング データにラベルを付け、生成 AI アプリの出力に関する フィードバックを提供できる ように、組み込みの UI が用意されています。
  • モニタリング UI は、SME のインタラクションを分析し、貴重なフィードバックを構造化された評価データに変換して継続的な改善を行うのに役立ちます。

開発および本番運用における、Databricks内外にデプロイされた生成AIアプリの正確性、速度、品質の測定。

  • エージェント評価 の場合:
    • 評価セット は、品質の基準を定義および測定するために使用されます。
    • AIジャッジが 品質を測定し、品質問題の根本原因を特定します。
    • LLMジャッジを使用して、本番運用デプロイメントの品質を自動的に評価するエージェントモニタリング。
    • 本番運用中に品質問題を特定してデバッグするためのモニタリング UI。

開発時間を短縮する迅速な開発ツール​

に最終更新