Azure Databricksでの機械学習

Azure Databricksで機械学習アプリケーションを構築、デプロイ、管理します。 統合プラットフォームは、データ準備から運用監視までの ML ライフサイクル全体を統合します。

生成AI と AIエージェントをお探しですか? Azure Databricks で AI エージェントを構築するを参照してください。

概要

クイックスタートを試し、モデルをコードで試作し、ノートブックを使ってみましょう。

ガイド Description
はじめに: Databricks で初めての機械学習モデルを構築する scikit-learn を使用して単純な分類モデルを構築してデプロイします。
データ サイエンスに Genie Code を使用する AI エージェントを使用して、データの探索、モデルの構築、反復処理を行います。
Databricks ノートブック Python、R、Scala、SQL をサポートするコラボレーション開発環境。
概念: Azure Databricksに関するデータ サイエンスと機械学習 Azure Databricksのデータ サイエンスと機械学習の背後にある主要な概念について説明します。

従来の機械学習モデルをトレーニングする

特徴をエンジニアリングし、機械学習モデルを作成し、実験を追跡します。

Feature Description
フィーチャーストア 機能エンジニアリングを行い、Unity カタログで機能を管理し、運用環境で機能を提供します。
モデル トレーニングの例 一般的なライブラリを使用してクラシック ML モデルをトレーニングするためのエンド ツー エンドの例について説明します。
Databricks Runtime for ML scikit-learn、XGBoost、MLflow、およびその他の ML ライブラリを使用して事前構成されたクラスターと、ディープ ラーニング フレームワークのサポート。
MLflow の追跡 実験を追跡し、モデルのパフォーマンスを比較し、完全なモデル開発ライフサイクルを管理します。

ディープ ラーニング モデルをトレーニングする

マネージド コンピューティングと組み込みのフレームワークを使用して、ディープ ラーニング モデルを開発します。

Feature Description
AI ランタイム カスタムディープ ラーニングトレーニングと推論ワークロードには、サーバーレス GPU コンピューティングを使用します。
分散トレーニングの例 Ray、TorchDistributor、DeepSpeed を使用した分散ディープ ラーニングの例を確認します。
DL のベスト プラクティス フレームワークの選択、データの読み込み、分散スケーリング、ディープ ラーニング モデルのライフサイクルの管理について説明します。
Ray on Databricks 大規模なモデルのトレーニングと推論のために分散コンピューティングを使用して ML ワークロードをスケーリングします。

モデルのデプロイと運用

リアルタイム、ストリーミング、またはバッチ推論のためのスケーラブルなエンドポイントを使用して、モデルを運用環境にデプロイします。

Feature Description
モデルサービング 自動スケーリングと GPU サポートを使用して、カスタム モデルと LLM を REST エンドポイントとしてデプロイします。
AI ゲートウェイ 使用状況の追跡、ペイロードのログ記録、セキュリティ制御を使用して、Azure Databricksで提供されるモデルへのアクセスを管理および監視します。
バッチ推論 大規模なデータセットに対するバッチおよびストリーミングの推論と予測のモデルをデプロイします。
Foundation Model API Databricks によってホストされている最先端の GenAI モデルにアクセスしてクエリを実行します。

ML システムの監視と管理

包括的な監視およびガバナンス ツールを使用して、モデルの品質、データの整合性、コンプライアンスを確保します。

Feature Description
Unity カタログ 統合されたアクセス制御、系列の追跡、検出を使用して、データ、機能、モデル、および機能を管理します。
モデル用 MLflow 実験やモデルから評価とデプロイまで、ML のライフサイクル全体を管理します。
異常検出 カタログ レベルでデータの鮮度と完全性を監視します。
データ プロファイリング 自動化されたアラートと根本原因分析を使用して、データ品質、モデルのパフォーマンス、予測の誤差を監視します。

ML ワークフローの運用化

自動化されたワークフロー、CI/CD 統合、運用対応パイプラインを使用して機械学習操作をスケーリングします。

Feature Description
Unity Catalog のモデル Unity カタログのモデル レジストリを使用して、一元的なガバナンスを行い、デプロイを含むモデルのライフサイクルを管理します。
Lakeflow ジョブ ML パイプライン用の自動化されたワークフローを構築します。
宣言型オートメーション バンドル ML のトレーニングやデプロイなど、CI/CD のコードとしてAzure Databricksインフラストラクチャを管理します。
MLOps ワークフロー トレーニング、テスト、デプロイの自動化されたパイプラインを備えたエンドツーエンドの MLOps について説明します。