MLOpsの基礎と応用

セミナー趣旨

　AIを使った新規サービスの立ち上げや既存業務の改善を試行するプロジェクトは年々増えていますが，実ビジネスへ本格導入に至らないケースが散見されます．
　主な理由は二つあり，一つ目は限られたPoC期間内に実業務に耐えられるレベルまでAIの精度を向上しきれないケースと，二つ目は機械学習の開発担当者が作成したAIモデルをシステム開発担当者が引き継いで商用システムへ導入しますが，コミュニケーションや作業の分割コストにより導入に時間がかかるケースが挙げられます．
　加えて昨今は，コロナウィルス感染拡大の影響で人の行動様式が日-週単位で変化するため，変化前にデータサイエンティストがチューニングしたAIモデルの精度が陳腐化し，役に立たなくなるケースが多くなっています．このような状況を踏まえて，MLOpsが注目されております．本講演では，上記の最新動向・事例に関してご紹介をさせて頂きます．

受講対象・レベル

・AI／機械学習プロジェクトの企画・推進を担当されている方
・PoCは実施したものの、本番導入や業務定着化に課題を感じている方
・機械学習モデルの精度改善や継続的な運用方法を検討されている方
・AIシステムの開発スピード向上や運用効率化を実現したい方
・MLOpsの導入を検討しているものの、具体的な進め方や効果が分からない方
・データサイエンティスト、AIエンジニア、システム開発者、運用担当者との
　連携に課題を感じている方
・機械学習モデルの継続的な改善、精度監視、再学習の仕組みを構築したい方
・画像認識や自然言語処理などのAI活用案件において、
　開発・運用コストの最適化を検討されている方
・AIプロジェクトをPoC止まりにせず、事業価値創出につなげたいマネージャー・責任者の方
・MLOpsの最新動向や実践事例を通じて、自社での活用イメージを具体化したい方

必要な予備知識

特に予備知識は必要ありません。MLOpsの基本概念から、機械学習プロジェクトにおける課題、導入効果、実践事例まで分かりやすく解説いたします。
なお、AI・機械学習プロジェクトに携わった経験や、システム開発・運用に関する基礎的な知識があると、より理解を深めていただけます。

習得できる知識

・機械学習プロジェクトがPoC止まりになる原因と、その解決策を理解できる
・MLOpsの基本概念と、機械学習システムを継続的に改善するための考え方を習得できる
・AI／機械学習プロジェクトにおける開発・運用・保守の課題と対策を理解できる
・モデル開発からデプロイ、精度監視、再学習までの一連の運用プロセスを理解できる
・機械学習プロジェクトの開発スピード向上や品質向上を実現するための具体的な手法を習得できる
・CI/CD、自動化パイプライン、モデル監視など、MLOpsを支える主要技術の活用方法を理解できる
・AIシステムの運用コスト削減や開発効率向上に向けた実践的なアプローチを習得できる
・データサイエンティスト、開発者、運用担当者が
　連携するためのプロジェクト推進方法を理解できる
・継続的なモデル改善によって、AI活用のビジネス価値を高めるためのポイントを理解できる
・自社のAI・機械学習プロジェクトへMLOpsを適用する際の具体的な検討ポイントを把握できる

セミナープログラム

１．機械学習プロジェクトはなぜ商用化でつまずくのか
　1-1．AIを活用した新規サービス開発の全体像
　　（１）企画・戦略構想、PoC、開発、運用の各フェーズ
　　（２）Biz視点とAI／ML視点で異なる成功条件
　　（３）PoV・PoC・PoBの位置づけと役割
　1-2．PoCから商用適用に進めない主な理由
　　（１）精度面がネックとなるPoC停滞
　　（２）モデルチューニング回数とPoC成功率の関係
　　（３）試行錯誤を高速化することの重要性
　1-3．商用開発フェーズで顕在化する課題
　　（１）Data、ML、Dev、Ops間のケイパビリティギャップ
　　（２）AIモデル以外の周辺機能整備の負荷
　　（３）データ品質、デプロイ、監視、運用設計の難しさ
　1-4．運用フェーズで価値が伸び悩む理由
　　（１）継続的なモデル改善が止まる構造
　　（２）運用コスト増大と顧客エンゲージメント低下
　　（３）リリース頻度とサービス価値向上の関係

２．MLOpsによる解決アプローチ
　2-1．MLOpsの基本概念
　　（１）DevOpsの機械学習版としてのMLOps
　　（２）ML開発者と運用担当者の協調モデル
　　（３）実装から商用運用までを円滑化する考え方
　2-2．MLOps導入で目指す姿
　　（１）モデルチューニング回数の増加
　　（２）デプロイ・評価・再学習の自動化
　　（３）継続的なビジネス価値改善
　2-3．MLOpsを支える標準化・仕組み化
　　（１）業務フローと実施要領の整備
　　（２）本番移行判断基準の明確化
　　（３）運用ルール・役割分担・チェック項目の整備
　2-4．MLOpsツールチェーンの全体像
　　（１）データ確認・前処理・学習・評価・デプロイ
　　（２）実験管理、モデル管理、パイプライン、監視
　　（３）OSS、クラウドサービス、商用製品の使い分け

３．MLOps導入事例①：仮説検証からデータドリブン型開発へ
　3-1．データドリブン型機械学習プロジェクトの進め方
　　（１）Biz、Data、ML、Dev、Opsの役割整理
　　（２）ビジネス課題をAI課題へ翻訳する流れ
　　（３）仮説設定、開発、効果測定、改善のサイクル
　3-2．ロールごとに異なる開発プロセスの統合
　　（１）Biz：リーン型の仮説検証
　　（２）Data：データ準備・品質管理
　　（３）ML：CRISP-DMをベースにしたモデル開発
　　（４）Dev：アジャイル開発とリリース
　　（５）Ops：ITIL／運用監視
　3-3．KGI・CSFによる改善指標の設計
　　（１）ROIを起点としたKGI分解
　　（２）精度改善仮説検証回数とリリース成功回数
　　（３）DevOps指標による継続改善
　3-4．スピードと品質を両立する運用設計
　　（１）リードタイム
　　（２）デプロイ頻度
　　（３）変更失敗率
　　（４）平均復旧時間
　　（５）振り返り・ポストモーテムによる改善バックログ化

４．MLOps導入事例②：非構造データ×AIにおける運用コスト低減
　4-1．画像・動画AIが高コスト化しやすい理由
　　（１）非構造化データ特有の開発・運用負荷
　　（２）GPU利用による学習・推論コスト
　　（３）アノテーション、前処理、再学習の工数増大
　4-2．コスト削減の全体アプローチ
　　（１）学習データ生成コストの削減
　　（２）開発効率改善による工数削減
　　（３）学習・推論コストの最適化
　　（４）複数施策の組み合わせによるROI成立
　4-3．画像アノテーション効率化
　　（１）CVAT等のアノテーションツール活用
　　（２）Automatic Annotationによる作業削減
　　（３）Active Learningによる重点的な再ラベリング
　　（４）AIと専門家の役割分担
　4-4．画像前処理・実写画像生成による精度改善
　　（１）古典画像処理による前処理
　　（２）実写画像取得の重要性
　　（３）光源・角度・撮影条件のバリエーション確保
　4-5．分散学習による学習時間短縮
　　（１）大規模モデル学習のボトルネック
　　（２）GPUノード活用とKubernetesによるリソース抽象化
　　（３）Horovod等を用いた分散学習
　4-6．DSとDevの連携効率化
　　（１）Notebookから商用実装へ移行する際の課題
　　（２）モデルフォーマット標準化
　　（３）MLflow Models等による推論呼び出しの標準化
　4-7．学習・推論コストの最適化
　　（１）モデル構造最適化
　　（２）量子化・枝刈り・コンパイラ活用
　　（３）GPU／ASIC／推論基盤の使い分け

５．MLOps個別技術解説
　5-1．MLOps全体のPDCAサイクル
　　（１）開発・学習
　　（２）デプロイ・推論
　　（３）精度監視
　　（４）データ作成・再学習
　5-2．実験管理
　　（１）実験結果のトラッキング
　　（２）複数実験の比較
　　（３）再現性の確保
　　（４）MLflow等の活用
　5-3．パイプライン自動化
　　（１）前処理、学習、評価、登録の自動化
　　（２）Airflow、Kubeflow、MLflowの比較
　　（３）CI・CT・CD・CMの導入イメージ
　5-4．継続的モデル精度監視
　　（１）データドリフト・コンセプトドリフトの考え方
　　（２）ベースラインデータと推論データの比較
　　（３）KS検定・カイ二乗検定による検知
　　（４）劣化検知後の再学習・切り戻し
　5-5．サービングとモデル管理
　　（１）モデルレジストリ
　　（２）オンラインサービング
　　（３）REST APIとgRPCの違い
　　（４）TensorFlow Serving、TorchServe、MLflow、KFServing等の比較
　5-6．説明可能性
　　（１）ブラックボックスモデルにおける説明責任
　　（２）LIMEによる局所説明
　　（３）SHAPによる特徴量重要度の可視化
　5-7．特徴量自動生成・選択
　　（１）差分特徴・比率特徴・カテゴリ変数エンコーディング
　　（２）分散フィルタ・相関係数フィルタ
　　（３）重要度・正則化・Permutation Importanceによる選択
　5-8．ハイパーパラメータチューニング
　　（１）グリッドサーチ
　　（２）ランダムサーチ
　　（３）ベイズ最適化
　　（４）Optuna、Hyperopt等の活用
　5-9．柔軟なGPUリソース確保とデータ管理
　　（１）KubernetesによるGPUリソース管理
　　（２）分散学習の設計ポイント
　　（３）DVCによるデータバージョン管理

６．まとめ
　6-1．機械学習プロジェクト成功の要点
　　（１）PoCで終わらせないための試行錯誤高速化
　　（２）MLモデル以外の周辺系整備
　　（３）運用開始後の継続的な価値改善
　6-2．MLOps導入による期待効果
　　（１）開発スピード向上
　　（２）リリース品質向上
　　（３）運用コスト低減
　　（４）顧客エンゲージメント向上
　6-3．質疑応答・個別相談案内
　　（１）自社AIプロジェクトへの適用相談
　　（２）MLOps基盤・ツール選定相談
　　（３）PoCから商用化への移行相談

キーワード：
機械学習,MLOPs,AI,PoC,運用,開発,プロジェクト,セミナー,講演,研修

セミナー講師

（株）NTTデータグループ
　技術革新統括本部　TG（テクニカルグレード）　山口 永　氏

【ご専門】
機械学習システムの本番適用

セミナー受講料

49,500円（税込、資料付）
■ 非会員の方は1名につき49,500円（税込み）です。
会員の方もしくは新規会員登録していただいた方の受講料は以下の通りです。
　★1名で申込の場合、46,200円（税込）に割引になります。
　★2名以上同時申込の場合、1名につき半額の24,750円（税込）に割引になります。
　　※参加者全員の会員登録が必要です。登録料や年会費などは一切かかりません。


※ 会員登録とは
　 ご登録いただきますと、セミナーや書籍などの商品をご案内させていただきます。
　 すべて無料で年会費・更新料・登録費は一切かかりません。
　 メールまたは郵送でのご案内となります。
　 郵送での案内をご希望の方は、備考欄に【郵送案内希望】とご記入ください。

主催者

開催場所

受講について

Zoomを使ったWEB配信セミナー受講の手順

1. Zoomを使用されたことがない方は、こちらからミーティング用Zoomクライアントをダウンロードしてください。ダウンロードできない方はブラウザ版でも受講可能です。
2. セミナー前日までに必ず動作確認をお願いします。
3. 開催日直前にWEBセミナーへの招待メールをお送りいたします。当日のセミナー開始10分前までに招待メールに記載されている視聴用URLよりWEB配信セミナーにご参加ください。

• セミナー資料は開催前日までにお送りいたします。
• 無断転載、二次利用や講義の録音、録画などの行為を固く禁じます。