AI搭載システムの品質・安全保証技術と検証のポイント

セミナー趣旨

　近年、多様なシステムで人工知能(AI)が活用され、サービスの変革が進行しています。AIには、ブラックボックスのため振る舞いが不明確であり、結果が不確かであり、学習によって繰り返し更新される、といった特性があります。今まで高い製品品質を実現してきた国内製造業メーカーにおいても、AI搭載システムの品質・安全保証や品質・安全説明には非常に苦労されているのが実状です。
　加えて、2024年5月に欧州委員会によりAI法が最終承認され、8月に法律が成立しました。2026年頃から実質的には全面施行予定であり、対応準備は急務です。日本においても2025年6月にAI法が成立。違反しても罰則の無いソフトローの位置付けですが、対応が望ましい方向に向かっています。イタリアにおいても2025年9月に、AIに関する包括的な法律が可決されました。さまざまな国でAI法の導入が進む中、記載の要求条項は多岐にわたり、抽象度も高く、AI搭載システムのメーカーや開発者は、何をどれだけ実施すれば合格に達するか、どのように品質・安全性を説明すればよいのか、多くの技術課題を抱えておられる状況かと思われます。
　これに対し当社では、2017年よりAI搭載システムを機能安全規格適合するための研究事業を実施してまいりました。本研究事業を通して、AI搭載システムの品質・安全性を検証し、説明可能にし、AIシステムの機能安全規格に適合可能にする技術を構築してまいりました。その知見を応用して、現在多くの企業を支援しております。
　本セミナーでは、これらの知見を踏まえ、AI搭載システムを品質・安全保証するための重要なポイントや、各種検証手法について過去の開発経験を踏まえて解説します。

受講対象・レベル

・AI搭載システムの品質・安全性保証の対応を必要とされている機械学習モデル開発者・品質保証担当の方
・AI搭載システムの品質・安全性保証の法規対応や業界トレンドに関心をお持ちの方
・AI搭載システムをAI法や安全規格に適合必要な方

必要な予備知識

・組込みシステムの開発や品質保証に関する基礎知識
・機械学習モデル開発に関する基礎知識

習得できる知識

・AI搭載システムの品質保証、安全性保証するための手法やポイントについて、学ぶことができます。
・従来システムとAI搭載システムの違いや、AI搭載システムを品質保証する際の技術課題について学ぶことができます。
・システムにAIを取り入れて開発・評価される際に、学習した技術を活用できます。
・欧州AI法やAIシステムの機能安全規格の要求事項について、把握することができます。

セミナープログラム

１．AI搭載システムの特徴と品質保証の課題
　1-1　現在のAI導入状況や企業の取組み
　1-2　さまざまなAI搭載システムの例
　1-3　AI搭載システムの特徴と従来ソフトとの主な違い
　1-4　AI搭載安全関連システムの課題
　1-5　AIに関する標準化動向
　　　（１）AI搭載システムの法規制に関する各国の主な動向
　　　（２）AI搭載システムに対する安全性の標準化動向
　　　（３）主なAIセキュリティ関連標準化活動
　　　（４）ISO/IECJTC1/SC42開発規格の状況
　　　（５）その他の主要な標準化動向

２．従来の品質・安全保証技術、説明技術
　2-1　国際標準化した機能安全開発の概要
　　　（１）安全規格の階層構造
　　　（２）高信頼性保証のための機能安全開発プロセスの重視ポイント
　　　（３）機能安全開発時の注意点
　2-2　機能安全の品質・安全保証技術とは
　　　（１）リスク評価の概要
　　　（２）ハザーダスイベントの構成要因
　　　（３）本質安全と機能安全
　　　（４）リスク低減のアプローチ
　2-3　機能安全の品質・安全説明技術とは
　　　（１）従来の品質管理と機能安全管理の違い
　　　（２）安全ケース（Safety Case）の主要３要素
　　　（３）品質・安全説明力として重要な「文書化」
　　　（４）要求のトレーサビリティ管理

３．AI搭載システムの代表的な品質・安全保証標準の解説
　3-1　AIシステムライフサイクルプロセス ISO/IEC 5338
　3-2　AIシステムの機能安全規格 ISO/IEC TR 5469
　3-3　車載AIシステムの安全規格 ISO PAS 8800
　3-4　自動運転の安全規格 UL 4600
　3-5　Automotive SPICE v4

４．AI搭載システムの品質・安全保証技術とそのポイント
　4-1　AI搭載システムに対するテスト・検証手法
　　　（１）従来開発とAI開発におけるテスト・検証手法の共通と差異
　　　（２）AI向きのテスト手法
　　　（３）性能評価
　　　（４）使用実績評価
　　　（５）机上分析検証
　　　（６）シミュレーション
　4-2　AIモデルの透明化技術
　　　（１）説明可能なAI（XAI）
　　　（２）説明可能なモデリングアプローチ
　4-3　AI開発の透明化技術
　　　（１）説明可能性の高いAIモデルワークフロー
　　　（２）従来の品質説明技術を応用したAI学習プロセス
　4-4　AI搭載システムの品質・安全保証のポイント
　　　（１）AIの特性を正しく理解
　　　（２）AIは特別ではない！ 従来の品質保証技術の基礎をおさえることの必要性
　　　（３）検証の網羅性と効率化

【質疑応答】

キーワード：
AI,AI搭載システム,品質保証,安全保証,検証,セミナー,講演,研修

セミナー講師

（株）ヴィッツ　ソフトウェア事業領域　執行役員　森川 聡久　氏

【ご専門】
組込みソフトウェア開発、品質保証、プロジェクト管理、機能安全、製品安全、AIシステム安全

【ご略歴等】
　入社以来、デジタル情報家電のソフトウェア開発と、車載向けソフトウェアプラットフォームの開発に従事。2006年より機能安全対応を率い、2010年4月に日本初のIEC 61508 SIL3プロセス認証取得、2012年3月に世界初のISO 26262 ASIL Dプロセス認証取得に成功。この経験を活かして、さまざまな産業ドメインの機能安全・製品安全を支援中。
　2017年より、人工知能(AI)搭載システムを機能安全規格適合するための研究と、自動運転レベル4システムを安全論証するための研究を開始し、安全設計ガイドライン（SEAMSガイドライン）を作成する。この技術知見を活かして、AIの機能安全規格ISO/IEC TR 5469の策定に貢献。
　ISO/IEC JTC1/SC42 WG3委員。IoT住宅 規格作成ＷＧ委員会オブザーバー。MISRA-C研究会メンバ。システム開発文書品質研究会(ASDoQ)運営委員。組込みシステム開発技術研究会(CEST)幹事。

セミナー受講料

55,000円（税込、資料付）
■ 会員（案内）登録していただいた場合、通常1名様申込で55,000円（税込）から
　・1名で申込の場合、44,000円（税込）へ割引になります。
　・2名同時申込で両名とも会員登録をしていただいた場合、
　　55,000円（1名当たり 27,500円）（税込）です。

※ 会員登録とは
　 ご登録いただきますと、セミナーや書籍などの商品をご案内させていただきます。
　 すべて無料で年会費・更新料・登録費は一切かかりません。
　 メールまたは郵送でのご案内となります。
　 郵送での案内をご希望の方は、備考欄に【郵送案内希望】とご記入ください。

ライブ配信とアーカイブ配信（見逃し配信）両方の視聴を希望される場合は、会員価格で1名につき55,000円（税込）、2名同時申込で66,000円（税込）になります。お申し込みフォームのコメント欄に「ライブとアーカイブ両方視聴」とご記入下さい。

主催者

開催場所

受講について

Zoomを使ったWEB配信セミナー受講の手順

1. Zoomを使用されたことがない方は、こちらからミーティング用Zoomクライアントをダウンロードしてください。ダウンロードできない方はブラウザ版でも受講可能です。
2. セミナー前日までに必ず動作確認をお願いします。
3. 開催日直前にWEBセミナーへの招待メールをお送りいたします。当日のセミナー開始10分前までに招待メールに記載されている視聴用URLよりWEB配信セミナーにご参加ください。

• セミナー資料は開催前日までにお送りいたします。
• 無断転載、二次利用や講義の録音、録画などの行為を固く禁じます。