距離画像センサの測距原理と3Dセンサの応用

【講師】

上田智章（うえだともあき）氏：株式会社フォスメガ　代表取締役社長

【プログラム】

イントロダクション編

3Dセンサとは？　/　拡大するデプスカメラ市場　/　デプスカメラの技術マップ

第1章　3Dセンサの機能
　デモを行いながら、3Dセンサに要求される機能について説明を行います。

【3Dセンサの基本機能】
　1.1　Color　…　カラー映像を撮影するカメラ
　1.2　Depth　…　画素単位にデプス（奥行き距離）を取得するカメラ。距離はmm単位整数で出力するものが多い。
　　0：モノクロ（256階調）表示
　　1：カラーＬＵＴ表示
　　2：光源計算（Lighting）による反射光表示　…　デプス⇒法線ベクトル⇒反射光画像
　　3：ポイントクラウド
　　4：ポリゴン表示
　1.3　BodyIndex　…　人検出（人物のいる領域）を取得する機能
　1.4　Infrared　…　環境オフセットを除去し、照明による反射画像を取得する機能（アクティブ赤外線）
　1.5　Body　…　骨格トラッキング（人体の姿勢を25点の関節3次元座標で取得、手のグー、チョキ、パー検出）
　1.6　Audio　…　音声データ（音源方向検出とビームフォーミング、音声認識に利用）

【3Dセンサの拡張機能】
　1.7　Face　…　5つ（両眼、鼻、口角）の特徴点の3次元座標と数種類の表情や状態を検出
　1.8　HD Face　…　2,000点の顔モデルと多数の特徴点のキャプチャー
　1.9　Kinect Fusion　…　3Dスキャナ

【ソフトウェアで実現可能な拡張機能】
　1.10　AfterImage　…　骨格トラッキングされた関節の軌跡（残像）
　1.11　BodyBalance　…　平衡感覚の老化測定を行う
　1.12　AR Sensing　…　１チャンネルのセンサで空間に分布状態を可視化
　1.13　Acceleration　…　非接触3軸加速度センシング　関節３次元座標{ x(t), y(t), z(t) }を要素ごとに放物線近似。O(t) = a*t*t + b*t + c とすれば、時刻t=0の加速度は2a, 速度はb
　1.14　PointCloud　…　床法線ベクトルの検出　点群データの活用により観察方向を任意変更。沈水、転倒、うずくまり、横たわり。
　1.15　Face3D　…　3次元顔認証（顔の3次元形状の切り出し）
　1.16　Body3D　…　実測デプス値に基づいて3D Bodyポリゴンモデルをフィッティング　体重参照があれば非接触体脂肪率測定が行える。
　1.17　HandGesture　…　NUI（Natural User Interface）　Air Tap, Bloom
　1.18　Cyber Eye　…　距離を音に変換する視覚障碍者向けデバイス

【非接触バイタル・センシング】

【第1世代】
　1.19　FaceHeartBeat　…　顔の観測（Color or Infrared）で心拍を観測
　1.20　Breathing　…　胸部観測（Depth）で呼吸・心拍を観測

【HyperSenseによる機能】

【第2世代】
　チャンネル容量の法則を利用して高感度化。カラーカメラ画像をマルチスペクトルカメラとして取り扱う。
　1.21　ColorVector　…　色をベクトルとして精密分析
　1.22　ColorMap　…　ヘモグロビン、メラニン色素、ビリルビン、ウロビリノーゲン等の色変化を観測
　1.23　VesselVisualizer　…　血管の可視化（BとGから真皮層の毛細血管分布を、GとRから皮下組織内の血管を可視化）
　1.24　Hyper_HeartBeat　…　脈波の2次元観測（血流等も）
　1.25　BumpVisualizer　…　指紋・掌紋の可視化

【3Dセンサ応用】
　1.26　EyeTracking　…　瞳孔輪郭を検出し、視線ベクトルを算出
　1.27　RobotEyeContact　…　前に立った人を見つめるロボット制御
　1.28　VirtualMusicalInstrument　…　仮想楽器
　1.29　HomeControl　… 家電制御

【付録：PC間通信、ToFセンサの特性】
　1.30　WebSocket　…　サーバー⇔クライアント
　1.31　UDP　…　一方的送信
　1.32　DepthPrecision　…　ToFデプス精度の検証

第2章　3Dセンサの動作原理【Structured Light法】
　2.1　光源と観測位置の座標の違いを利用する（光三角法）
　　2.1.1　光切断法
　　2.1.2　モアレ法
　　2.1.3　Structured Light法
　　　2.1.3.1　Structured Light固定パターン投影法
　　　　　　　　・ランダムドットパターンを用いた相関方法（KinectV1, Carmine）
　　　　　　　　・高速高分解能カメラで各ドットを追尾するHyper Depth
　　　2.1.3.2　Structured Light時分割パターン法
【Time of Flight法】
　2.2 光パルスの往復時間または位相遅れを利用する（Time of Flight）
　　2.2.0　地球から月面までの距離を精密測定するのに使われたLiDAR（カウンタ方式）
　　2.2.1　ToF方式（位相遅れを測定する）
　　　2.2.1.0　単純2値の位相差を用いる方式
　　　2.2.1.1　3パターン測定法（照明指向性、吸光度、法線ベクトルの影響を補正する方法）
　　　2.2.1.2　距離によって、照明強度とフェーズを変更する方式
　　　2.2.1.3　マルチフェーズで高精度補正を行う方式
　　2.2.2　LiDAR（Light Detection and Ranging）　[Laser Imaging Detection and Ranging]
　　　2.2.2.1　メカニカルスキャン法
　　　2.2.2.2　メカニカルスキャン法の欠点
　　　2.2.2.3　高速・低価格な非メカニカルスキャン法
　　　　　　　　　Multi-beams LiDAR
【Infrared Depth法】
　2.3　拡散反射光の性質を利用する（Infrared Depth）
【その他のデプスアルゴリズム】
　2.4　カメラ位置の違いから特徴点/テクスチャのマッチングを利用
　　2.4.1　PTAM（Parallel Tracking and Mapping）
　　2.4.2　SLAM（Simultaneous Localization and Mapping）　…　自己位置推定と環境地図作成を同時に行う
　　2.4.3　マルチカメラ
　　2.4.4　自己位置推定用シートマーカーを用いる方法（Qlone）
　2.5　ステレオ・マッチング
　2.6　機械学習から静止画から3D顔モデルを再構成する
　　　　　cvl-demos.cs.nott.ac.uk/vrn/
　2.7　Make3D（視覚処理の模倣）
　2.8　カラー開口フィルタ（東芝）
【Appendix：Hyper Depth】
　Structured Light法とToF法の比較により、ToFカメラの欠点を説明

第3章　RGB Color Depth方式の動作原理
　特殊なカメラを使用せずに、デプスセンシングと非接触生体センシングを行う方式の提案（CQ出版インターフェース誌5月号記事に関連） 　3.1　CMOSイメージセンサについて
　3.2　C.E.Shannonのチャンネル容量の法則　…　メガ級センサ・アレイで、超高感度を実現する
　3.3　チャンネル容量の法則の適用例　…　JPEG圧縮に伴うブロックノイズやモスキートノイズも抑制する。高感度化アルゴリズムとその結果
　3.4　波長による透過深度（表皮深さ）の違いを利用する　…　通常のカメラをマルチスペクトルカメラととらえ、波長間の僅かな違いを可視化する抽出アルゴリズムと事例紹介
　3.5　色ベクトルとメラニン色素
　3.6　単眼3Dセンシング
　3.7　単眼3Dセンシングの問題点
　3.8　ステレオ3Dセンシング
　3.9　まとめ

第4章　非接触バイタル・センシング【心拍・呼吸に関する基礎知識】
　4.1　心臓の構造と心電図
　4.2　呼吸動作と酸素供給の関係
　4.3　呼吸と心拍揺らぎの関係
　4.4　入浴中の心拍揺らぎと年齢
　4.5　脈波から何がわかるのか
　　4.5.1　加速度脈波と血管年齢（動脈硬化）
　　4.5.2　大動脈脈波伝搬速度
　　4.5.3　2波長観測でSpO2（動脈血中のヘモグロビンの酸素濃度）
　　4.5.4　脈波伝搬遅延と血圧
【心拍・呼吸センシングの原理】
　4.5　カラー画像または赤外線画像からの心拍センシング
　4.6　デプスデータからの呼吸・心拍センシング
　4.7　KinectV1での非接触呼吸・心拍センシング
　4.8　スポット光方式　…　反射光強度分布を放物面関数で近似して精密測距
　4.9　マーカー方式　…　濃度分布関数または円形マーカーを用いた精密測距

★以下はテキストに含まれますが時間の関係で割愛します。

第5章　アルゴリズムの原理
　5.1　FIFOアルゴリズム
　　5.1.1　FIFO
　　5.1.2　高速移動平均
　　5.1.3　矩形波相関法
　5.2　基底遷移アルゴリズム
　　5.2.1　放物線補間と３軸加速度検出やノイズ除去
　　5.2.2　放物面補間（輝度分布中心の推定）
　　5.2.3　線スペクトルとDCオフセットノイズ除去
　　5.2.4　適応フィルタ
　　5.2.5　デコンボリューション（逆畳み込み演算）
　　5.2.6　2次元ポイントクラウド⇒円の中心座標⇒半径
　　5.2.7　3次元ポイントクラウド⇒円の中心座標⇒半径
　　5.2.8　3次元ポイントクラウド⇒球の中心座標⇒半径
　5.3　最小2乗法
　　5.3.1　放物線補間
　　5.3.2　放物面補間
　　5.3.3　2Ｄデータのマッチング
　　5.3.4　1Ｄデータのマッチング

第6章　3次元グラフィックスの基礎知識　6.1　3D-CGモデル
　6.2　ポリゴン描画
　6.3　透視変換と光源計算
　6.4　Kinect Fusionと光源計算
　6.5　光源計算
　6.6　Bone
　6.7　Boneと物理演算

第7章　付録　【付録1：赤外線ハンドモーションセンサ】
　【付録2：カメラで回転角度を検出する方法】
　【付録3：Webカメラで心拍センシング】　
　Appendix A　Mixed RealityとHololens
　Appendix B　Leap Motion

【受講料】

・お1人受講の場合　47,000円[税別]／1名
・1口でお申込の場合　59,000円[税別]／1口（3名まで受講可能）

　受講申込ページで2～3名を同時に申し込んだ場合、自動的に1口申し込みと致します。