スパース推定入門

正則化法に基づくスパース推定、lasso、lasso拡張
および構造的スパース正則化を解説
回帰モデル（ロジスティック、ポアソン、Cox）における
スパース推定とは？
計算アルゴリズムおよび正則化パラメータ選択方法も解説します

講師

電気通信大学 大学院情報理工学研究科　准教授 博士（機能数理学） 川野 秀一 先生

講師紹介

■主経歴
2009年4月〜2011年3月　日本学術振興会 特別研究員
2011年4月〜2012年3月　大阪府立大学 学術研究院第2学群 数学系　助教
2012年4月〜2014年9月　大阪府立大学 学術研究院第2学群 数学系　講師
2014年10月〜2016年3月　電気通信大学 大学院情報システム学研究科　准教授
2016年4月〜現在　電気通信大学 大学院情報理工学研究科　准教授

■専門・得意分野
統計科学、データサイエンス、機械学習

■主要著書
「スパース推定法による統計モデリング（共著）」（共立出版）（2018）

■本テーマ関連の学会・協会等での委員会活動など
Behaviormetrika Coordinating Editor
応用統計学会 和文誌「応用統計学」編集委員
日本計算機統計学会 和文誌「計算機統計学」編集委員

受講料

1名43,000円 + 税、(資料・昼食付) 　
＊1社2名以上同時申込の場合 、1名につき33,000円 + 税 　
※消費税につきましては講習会開催日の税率にて課税致します。 　　　　　
＊学校法人割引 ；学生、教員のご参加は受講料50％割引。

セミナーポイント

■講座のポイント
　データ解析において特徴量が大量にある場合、真に必要な特徴量のみを抽出したいことがあります。
この要請に対して統計学では変数選択、機械学習では特徴量選択という枠組みの下、
これまで様々な技術が開発されてきています。
　本講座では、比較的近年に開発されたスパース推定と呼ばれる方法を紹介します。
スパース推定は統計学における推定法の一つであり、本講座では特に、正則化法に基づくスパース推定を
中心に紹介します。正則化法から丁寧に説明をはじめ、スパース推定の代表格であるlassoを紹介します。
その後、lassoの拡張ならびに構造的スパース正則化、一般化線形モデルにおけるスパース推定を
紹介します。また、計算アルゴリズムおよび正則化パラメータの選択方法についても紹介します。

■受講後、習得できること
・正則化法の基礎知識
・スパース推定の基礎知識
・スパース推定を用いた統計モデルの基礎知識
・スパース推定の計算アルゴリズムの基礎知識

セミナー内容

1.正則化法
　1.1　最小2乗推定量
　1.2　正則化最小2乗推定量
　1.3　バイアス-バリアンストレードオフ
　1.4　最適化問題との関係

2.lasso
　2.1　lassoの定式化
　2.2　なぜlassoは変数選択可能か？〜図による解釈〜
　2.3　解パス
　2.4　lassoと従来の変数選択問題との関係

3.lassoの拡張および構造的スパース正則化
　3.1　エラスティックネット
　3.2　fused lasso
　3.3　グループlasso
　3.4　OSCAR、一般化fused lasso

4.一般化線形モデルにおけるスパース推定
　4.1　ロジスティック回帰モデル
　4.2　ポアソン回帰モデル
　4.3　Cox回帰モデル

5.計算アルゴリズム
　5.1　座標降下法
　5.2　交互方向乗数法

6.正則化パラメータの選択
　6.1　交差検証法
　6.2　情報量規準
　6.3　ベイズ型情報量規準

（質疑応答）