AIモデルをコンパクト化するための最新動向

セミナー趣旨

　言語・画像など様々なデータを対象とした大規模なAIモデルの利活用が進んでいる．モデル規模は大規模化を続けており，処理速度やメモリ消費量に問題を抱えている．今後，クラウドからエッジでの大規模なAIモデルの活用を考えた時，モデルをいかにコンパクトにするかが重要となる．
　本セミナーではモデルのコンパクト化に関する技術について最新動向を踏まえながら解説する．

セミナープログラム

 1　大規模AIモデルの動向
　1.1　Transformer
　1.2　CLIP
　1.3　Llama

2　モデルのコンパクト化手法
　2.1　コンパクト化手法の分類

3　蒸留によるコンパクト化
　3.1　知識蒸留
　3.2　中間層蒸留
　3.3　Mutual Learning

4　量子化によるコンパクト化
　4.1　量子化の導入方法
　4.2　BitNet

5　枝刈りによるモデルのコンパクト化
　5.1　構造化枝刈り
　5.2　非構造化枝刈り

6　言語モデルへの適用事例

7　画像モデルへの適用事例

8　マルチモーダルモデルへの適用事例

9　まとめ　

セミナー講師

山下隆義（やましたたかよし）　氏　 　　　
中部大学　工学部　情報工学科　教授（工学博士）  
＜経歴＞ 　2002年　奈良先端科学技術大学院大学博士前期課程修了。
　2002年　オムロン株式会社入社。
　2011年　中部大学大学院博士後期課程修了（社会人ドクター）。
＜学会＞ 　IEEE, Computer Society　/　電子情報通信学会　/　情報処理学会　/　人工知能学会
＜研究テーマ＞ 　物体検出、物体追跡、パターン認識、深層学習、機械学習
＜受賞＞ 　2020年8月　画像の認識・理解シンポジウム(MIRU) 長尾賞
　2020年5月　電子情報通信学会　論文賞
　2019年8月　画像の認識・理解シンポジウム(MIRU) 長尾賞
　2015年6月　画像センシングシンポジウム(SSII) 最優秀学術賞
　2013年6月　電子情報通信学会　PRMU研究会　研究奨励賞　受賞
　2013年6月　電子情報通信学会　情報・システムソサイエティ論文賞　受賞
　2009年6月　SSII2009　高木賞受賞
　2007年6月　CVPR2007 Best Student Award　受賞

セミナー受講料

・お1人様受講の場合 　51,700円[税込]／1名 　　　　　
・1口でお申込の場合　 66,000円[税込]／1口（3名まで受講可能）