AI半導体チップの基礎から実装のポイント、最先端動向まで

セミナー趣旨

○ AIチップとは？：AIチップから眺めますと、AIのネットワークは極めて単純です。ネット全体の接続数に集約されます。またその接点にデータの重要度（重み）が重畳されます。結局AIチップの原理は積和演算の集合体で、それを如何に効率良く並べ動かすかにつきる単純ものです。その簡単な原理からチップ実装を解り易く説明致します。

○ 市場の動向：AIという大きな括りからみると、アルゴリズムリード（AlexNet：2012年）から遅れること2年位で動き始めたAIチップも昨今はアルゴリズムとの協調の重要性がより認識され、ついにはAI全体を牽引する勢いです。サーバ用はもちろんの事、特にスタートアップが活発に参入している1mW級のTinyMLチップ旋風が昨今勢いを増しています。IoT関連への浸透は既に始まっています。その市場投入前の情報も含め最前線を説明します。

○ 研究最前線：このAIの世界の大きな特徴はAIの民主化が行われている点です。マルチメディアでは標準化が技術のキーワードでしたが、AIでは民主化がキーワードとなります。全くの障壁のない自由競争が行われている点です。研究費投入のインセンティブが研究の推進力となります。実用的な最先端研究（特にCIM）が中国/台湾系を筆頭にまさしく花開きつつあります。この点に絞り研究最前線を紹介します。本当に実用化されるかの見通しがここ1年ほどでつくと予想しています。

受講対象・レベル

• 実用的なAI最新動向を関して知りたい方（AIチップの観点から説明します）
• AIチップ動作原理を知りたい方（どの様に計算・実装されているか紹介）
• AIチップの技術を知りたい方（基礎から最先端/将来の研究動向を紹介）
• AIチップの導入を検討されている方（現状、今後のチップを紹介）
• システム応用に関して（代表的な幾つかの応用例を紹介します）
  

必要な予備知識

ニューラルネットワークの演算が積と和（積和演算）で行われていること。ベクトルとマトリクスのベクトル・行列演算を如何に効率よく処理するかがAIチップのポイントとなります。この点を理解されていることが予備知識としてあると理解が深まります。

■事前に目を通しておくとより理解が深まる文献、サイトなど　※閲覧必須ではございません。

(1) Michael Nielsen著 （+日本語翻訳プロジェクト）/ 2014年9月-12月
「ニューラルネットワークと深層学習」 (第一章、可能なら二章)
https://nnadl-ja.github.io/nnadl_site_ja/index.html

(2)浅井 哲也, 他 "ディープ・ラーニング&ニューロモルフィック・ハードウェアの遍歴," トランジスタ技術, vol. 2020, no. 10, pp. 27-34 (2020).

・AIの動向/AIチップの最新情報に関しては以下が参考となります。

（解説記事）百瀬 啓, 浅井 哲也, "Deep learning chips and AI computing," 人工知能学会誌, vol. 33, no. 1, pp. 23-30 (2018).
（解説記事）百瀬 啓, 浅井 哲也, "ディープ・ラーニング&ニューロモルフィック・ハードウェアの遍歴," トランジスタ技術, vol. 2020, no. 10, pp. 102-111 (2020).

習得できる知識

• AIの最新動向
• AIチップの動作原理
• AIチップの最新研究動向
• AIチップ市場動向
• ドメイン別（応用別：サーバ、エッジ、TinyML）AIチップの違いとシステム応用

など

セミナープログラム

1. AIチップ市場最前線（国内外）
   1. AIチップの台頭（2014～）/熾烈なサーバ高速化競争（‘16年～）
   2. 激化するエッジAI(‘18～）/Tiny MLチップの台頭（’19～）
2. AIチップ構成に必要な要素技術
   1. ディープラーニングの発展と展開（種類）
   2. 入力次元数とパラメータ数/演算数
3. AIチップの実装のポイントと演算性能
   1. 基本回路構成（MAC/中間データ/重みバッファー/関数）
   2. MACアレイの構成種類
   3. 推論と学習の構成差
4. 低消費電力化、小型化、高効率化へのアプローチ
   1. 量子化(8-4b/Ternary、bin)
   2. スパース化(Pruning/Data Skipping)
   3. データフロー効率化(WS、OS/IS、RS)
   4. メモリバンド幅(ルーフモデル）
5. 究極の技術？！　CIM (Computing in memory)・・・研究最前線
   1. s_CIM (SRAM)・・・ Current domain type/ Charge domain type
   2. nv_CIM (NVM)・・・ReRAM/PCM
6. 用途に応じたAIチップの最新動向【サーバ用】
   1. GPU vs ASIC（A100 vs TPU/MN-Core・・・)
   2. メモリ混載型の対応 （DaDianNao、Graphcore, Cerebras）
   3. 並列演算処理の戦い （データ vs モデル並列、スパース化）
7. 用途に応じたAIチップの最前線【Edge AI】
   1. エッジAI (自動運転, スマホ, 産業用, EdgeTPU, J_Nano・・・）
   2. TinyML(MCU型/RISC-V/CIM型/TFL型/ニューロモルフィック型）
8. 各種アプリケーションへのチップ適用
   1. 自動運転(E2End/R-CNN)、自動翻訳(Attention/Transformer)
   2. 深層強化学習(アルファ碁/Zero)、IoT(人物検知, KWS, 異常検知)
9. ブレークスルーを狙うニューロモルフィック工学
   1. ニューロモルフィック工学
   2. SNN チップ (TrueNorth/Loihi/DynapSE CNN)
   3. 最新注目技術動向：リザバーコンピューティング
10. 今後の技術動向と纏め

＜質疑応答＞

キーワード：AI chip、深層学習、サーバ用AI、 エッジAI、Tiny ML、行列ベクトル積、量子化・スパース化、スループット、エネルギー効率

セミナー講師

北海道大学 大学院　情報科学研究院　学術研究員　百瀬 啓 先生

セミナー受講料

【オンライン：見逃し視聴なし】1名47,300円(税込（消費税10％）、資料付)
　＊1社2名以上同時申込の場合、1名につき36,300円

【オンライン：見逃し視聴あり】1名52,800円(税込（消費税10％）、資料付)
　＊1社2名以上同時申込の場合、1名につき41,800円

＊学校法人割引；学生、教員のご参加は受講料50％割引。

受講について

※本講座は、お手許のPCやタブレット等で受講できるオンラインセミナーです。

配布資料・講師への質問等について

• 配布資料は、印刷物を郵送で送付致します。
  お申込の際はお受け取り可能な住所をご記入ください。
  お申込みは4営業日前までを推奨します。
  それ以降でもお申込みはお受けしておりますが（開催1営業日前の12:00まで）、
  テキスト到着がセミナー後になる可能性がございます。
• 当日、可能な範囲で質疑応答も対応致します。
  （全ての質問にお答えできない可能性もございますので、予めご容赦ください。）
• 本講座で使用する資料や配信動画は著作物であり、
  無断での録音・録画・複写・転載・配布・上映・販売等を禁止致します。

下記ご確認の上、お申込み下さい

• PCもしくはタブレット・スマートフォンとネットワーク環境をご準備下さい。
• ご受講にあたり、環境の確認をお願いしております（20Mbbs以上の回線をご用意下さい）。
  各ご利用ツール別の動作確認の上、お申し込み下さい。
• 開催が近くなりましたら、当日の流れ及び視聴用のURL等をメールにてご連絡致します。

Zoomを使用したオンラインセミナーとなります

• ご受講にあたり、環境の確認をお願いしております。
  お手数ですが下記公式サイトからZoomが問題なく使えるかどうか、ご確認下さい。
  → 確認はこちら
  ※Skype／Teams／LINEなど別のミーティングアプリが起動していると、Zoomでカメラ・マイクが使えない事があります。お手数ですがこれらのツールはいったん閉じてお試し下さい。
• Zoomアプリのインストール、Zoomへのサインアップをせずブラウザからの参加も可能です。
  ※一部のブラウザは音声（音声参加ができない）が聞こえない場合があります。
  　必ずテストサイトからチェック下さい。
  　対応ブラウザーについて(公式) ;
  　「コンピューターのオーディオに参加」に対応してないものは音声が聞こえません。

申込み時に（見逃し視聴有り）を選択された方は、見逃し視聴が可能です

• 開催5営業日以内に録画動画の配信を行います（一部、編集加工します）。
• 視聴可能期間は配信開始から1週間です。
  セミナーを復習したい方、当日の受講が難しい方、期間内であれば動画を何度も視聴できます。
  尚、閲覧用のURLはメールにてご連絡致します。
  ※万一、見逃し視聴の提供ができなくなった場合、
  （見逃し視聴有り）の方の受講料は（見逃し視聴無し）の受講料に準じますので、ご了承下さい。
  →こちらから問題なく視聴できるかご確認下さい（テスト視聴動画へ）パスワード「123456」