自然言語処理における表現学習と負例サンプリング損失の進展

セミナー趣旨

  Word2vecの登場以降、自然言語処理分野では大規模データで学習された事前学習済みの表現を利用することが盛んに行われている。特に近年のBERTの登場以降にはこれらの事前学習済みの表現はタスク解決において必須のものとなりつつある。
  本講座ではこれらの事前学習済みのモデルの進展と併せてそれを実現するための学習法の一つである負例サンプリングについての紹介を行う。

習得できる知識

・単語ベクトルに関する基礎的な知識
・負例サンプリングに関する基礎的な知識
・事前学習済み言語モデルに関する基礎的な知識
・知識グラフ埋め込みに関する基礎的な知識
・昨今の埋め込み学習における負例サンプリングの利用状況に関する知識

セミナープログラム

1.単語埋め込みと負例サンプリング
　1.1　単語埋め込みの概要
　1.2　単語埋め込みの利用
　1.3　単語埋め込みの学習
　1.4　単語埋め込み学習のための負例サンプリング
2.事前学習済み言語モデル
　2.1　事前学習済み言語モデルの概要
　2.2　事前学習済み言語モデルの利用
　2.3　事前学習済み言語モデルの学習
　2.4　事前学習済み言語モデルを学習するための負例サンプリング
3.知識グラフの補完
　3.1　知識グラフの概要
　3.2　知識グラフの利用
　3.3　知識グラフの補完についての紹介
　3.4　知識グラフ埋め込みについての概要
　3.5　知識グラフ埋め込みを学習するための負例サンプリング
4.表現学習に関する講演者の近年の研究の紹介
（質疑応答）

セミナー講師

 上垣外 英剛 先生
 奈良先端科学技術大学院大学 先端科学技術研究科 情報科学領域 渡辺研究室 准教授 博士（工学）

■主経歴等
2022年4月 - 現在 奈良先端科学技術大学院大学 先端科学技術研究科 准教授
2018年4月 - 2022年3月 東京工業大学 科学技術創成研究院 助教
2017年4月 - 2018年3月 NTT コミュニケーション科学基礎研究所 リサーチアソシエイト
■専門および得意な分野・研究
自然言語処理を専門とし、近年は特に自然言語生成と知識グラフの補完のタスクに取り組んでいる。
■本テーマ関連の専門学協会等での委員会活動
2022年4月 - 現在 情報処理学会 自然言語処理研究会 運営委員
2021年3月 - 現在 自然言語処理 編集委員
2020年7月 - 2021年3月 言語処理学会年次大会 大会実行委員会 大会実行委員

セミナー受講料

【オンラインセミナー（見逃し視聴なし）】：1名33,000円(税込（消費税10％）、資料付)
＊1社2名以上同時申込の場合、1名につき22,000円

【オンラインセミナー（見逃し視聴あり）】：1名38,500円(税込（消費税10％）、資料付)
＊1社2名以上同時申込の場合、1名につき27,500円

＊学校法人割引；学生、教員のご参加は受講料50％割引。

受講について

※本講座は、お手許のPCやタブレット等で受講できるオンラインセミナーです。

配布資料・講師への質問等について

• 配布資料はPDF等のデータで送付予定です。受取方法はメールでご案内致します。
  （開催1週前～前日までには送付致します）。
  ※準備の都合上、開催1営業日前の12:00までにお申し込みをお願い致します。
  （土、日、祝日は営業日としてカウント致しません。）
• 当日、可能な範囲で質疑応答も対応致します。
  （全ての質問にお答えできない可能性もございますので、予めご容赦ください。）
• 本講座で使用する資料や配信動画は著作物であり、
  無断での録音・録画・複写・転載・配布・上映・販売等を禁止致します。

下記ご確認の上、お申込み下さい

• PCもしくはタブレット・スマートフォンとネットワーク環境をご準備下さい。
• ご受講にあたり、環境の確認をお願いしております（20Mbbs以上の回線をご用意下さい）。
  各ご利用ツール別の動作確認の上、お申し込み下さい。
• 開催が近くなりましたら、当日の流れ及び視聴用のURL等をメールにてご連絡致します。

Zoomを使用したオンラインセミナーとなります

• ご受講にあたり、環境の確認をお願いしております。
  お手数ですが下記公式サイトからZoomが問題なく使えるかどうか、ご確認下さい。
  → 確認はこちら
  ※Skype／Teams／LINEなど別のミーティングアプリが起動していると、Zoomでカメラ・マイクが使えない事があります。お手数ですがこれらのツールはいったん閉じてお試し下さい。
• Zoomアプリのインストール、Zoomへのサインアップをせずブラウザからの参加も可能です。
  ※一部のブラウザは音声（音声参加ができない）が聞こえない場合があります。
  　必ずテストサイトからチェック下さい。
  　対応ブラウザーについて(公式) ;
  　「コンピューターのオーディオに参加」に対応してないものは音声が聞こえません。

申込み時に（見逃し視聴有り）を選択された方は、見逃し視聴が可能です

• 開催5営業日以内に録画動画の配信を行います（一部、編集加工します）。
• 視聴可能期間は配信開始から1週間です。
  セミナーを復習したい方、当日の受講が難しい方、期間内であれば動画を何度も視聴できます。
  尚、閲覧用のURLはメールにてご連絡致します。
  ※万一、見逃し視聴の提供ができなくなった場合、
  （見逃し視聴有り）の方の受講料は（見逃し視聴無し）の受講料に準じますので、ご了承下さい。
  →こちらから問題なく視聴できるかご確認下さい（テスト視聴動画へ）パスワード「123456」